Z=X^2-2XY的概率密度函数,0<x<2,y属于负无穷到正无穷

首先，我们需要确定Z的取值范围。因为X和Y都可以取任意值，所以Z的取值范围也是负无穷到正无穷。

接下来，我们可以使用变量替换法来求Z的概率密度函数。令U=X-Y和V=X，则X=(U+V)/2，Y=(V-U)/2。由此可得：

Z = (U+V)^2/4 - 2UV/4
= U^2/4 + UV/2 + V^2/4

接下来，我们需要求出U和V的联合概率密度函数fUV(u,v)，然后根据变量替换法求出Z的概率密度函数fZ(z)。

因为U=X-Y和V=X是线性变量关系，所以它们的联合概率密度函数可以通过求解其雅可比行列式来得到：

fUV(u,v) = fXY((u+v)/2,(v-u)/2) * |J|

其中，fXY(x,y)是X和Y的概率密度函数，J是雅可比行列式，它的值为：

J = |dx/du dx/dv|
|dy/du dy/dv|
= |-1/2 1/2 |
|1/2 1/2 |

所以，

|J| = |-1/2 1/2| = 1/2

接下来，我们需要求解fXY(x,y)。因为X和Y是独立的，所以：

fXY(x,y) = fX(x) * fY(y)

根据题意可知，X和Y都是均值为0、方差为1的标准正态分布。因此：

fX(x) = (1/√(2π)) * e^(-x^2/2)
fY(y) = (1/√(2π)) * e^(-y^2/2)

代入上式，可得：

fXY(x,y) = (1/2π) * e^(-x^2/2-y^2/2)

将fXY(x,y)和|J|代入fUV(u,v)中，可得：

fUV(u,v) = (1/4π) * e^(-u^2/4-v^2/4+uv/2)

最后，我们使用变量替换法求出Z的概率密度函数fZ(z)。令z=u^2/4+uv/2+v^2/4，则：

u = √(2z-y^2) - y
v = √(2z-x^2) - x

J = |du/dz du/dy|
|dv/dz dv/dx|

我们可以通过计算J的逆矩阵来求出du/dz、du/dy、dv/dz和dv/dx的值。最终，我们得到：

fZ(z) = (1/2π) * ∫(从负无穷到正无穷) e^(-u^2/4-v^2/4+uv/2) * |J| * dy * dx

其中，|J|的值为1/2，dy和dx的积分范围可以通过转化u和v的范围得到。最终，我们得到：

fZ(z) = (1/4π^2) * ∫(从负无穷到正无穷) ∫(从负无穷到正无穷) e^(-u^2/4-v^2/4+uv/2) * √(4z-u^2-v^2) * du * dv

这个积分式比较复杂，无法直接求解。可以考虑使用数值积分或者近似计算来得到Z的概率密度函数。