计算曲面积分 I= ∫ ∫(z+xy^2)dydz+(yz^2+ xz)dxdz+(x^2+y^2)dxby 其中S为球面 x^2+y^2+z^2=a^2的外侧,a为大于0的常数。

首先，我们需要确定曲面的法向量。由于该曲面为球面的外侧，法向量应指向球心，即$\vec{n}=\frac{\vec{r}}{a}$，其中$\vec{r}=x\vec{i}+y\vec{j}+z\vec{k}$。

然后，我们需要计算该曲面的面积元素$dS$。由于该曲面为球面，其面积元素可以表示为$dS=a^2\sin\theta d\theta d\phi$，其中$\theta$为极角，$\phi$为方位角。

接下来，我们需要将曲面积分转换为三重积分。根据高斯公式，有：

$$\iiint_V(\nabla\cdot\vec{F})dV=\iint_S(\vec{F}\cdot\vec{n})dS$$

其中，$\vec{F}$为向量场，$V$为包围曲面$S$的体积。

将该公式应用于本题，有：

$$\iint_S(\vec{F}\cdot\vec{n})dS=\iiint_V(\nabla\cdot\vec{F})dV$$

其中，$\vec{F}=z\vec{i}+xz\vec{j}+(xy^2+yz^2)\vec{k}$。

对$\nabla\cdot\vec{F}$进行计算，有：

$$\nabla\cdot\vec{F}=y^2+z$$

因此，有：

$$\iiint_V(\nabla\cdot\vec{F})dV=\int_{-\sqrt{a^2-x^2}}^{\sqrt{a^2-x^2}}\int_{-\sqrt{a^2-x^2-y^2}}^{\sqrt{a^2-x^2-y^2}}\int_{-\sqrt{a^2-x^2-y^2-z^2}}^{\sqrt{a^2-x^2-y^2-z^2}}(y^2+z)dxdydz$$

将上述积分式中的$x$和$y$分别进行球坐标变换，即$x=r\sin\theta\cos\phi$，$y=r\sin\theta\sin\phi$，$z=r\cos\theta$，有：

$$\iiint_V(\nabla\cdot\vec{F})dV=\int_0^{2\pi}\int_0^{\pi}\int_0^a(r^2\sin\theta)(r\sin\theta\cos^2\phi+\cos\theta)drd\theta d\phi$$

化简积分式，有：

$$\iiint_V(\nabla\cdot\vec{F})dV=\frac{4\pi a^5}{15}$$

因此，原曲面积分可表示为：

$$\iint_S(\vec{F}\cdot\vec{n})dS=\frac{4\pi a^5}{15}$$