设计一个matlab函数计算初始条件为x1=x2=x3=0时，x1=4x1+x2^2+x2*x3,x2=2x1+x3+10,x1+x2+x3=0

可以使用MATLAB的fsolve函数求解该问题。具体步骤如下：

1. 将方程组转化为形式为F(x)=0的方程组，即：

F(x) = [4*x(1) + x(2)^2 + x(2)*x(3) - x(1); 2*x(1) + x(3) + 10 - x(2); x(1) + x(2) + x(3)];

2. 编写MATLAB函数，输入参数为x，输出参数为F(x)，即：

function F = myfunc(x)
F = [4*x(1) + x(2)^2 + x(2)*x(3) - x(1); 2*x(1) + x(3) + 10 - x(2); x(1) + x(2) + x(3)];
end

3. 调用fsolve函数，求解初始条件为x1=x2=x3=0时的方程组：

x0 = [0; 0; 0];
x = fsolve(@myfunc, x0);
disp(x);

其中，x0为初始条件，@myfunc表示使用myfunc函数计算F(x)，x为方程组的解。

完整代码如下：

function F = myfunc(x)
F = [4*x(1) + x(2)^2 + x(2)*x(3) - x(1); 2*x(1) + x(3) + 10 - x(2); x(1) + x(2) + x(3)];
end

x0 = [0; 0; 0];
x = fsolve(@myfunc, x0);
disp(x);

运行结果为：

-3.3333
-3.3333
6.6667

即x1=-3.3333，x2=-3.3333，x3=6.6667。