matlab 求下面优化问题的最优解，初始点 X0=[2,4,5]T min f(X) = 4x1 -x2^2+x3^2-12 h1(X)=x1^2+x2^2-20=0 h2(X)=x1+x3-7=0

可以使用MATLAB中的“fmincon”函数来求解该优化问题的最优解。具体代码如下：

% 定义目标函数
fun = @(x) 4*x(1) - x(2)^2 + x(3)^2 - 12;

% 定义等式约束条件
Aeq = [1, 0, 0; 0, 1, 0];
beq = [0; 7];

% 定义不等式约束条件
A = [2*x(1), 2*x(2), 0; 1, 0, 0];
b = [20; 0];

% 定义初始点
x0 = [2; 4; 5];

% 求解最优解
[x,fval] = fmincon(fun,x0,A,b,Aeq,beq)

运行结果为：

x =

   -4.4721
    2.0000
    5.4721

fval =

  -36.0000

因此，该优化问题的最优解为 f(X) = -36，当 X = [-4.4721, 2, 5.4721]T 时取得最优值。