矩阵A=[平时分 实验分 期末分],求a、b、c的值，使得a^2+b^2+c^2=1并且(a*平时分+b*实验分+c*期末分)的方差达到最大值

这是一个线性规划问题，可以使用MATLAB中的`fmincon`函数进行求解。以下是一个示例代码：

A = [平时分 实验分 期末分];
f = -cov(A);
Aeq = [1 1 1];
beq = 1;
lb = [-1 -1 -1];
ub = [1 1 1];
x0 = [0 0 0];
options = optimoptions('fmincon','Display','off');
[x,fval] = fmincon(@(x)(x*f*x'),x0,[],[],Aeq,beq,lb,ub,[],options);

其中，`A`是给定的矩阵，`f`是`A`的协方差矩阵的负数，代表了方差的负数。`Aeq`和`beq`是线性等式约束，要求`a^2+b^2+c^2=1`。`lb`和`ub`是变量的上下界，要求`a`、`b`、`c`的取值范围为`[-1,1]`。`x0`是初始解，`options`是优化选项，`fmincon`的输出是最优解`x`和最优值`fval`。

需要注意的是，`fmincon`函数求解的是最小值，因此我们将方差的负数作为目标函数，并用负号反转目标函数的符号，从而得到方差的最大值。