\min_{d_1,\ldots,d_{10}} \sum_{i=1}^{10}\sum_{j=1}^{200} e_{ij}^2
时间: 2023-11-01 11:32:48 浏览: 70
aaa.rar_SVM 拉格朗日_拉格朗日
这是一个最小二乘问题,要求解的是10个变量$d_1$到$d_{10}$,使得所有误差的平方和最小。可以使用最小二乘法来求解。
首先将目标函数展开:
$\sum_{i=1}^{10}\sum_{j=1}^{200} e_{ij}^2 = \sum_{i=1}^{10}\sum_{j=1}^{200} (y_{ij} - \sum_{k=1}^{10} x_{ijk}d_k)^2$
其中,$y_{ij}$是第$i$个样本的第$j$个特征的实际值,$x_{ijk}$是第$i$个样本的第$j$个特征在$d_k$上的系数,$d_k$是要求解的第$k$个变量。
将目标函数对$d_k$求偏导数,令其为0,得到:
$\frac{\partial}{\partial d_k} \sum_{i=1}^{10}\sum_{j=1}^{200} e_{ij}^2 = 2\sum_{i=1}^{10}\sum_{j=1}^{200} (y_{ij} - \sum_{k=1}^{10} x_{ijk}d_k)(-x_{ijk}) = 0$
整理得到:
$\sum_{i=1}^{10}\sum_{j=1}^{200} x_{ijk}(y_{ij} - \sum_{k=1}^{10} x_{ijk}d_k) = 0$
这是一个包含10个方程、10个未知数的线性方程组,可以使用矩阵运算求解。令$X$为一个$200\times10$的矩阵,其中第$i$行表示第$i$个样本在$d_1$到$d_{10}$上的系数;$D$为一个$10\times1$的矩阵,其中第$i$个元素表示要求解的第$i$个变量;$Y$为一个$200\times1$的矩阵,其中第$i$个元素表示第$i$个样本的第$j$个特征的实际值。则上式可以表示为:
$X^T(XD-Y)=0$
解出$D$即可。
阅读全文