举例说明奇异值分解进行模型降阶过程
时间: 2023-11-16 20:51:33 浏览: 33
假设有一个 $m$ 行 $n$ 列的矩阵 $A$,我们想将其降为 $k$ 阶模型,可以使用奇异值分解进行降阶。具体过程如下:
1. 对矩阵 $A$ 进行奇异值分解,得到 $A=U\Sigma V^T$,其中 $U$ 是 $m$ 行 $m$ 列的正交矩阵,$\Sigma$ 是一个 $m$ 行 $n$ 列的对角矩阵,对角线上的元素为 $A$ 的奇异值,$V$ 是 $n$ 行 $n$ 列的正交矩阵。
2. 取 $\Sigma$ 的前 $k$ 行 $k$ 列形成一个 $k$ 阶对角矩阵 $\Sigma_k$,将 $U$ 的前 $m$ 行取出来组成一个 $m$ 行 $k$ 列的矩阵 $U_k$,将 $V$ 的前 $n$ 行取出来组成一个 $n$ 行 $k$ 列的矩阵 $V_k$。
3. 利用 $U_k$、$\Sigma_k$ 和 $V_k$ 重构一个新的矩阵 $A_k=U_k\Sigma_k V_k^T$,即为需要的 $k$ 阶模型。
例如,对于一个 $3$ 行 $3$ 列的矩阵 $A$,奇异值分解后得到:
$$
A=U\Sigma V^T=
\begin{bmatrix}
-0.577 & 0.816 & 0 \\
-0.577 & -0.408 & -0.707 \\
-0.577 & -0.408 & 0.707
\end{bmatrix}
\begin{bmatrix}
3.464 & 0 & 0 \\
0 & 1.732 & 0 \\
0 & 0 & 0
\end{bmatrix}
\begin{bmatrix}
-0.707 & -0.408 & 0.577 \\
0.707 & -0.408 & 0.577 \\
0 & 0.816 & 0.577
\end{bmatrix}
$$
假设我们想将其降为 $2$ 阶模型,那么我们取 $\Sigma$ 的前 $2$ 行 $2$ 列,得到:
$$
\Sigma_2=
\begin{bmatrix}
3.464 & 0 \\
0 & 1.732
\end{bmatrix}
$$
然后取 $U$ 的前 $3$ 行、$V$ 的前 $3$ 行,分别组成 $U_2$ 和 $V_2$:
$$
U_2=
\begin{bmatrix}
-0.577 & 0.816 \\
-0.577 & -0.408 \\
-0.577 & -0.408
\end{bmatrix},
\quad
V_2=
\begin{bmatrix}
-0.707 & -0.408 \\
0.707 & -0.408 \\
0 & 0.816
\end{bmatrix}
$$
最后利用 $U_2$、$\Sigma_2$ 和 $V_2$ 重构一个新的 $2$ 阶矩阵 $A_2=U_2\Sigma_2 V_2^T$:
$$
A_2=
\begin{bmatrix}
-2.000 & 2.000 & 0 \\
-1.000 & -1.000 & -1.000 \\
-1.000 & -1.000 & 1.000
\end{bmatrix}
$$
这样就将 $A$ 降为了 $2$ 阶模型 $A_2$。
相关推荐
![pdf](https://img-home.csdnimg.cn/images/20210720083512.png)
![pdf](https://img-home.csdnimg.cn/images/20210720083512.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)