![](https://csdnimg.cn/release/download_crawler_static/85284131/bg1.jpg)
7.2 SVD 中的基与矩阵
1 SVD 产生四个基本子空间的标准正交基 v 和 u。
2 利用这些基,A 变成一个对角矩阵 Σ 且 Av
i
= σ
i
u
i
:σ
i
= 奇异值。
3 双基对角化 A = U ΣV
T
通常比 A = XΛX
−1
具有更多信息。
4 UΣV
T
将 A 分成秩一矩阵 σ
1
u
1
v
T
1
+ ··· + σ
r
u
r
v
T
r
。σ
1
u
1
v
T
1
是最大的!
奇异值分解是线性代数最精彩的部分。A 是任一方形或矩形 m × n 矩阵。它的秩是 r。我们将对
角化这个 A,但不是通过 X
−1
AX。X 中的特征向量有三个大问题:它们通常不正交,不总是有足够的
特征向量,而且 Ax = λx 要求 A 是一个方形矩阵。A 的奇异向量以完美的方式解决了所有这些问题。
让我叙述一下我们想从 SVD 得到什么:四个基本子空间的正确基。于是我将按重要性顺序写下找
出这些基底向量的步骤。
我们付出的代价是有两组奇异向量,u 和 v。u 都在 R
m
中,v 都在 R
n
中。它们将变成 m × m
矩阵 U 与 n × n 矩阵 V 的列。我将先根据这些基底向量描述 SVD。然后我再根据正交矩阵 U 和 V
描述 SVD。
(利用向量)u 和 v 给出了四个基本子空间的基:
u
1
, . . . , u
r
u
r+1
, . . . , u
m
v
1
, . . . , v
r
v
r+1
, . . . , v
n
是列空间的一个标准正交基
是左零空间 N (A
T
) 的一个标准正交基
是行空间的一个标准正交基
是零空间 N (A) 的一个标准正交基。
不仅仅正交,这些基底向量对角化矩阵 A:
“A 被对角化” Av
1
= σ
1
u
1
Av
2
= σ
2
u
2
. . . Av
r
= σ
r
u
r
(1)
这些奇异值 σ
1
至 σ
r
将是正数:σ
i
是 Av
i
的长度。σ 进入一个对角矩阵,否则为零矩阵。这个矩阵
是 Σ。
(利用矩阵)因为 u 标准正交,所以带有那 r 列的矩阵 U
r
有 U
T
r
U
r
= I。因为 v 标准正交,所以
其矩阵 V
r
有 V
T
r
V
r
= I。于是方程 Av
i
= σ
i
u
i
逐列告诉我们 AV
r
= U
r
Σ
r
:
(m × n)(n × r)
AV
r
= U
r
Σ
r
(m × r)(r × r)
A
v
1
· · v
r
=
u
1
· · u
r
σ
1
.
.
.
σ
r
(2)
这是 SVD 的核心,但还有更多。这些 v 和 u 解释为 A 的行空间与列空间。我们有 n −r 个来自
零空间 N(A) 更多的 v,和 m − r 个来自左零空间 N(A
T
) 更多的 u 它们自动与先前的 v 和 u 正交
请勿商业交易!仅交流学习! 邮箱:youth_eric@163.com 微信号:tengxunweixin_id