查看: 12693|回复: 8

[讨论]矩阵的特征值分解与矩阵的奇异值分解

字体大小: 正常放大

5 主题	3 听众	41 积分

升级 37.89%

该用户从未签到

电梯直达

1^#

发表于 2007-6-7 17:58 |只看该作者 |倒序浏览

|招呼Ta 关注Ta

矩阵的特征值分解与矩阵的奇异值分解到底有什么关系？一般都是对矩阵进行奇异值分解，而对其自相关矩阵进行特征值分解，那么他们的特征向量有什么关系？

zan

转播0 淘帖0 分享0 收藏0 支持0 反对0 微信

使用道具举报

madio

3万主题	1311 听众	5万积分

TA的每日心情

	奋斗 2024-7-1 22:21

签到天数: 2014 天

[LV.Master]伴坛终老

自我介绍: 数学中国站长

群组: 数学建模培训课堂1

群组: 数学中国美赛辅助报名

群组: Matlab讨论组

群组: 2013认证赛A题讨论群组

群组: 2013认证赛C题讨论群组

2^#

发表于 2007-6-7 23:22 |只看该作者 |招呼Ta 关注Ta |邮箱已经成功绑定

奇异值分解是线性代数中一种重要的矩阵分解，在信号处理、统计学等领域有重要应用。

定义：设A为m*n阶矩阵，A^HA的n个特征值的非负平方根叫作A的奇异值。记为σ_i(A)。

如果把A^HA的特征值记为λ_i(A)，则σ_i(A)＝λ_i(A^HA)^(1/2)。

定理:（奇异值分解）设A为m*n阶复矩阵，则存在m阶酉阵U和n阶酉阵V，使得:

A = U*S*V’

其中S=diag(σ_i,σ₂,……,σ_r)，σ_i>01 f5 g: g& {% ?$ b& c (i=1,…,r)，r=rank(A)。

推论：设A为m*n阶实矩阵，则存在m阶正交阵U和n阶正交阵V，使得

A = U*S*V’

其中S=diag(σ_i,σ₂,……,σ_r)，σ_i>0 # x& J4 v( e' N: ]# t3 s1 V (i=1,…,r)，r=rank(A)。

说明：

1、 1 S/ |8 b+ Z8 j3 s 奇异值分解非常有用，对于矩阵A(m*n)，存在U(m*m)，V(n*n)，S(m*n)，满足A = U*S*V’。U和V中分别是A的奇异向量，而S是A的奇异值。AA'的正交单位特征向量组成U，特征值组成S'S，A'A的正交单位特征向量组成V，特征值（与AA'相同）组成SS'。因此，奇异值分解和特征值问题紧密联系。

2、 , `$ U) S b7 ~3 L" F' K; e$ G2 q 奇异值分解提供了一些关于A的信息，例如非零奇异值的数目（S的阶数）和A的秩相同，一旦秩r确定，那么U的前r列构成了A的列向量空间的正交基。

关于奇异值分解中当考虑的对象是实矩阵时: S对角元的平方恰为A'A特征值的说明. (对复矩阵类似可得)

从上面我们知道矩阵的奇异值分解为: A=USV, 其中U,V是正交阵(所谓B为正交阵是指B'=B^-1, 即B'B=I), S为对角阵.

A'A=V'S'U'USV=V'S'SV=V^-1S²V

上式中, 一方面因为S是对角阵, S'S=S², 且S²对角元就是S的对角元的平方. 另一方面注意到A'A是相似与S²的, 因此与S²有相同特征值.

其实奇异值可以认为是一种特殊的矩阵范数！