当前课程知识点:矩阵论及其应用 > 第五单元 矩阵分解 > 5.4 矩阵的奇异值分解 > 5.4 矩阵的奇异值分解
这一讲我们将介绍矩阵另一个重要的分解
奇异值分解
先来看个引理
对任意的m*n阶矩阵A
有第1个
A^H和AA^H的特征值都是非负实数
注意
A虽然不是方阵
但是这两个矩阵分别是n阶和m阶的方阵
2说他们的非零的特征值完全一样
第3条说他们的秩和A的秩完全相同
证明思路是这样的
第一个
因为A^HA是heimite的
用任意非零向量x
两边相乘后
转化为Ax长度的平方
所以为Hermite半正定的
由Hermite半正定矩阵的性质知道
其特征值都是非负的
第二条用Sylvester公式
得出特征多项式的零点一样
所以非零特征值相同
且非零特征值的个数就是矩阵的秩
这样就完成了第三条
对任意秩为r的矩阵A
因为A^HA的特征值都是非负的
将不为零的特征值\lz_i 开根号
这样得到
\sz1,\sz2,…,\sz_r
称为A的奇异值
由前面的引理我们还知道
A^H的奇异值和A的奇异值完全一样
我们这一讲的主要结论是下面的定理
对任意秩为r的矩阵A都是这样的分解
其中U,V是酉矩阵
大的\sigma是以奇异值\sz_i为对角元素的
r阶对角矩阵
如果将U,V按列分块
A也可以分解为第二个式子
证明过程也是具体分解的过程
先将A^HA的特征值按照从大到小排列
由Schur分解定理
我们知道存在酉矩阵V
使得V^H乘以 A^HA再乘以 V是对角矩阵
记左上角r阶对角矩阵为\Sigma^2
对角线上的元素是非零特征值\lz1,\lz2,…,\lz_r
其余都是0
因为A的秩是r
所以将矩阵V分成两块
前r列记为V1 剩下的记为V2
带入到上式中
相乘后按分块相比较
就得到 V1^H乘以A^HA再乘以V1
等于\Sigma^2
而V2^H乘以A^HA
再乘以V2=0
因为\sigma可逆
把它移到左边就得到这样的等式
右边变为r阶单位矩阵Ir
此时记AV1\Sigma^{-1}为U1
所以就转化为U1^HU1是等于Ir
另一个关于V2的等式说明AV2=0
请大家思考为什么
U1^HU1=Ir
说明U1的列向量是两两正交的单位向量
但是它只是一个R阶的
这时需要在U1的基础上
补一个m-r列矩阵U2
使得和U1拼起来为酉矩阵
具体找的时候可以用待定系数的方法
本质上就是用正交性解齐次线性方程组
找出基础解系
然后再正交单位化就能得到U2
那么这样获得矩阵U就是酉矩阵
利用正交性
带入后计算发现
U^HAV就是满足要求的一个分解
或者说A有这样的分解
称为A的奇异值分解
很多时候可以通过正交性直接补出矩阵U2
下面来看个例子
求这样矩阵A的奇异值分解
那么按照过程 我们先计算A^HA
其特征值为\lz1=4,\lz2=0
解方程组分别找出对应的单位特征向量v1,v2
这样矩阵V就是v1,v2构成的
A^HA只有一个奇异值2
取V的第一列记为V1
用矩阵乘法先计算U1就是AV1\Sg^-1
因为只有一列
说明U2需要补两列
可以以U1的分量为系数
解齐次线性方程组找U2
或者我们可以根据经验
通过观察U2可以取成这样的
满足正交性和单位化
这样和U1合并起来就是要找的U1
此时A就有这样的奇异值分解
不管是观察还是解方程组
U2的选取都不是唯一的
但是不影响结果
因为U2参与计算时乘积都是等于0
-1.1 特征值与特征向量的定义与求法
-1.2 特征值与特征向量计算举例
-1.3 特征值与特征向量的性质
-1.4 相似矩阵的定义及性质
-1.5 可对角化的条件
-1.6 可对角化的计算举例
-第1单元作业(共15个单选题)
--第1单元作业(共15个单选题)
-2.1 Jordan标准形的定义及方法1
-2.2 求Jordan标准型的方法2—初等变换法
-2.3 求Jordan标准型的方法3—行列式因子法
-2.4 相似变换矩阵的计算
-2.5 应用案例一、Jordan标准型的应用举例
-第2单元作业(共15个单选题)
--第2单元作业(共15个单选题)
-3.1 Hamilton-Cayley定理
-3.2 最小多项式
-第3单元作业(共10个单选题)
--第3单元作业(共10个单选题)
-4.1 酉矩阵的定义及性质
-4.2 Schur分解定理
-第4单元作业(共10个单选题)
--第4单元作业(共10个单选题)
-5.1 矩阵的LU分解
-5.2 初等反射与初等旋转矩阵
-5.3 矩阵的QR分解
-5.4 矩阵的奇异值分解
-5.5 矩阵的满秩分解
-5.6 应用案例二、QR算法与最小二乘问题
-第5单元作业(共15个单选题)
--第5单元作业(共15个单选题)
-6.1 广义逆矩阵与线性方程组
-6.2 Moore-Penrose逆A+及其应用
-第6单元作业(共10个单选题)
--第6单元作业(共10个单选题)
-7.1 向量范数
--7.1 向量范数
-7.2 方阵范数
--7.2 方阵范数
-7.3 范数的应用 1-数值分析
-7.4 范数的应用 2
-第7单元作业(共15个单选题)
--第7单元作业
-8.1 矩阵序列
--8.1矩阵序列
-8.2 矩阵函数计算 1
-8.3 矩阵函数计算 2
-8.4 矩阵函数计算 3
-8.5 矩阵的微分和积分
-8.6 矩阵函数的应用一阶常系数线性微分方程组的初值问题
--8.6 矩阵函数的应用一阶常系数线性微分方程组的初值问题
-第8 单元作业(共15个单选题)
--第8 单元作业(共15个单选题)
-9.1 特征值的界的估计
-9.2 特征值的包含区域
-9.3 特征值的分离
-第9单元作业(共15个单选题)
--第9单元作业(共15个单选题)