当前课程知识点:线性代数(1) > 第六讲 LU分解 > 6.1 LU分解 > LU分解
我们知道用消元法
求解方程组的过程
就是用一系列的初等矩阵
左乘增广矩阵的过程
更进一步的
这个过程可以翻译成
系数矩阵的三角分解
也就是所谓的LU分解
回忆一个方阵做消元的过程
那么是这个方阵A
经过一系列的初等行变换
变成上三角矩阵U的
这样一个过程
使用矩阵的语言
来描述这件事情呢
我们设E是
这一系列初等矩阵的乘积
那么上述过程就是用E左乘以A
等于U的这样的一个过程
我们来看简单的例子
A是这样的一个2乘2的矩阵
2 1 8 7
我们希望把它经过消元以后
化成上三角矩阵
那很容易
我们第二行减掉第一行的4倍
于是得到2 1 0 3
这个上三角矩阵
那么这件事情
用矩阵语言来描述
就是对A来左乘以
刚才做的消元的这个过程
所代表的初等矩阵E21
也就是1 0 -4 1这个矩阵
那么换一种写法呢
就可以写成A等于
E21这个矩阵的逆矩阵去乘以U
E21这个消去矩阵
它的逆矩阵仍然是一消去矩阵这时候它代表的是
单位矩阵的第二行
加上第一行的4倍的
这样的一个消去矩阵
好 我们注意到在这个时候
A这个矩阵就写成了
一个下三角矩阵
和一个上三角矩阵的乘积
那么这个下三角矩阵呢
它的主对角元都是1
这个上三角矩阵呢
它的对角元是
原来A这个矩阵的主元
那么我们的目标就是说
把A去分解成一个下三角矩阵
和一个上三角矩阵的乘积
下三角矩阵
因为Lower triangular matrix
这个地方是L
上三角矩阵
Upper triangular matrix
这个地方是U
所以我们这种分解呢
就叫做是LU分解
我们接下来看
一个三阶方阵的例子
我们假设呢
不需要经过行变换
这个三阶的方阵A
可以经过高斯消元法
变成上三角矩阵U
那么这个矩阵一般情况下
它要做消元
把21这个位置上做消元
把31这个位置上做消元
把32这个位置上做消元
所以它相当于是左乘以
这一系列初等矩阵
这时候特别的它们是消去矩阵
那么在乘以A之后等于U
上三角矩阵
换一个写法
也就是A等于
这一系列消去矩阵乘积的逆矩阵
去乘以U的一个过程
我们知道这个消去矩阵呢
它们是下三角矩阵
下三角矩阵的逆呢
还是下三角矩阵
那下三角矩阵的乘积
也是下三角矩阵
所以这对逆矩阵的乘积
是下三角矩阵
那么我们的U
保留是我们的上三角矩阵
如果是不经过换行
A经过消元法
变成上三角矩阵的过程呢
我们就把A写成了LU
为什么我们用A等于LU
而不直接用U等于这一系列
消去矩阵的乘积乘以A呢
因为我们知道一系列的
消去矩阵的乘积
仍然是下三角矩阵
为什么我们不写上三角矩阵
等于下三角矩阵乘以A
这样来描述刚才的分解呢
我们还是有原因的
来看下面一个简单的例子
假设我们E32这个消去矩阵呢
是单位矩阵
由第三行减掉第二行的5倍
那么E31呢是一个单位阵
也就是我在31这个位置上
我不做改变
那E21呢是单位矩阵的
第二行减掉第一行的2倍
所代表的这个初等矩阵
好 我们把这三个消去矩阵
乘在一起我们来看看
E32 E31 E21的乘积
因为E31是等于单位阵
那事实上我们计算的就是E32
去乘以E21
那我们知道消去矩阵的特点
我们可以来计算乘积的时候呢
在E21这个矩阵的基础上
来做E32这个矩阵
所代表的初等行变换
也就是我们把E21这个矩阵的
第一行和第二行保持不变
第三行减掉第二行的5倍
那么就得到这个10 -5 1
这个矩阵
这是三个消去矩阵的乘积这是E
我们再来看看
这三个矩阵的逆矩阵
我们知道可逆矩阵的乘积
仍然是可逆的
那么它们的逆呢
是你交换一下次序之后
做逆矩阵的乘积
所以这个矩阵是E21的逆
乘以E31的逆乘以E32的逆
那我们已经知道
这个消去矩阵的逆分别
仍然还是消去矩阵
并且呢E21这个矩阵的逆
就是在相应位置上
原来由-2变成正2
那么E31是单位阵
所以它的逆矩阵还是单位阵
那E32逆呢
是在E32的这个基础上把-5变成5
这三个逆矩阵的乘积
我们可以看成
是在这个矩阵的基础上
然后来做左边这个矩阵
所代表的初等行变换
也就是我第一行第三行保持不变
第二行加上第一行的2倍
于是我们变成这个矩阵
我们发现L这个矩阵来的要比
E这个矩阵来的简单
怎么样简单法呢
我们说它
只包含了我们消元的信息
而E包含了其他信息
这句话怎么讲
L是怎么得到的
我们发现它是在把消元的
这个乘数写在相应的位置上
我们知道我们在做E32
E31 E21的这个消元的
这个过程里头
2是我们的乘数 l21
这个5呢
是我们做的这个乘数l32
因此把这个乘数2
放在21的位置
把乘数l32放在32这个位置
那这就得到了我们的L这个矩阵
L容易计算E不计算
L只包含消元的信息
E包含了其他的信息
因为注意到
我们这个E在这个位置上
我们有10冒出来
一般情况下我们来看
就是n等于3的时候
我A呢就等于L乘以U
我在相应的位置上
把消元的乘数l21 l31 l32
写在相应的位置上
这就得到我们刚才
这一系列消去矩阵乘积的逆矩阵
L这个下三角矩阵
那么这个过程呢
你还可以通过我A是等于
a1 a2 a3
我把行向量记成a1 a2 a3
U如果行向量记成u1 u2 u3
那么左边这个表达式
就是u1等于a1
u2等于a2减掉l21u1
u3等于a3减掉l31u1
减掉l32u2的这样的一个过程
所以我们记录的只需要把
相应的乘数记录下来
就得到我们的下三角矩阵L
在这里头我们lij
它表示的把矩阵的第i行
减去第j行的lij倍
也就是我们所谓的这个乘数
那我们知道
只要你会做这个消元
我就可以把消元的信息
集合在一起得到
这个三角矩阵L
从而得到LU分解
那这是我们为什么写L等于U的
这个原因
A是我们这个-1 2 -1矩阵
三阶的矩阵
我们希望把这个A呢
化成上三角矩阵
做它的LU分解
我们要消元的过程
我们第二行减掉第一行的-1/2倍
这个-1/2是我们的l21
于是我们第二行变成了
0 3/2 -1
那么再消这个元素
用3/2这个主元来消
这个32位置的元素
那我第三行要减掉
第二行乘以-2/3
这是我们的l32
于是我们这个矩阵
变成了上三角矩阵
在主对角线上是我们的原来矩阵
A的三个主元
这个过程呢我们就可以把它写成
这是我们的L这个矩阵
在相应的位置上l21的位置上
写上-1/2
在这个32的位置上
写上我们的l32
那么得到我们的下三角矩阵
那么这是我们的上三角矩阵U
它在对角线上是A的主元
2 3/2和4/3
U为上三角矩阵
对角元为A的主元
L为三角矩阵
对角元为1
乘数lij位于对角元的下方
我们注意到就是
我们在做A等于LU的时候
L呢它对角元都是1
这个U呢它的对角元是A的主元
我们希望把这件事情
如果是更加对称化一点
我们把U写成什么呢
把U写成一个对角阵
和一个上三角矩阵的乘积
后面这个上三角矩阵呢
它在对角线上是1
这样显得更对称一些
比如上面的例子
这是我们之前的L矩阵
那我们把U呢写成这种样子
这是对角阵
我们把原来的U
每一行去除以这个矩阵A的主元
除以2 除以3/2 除以4/3
得到这样的一个上三角矩阵
我们仍然叫它是U
它的特点
它在对角线上都是1
好 这个L和U
在某种意义上它是更对称一些
这就是所谓矩阵的LDU分解
D是对角阵
U是上三角矩阵 L是下三角矩阵
L和U对角元都是1
-课前引言
--课前引言
-1.1 引言
--1.1 引言
-1.2 n维向量空间中的点
-1.3 向量
--1.3 向量
-1.4 向量空间的定义
-1.5 向量空间的线性组合
-1.6 向量的点积、长度
-1.7 向量的夹角
-1.8 两个不等式
-第一讲 向量及其运算--1.9 课后作业
-2.1 矩阵与向量的乘积
-2.2 可逆矩阵
--2.2 可逆矩阵
-2.3 线性方程组的行图和列图
-第二讲 矩阵与线性方程组--2.4 课后作业
-3.1 Gauss消元法(上)
-3.1 Gauss消元法(下)
-3.2 消元法的矩阵表示 3.2.1 消去矩阵
-3.2 消元法的矩阵表示 3.2.2 置换阵
-3.2 消元法的矩阵表示 3.2.3 初等行(列)变换和初等矩阵
-第三讲 高斯消元法--3.3 课后作业
-4.1 矩阵
--4.1 矩阵
-4.2 矩阵的加法和数乘
-4.3 矩阵的乘法
-4.4 矩阵的乘法的性质
-4.5 矩阵的方幂
-4.6 关于矩阵乘法的引入
-4.7 分块矩阵
--4.7 分块矩阵
-4.8 矩阵的转置
-第四讲 矩阵的运算--4.9 课后作业
-5.1 可逆矩阵的定义
-5.2 矩阵可逆的性质
-5.3 初等矩阵的逆
-5.4 Gauss-Jordan消元法求A的逆
-5.5 矩阵可逆与主元个数
-5.6 下三角矩阵的逆
-5.7 分块矩阵的消元和逆
-第五讲 矩阵的逆--5.8 课后作业
-6.1 LU分解
--LU分解
-6.2 用LU分解解线性方程组
-6.3 消元法的计算量
--消元法的计算量
-6.4 LU分解的存在性和唯一性
-6.5 对称矩阵的LDL^T分解
-6.6 置换矩阵
--置换矩阵
-6.7 PA=LU分解
--PA=LU分解
-第六讲 LU分解--6.8 课后作业
-7.1 引言
--7.1 引言
-7.2 向量空间和子空间
-7.3 列空间和零空间
-7.4 阶梯形
--7.4 阶梯形
-第七讲 向量空间--7.5 课后作业
-8.1 引言
--8.1 引言
-8.2 基础解系
--8.2 基础解系
-8.3 简化行阶梯形的列变换
-第八讲 求解齐次线性方程组--8.4 课后作业
-9.1 复习
-9.2 求特解
-9.3 解的一般性讨论
-第九讲 求解非齐次线性方程组--9.4 课后作业
-10.1 引言
--引言
-10.2 n维空间的坐标系
-10.3 无关性、基与维数
-10.4 无关性、基与维数的性质
-10.5 关于秩的不等式
-第十讲 线性无关、基与维数--10.6 课后作业
-11.1 四个基本子空间的基
--11.1
-11.2 维数公式
--11.2
-11.3 例题
--11.3
-第十一讲 四个基本子空间的基和维数--11.4 课后作业
-12.1 引言
--12.1
-12.2 四个子空间的正交性
--12.2
-12.3 正交补
--12.3
-12.4 Ax=b在行空间中的唯一性
--12.4
-第十二讲 四个基本子空间的正交关系--12.5 课后作业
-13.1 引言
--13.1 引言
-13.2 点在直线和平面上的投影
-13.3 一般情形
-第十三讲 正交投影--13.4 课后作业
-14.1 复习
--14.1 复习
-14.2 最小二乘法
-14.3 最小二乘法的应用:曲线拟合
-第十四讲 最小二乘法--14.4 课后作业
-15.1 引言
--15.1 引言
-15.2 正交向量组和正交矩阵
-15.3 Gram-Schmidt正交化过程
-15.4 QR分解
-第十五讲 Gram-Schmidt正交化--15.5 课后作业
-16.1 引言
--16.1 引言
-16.2 二阶行列式的几何含义
-16.3 一般行列式的定义
-16.4 行列式和初等变换
-第十六讲 行列式的基本性质--16.5 课后作业
-17.1 行列式计算公式与展开定理
-17.2 典型例题
-第十七讲 行列式的计算--17.3 课后作业
-18.1 引言
--18.1 引言
-18.2.1 求逆矩阵公式
-18.2.2 线性方程组的公式解
-18.3 计算有向长度、面积和体积
-18.4 和QR分解的联系
-第十八讲 Cramer法则及行列式的几何意义--18.5 课后作业
-19.1 引言和定义
--default
-19.2 例
--default
-19.3 特征值的性质
--default
-第十九讲 特征值与特征向量--19.4 课后作业
-20.1 矩阵可对角化的条件
--default
-20.2 特征值的代数重数和几何重数
--default
-20.3 矩阵可对角化的应用
--default
-20.4 同时对角化
--default
-20.5 小结
--default
-第二十讲 矩阵的对角化--20.6 课后作业
-21.1 引言
--21.1 引言
-21.2 A可对角化的情形
-21.3 矩阵的指数函数
-21.4 二阶常系数线性微分方程
-21.5 微分方程的稳定性
-第二十一讲 特征值在微分方程中的应用--21.6 课后作业
-22.1 实对称矩阵的特征值与特征向量
-22.2 实对称阵正交相似于对角阵
-22.3 实对称阵特征值与主元的关系
-22.4 小结
--22.4 小结
-第二十二讲 实对称矩阵--22.5 课后作业
-总结和预告