7.2 线性方程组的迭代法（中）在线视频

同学们，我们前面学习了

关于线性方程组

它的迭代法里面的三种形式

一个是雅可比迭代形式

还有一个赛德尔迭代形式

另外还有超松弛迭代形式

这三种迭代的形式包括叫迭代格式

叫矩阵形式也罢

解方程组提供了很好的办法

不过我们也要应该知道

在第三章我们学习了方程求根

也知道了这个迭代格式

构造的过程也有很多

那么如果构造的迭代

格式它不能得到一个收敛过程

那这个就没有意义了

因此

我们下面学习一下关于线性方程组

迭代法的收敛性以及误差估计问题

我们知道赋范线性空间里面

任何一组点列

都有收敛与发散问题

因此

由雅可比

的格式

和赛德尔格式

产生的点列也有同样问题

当点列收敛的情况下

我们可以成功逼近所求的解

当点列发散情况下就不能逼近解

因此应该及时终止迭代过程

而转向其他的方法求解

那么讨论如上格式

为此

我们先把这两种形式统一一下

也是为了讨论它的收敛性方便

我们把如上它的

收敛的过程统一写成如上

我们为了讨论它的收敛性

我们首先给出的一个定理

这块我们应该总共有七个定理

第一个定理

告诉大家一个很重要的结果

也说对任何矩阵

这是一般性的一个结果

对任何方阵

如果如上图

如上代表A的谱半径

我们在前面讲过A的谱半径

表示如上对任何矩阵A

它的如上小于等于A的范数

这是我们很重要的结果

我们下面把这结果简单证明下

这个结果什么容易证明

我们在如上学习过的特征值和特

向量的概念可以用上了

我们假设如上矩阵

矩阵A任何

一个特征值和对应的特征向量

那么就会得到如上

我们两边取下范数

我们利用范数的性质

把A乘X的范数放大一下

那么

就小于等于如上

我们应该知道

对一个特征值和特征向量来讲

特征向量肯定是个非零向量

所以说把两边的如上抹掉

上式抹掉之后我们有得到了如上

它的绝对值小于等于A的范数

那么这个如上

它的绝对值可能是复数

所以说这个绝对值会变成模

不管是复数

实数也罢

如上

它的绝对值或者如模小于

等于A的范数那么由于

那么如上它具有任意性

也说这个谱半径概念应该清楚

谱半径是它的一个方阵

A的所有特征值的

绝对值或者模的最大值

既然你说如上它的绝对值

或者模都小于A的范数

所以说

我们就会得到如上

小于等于A的范数

这是一个很重要的定理

表明了一个矩阵A

它的谱半径跟范数的关系

那么由第一个定理

我们知道了这个结果

之后我们来看

跟它相关的我们刚才说了

把如上

迭代方法统一成一个格式

就是如上

我们下面讨论一下这种格式能不能

获得一个收敛的序列相关的条件

那么第二定理来给我们个十分重要定理

叫充分必要条件

也就是说

不管雅可比还是赛德尔迭代格式

对任何初始向量所产生的点列

都收敛的充分必要条件是

这个B的谱半径小于1

记住是B的谱半径不是A的谱半径

是一个迭代格式里面的

B的谱半径小于1

那么既然是充要性

因此要从两个方面的证明

我们假设这个向量是收敛的

也就是说证明充分必要性

先证明一下必要性

假设如上这个向量序列

它收敛到如上

那么我们会得到如上

如上

我们利用这个迭代格式

和刚才这个如上相减

会得到了如上表达式

这是个很重要的表达式

我们得到了如上所示

如上

这是第一个式子

我们把这个式子反复利用

这是需要证明里面一个很重要技巧

反复利用之后

我们会得到如上

通过了这个重复利用之后

我们会得到他等于如上

如上

把这个式子记为第（1）式

那么刚才说了如上是个任意的

同时如上向量序列的极限是如上

我们得到了如上

次方的极限应该等个零矩阵

把这个式子记为（2）式

那么同时

我们得到了这个极限是零

通过反复利用

没有得到这么两个式子

又利用刚才所学习过的定理1

那么定理一呢

告诉我们一个

A它的谱半径跟范数的关系

所以用一下

定理1我们就得到了如上

它的k次方

小于等于B的K次方的范数

所以说我们得到了如上小于1

这是它的必要性证明

也说

如果这个向量序列

对任何初值都收敛的话

那么这个如上小于1

我们下面反过来证明一下

如果说B的谱半径要小于1

那么它是不是对任何初始向量都收敛

这是它的充分性

要证明下反过来到底对不对

我假设如上小于1

那么假设如上小于1

我们看一下这结果是不对的

我们通过如上小于1

我们可以证明这个矩阵如上

肯定是个非奇异矩阵

这地方呢

可能给同学们留个思考题

这就是为什么呀

对吧

为什么如上是个非奇矩阵呢

希望大家下去好好思考一下

如果这对了

于是我们可以知道方程组

如上

这样一个解叫如上

从而会得到了一个关系

式子那就是如上

我们利用刚才

上页PPT里面所提到的

（1）和（2）公式就会证明结果

对的也就是说

如上这个向量序列

它的极限值就是如上

这样的话我们就证明了它的充分性

这个定理十分重要

什么重要什么意思

说不管是如上

还是如上所定的这个求解过程

它对任何

促使销量都收敛的

充分必要条件是迭代矩阵的

它的谱半径较小于1

这定理相当漂亮

但是应用起来很困难

什么困难呢

要求一个方阵的谱半径

不容易

要求它特征值

那么刚才也分析了这个定理2

给我们提供了很好的

关于这种迭代格式收敛的

一个等价一个命题

不过由于这个如上

一般不容易求

所以说这里面比较困难一些

定理一

说明了谱半径和范数

矩阵范数关系

由于谱半径一般不容易计算

我们想办法把这个要改进一下

换句话说

换个定理

所以我们下面介绍第三个定理

那么第三定理比较方便

利用起来很容易把矛盾转化了

如果一个矩阵B的它的某种

算子范数小于1这个B呢

仍然是代表迭代矩阵的迭代矩阵

那么这个迭代格式

它的对应的这个迭代矩阵

对任何初向量都收敛

这是说的

只需要用一个迭代矩阵

等它的范数就可以衡量

这个收敛性是否成立

这是很重要的定理

但这里证明呢

也是比较容易的

我们简单说一下

如果矩阵B的某种算子范数小于1

你要证明

这个迭代格式对任何初始向量

都收敛

我们下面第一步先假设方程组

它在b的范数小于下有唯一解

这个证明呢

比较容易

因为它有唯一解

我们刚才从推倒过程中知道

如上

显然

如上

因此

当矩阵I减B非奇异下

就保证有唯一解

这没问题

比较容易

那么下面我们把这事要说清楚

为什么是对的呢

假设I减B是奇异矩阵

刚才说了它非奇异是对的

那奇异矩阵会出现什么结果呢

如果非奇异

我们通过下面证明

那就知道这结果是错的

为什么要假设非零向量如上

满足如上等于零

因此那么会得到如上

两边取范数

由于如上是特征向量

不是零向量

所以会得到了B的范数大于等于1

这与我们的条件是矛盾的

因此I减B是奇异矩阵假设不对的

我刚才在前面讲课

里面提到了

问大家要思考下

I减B为什么是个非奇异矩阵呢

这地方

其实告诉了同学们答案了

这样我们会得到了这个方程组

它所对应的迭代矩阵

如果说范小于1就有唯一解

就很容易了

我们假设如上是唯一解

那么如上

我们前面学习定理

如上小于等于B的范数小于1

所以说定理二就成立了

那么定理二很重要

把矛盾转化了

我们看一个迭代过程是不是收敛

不需要去考虑它

迭代矩阵的谱半径了

我们只需要考察他的范数就行

因为大家知道范数计算十分容易

不过

由于这个里面的特别如上

范数较难计算

我们也讲过了这些范数

在我们利用过程中

没有必要性

非得用哪个范数

因为它们都是等价的

我们对同一个问题那用不同范数

计算都是可以的

不过要注意这个定理

它是个充分条件

我们在

定理三里面所讲的这个结果那很好

但是

要求B的范数小于1这个是对的

但是我们知道充分条件

也说

当上述不管你用什么范数来算

有一个小1就可以得到收敛结果

然而

当它们都大于1情况下

不能得出发散的结果

记住是个充分条件

这是前三个定理

特别我们第三定理

在实际应用里面很方便

这是我们说的这几个定理

那么注意到几个范数

都和B的元素关系

因此

我们想要获得一个迭代收敛过程

想办法使得迭代矩阵B的所有元素

它的绝对是变小

是个很重要的方法

这是我们在应用里面要重视的

这是我们说的前三个定理

那么后面还有几个定理

跟我们特殊矩阵有关系

方程组的系数矩阵如果比较特殊

那么这个情况我们有几个判断定理

后面几个定理就不去做详细证明了

第四个定理告诉我们说

如果这个方程组的系数矩阵

是个对称正定矩阵

那么我们的结果也比较特殊

这个方程组如上迭代法

以及如上在零到2之间取值情况下

它的sor收敛法

对任何初始向量都收敛

这是方程组

它的系数矩阵具有特殊性

这是说很重要的一个结果了

我们应该有关的

跟它有关的就是我们叫

是还很特殊矩阵

它的方程组的系数矩阵

是严格对角占优矩阵

那么这情况下

它的迭代格式迭代过程也比较特殊

我们先给个引理

如果n阶方阵

A四严格对角占优矩阵

那么则必是可逆矩阵证明呢

我们不去证明了这地方

同学们回忆一下什么叫一个矩阵A

那是个严格对角占优矩阵

这个概念要清楚

有了概念之后

我们下面介绍一下我们的定理

这个定理那要第五个定理

刚才第四个定理讲的是这个方程组

系数比较特殊

那么第五个定理

这个如上

方程组的系数矩阵更特殊

它的系数矩阵是严格对角占优矩阵

那么我们这个数列

定理告诉我们

这样个方程组

它的如上

如上在零

到一大于零小于等于1的情况下

这个方法呢

对初始向量都收敛

这个也是很特殊的

一个收敛定理

那么这个定理做了些证明

这里面简单说一下

它的证明思想就可以了

我们证明

从这个过程中

假设如果说是如上三个结果

我们只把第一个结果说一下

如果是如上的格式一样的方法对吧

还有没有如上方法一样的

我们通过如上格式来证明一下

这个过程也是对的

因为如上的格式

它的矩阵里边

如上

如上是个单位阵

如上则有下边的范数

我们算了一下小于1

那么定理三知道

jacobi迭代法

对任何初始向量都收敛

证明相当简单

十分容易

这是第一个特殊情况第二个呢

是一样的道理

这要复杂一些在哪呢

它的复杂性在于如上比较麻烦

如上

它的逆矩阵成如上矩阵

这里面我们要用以下特征值的概念

假设如上

是如上的任意特征值

我们下面有个办法不去详细讲了

就用我们第二定理

你想办法要证明这个它的迭代矩阵

谱半径小于1就行

要证明谱半径小于1

就比较困难

所以同学们下去

把这个证明过程再详细看一下

我们要

通过这个方法来证明它的谱半径

小于1才能够得到

我们这个结果

那么中间用了反证法

这一页我们看到

假设如上大于等于1

我们会发现它的矛盾

矛盾就正好跟这个矩阵

是一个严格对角占优矩阵相矛盾的

因此假设错误的

所以说如上都小于1了

因此它的谱半径就小于1

这说的利用我们的第二个定理

来证明了这样个迭代格式

它对任何初始向量都收敛

不过这个证明要比刚才那个雅可比

复杂多了

大家下去详细看一下

我们刚才讲的这几个定理

其实3、4、5这三个定理

可以说对线性方程组的系数矩阵

它的特点有一个很重要的要求

换句话说

有这个要求情况下

我们收敛性的结果也比较特殊

这是说的这三个特殊定理