当前课程知识点：线性代数(1) > 第十五讲 Gram-Schmidt正交化 > 15.3 Gram-Schmidt正交化过程 > 15.3 Gram-Schmidt正交化过程
下面我们考虑
这一讲的一个主要问题
就是怎么把一组向量无关的
变成一组正交向量
或者直观地说
就是把一个普通的坐标系
变成一个正交的直角坐标系
那么先考虑两个向量
假设v1 v2线性无关的
那么我们需要找w1 w2
使得w1和w2垂直
w1和v1所在的直线是一样的
然后w1 w2生成的平面
和v1 v2的平面是一样的
一旦把w1 w2算出来以后
我们再把它单位化
那么q1 q2呢
就是标准正交的向量组
那么这个过程呢
实际上我们用个图表示
就是v1 v2变成w1 w2
再变成q1 q2
在整个过程中满足
它们生成的这个子空间是一样的
好 那我们确切的来算一下
w1和w2
w1一个自然的选择是v1
因为w1和v1在一条直线上
我们只需要算w1
就取v1就可以
那么w2的选择呢
因为w2是属于
w1和w2生成子空间
这个是等于v1 v2生成子空间
所以
w2自然的是v1 v2的
一个线性组合
因为w1和w2选择
可以通过增加或者倍数可以改变
所以我们自然地可以取
x2等于1 这样不失一般性
这样我们只需要
把x1算出来就行了
好 那么我们已知
w1和w2是垂直的
那么我们可以把w2呢
具体的算出来
w2实际上它等于v2-v1乘上这个
那这一部分呢
实际上是v2在v1上的投影
这个我们前面看过投影的概念
所以这就是我们的w1 w2
具体在两个向量的时候
是算出来了
然后我们把它单位化
就得到了我们q1 q2
我们再来看三个向量的情形
设v1 v2 v3它们线性无关
那么跟刚才一样
我们需要先把v1 v2 v3正交化得到w1 w2 w3
然后再单位化
得到q1 q2 q3
它们满足w1 v1在一条直线上
w1 w2和v1 v2
生成的平面是一样的
它们生成的空间是一样的
我们这个也可以加上q1 q2
那么现在我们来具体算一下
w1 w2 w3
刚才我们已经算过w1和w2
就是刚才的情形呢
是没有考虑v3
我们把它写出来
w1就等于v1
w2是v2减去它在v1上的投影
那么w3呢我们怎么来算呢
我们刚才知道
w3它是属于L（w1 w2 w3）
那么这个是等于v1 v2 v3
所以w3呢
还是v1 v2 v3的线性组合
也是w1 w2 w3的线性组合
那我们写成
w3等于这些线性组合
那么跟刚才一样
它有三个未知数
我们让最后这个取1
那么下面我们使用的条件
就是w3跟w1和w2都垂直
那么使用这两个条件呢
我们可以把x1和x2都算出来
比如说第一个
w1跟w3垂直
那么我们在这个等式两边
同时乘上w1 w3
右边呢就变成了x1倍的w1
w1转置w1再加上
因为w1和w2是垂直的
所以这一块就变成0了
然后再加上w1的转置乘上v3
因为w1转置w3是等于0的
所以由这个式子呢
我们就可以算出x1
最后解出来是这个结果
最后呢 我们再单位化
我们就得到q1 q2和q3
在这个方法中呢
我们先正交化
然后再单位化
我们下面来看一下
这个方法实际上我们不需要
到最后单位化
可以在中间就单位化
这样计算量可以减少一些
我们先考虑一个下面的定理
设α1 αk相互正交
v是α1和αk生成的
子空间中的一个向量
则v有这样一个表达式
这个表达式粗看有些繁琐
但是我们大家看
如果α1到αk不止是正交
是标准正交的话
那么看这个v呢
它实际上写成α1到αk的
线性组合的时候
前面的系数恰好是α1跟
或αk跟v做内积得到的数
那么由这个定理呢
我们可以看到
我们把v1到vk做正交化
变成w1到wk
再单位化这个过程呢
我们因为
在刚才那个正交化的过程中
vl实际上我们可以写出
它在q1到ql
在这个直角坐标系中的坐标
也就是说这些量
就是vl在
这个直角坐标系中的坐标
那qi转置vlqi
这样一个量呢
实际上是
vl在qi所在直线上的投影
那么我们取这里面的
任意有限个量
比如说q1转置vl
q1加上q2转置vlq2
那么这个呢是vl
在q1和q2生成的
子空间上的投影
所以如果我们已经知道了
q1到ql-1
那么我们比如想求ql
那么我们只需要把vl
减去q1转置vl q1 再减去
一直减到ql-1转置vl ql-1
这个就等于ql转置vlql
那么这样一个等式告诉我们
一旦我们已经知道了vl
我们又知道了q1和ql-1
我们实际上呢
能够把ql算出来
也就是说ql
就等于这个向量单位化
那么这个向量的长度呢
就是我们的ql转置乘vl
所以呢 这个提示我们
可以使用下面这个新的方法
第一步我们令e1等于v1等于w1
那么q1就等于v1的单位化
好 第二步呢我们需要算q2
那么为了算q2呢
我们先来看v2我们是知道的
就是v1v2一直到vk我们知道
那么v2呢
我们按刚才那个定理公式
它是等于q1转置v2
乘上q1 加上q2转置v2乘上q2
也就是说我们要想求这个部分
那么只要用v2减去这一部分
这一部分呢
我们可以把它叫误差向量e2
那么这个向量呢
就是我们q2的一个倍数
所以我们只需要把它单位化一下
我们就得到了q2
同样呢 我们也可以知道
这个e2的这个长度
就是我们的q2转置v2
那么一般的也是
我们要算ek qk
那么只要用vk减去
它在q1到qk-1这上面的投影
然后用这个单位化一下
我们就得到了qk
那么ek的长度呢
就等于qk的转置乘上vk
这种正交化方法呢
我们叫Gram Schmidt正交化
所以我们只需要记住
每一个vk在前面的
标准正交的k-1个向量上的投影
我们就能基本上算出来
在第k个上面的投影
我们看一个例子
A等于这样一个3乘3的矩阵
v1等于1 1 0
v2等于1 0 1
v3等于0 1 1
我们现在想把v1 v2 v3
这三个无关的向量
变成一组标准正交的向量组
那么第一步呢
还是把v1单位化
得到这个向量
第二步呢是把v2去掉
它在v1或者在q1上的投影
去掉它在这上面的投影
那么剩下的部分呢
就是它在q2上的投影
就是我们的w2
那么我们把这个单位化呢
就是q2
w3呢就是v3去掉它在q1 q2
上的投影 然后再单位化
就得到了q3
那么这时候
我们得到了q1 q2 q3呢
它们构成了一个向量呢
都是三维的向量
合在一起就得到了一个正交阵
这就是我们的
Gram Schmidt正交化的过程
-课前引言
--课前引言
-1.1 引言
--1.1 引言
-1.2 n维向量空间中的点
-1.3 向量
--1.3 向量
-1.4 向量空间的定义
-1.5 向量空间的线性组合
-1.6 向量的点积、长度
-1.7 向量的夹角
-1.8 两个不等式
-第一讲 向量及其运算--1.9 课后作业
-2.1 矩阵与向量的乘积
-2.2 可逆矩阵
--2.2 可逆矩阵
-2.3 线性方程组的行图和列图
-第二讲 矩阵与线性方程组--2.4 课后作业
-3.1 Gauss消元法（上）
-3.1 Gauss消元法（下）
-3.2 消元法的矩阵表示 3.2.1 消去矩阵
-3.2 消元法的矩阵表示 3.2.2 置换阵
-3.2 消元法的矩阵表示 3.2.3 初等行(列)变换和初等矩阵
-第三讲 高斯消元法--3.3 课后作业
-4.1 矩阵
--4.1 矩阵
-4.2 矩阵的加法和数乘
-4.3 矩阵的乘法
-4.4 矩阵的乘法的性质
-4.5 矩阵的方幂
-4.6 关于矩阵乘法的引入
-4.7 分块矩阵
--4.7 分块矩阵
-4.8 矩阵的转置
-第四讲 矩阵的运算--4.9 课后作业
-5.1 可逆矩阵的定义
-5.2 矩阵可逆的性质
-5.3 初等矩阵的逆
-5.4 Gauss-Jordan消元法求A的逆
-5.5 矩阵可逆与主元个数
-5.6 下三角矩阵的逆
-5.7 分块矩阵的消元和逆
-第五讲 矩阵的逆--5.8 课后作业
-6.1 LU分解
--LU分解
-6.2 用LU分解解线性方程组
-6.3 消元法的计算量
--消元法的计算量
-6.4 LU分解的存在性和唯一性
-6.5 对称矩阵的LDL^T分解
-6.6 置换矩阵
--置换矩阵
-6.7 PA=LU分解
--PA=LU分解
-第六讲 LU分解--6.8 课后作业
-7.1 引言
--7.1 引言
-7.2 向量空间和子空间
-7.3 列空间和零空间
-7.4 阶梯形
--7.4 阶梯形
-第七讲 向量空间--7.5 课后作业
-8.1 引言
--8.1 引言
-8.2 基础解系
--8.2 基础解系
-8.3 简化行阶梯形的列变换
-第八讲 求解齐次线性方程组--8.4 课后作业
-9.1 复习
-9.2 求特解
-9.3 解的一般性讨论
-第九讲 求解非齐次线性方程组--9.4 课后作业
-10.1 引言
--引言
-10.2 n维空间的坐标系
-10.3 无关性、基与维数
-10.4 无关性、基与维数的性质
-10.5 关于秩的不等式
-第十讲 线性无关、基与维数--10.6 课后作业
-11.1 四个基本子空间的基
--11.1
-11.2 维数公式
--11.2
-11.3 例题
--11.3
-第十一讲 四个基本子空间的基和维数--11.4 课后作业
-12.1 引言
--12.1
-12.2 四个子空间的正交性
--12.2
-12.3 正交补
--12.3
-12.4 Ax=b在行空间中的唯一性
--12.4
-第十二讲 四个基本子空间的正交关系--12.5 课后作业
-13.1 引言
--13.1 引言
-13.2 点在直线和平面上的投影
-13.3 一般情形
-第十三讲 正交投影--13.4 课后作业
-14.1 复习
--14.1 复习
-14.2 最小二乘法
-14.3 最小二乘法的应用：曲线拟合
-第十四讲 最小二乘法--14.4 课后作业
-15.1 引言
--15.1 引言
-15.2 正交向量组和正交矩阵
-15.3 Gram-Schmidt正交化过程
-15.4 QR分解
-第十五讲 Gram-Schmidt正交化--15.5 课后作业
-16.1 引言
--16.1 引言
-16.2 二阶行列式的几何含义
-16.3 一般行列式的定义
-16.4 行列式和初等变换
-第十六讲 行列式的基本性质--16.5 课后作业
-17.1 行列式计算公式与展开定理
-17.2 典型例题
-第十七讲 行列式的计算--17.3 课后作业
-18.1 引言
--18.1 引言
-18.2.1 求逆矩阵公式
-18.2.2 线性方程组的公式解
-18.3 计算有向长度、面积和体积
-18.4 和QR分解的联系
-第十八讲 Cramer法则及行列式的几何意义--18.5 课后作业
-19.1 引言和定义
--default
-19.2 例
--default
-19.3 特征值的性质
--default
-第十九讲 特征值与特征向量--19.4 课后作业
-20.1 矩阵可对角化的条件
--default
-20.2 特征值的代数重数和几何重数
--default
-20.3 矩阵可对角化的应用
--default
-20.4 同时对角化
--default
-20.5 小结
--default
-第二十讲 矩阵的对角化--20.6 课后作业
-21.1 引言
--21.1 引言
-21.2 A可对角化的情形
-21.3 矩阵的指数函数
-21.4 二阶常系数线性微分方程
-21.5 微分方程的稳定性
-第二十一讲 特征值在微分方程中的应用--21.6 课后作业
-22.1 实对称矩阵的特征值与特征向量
-22.2 实对称阵正交相似于对角阵
-22.3 实对称阵特征值与主元的关系
-22.4 小结
--22.4 小结
-第二十二讲 实对称矩阵--22.5 课后作业
-总结和预告
