当前课程知识点：线性代数(2) > 第十讲：Fourier级数 > 10.2 内积空间 > 10.2 内积空间
为了从线性代数的角度
来理解傅里叶级数呢
我们先考虑内积空间的定义
设V是个向量空间
R上或C上的
也就是说它是定义在实数域上的
或者复数域上的
换句话说就是它的数乘
或者它的线性组合
用的是实数还是复数
而V上的一个内积是一个函数
从V乘V到R
或者到复数的这样一个函数
那么它要满足下面这三条
这第一条说u跟自己的内积
必须是一个实数 是一个正数
或者说更确切地是一个非负数
如果u跟自己的内积是等于0的
那么就可以确定u就是0向量
第二条说两个向量的线性组合
跟另一个向量的内积呢
相当于两个向量
跟另一个向量先作内积
再做线性组合
第三条说两个向量的内积
和倒过来
u和v的内积
和v和u的内积 之间的关系呢
是一个共轭的关系
如果我们这个函数
是定义在V叉乘V到R上的
那第三条实际上就是说
这个内积函数是个对称的
uv的内积
和vu的内积是一样的
如果定义在复数上呢
那么就差一个共轭
本身这一块我们并没有假设
V是有限维的
我们先看一些例子
首先一个向量跟自己的内积
它实际上我们把这个定义成
这个向量长度的平方
换句话说 对于带着内积
这样一个函数的向量空间
我们可以给每一个向量
赋予一个长度
这个长度就是它自己
和自己的内积
因为这是个正数 非负数
所以可以开根号
如果这个向量
它的长度是1的话
我们把这个向量叫做单位向量
那么任给一个向量v
我都可以除以它自己的长度
那么这个向量呢
如果v不等于0的话
这个向量就是一个单位向量
那么最常见的内积呢
实际上就是我们通常的
u^T乘上v
就是如果u和v是二维空间中
两个实向量 注意这是实向量
那么它们的内积实际上就是
对应元素相乘再加起来
那么这个u的长度呢
就等于两个分量的平方和开根号
那么大家可以看到
这个一般的内积呢
实际上就是我们
最熟悉的这种
最普通内积的推广
那么如果V等于C^2
或者叫二维复空间
也就是说这时候呢
u和v它们的分量都是复数
那么这两个向量的内积
我们定义成u^T乘v的共轭
换句话说
就是用a_1乘上v的分量的共轭
a_2乘上v的第二个分量的共轭
那么大家可以看到
这个定义呢
跟我们这个内积定义的第三条
是符合的
就是u和v的内积
等于v和u的内积的共轭
那么
为什么要加上共轭这个条件呢
就是为了保证u和自己作内积
它是一个实数
因为我们内积定义的第三条
如果把u等于v的话
那就是u和u自己作共轭
等于u和u自己的内积
那么它是一个实数
那么我们来看
这个内积这个定义是非常广泛的
如果我们取这样的一个向量空间
也就是说[a,b]区间上的
全体连续实函数构成的向量空间
那么大家可以看到
这个空间是一个无限维的空间
在这个空间上呢
我们可以定义一个内积
这个内积就是把f(x)
和g(x)乘起来
然后在[a,b]区间上去积分
这个就是函数的内积
我们把这两个
f、g这两个函数想成
C[a,b]这个向量空间上的两个向量
那么这时候C[a,b]上的一个内积
我们可以看出呢
这时候随便取一个f(x)
跟自己作内积的
它是大于等于0的
因为它跟自己的内积就是f＾2
在[a,b]上的积分
因为f＾2(x)是大于等于0的
特别地我们看内积定义的第一条
说如果f和f自己作内积等于0的话
它必须等于0
那么从现在这个定义的内积
可以来验证一下
就是如果这个等于0的话
那么实际上我们可以取一个函数
F(t)等于a到t的积分
那么F(t)
实际上是个恒等于0的一个函数
并且F(t)当然它可导了
那么F(t)的导数正好f＾2(t)
那么F(t)
因为是恒等于为0的一个函数
所以它的导数也是0
这样就推出了f(t)就等于0
那么如果要在上面这个例子中
我们把实函数改成复函数
就是C[a,b]是[a,b]区间上的
连续复函数
也就是说，定义域还是取实的空间
但是取值是复的
函数值是复的
那么这个内积定义就是fg跟
那么这块我们加上一个共轭
而一般的呢
我们在原来的内积引入了
它们的目的是为了刻划
两个向量的夹角的余弦
那么现在这个内积呢
我们也可以看出
是夹角余弦的一个推广
在原来的内积定义中
因为两个向量它们是垂直的
也就是它们的内积等于0
那么现在呢
我们为了说任何两个
一般的抽象的向量是正交的
那么我们倒过来
因为它内积等于0呢
那么就是说这两个向量
是正交或垂直的
在R^n中呢
我们可以定义标准的正交基
在这里呢
因为V是无限的维的
所以我们就牵扯到
一些无穷和的问题
首先我们可以定义
标准正交向量系
这也就是意思就是说
给V中的一组向量
它满足任意两个不同的向量
它们的内积等于0
就互相是垂直的
那么这一组向量呢
我们就称为一个正交向量系
这一组如果一个向量
跟自己的内积是等于1
也就是说它的长度等于1的话
那么我们就叫标准正交向量系
这跟我们原来的标准正交基
这个概念有些类似
那么因为V是无限维的时候
那么这时候标准正交向量系
虽然可以看作标准正交向量
跟标准正交基的推广
但是它有一个无穷和的问题
就是无穷和这样写的合理性
比如说v_1到v_k到无穷
是一个标准正交系
那么当我们把它们
无穷的线性组合起来
那么我们怎么能保证
这一个向量存在
或者说
这个向量属于我们的空间V呢
就是这个东西呢
这个无穷和
代表的是一个什么意思
那么实际上就是说
我们可以先取有限个
从v_1到v_n它们的一个
有限个线性组合
那么这个呢是有含义的
那么上述这个无穷和呢
我们就把它理解成S_N呢
这个有限的线性组合的一个极限
那么这个极限确切的含义就是说
这个存在就表示的是S-S_N
这个是趋于0的
当n趋于无穷的时候趋于0
我们所谓的无穷和
就理解成S_N的一个极限状态
当N趋于正无穷的时候
对于无限维空间呢
这个标准正交向量系呢
如果满足任意的v属于V
那么我们就把这个标准正交向量系
称为闭的
这个类似于起着一种基的作用
就是表示任何一个向量
都可以用我们给定这组向量呢
线性表示出来
比如说R^n中你随便取两个向量
1 0 0 0和0 1 0 0 0
那么这两个呢
它们是互相垂直的
而且长度为1
所以是一个标准正交向量系
在C[a,b]上我们可以看到
就是我们在泰勒级数展开
所使用的x, x＾2等等
这一列多项式函数
它们并不是标准正交向量系
它们是互相不正交的
可以使用a到b
给出了x跟x＾2 dx
一般来说这个东西
它一般来说不等于0
除非a b取的比较好
但是a b取的比较好以后
可能x跟另外的一个（x^n）
又不互为垂直的
但是这一组向量
或者这一组函数 周期函数
它们是一个标准正交向量系
当我们的a取-π b取π
那么可以看到这一组函数
它们之间是互相垂直的
比如第一个我们可以看到
我们看一下根号下2π分之一
那么这个向量和coskx是
互相垂直的
那么我们为什么要考虑
垂直的向量呢
比如说我们给出1 2 , 3 4
是R＾2中的两个无关向量
那么这样两个无关向量呢
我们实际上可以建立一个类似的
比如说1 2和3 4这两个向量
那么它的夹角就不是90度
也就是它们不是互相垂直的
那么如果
我们随便给另外一个向量
我们想把它表示成
这两个向量的线性组合
那么有一个主要的问题就是
怎么来写这个线性组合系数
x和y
或者说x y
有没有确切的几何含义呢
那么实际上
我们就要解一个方程组
但是如果我们换一组基
用1 2和-2 1
那么大家可以看到
这两个向量互相是垂直的
那么我们在给
任何一个R＾2中的向量呢
我们想把它写成1 2
和-2 1的线性组合
这个相对就容易
而且有几何含义
那么它的几何含义我们可以看到
是因为1 2和-2 1互相垂直
所以这里面这个c_1和c_2
是有确切含义的
我们就在这个表达式里面
两边同时用α跟1 2作内积
或者α跟-2 1作内积
也就是说先跟1 2作内积
两边左乘以1 2
相当于α和1 2作内积
那么这时候呢
1 2跟-2 1的内积那就是0了
最后那么α跟1 2作内积
就只得到c_1了 留下c_1 1 2
这样我们就实际上得到了
c_1就等于α跟v_1的内积
除以v_1长度的平方
同样地道理呢
我们在这个式子两边左乘-2 1
也就是说α跟-2 1作内积
那右边呢
这个向量跟-2 1作内积是0
因为它们互相垂直
那么就只留下这个向量
跟-2 1作内积
就是它自己的内积
就是长度的平方
这样推出c_2
就等于这样一个表达式
那么一般地呢
我们有下面这个定理
就是说如果v_1到v_m
这样有限个向量
它们是互相垂直的
并且α能够写成
这些向量的线性组合
那么这时候我们
就可以确切地写出
这种线性组合的系数
这些系数分别是α跟相应的向量
作内积
再除以相应向量长度的平方
那么这个定义里
它的含义是什么呢
它的含义是说
给定一个向量α
比如说我们以两个为例
就是m取2的时候
因为v_1和v_2垂直
所以我们可以找α
在v_1和v_2上分解出的两个向量
这是直观上的
实际上
我们这些v_1到v_m都是抽象的
那么第一个α_1 第二个α_2
那么α_1这个向量是谁呢
α_1这个向量就是c_1 v_1
换句话说呢
这个实际上呢
这个α_2就是c_2 v_2
所以呢把α写成这样一个形式
实际上就是相当于一个向量
等于它在一个正交向量组
每个向量上的投影加起来
更简练地说
一个向量等于什么呢
就等于它的投影之和
那么这个向量的长度的平方
那么它就等于
它的投影的长度平方和
我们看第一个呢
就是它的在v_1上的投影
长度的平方
这个就是在v_m上的投影
长度的平方
在二阶的时候呢
m等于2的时候我们看到
这个长度平方
等于这个长度的平方加这个长度
这就是我们通常的勾股定理
在高阶的时候
比如说三维的时候
那么我们就可以看到
一个长方体
它的三条棱的平方和
那么就等于对角线的长度的平方
这是高阶的勾股定理
那么我们现在把
这个内积中的这个性质呢
我们可以推广到无限维的情形
无限维的情形
那么有个主要的问题
就是收敛性问题
就是无穷和有收敛性
那么我们说如果u属于V
那么可以先考虑
这个标准正交系的一部分
就是前n项
那么这样一个向量呢
在前n项上的投影呢
我们可以确切算出来
也就是说这个投影它是等于
实际上就是u_N
作为u在这个空间上的投影
那么它实际上是用u在v_1上的投影
u在v_2上的投影
u在v_n上的投影 把它们加起来
所以在一个大的空间上的投影
实际上是在每一个向量上投影
然后投影之和
我们比如说我们可以直观地看
这是v_1到v_n伸出来的一个
一个子空间
这个是我们的u
那么这个向量就是我们的u_N
那么u-u_N是跟u_N垂直的
因为这是投影的定义
就是要作为投影呢
那么u-u_N这个向量
它是跟u_N垂直的
那么由勾股定理我们可以写出
u的长度的平方等于
u-u_N的长度平方
加上u_N的长度的平方
那么我们从这已经看到
u_N的长度实际上是
小于等于u的长度的
而另一方面我们看到
随着N增大呢
这个u_N的长度
实际上在不断地变大的
因为这个u_N长度的平方
实际上是这些长度的平方和
就是u_N的长度的平方
等于(u, v_1)长度的平方
一直加 加到(u, v_n)的长度平方
那么随着N增大呢
u_N实际是个单调递增的一个数列
这个长度的平方
那么而且这个单调递增的数列
有上限
所以呢这个u_N这个长度
都N趋于无穷时极限存在
这样我们可以推出来
它这个极限就是这样一个无穷和
它确实是小于等于u的长度的平方
因为它当任意N
它都是小于等于上界的
那进一步如果v_1到v_n是闭的
换句话说就是u能够写成
v_1到v_2 一直到无穷个v_i
它们的线性组合
那么实际上这个u
作为这个线性组合的系数
也是知道的
就是u跟相应的v_k作内积
那么当n趋于正无穷的时候呢
u-u_N它的长度就趋于0了
在这时候呢
我们就可以写出广义的勾股定理
就是无穷和的形式
这每一个相当于
直观上相当于u
在每一个v_k上的投影的长度
因为v_k的长度是1
那么u跟v_k的内积的平方呢
实际上就是u在v_k上的投影的长度
它的平方
这个我们把它可以看作
广义的勾股定理
我们看到根号2 π分之一
根号π分之一 sinx
根号π分之cosx等等
是C[a,b]的标准正交向量系
它们互相垂直 而且长度为1
那么我们假设C[a,b]中
有一个函数
可以写成它们的线性组合
那么这些系数呢
它的确切含义实际上
我们可以看到这里面的随便一项
它实际上就是f(x)呢
在根号π分之一sin2x上的投影
那个向量
又因为
根号π分之一sin2x的长度为1
所以前面的系数c_2
实际上它的绝对值就是
f(x)在这个函数上的
投影的长度
比如说这个f(x)
这个是比如说根号π分之一cos2x
那么它的在这上面的投影是谁呢
投影的这个向量呢
当然是另外一个函数
我们把它（记为）g(x)
g(x)就等于c'_2
根号π分之一cos2x
所以c'_2呢
实际上就是f(x)呢
跟根号π分之一cos2x的内积
好 那么刚才在等式右边呢
我们可以写出
f(x)的傅里叶级数
那么由广义的勾股定理
实际上f(x)的长度的平方
就等于这些无穷的平方和
我们可以理解这样
就是f(x)它的长度的平方
实际上是等于它在每个
正交向量系上的投影长度的平方
这些都是它在
不同的标准正交向量的
上的投影的长度的平方
那么这些平方和呢
最后和加在一起就等于
f(x)长度的平方
那么如果把这个长度的具体含义
写出来呢
左边就是f＾2(x)的一个积分
右边就是a_i、b_i这些的平方和
-1.1 实对称矩阵A正定的充要条件
-1.2 典型例题
--1.2 典型例题
-1.3 半正定矩阵及其判别条件
-1.4 二次型
--1.4 二次型
-1.5* 有心二次曲线(central conic)
-1.6* 三维空间中的二次曲面-6类基本的二次曲面
-1.7 二次型的分类
-1.8 矩阵的合同
-1.9* 惯性定理的证明
-1.10 惯性定理的应用 —— 实对称矩阵的特征值与主元符号
--1.10 惯性定理的应用 —— 实对称矩阵的特征值与主元符号
-1.11* 正（负）定矩阵在函数极值问题中的应用
-第一讲：正定矩阵--课后习题
-2.1 引言
--2.1 引言
-2.2 相似矩阵的性质
-2.3 Jordan标准形
-2.4 定理的证明
-2.5 Jordan标准形的应用
-第二讲：相似矩阵--课后习题
-3.1 引言
--3.1 引言
-3.2 奇异值分解(Singular Value Decomposition)
--3.2 奇异值分解(Singular Value Decomposition)
-3.3 例题
--3.3 例题
-3.4 奇异值分解的应用
-第三讲：奇异值分解--课后习题
-4.1 线性变换的定义和性质
-4.2 线性变换的运算
-4.3 线性变换的矩阵表示
-4.4 线性变换与矩阵之间的关系
-第四讲：线性变换 I--课后习题
-5.1 恒同变换与基变换
-5.2 图像压缩——基变换的应用
-5.3 线性变换在不同基下的矩阵
-5.4 矩阵分解与基变换
-5.5 线性变换的核与像
-5.6 不变子空间
-5.7* 幂零变换
-5.8* Jordan标准形
-第五讲：线性变换 II--课后习题
-6.1 伪逆
--6.1 伪逆
-6.2 Moore – Penrose 伪逆
-6.3 最小二乘法
-第六讲：伪逆--课后习题
-7.1 简介
--7.1 简介
-7.2 弹簧模型
--7.2 弹簧模型
-7.3 变量的线性关系
-7.4 刚度矩阵
--7.4 刚度矩阵
-7.5 从离散到连续
-第七讲：工程中的矩阵--课后习题
-8.1 简介
--8.1 简介
-8.2 图和矩阵
--8.2 图和矩阵
-8.3 网络和加权Laplacian矩阵
-8.4 关联矩阵的四个基本子空间
-8.5 注记
--8.5 注记
-第八讲：图与网络--课后习题
-9.1 问题引入
--9.1 问题引入
-9.2 Markov矩阵
-9.3 正Markov矩阵
-9.4 正矩阵
-第九讲：Markov矩阵和正矩阵--课后习题
-10.1 引言
--10.1 引言
-10.2 内积空间
-10.3 傅里叶级数
-10.4 投影
--10.4 投影
-10.5 关于Fourier变换的注记
-第十讲：Fourier级数--课后习题
-11.1 引言
--11.1 引言
-11.2 平移
--11.2 平移
-11.3 伸缩
--11.3 伸缩
-11.4 旋转
--11.4 旋转
-11.5 投影和反射
-第十一讲：计算机图像--课后习题
-12.1 引言
--12.1 引言
-12.2 复矩阵
--12.2 复矩阵
-12.3 复正规阵
-12.4 离散Fourier变换
-12.5 快速Fourier变换
-第十二讲：复数与复矩阵--课后习题
-结课寄语
--结课寄语
