当前课程知识点:计算方法 > 第5章 函数逼近与曲线拟合 > 5.2 连续函数的最佳平方逼近 > 5.2 连续函数的最佳平方逼近
我们现在讲解第二小节
连续函数的最佳平方逼近问题
在这小节里面我会讲三个问题
第一
连续函数最佳平方逼近问题是什么
第二个
最佳平方逼近问题的求解
以及一个例题
我们先来看一下什么是
连续函数的最佳平方逼近问题
假设有一个函数
是在一[a,b]闭区间上连续函数
这个函数
我们假设是已知的
然后呢
同时还假设φ0x φ1x
一直到φnx
也是在
[a,b]闭区间上的一个
已知的线性无关的函数组
那么这个函数组张成的空间Psi
我们是逼近函数f的函数类
那么现在
连续函数的最佳平方逼近问题
就是需要在
这个函数类Psi上找一个函数
φ*x使得
f(x)减去φ(x)
在二范数意义下能够达到最小
于是
下面这个优化问题
这个优化问题的意思是
φ*是使得
f(x)减去的φ(x)的2范数
达到最小的那个函数
那么这个问题的解我们就称
是连续函数f(x)在闭区间【a,b】
上的最佳平方逼近函数
那么我现在呢
我们要把这个问题转化成为一个优化问题
我们已经知道需要求一个φ*x
它的表达是呢
是需要写成是Sigma
这从0到n, cj
星
然后φj
x的形式
那么它要满足下面这个
优化问题
其中这个φ(x)
等于
刚才那个空间里面的
基函数的线性组合的形式
根据二范数与内积的定义
我们知道f减去φ
的二范数的平方可以写成f减去φ
的与f减去φ内积的形式
而根据
前面我们定义的那个内积的定义
我们知道
这个f减去φ的内积可以写成是
[a,b]闭区间上的一个积分的形式
后面这个表达式的形式
f和φ之间的
二范数的平方是一个
a到b区间一个积分的形式
其中这个rho(x)就是我们的权函数
如果我们进一步的记
这个二范数的平方
是一个新的函数S的话
那么我们发现
其实这个S是关于
未知量
c0, c1一直到cn的函数
那么这个时候我们就称这个S
括号里面c0
c1一直到cn为用φ
来去逼近F的一个平方误差
因此我们的问题现在变成是
求这个平方误差最小
那么这个平方误差它是一个关于
c0 c1一直到cn的一个函数
所以我们的优化问题转化为
求这个表达式里面这个系数
使得我们的这个平方误差
要达到最小
求解这个优化问题
因为这个S这个函数是一个凸函数
所以我们只需要用我们在高等数学里面
学的分别对C0
C1
Cn求导令它等于0
就可以把C0
C1,Cn求解出来
下面我们给出这个问题的求解方法
平方误差S的极小点
如果我们假设称为是C0星
c1星
还有cn星的话
那么它就应该满足
下面这个方程组
也就是对
s对ck求偏导另它等于0
其中k是从零一直到n
因此我们会得到n+1个等式
这n+1个等式就会组成一个
方程组
这个方程组里面的
未知量就是c0 c1 c2
cn
那么这个求导等于什么呢
我们来去看一下
当k确定之后
那么S对cK的导数
根据S的定义
我们发现就是后面这个表达式
我发现在这个积分里面被基函数
rho(x)
它跟ck没有关系
那么f(x)减去一个Sigma
J从0到n cj
然后φjx
这里面我们也只需要对ck
求导就可以了
那么fX那也是一个常数
对ck来说
所以说最后求导完了之后的结果
就是一个φk(x)
所以我们就把φk(x)写在外边
虽然最后这个积分的就写成这种形式
那么这个积分再根据我们前边带权
这个内积的定义
我们发现它实际上可以写成
下面这个内积的形式
也是f减去φ与φk的内积的形式
那么S对ck的导数等于零
现在就转化成了一个内积
就是f减去φ
与φk等于零的一个形式
那么这个时候k是确定的
那么我们的k要求是从零到n
所以说我们会得到n加一个等式
我们会得到n加一个等式
我们把这个内积的形式再进一步
写成φ
跟φk的内积
等于一个f与φk内积的形式
那么
这个形式
这个(1)式的左边
我们可以用求和的形式写出来
因为这个φ是由这么一个表达式
φk
是其中一个函数
所以说就可以写成(2)的形式
那么这个(2)的形式
我们可以进一步的在写成是一个
如下的
方程组的形式
那么这个方程组呢
我们就称之为是
我们这个连续函数
最小二乘逼近的
正规方程或者是法方程
那么因此在这个方程组
未知量是c0c1到cn
n加一个未知量
那么左侧的这个矩阵
在φ0
φ1一直φn确定的情况下
是已知的
那么右侧的这个列向量
F也是已知的
φ0 φ1 φn也是已知的
因此也是已知的
因此最后我们最后只需要求解
这个正规方程组或者是法方程组
就可以把我们的c0 c1 cn
求出来
c0,..cn先求出来
那么我们就可以求出我们这个φ来
那么最后我们这个拟合函数也就可以求出来
所以说最后
连续函数的最佳
平方逼近问题
就转化成了一个求解方程组的问题
但是在这里面
最关键的是要确定这个基函数
φ0 φ1
还有φn
也就是
确定这个函数子空间
φ0 φ1 φn到底应该取什么
下面我们通过一个例题
来去看这个求解过程
我们在这里面
我们假设我们这个φ
是为多项式空间
也就是我们上一节讲的那个
多项式空间的形式
也就是说
我们这个φ
是有一个最简单的
线性无关的
多项式1,x x的平方x的n次方张成的
然后呢
张成的
根据前面的知识
我们知道1,x,x的平方还有xn线性无关的
那么对于这个空间里面的
任何一个函数
φx它都有这么一个表达式
这个表达式就是一个多项式
那么求解
一个正规方程组二
就变成了求解这个多项式
里边的这个系数
那么
求出来之后
那么就可以写成是φx星
就等于c0星加上c1星
x加一直加到cn星
x的n次方的形式
那么下面呢
我们来看一个例子
给定一个函数fX等于根号下x
其中x是大于等于零
小于等于1
我们知道这个函数
实际上是一个弯曲的曲线
假设我们这个M为一个适当的
逼近空间
比如说就是刚才我们假设的
一个多项式空间
下面
我们就去在这个地方是空间里面
去构造一个
关于这个fx的一个最佳
平方逼近函数
现在呢
现在我们假设我们这个逼近空间
就是有1和x张成的
也就是φ0x取1
φ1x取x
那么这个权函数rho(x)我们就取1
那么我们的逼近函数自然就可以写成是
φx等于c0加c1X的一个形式
那同学们发现
其实这是一条直线
因此我们这个求解的结果
实际上就剩了一条直线
去拟合那个f(x)这个弯曲的曲线
那么根据正规方程组的写法
那么我们可以把φ0x
还有φ1x带到这个方程组里面去
分别就可以求出
根据内积的定义
我们就可以分别求出φj φk的内积
φ0
根据这个内积
由φjφj的内积的
公式我们就可以得出来
φ0与φ0内积等于1
φ1和φ0内积等于二分之一
φ1和φ1等于三分之一
φ0跟f的内积
是等于三分之二
φ1根f内积等于五分之二
因此这个方程组我们就可以写出来
那么这个方程组
是一个有两个未知量
因此是一个
二元一次方程组非常容易求解
最后我们能够得到它的结果
那么我也会我们会得到
c0星等于15分之4
c1星等于15分之二
因此我们就可以得到关于刚才
这个f(x)的一个最佳平方逼近元
就是15分之四加15分之二
这么一条直线
那么最后呢
我们来看一下这个逼近的效果
那么这个红色的曲线就是
当x取大于等于零小于等于一时根号下x
这条弯曲的曲线
那么我们求出的这个拟合的曲线
我们发现是一条直线蓝色的线
当然有同学可能会说我们能不能也
让这个拟合的曲线是一条曲线
那么这个时候它拟合效果就会好
我说当然可以
不过这个时候我们得需要
就是需要我们这个逼近空间
我们需要我们这个逼近空间要能够取到
x的平方才可以
它能够是一个二次函数
这是我们这个
连续函数的最佳平方逼近的部分
-1.1 引言
--1.1 引言
-1.2 算法与效率
-1.3 计算机数系与浮点运算
-1.4 误差与有效数字
-1.5 四则运算与函数求值的误差
-1.6 问题的性态与条件数
-1.7 算法数值稳定性
-第1章 作业
--第一章 作业
-2.1 引言 2.2 线性空间
-2.3 内积空间与元素的夹角
-2.4 赋范线性空间
-2.5 向量范数与向量序列极限
-2.6 矩阵范数
--2.6 矩阵范数
-第二章 作业
--第二章 作业
-3.1 引言
--3.1 引言
-3.3 不动点迭代法
--3.2 二分法
-3.4 不动点迭代法的收敛条件
-3.5 牛顿迭代法及其变形
-3.6 迭代法收敛阶
-3.7 重根的计算与加速收敛
-3.8 数值实验
--3.8 数值实验
-第3章 作业
--第3章 作业
-4.1 引言
--4.1 引言
-4.2 Lagrange插值
-4.3 Lagrange插值余项
-4.4 Newton差商插值
-4.5 Hermite插值
-4.6 分段多项式插值
-4.7 三次样条插值
-4.8 数值实验
--4.8 数值实验
-第4章 作业
--第4章 作业
-5.1 函数逼近与曲线拟合基本概念
-5.2 连续函数的最佳平方逼近
-5.3 曲线拟合的最小二乘法
-第5章 作业
--第5章 作业
-6.1 引言 6.2 高斯消元法
-6.3 矩阵分解与应用
-6.4 误差分析 6.5 数值实验
-第6章 作业
--第6章 作业
-7.1 引言 7.2 线性方程组的迭代法(上)
-7.2 线性方程组的迭代法
-7.3 非线性方程组的迭代法
-7.4 数值实验
--7.4 数值实验
-第7章 作业
--第7章 作业
-8.1 引言
--8.1 引言
-8.2 幂法与反幂法
-8.3 矩阵的正交分解
-8.4 QR方法
--8.4 QR方法
-8.5 Jacobi方法
-第8章 作业
--第8章 作业
-9.1 引言
-9.2 牛顿-柯特斯公式
-9.3 复合牛顿-柯特斯公式
-9.4 龙贝格算法
-9.5 高斯型求积公式
-9.6 数值微分
--9.6 数值微分
-10.1 引言
--10.1 引言
-10.2 梯形公式和改进的欧拉方法
-10.3 单步法的误差与稳定性收敛性
-10.4 高阶单步方法
-10.5 线性多步法
-10.6 多步法的误差与稳定性
-10.7 一阶微分方程组与高阶微分方程
-第10章 作业
--第10章 作业