当前课程知识点:计算方法 >  第5章 函数逼近与曲线拟合 >  5.2 连续函数的最佳平方逼近 >  5.2 连续函数的最佳平方逼近

返回《计算方法》慕课在线视频课程列表

5.2 连续函数的最佳平方逼近在线视频

下一节:5.3 曲线拟合的最小二乘法

返回《计算方法》慕课在线视频列表

5.2 连续函数的最佳平方逼近课程教案、知识点、字幕

我们现在讲解第二小节

连续函数的最佳平方逼近问题

在这小节里面我会讲三个问题

第一

连续函数最佳平方逼近问题是什么

第二个

最佳平方逼近问题的求解

以及一个例题

我们先来看一下什么是

连续函数的最佳平方逼近问题

假设有一个函数

是在一[a,b]闭区间上连续函数

这个函数

我们假设是已知的

然后呢

同时还假设φ0x φ1x

一直到φnx

也是在

[a,b]闭区间上的一个

已知的线性无关的函数组

那么这个函数组张成的空间Psi

我们是逼近函数f的函数类

那么现在

连续函数的最佳平方逼近问题

就是需要在

这个函数类Psi上找一个函数

φ*x使得

f(x)减去φ(x)

在二范数意义下能够达到最小

于是

下面这个优化问题

这个优化问题的意思是

φ*是使得

f(x)减去的φ(x)的2范数

达到最小的那个函数

那么这个问题的解我们就称

是连续函数f(x)在闭区间【a,b】

上的最佳平方逼近函数

那么我现在呢

我们要把这个问题转化成为一个优化问题

我们已经知道需要求一个φ*x

它的表达是呢

是需要写成是Sigma

这从0到n, cj

然后φj

x的形式

那么它要满足下面这个

优化问题

其中这个φ(x)

等于

刚才那个空间里面的

基函数的线性组合的形式

根据二范数与内积的定义

我们知道f减去φ

的二范数的平方可以写成f减去φ

的与f减去φ内积的形式

而根据

前面我们定义的那个内积的定义

我们知道

这个f减去φ的内积可以写成是

[a,b]闭区间上的一个积分的形式

后面这个表达式的形式

f和φ之间的

二范数的平方是一个

a到b区间一个积分的形式

其中这个rho(x)就是我们的权函数

如果我们进一步的记

这个二范数的平方

是一个新的函数S的话

那么我们发现

其实这个S是关于

未知量

c0, c1一直到cn的函数

那么这个时候我们就称这个S

括号里面c0

c1一直到cn为用φ

来去逼近F的一个平方误差

因此我们的问题现在变成是

求这个平方误差最小

那么这个平方误差它是一个关于

c0 c1一直到cn的一个函数

所以我们的优化问题转化为

求这个表达式里面这个系数

使得我们的这个平方误差

要达到最小

求解这个优化问题

因为这个S这个函数是一个凸函数

所以我们只需要用我们在高等数学里面

学的分别对C0

C1

Cn求导令它等于0

就可以把C0

C1,Cn求解出来

下面我们给出这个问题的求解方法

平方误差S的极小点

如果我们假设称为是C0星

c1星

还有cn星的话

那么它就应该满足

下面这个方程组

也就是对

s对ck求偏导另它等于0

其中k是从零一直到n

因此我们会得到n+1个等式

这n+1个等式就会组成一个

方程组

这个方程组里面的

未知量就是c0 c1 c2

cn

那么这个求导等于什么呢

我们来去看一下

当k确定之后

那么S对cK的导数

根据S的定义

我们发现就是后面这个表达式

我发现在这个积分里面被基函数

rho(x)

它跟ck没有关系

那么f(x)减去一个Sigma

J从0到n cj

然后φjx

这里面我们也只需要对ck

求导就可以了

那么fX那也是一个常数

对ck来说

所以说最后求导完了之后的结果

就是一个φk(x)

所以我们就把φk(x)写在外边

虽然最后这个积分的就写成这种形式

那么这个积分再根据我们前边带权

这个内积的定义

我们发现它实际上可以写成

下面这个内积的形式

也是f减去φ与φk的内积的形式

那么S对ck的导数等于零

现在就转化成了一个内积

就是f减去φ

与φk等于零的一个形式

那么这个时候k是确定的

那么我们的k要求是从零到n

所以说我们会得到n加一个等式

我们会得到n加一个等式

我们把这个内积的形式再进一步

写成φ

跟φk的内积

等于一个f与φk内积的形式

那么

这个形式

这个(1)式的左边

我们可以用求和的形式写出来

因为这个φ是由这么一个表达式

φk

是其中一个函数

所以说就可以写成(2)的形式

那么这个(2)的形式

我们可以进一步的在写成是一个

如下的

方程组的形式

那么这个方程组呢

我们就称之为是

我们这个连续函数

最小二乘逼近的

正规方程或者是法方程

那么因此在这个方程组

未知量是c0c1到cn

n加一个未知量

那么左侧的这个矩阵

在φ0

φ1一直φn确定的情况下

是已知的

那么右侧的这个列向量

F也是已知的

φ0 φ1 φn也是已知的

因此也是已知的

因此最后我们最后只需要求解

这个正规方程组或者是法方程组

就可以把我们的c0 c1 cn

求出来

c0,..cn先求出来

那么我们就可以求出我们这个φ来

那么最后我们这个拟合函数也就可以求出来

所以说最后

连续函数的最佳

平方逼近问题

就转化成了一个求解方程组的问题

但是在这里面

最关键的是要确定这个基函数

φ0 φ1

还有φn

也就是

确定这个函数子空间

φ0 φ1 φn到底应该取什么

下面我们通过一个例题

来去看这个求解过程

我们在这里面

我们假设我们这个φ

是为多项式空间

也就是我们上一节讲的那个

多项式空间的形式

也就是说

我们这个φ

是有一个最简单的

线性无关的

多项式1,x x的平方x的n次方张成的

然后呢

张成的

根据前面的知识

我们知道1,x,x的平方还有xn线性无关的

那么对于这个空间里面的

任何一个函数

φx它都有这么一个表达式

这个表达式就是一个多项式

那么求解

一个正规方程组二

就变成了求解这个多项式

里边的这个系数

那么

求出来之后

那么就可以写成是φx星

就等于c0星加上c1星

x加一直加到cn星

x的n次方的形式

那么下面呢

我们来看一个例子

给定一个函数fX等于根号下x

其中x是大于等于零

小于等于1

我们知道这个函数

实际上是一个弯曲的曲线

假设我们这个M为一个适当的

逼近空间

比如说就是刚才我们假设的

一个多项式空间

下面

我们就去在这个地方是空间里面

去构造一个

关于这个fx的一个最佳

平方逼近函数

现在呢

现在我们假设我们这个逼近空间

就是有1和x张成的

也就是φ0x取1

φ1x取x

那么这个权函数rho(x)我们就取1

那么我们的逼近函数自然就可以写成是

φx等于c0加c1X的一个形式

那同学们发现

其实这是一条直线

因此我们这个求解的结果

实际上就剩了一条直线

去拟合那个f(x)这个弯曲的曲线

那么根据正规方程组的写法

那么我们可以把φ0x

还有φ1x带到这个方程组里面去

分别就可以求出

根据内积的定义

我们就可以分别求出φj φk的内积

φ0

根据这个内积

由φjφj的内积的

公式我们就可以得出来

φ0与φ0内积等于1

φ1和φ0内积等于二分之一

φ1和φ1等于三分之一

φ0跟f的内积

是等于三分之二

φ1根f内积等于五分之二

因此这个方程组我们就可以写出来

那么这个方程组

是一个有两个未知量

因此是一个

二元一次方程组非常容易求解

最后我们能够得到它的结果

那么我也会我们会得到

c0星等于15分之4

c1星等于15分之二

因此我们就可以得到关于刚才

这个f(x)的一个最佳平方逼近元

就是15分之四加15分之二

这么一条直线

那么最后呢

我们来看一下这个逼近的效果

那么这个红色的曲线就是

当x取大于等于零小于等于一时根号下x

这条弯曲的曲线

那么我们求出的这个拟合的曲线

我们发现是一条直线蓝色的线

当然有同学可能会说我们能不能也

让这个拟合的曲线是一条曲线

那么这个时候它拟合效果就会好

我说当然可以

不过这个时候我们得需要

就是需要我们这个逼近空间

我们需要我们这个逼近空间要能够取到

x的平方才可以

它能够是一个二次函数

这是我们这个

连续函数的最佳平方逼近的部分

计算方法课程列表:

第1章 计算方法概论

-1.1 引言

--1.1 引言

-1.2 算法与效率

--1.2 算法与效率

-1.3 计算机数系与浮点运算

--1.3 计算机数系与浮点运算

-1.4 误差与有效数字

--1.4 误差与有效数字

-1.5 四则运算与函数求值的误差

--1.5 四则运算与函数求值的误差

-1.6 问题的性态与条件数

--1.6 问题的性态与条件数

-1.7 算法数值稳定性

--1.7 算法数值稳定性

-第1章 作业

--第一章 作业

第2章 数值计算的理论基础

-2.1 引言 2.2 线性空间

--2.1 引言 2.2 线性空间

-2.3 内积空间与元素的夹角

--2.3 内积空间与元素的夹角

-2.4 赋范线性空间

--2.4 赋范线性空间

-2.5 向量范数与向量序列极限

--2.5 向量范数与向量序列极限

-2.6 矩阵范数

--2.6 矩阵范数

-第二章 作业

--第二章 作业

第3章 非线性方程求根

-3.1 引言

--3.1 引言

-3.3 不动点迭代法

--3.2 二分法

--3.3 不动点迭代法

-3.4 不动点迭代法的收敛条件

--3.4 不动点迭代法的收敛条件

-3.5 牛顿迭代法及其变形

--3.5 牛顿迭代法及其变形

-3.6 迭代法收敛阶

--3.6 迭代法收敛阶

-3.7 重根的计算与加速收敛

--3.7 重根的计算与加速收敛

-3.8 数值实验

--3.8 数值实验

-第3章 作业

--第3章 作业

第4章 插值法

-4.1 引言

--4.1 引言

-4.2 Lagrange插值

--4.2 Lagrange插值

-4.3 Lagrange插值余项

--4.3 Lagrange插值余项

-4.4 Newton差商插值

--4.4 Newton差商插值

-4.5 Hermite插值

--4.5 Hermite插值

-4.6 分段多项式插值

--4.6 分段多项式插值

-4.7 三次样条插值

--4.7 三次样条插值

-4.8 数值实验

--4.8 数值实验

-第4章 作业

--第4章 作业

第5章 函数逼近与曲线拟合

-5.1 函数逼近与曲线拟合基本概念

--5.1 函数逼近与曲线拟合基本概念

-5.2 连续函数的最佳平方逼近

--5.2 连续函数的最佳平方逼近

-5.3 曲线拟合的最小二乘法

--5.3 曲线拟合的最小二乘法

-第5章 作业

--第5章 作业

第6章 线性方程组的直接解法

-6.1 引言 6.2 高斯消元法

--6.1 引言 6.2 高斯消元法

-6.3 矩阵分解与应用

--6.3 矩阵分解与应用

-6.4 误差分析 6.5 数值实验

--6.4 误差分析 6.5 数值实验

-第6章 作业

--第6章 作业

第7章 线性方程组的迭代解法

-7.1 引言 7.2 线性方程组的迭代法(上)

--7.1 引言 7.2 线性方程组的迭代法(上)

-7.2 线性方程组的迭代法

--7.2 线性方程组的迭代法(中)

--7.2 线性方程组的迭代法(下)

-7.3 非线性方程组的迭代法

--7.3 非线性方程组的迭代法

-7.4 数值实验

--7.4 数值实验

-第7章 作业

--第7章 作业

第8章 特征值与特征向量

-8.1 引言

--8.1 引言

-8.2 幂法与反幂法

--8.2 幂法与反幂法(上)

--8.2 幂法与反幂法(中)

--8.2 幂法与反幂法(下)

-8.3 矩阵的正交分解

--8.3 矩阵的正交分解

-8.4 QR方法

--8.4 QR方法

-8.5 Jacobi方法

--8.5 Jacobi方法

-第8章 作业

--第8章 作业

第9章 数值积分与数值微分

-9.1 引言

--9.1 引言(上)

--9.1 引言(下)

-9.2 牛顿-柯特斯公式

--9.2 牛顿-柯特斯公式

-9.3 复合牛顿-柯特斯公式

--9.3 复合牛顿-柯特斯公式(上)

--9.3 复合牛顿-柯特斯公式(下)

-9.4 龙贝格算法

--9.4 龙贝格算法

-9.5 高斯型求积公式

--9.5 高斯型求积公式(上)

--9.5 高斯型求积公式(下)

-9.6 数值微分

--9.6 数值微分

第10章 常微分方程初值问题的数值解法

-10.1 引言

--10.1 引言

-10.2 梯形公式和改进的欧拉方法

--10.2 梯形公式和改进的欧拉方法

-10.3 单步法的误差与稳定性收敛性

--10.3 单步法的误差与稳定性收敛性

-10.4 高阶单步方法

--10.4 高阶单步方法

-10.5 线性多步法

--10.5 线性多步法

-10.6 多步法的误差与稳定性

--10.6 多步法的误差与稳定性

-10.7 一阶微分方程组与高阶微分方程

--10.7 一阶微分方程组与高阶微分方程

-第10章 作业

--第10章 作业

5.2 连续函数的最佳平方逼近笔记与讨论

也许你还感兴趣的课程:

© 柠檬大学-慕课导航 课程版权归原始院校所有,
本网站仅通过互联网进行慕课课程索引,不提供在线课程学习和视频,请同学们点击报名到课程提供网站进行学习。