最小二乘法原理在线视频

我们来看看如何利用

最小二乘法 拟合方程组系数

首先我们来看线性方程拟合的基本原理

了解什么是最小二乘法

如何使用最小二乘法拟合线性方程

最小二乘法是一种数学优化技术

它最早称为回归分析法

由著名的英国生物学家

统计学家道尔顿（F. Gallton）所创

后来

回归分析法从其方法的数学原理

误差平方和最小

二乘是平方的意思 出发

改称为最小二乘法

在我们研究两个变量（x,y）之间的相互关系时

通常可以得到一系列成对的数据

比如像从（x1,y1.x2,y2...xn,yn）

如果将这些数据描绘在x-y直角坐标系中

会发现这些点在一条直线附近

可以令这条直线方程为

这条直接也就是拟合直线

y’为拟合值

为建立这直线方程就要确定a0和a1

大家思考一下

拟合直线可能有很多条

如何找到最优的那一条直线呢

最小二乘法就是一种数学优化技术

其目的就是要找到最优的那条直线

找到最优直线需要满足什么条件呢

我们来看

如果某条直线能够使得

实际观测值y与回归值y’之差的绝对值

也就是误差之和达到最小

那么这条直线肯定是最优直线

绝对值之和最小

也可表达为误差平方和Q达到最小值

这就是最优解需要满足的条件

我们知道了最优直线需要满足的条件

那我们如何求解这条最优直线方程呢

也即如何求解a0 a1值呢

Q值可以表示为

我们知道

它取极值的条件为

满足偏导数等于0条件

也就是说 在这种条件下Q可取得极值

所以我们通过解方程组

求解a0 a1值

这是方程组的表达形式

在这个方程组当中

n是实际观测值的个数

xi yi分别对应每次的观测数值

需解算的方程组也可以表达为矩阵的形式

形式是这样的

那么在这个矩阵方程组当中 通过解算出a0 a1

即可建立直线方程

这个方程就是我们搜寻的最优方程

我们再来看一看

利用最小二乘法解算多项式系数

在遥感图像的多项式纠正过程中

和上面介绍的直线拟合相比

基本原理是一样的

我们这里需要求解的是x,y

组成二维空间的最优平面

需要求解的参数比最优直线的要多

以二元二次多项式为例 寻找最优曲面

需要满足误差平方和 Q 达到最小值

它需要满足来自x和y方面的两个条件

在解算二元二次多项式系数过程中

需要确立6个a系数和6个b系数

根据最优拟合方程的基本条件

需要满足偏导数等于零的条件

因此联立起来可以建立方程组

可以看出

解算6个a参数

需要解算由各个a参数组成的方程组

解算6个b参数

需要解算由各个b参数组成的方程组

利用最小二乘法解算二元二次多项式系数

求解6个a参数的方程组

表示为矩阵形式是这样的

在这个方程组当中 N为控制点的个数

（x, y）为待纠正图像的原始坐标

(X, Y)为纠正后图像的地图坐标

aij (i j = 0 1 2 )这是纠正函数的系数

解6个b参数的方程组

表示为矩阵形式

N为控制点的个数

（x, y）为待纠正图像的原始坐标

(X, Y)为纠正后图像的地图坐标

bij, (i, j = 0, 1, 2)为纠正函数的系数

在计算机处理过程中

当采集完地面控制点后

这些方程求解很快

通过矩阵运算 高效完成

可以迅速求解我们需要的系数