2.4 线性均方估计在线视频

同学们好

今天我们进行

现代数字信号处理中

线性最小均方估计方法的学习

主要分为三个部分

估计准则

估计矢量构造和估计量的性质.

那么我们开始第一部分

估计准则

在前面我们讲解了

贝叶斯估计和最大似然估计

贝叶斯估计需要知道估计量的

先验概率密度函数

最大似然估计需要知道

似然函数表达式

那么如果两者均未知的情况下

我们就可以采用

线性最小均方估计方法进行估计

线性最小均方估计方法仅需要知道

观测矢量和估计矢量的前二阶矩的知识

也就是均值矢量

协方差矩阵和互协方差矩阵

估计准则是要使估计量的均方误差最小

但需要限定估计量是观测量的线性函数

由于观测矢量和被估计量的

前二阶矩容易得到

所以应用广泛

另外估计的误差矢量与观测矢量正交

在随机信号处理中亦占有重要地位

线性最小均方误差方法的估计准则是

建立在线性观测方程的基础之上的

观测矢量可以用被估计量进行线性表示

所以被估计量亦可表达为

观测矢量的线性函数

这就是估计准则的第一个要求

整个线性均方估计就是为了

求此线性函数的两个重要参数a和B

a相当于直线方程中的截距

b相当于直线方程中的斜率

估计准则第二个要求是

估计矢量的均方误差最小

再求均方误差时可以用

误差矢量的转置

与误差矢量本身的乘积来表示

也可以用误差矢量

与误差矢量转置的乘积的矩阵迹来表示

Tr就表示矩阵迹

接下来讲述第二部分估计矢量构造

线性最小均方误差估计矢量的构造

需要已知被估计量的均值矢量

协方差矩阵以及观测信号矢量的均值矢量

协方差矩阵和估计矢量

与观测信号矢量的互协方差矩阵

利用第二个估计准则

对估计量的均方误差

关于矢量a求偏导并令其值均为0

通过公式可以看出

系数a和系数b是有关的

我们再利用第二个估计准则

对系数b求偏导

联合两个偏导公式可以得出

系数a和系数b的值

从而可以构造出

线性均方误差的估计量

介绍完估计矢量的构造方法

我们需要对第三部分

估计矢量本身的性质

进行进一步的研究

根据估计矢量第一条构造原则可以得出

估计矢量是观测矢量的线性函数

且是线性估计中的最佳估计

另外我们对估计矢量的无偏性

进行进一步的研究

结果表明

线性最小均方误差方法的估计量

满足无偏性

然后对估计矢量的均方误差阵

进行进一步的研究

发现任意线性估计矢量的均方误差阵

一般可以分为三个部分

前两部分均为非负定矩阵

最后一项为线性最小均方误差估计阵

因此我们得出

线性最小均方误差方法计算的

均方误差阵满足最小性

另外我们进一步的研究

估计的误差矢量与观测矢量的关系

通过研究它们之间的相关性

我们得出误差矢量与观测矢量正交

为了更清晰的表明正交性

我们通过一个图形进行展示

被估计量的真实值

估计值和误差值三者满足矢量三角形

且此矢量三角形为直角三角形

这就从侧面证明了

线性最小均方误差估计方法得出的

误差阵具有最小性

在贝叶斯估计中

当代价函数为均方误差函数时

估计方法称之为最小均方误差估计

而今天我们研究的内容为

线性最小均方误差估计

这两者之间的共同点

都是要求估计量的均方误差最小

但是最小均方误差估计

需要已知估计量的

一些先验概率密度函数

而线性最小均方误差估计方法

则只需知道估计量与观测量的

前2阶矩信息

另外最小均方误差估计

可以是非线性估计

线性最小均方误差估计

则必须限于线性估计

两者在一定条件下是可以同等的

等同的条件为

被估计矢量与线性观测模型下的

噪声矢量是互不相关的高斯随机矢量

好了 同学们

本节的讲解到此结束

谢谢