2.1 估计量的性质在线视频

同学们好

我是来自西安工程大学

电子信息学院的张老师

首先我们介绍一下

本课程第二章的内容

现代信号处理参数估计理论

今天我们主要学习的是第一节

估计量的性质

主要分为三个部分来学习

估计子

估计子的性能以及Fisher信息

和Cramer-Rao不等式

第一部分 估计子

首先我来看一张加性噪声情况下的

信息传输系统模型图

此模型图展示了整个信号处理的流程

在接收设备中

我们通常要对所接受的信号

进行匹配滤波

提高回波的信噪比

然后利用检测方法

对接收信号进行检测

再利用参数估计方法对接收信号的参量

进行相应的估计

所以信号检测和信号参量估计

是整个信号处理中的两大支柱

另外我们再来看一下

基本估计理论的模型

此模型中最为重要的是

概率转移机构及估计准则

那么概率转移机构表明了

接收信号并不仅仅是

发射信号所包含的信息

还包括介质中噪声

及干扰随机性的映射

在接收信号模型中含有目标的

一些估计未知参量信息

所以整个估计理论就是要

利用观测值对未知参量去进行估计

通常把一个真实参数的

估计方法或估计值称为估计子

接下来我们进行第二部分

估计子的性能学习

不同的估计方法会获得不同的估计量

比如不同的代价函数

可以构造出不同的贝叶斯估计量

而若要对这些估计量进行相应的评价

就必须研究估计子的性能

在实际环境中估计量与观测量有关

由于观测量本身具有随机性

所以我们需要采用统计学的知识

来研究估计量的性质

目前估计子的主要性质

包括无偏性和有效性

无偏性其实就是应用概率论中

随机变量的期望来衡量估计量

当随机变量的期望与估计量的

真实值相等时

就认为此估计量是无偏的

在实际的信号处理中

估计量本身并不完全是无偏的

它受到多种环境的影响

尤其是获取的样本大小

从实际生活经验中我们可以知道

在大样本情况下

估计量更接近于真实值

而在实际信号中

我们无法获知足够多的样本

因此我们采用

渐进无偏性来衡量估计量

而渐进无偏性就是估计量的均值

在样本趋近于无穷大时

等于参量的真实值

衡量估计量的另一个性质是有效性

就是表示估计量与真实值的偏差程度

我们用概率论中的方法

进行相应的表示

如PPT上的公式

若通过估计方法1

得出的估计量的方差

小于估计方法2得出的方差

我们就认为估计方法1更为有效

从目前的估计理论的发展情况看

被估计量的任意无偏估计值的方差

都不能低于克拉美-罗界

所以我们通常用克拉美-罗界

来衡量一种估计方法的有效性

克拉美-罗界也就相当于

检测理论中的理想检测曲线

那么接下来我们学习第三部分

学习克拉-美罗界

我们首先要了解品质函数的概念

以及Fisher信息的概念

品质函数就是条件分布密度函数的对数

相对于估计参数的偏导数

由于是无偏估计

所以品质函数的均值为零

品质函数的方差

我们称之为Fisher信息

定义完Fisher信息和品质函数

我们就可以进入到克拉美-罗界的学习

克拉美-罗界包含非随机参量和随机参量

两个方面的估计

克拉美-罗界的前提是

估计量本身满足无偏性

且已知观测信号的似然函数

对于非随机参量而言

估计量的方差不能小于Fisher信息的导数

这就是著名的克拉美罗界不等式

Fisher信息的导数即为克拉美-罗界

它的意义就是通常我们用品质函数

是否是估计误差的线性函数

来判断此估计量是否满足克拉美-罗界

从而判断此估计量是否有效

那么对于随机参量估计而言

它的克拉美-罗界

与非随机参量的克拉美-罗界相似

都是Fisher信息的导数

区别是随机参量的似然函数

与非随机参量的似然函数不同

我们通常用联合概率密度

来表达随机参量的似然函数

用条件概率密度

来表达非随机参量的似然函数

好了

同学们

本节的讲解到此结束

谢谢