当前课程知识点:概率论与数理统计 > 第七章 参数估计 > 第1节 参数点估计 > 7.1.3 估计量的评选标准
大家好
今天我们继续学习第七章第一节
点估计的内容
从上一节看到,同一未知参数的
点估计结果并不唯一
于是我们自然会提出这样的问题
究竟哪一个估计的结果更好呢
这就涉及到估计量优良性的评选准则问题
在这一节中
我们介绍三种常见的评选准则
无偏性,有效性,一致性
首先来看无偏性的定义
若参数θ的估计量θ
满足期望为θ
则称
θ为θ的无偏估计量
这种性质称为无偏性
在科学技术中
θ的期望
减去θ称为以θ作为
θ估计的系统方差
无偏性的直观意义
就是
样本估计量的数值,在参数的真值附近摆动
且没有系统误差
即这些估计量的平均值等于
未知参数的真值
比如我们来看这个例题
设总体X的k阶矩
都存在
证明无论总体服从什么分布
样本矩Ak都是总体矩的无偏估计
要证明
样本矩是总体矩的无偏估计
我们只需求
样本矩的期望就可以
由于总体X和个体Xi的分布函数相同
所以
Xk次方的期望和Xi的k次方的期望都是相同的
因此
Ak的数学期望就等于
1/N,i从一到N,X的k次方的期望
根据期望的性质
我们可以对每个Xi的K次方求期望
又由于它们的期望都等于
总体矩的期望
所以
它等于σ/N
EX的K次方
恰好等于μk
因此样本矩是总体矩的无偏估计
我们再来看一个例子,设总体X的
二阶中心矩存在,DX等于σ²
样本方差S²是
σ²的无偏估计
首先,我们写出样本方差的定义
将它进行一个简单的化简就得到
下面这个式子,由于Xi的平方的期望
等于Xi的期望的平方
加上Xi的方差
等于μ²+σ²
X的平方的期望
同样等于
期望的平方
加上方差,等于μ²
加上σ²/N
所以,我们可以计算样本方差S²的期望
就等于N减一分之N,μ²加σ²
减去N减一分之Nμ²
加上N分之σ²
对它进行整理
化简
恰好等于σ²
因此,样本方差是总体方差的无偏估计
接下来我们来看这样的例题,设总体
X的均值和方差都存在,期望是μ
方差是σ²
X1X2是取自总体的一个样本
证明下面的三个估计量都是μ的
无偏估计量
根据无偏估计量的定义
我们只需要分别计算这三个估计量的期望
看看是否等于μ就可以
μ1的期望
根据期望的性质等于X1/4的期望
加上3X2/4的期望
而每个个体X1X2和总体同分布
它们的期望都等于总体均值μ
因此
μ1的期望
恰好就等于μ
同样的道理
我们可以计算μ2的期望
也等于μ
μ3的数学期望
也等于μ
从这个例子我们可以看出
无偏估计量
并不唯一
一般来说
一个参数的
无偏估计量通常有无穷多个
例如θ1和θ2
如果都是θ的无偏估计量,则它们的
线性组合𝒌𝜽𝟏+(𝟏−𝒌)𝜽𝟐 (𝟎<𝒌<𝟏)
也是θ的无偏估计量
估计量的无偏性保证了估计量的取值
在参数真值的周围波动
我们自然希望估计量的波动幅度越小越好
而方差恰好描述了随机变量的波动幅度
这样就有了下面我们要介绍的有效性
这一概念
设θ1和θ2是θ的两个
无偏估计量
如果它们的方差都存在而且满足
θ1的方差小于θ2的方差
我们就称θ1比θ2更有效
这种可以比较的性质叫做有效性
比如我们来看这个例题
设总体X均值和方差都存在
期望和方差分别是μ和σ²
X1和X2是取自总体的样本
判断下面三个无偏估计量哪个最有效
在刚才的例题中
我们已经证明了它们三个
都是μ的无偏估计量
那么它们哪一个更有效呢
这就需要我们依次来计算它们的方差
μ1的方差
根据方差的性质等于1/16D(x1)
加上9/16D(x2)
而D(x1)和D(x2)都等于
总体的方差σ²
因此结果等于5σ²/8
同样的方法
我们可以求得
后两个估计量的方差
分别是5σ²/9
和σ²/2
我们很容易比较出它们的大小
就是μ3的方差
小于μ2的方差,小于μ1的方差
因此,μ3是最有效的
除了刚才讲的无偏性和有效性之外
我们考虑估计量作为样本的函数
和样本的容量是有关系的
一个好的估计量应该是随着n的增大,
越来越接近于被估计参数的真实值
为此
我们引入一致性的概念
设的θn是参数θ的估计量
如果它依概率收敛到θ
即对任意的ε>0
由这个概率为零
我们就称θn
是θ的一致估计量或者称为
相合估计量
这种性质称为一致性或者相合性
下面我们来证明
如果总体X方差存在,则样本均值是
总体均值的一致估计量
根据一致估计量的定义
我们只需要来计算如下的概率
根据辛钦大数定律
对任意的ε大于零
有这个极限等于零
因此样本均值是总体均值的一致估计量
在这节课中我们学习了
估计量优良性的三个评选准则
无偏性就是没有系统误差
有效性就是估计量集中在真值附近
一致性就是估计量以概率收敛到真值
这次课我们就讲到这里,谢谢大家,再见。
-第1节 随机事件
--1.1 作业
-第2节 概率的定义和性质
--1.2 作业
-第3节 古典概型与几何概型
--1.3 作业
-第4节 条件概率
--1.4 作业
-第5节 随机事件的独立性
--1.5 作业
-本章测试
--第一章测试
-第1节 随机变量与分布函数
--2.1 作业
-第2节 离散型随机变量
--2.2 作业
-第3节 连续型随机变量
--2.3 作业
-第4节 随机变量函数的分布
--2.4 作业
-本章测试
--第二章测试
-第1节 二维随机向量及其分布函数
--3.1 作业
-第2节 二维离散型随机向量
--3.2 作业
-第3节 二维连续型随机向量
--3.3 作业
-第4节 条件分布与随机变量的独立性
--3.4 作业
-第5节 随机向量函数的分布
--3.5 作业
-本章测试
--第三章测试
-第1节 数学期望
--4.1 作业
-第2节 方差
--4.2 作业
-第3节 协方差和相关系数
--4.3 作业
-第4节 矩和协方差矩阵
-本章测试
--第四章测试
-第1节 大数定律
--5.1 作业
-第2节 中心极限定理
--5.2.2 De Moivre-Laplace 中心极限定理
--5.2 作业
-本章测试
--第五章测试
-第1节 数理统计的基本问题
-第2节 总体、样本和统计量
--6.2 作业
-第3节 抽样分布
--6.3 抽样分布
--6.3 作业
-第4节 抽样分布定理
--6.4 作业
-本章测试
--第六章测试
-第1节 参数点估计
--7.1 作业
-第2节 区间估计
--7.2 作业
-第3节 非正态总计参数的区间估计
--7.3 作业
-本章测试
--第七章测试
-第1节 假设检验的基本概念
--8.1 作业
-第2节 正态总体参数的假设检验
--8.2 作业
-第3节 非正态总体参数的假设检验
-本章测试
--第八章测试
-期末考试