当前课程知识点:概率论与数理统计 > 第十四周 参数点估计 > 参数点估计的无偏性和有效性 > 14.3 参数点估计的无偏性和有效性
参数的点估计可以通过多种方法实现
矩估计的基本想法是替换原理
用适当的统计量替换数字特征
从而解出用样本X1、X2、Xn表示的
未知参数的估计量
极大似然估计的基本想法
是用能够以最大概率
解释观测值的参数取值
作为未知参数的近似
这些方法的理论基础凭借的是
直觉上的合理性
由这些方法得到的多种可能的估计量
它们的优劣
很难从不同的估计方法本身
来加以区分
需要引入一些通用的检验标准
用以评价同一未知参数的
不同估计量的优劣性
常用的标准有无偏性和有效性
这两个指标
我们先给出无偏性的定义
设theta是被估参数
theta一尖是theta的一个估计量
theta一尖是X1、X2到Xn的函数
是一个随机变量
如果统计量theta一尖的期望
等于被估参数theta
则称theta一尖是参数theta的
无偏估计量
无偏性准则
是希望保证估计量没有系统偏差
对于泊松分布总体的参数lamda
样本均值X一拔和样本方差S方
都是参数lamda的无偏估计
样本均值的期望总等于总体期望
所以样本均值总是
总体期望的无偏估计量
同样 样本方差永远是
总体方差的无偏估计量
如果估计量theta1一尖的期望
等于c倍的theta
与参数theta只差一个常数倍
那可设theta一尖
等于c分之1乘theta1一尖
则theta一尖的期望等于theta
得到了参数theta的无偏估计量
theta一尖
通常称
这样得到的无偏估计theta一尖
为对估计量theta1一尖的无偏校正
设X1、X2、Xn是来自于区间
0、theta上的均匀总体的样本
直观上X1、X2到Xn的最大值
会比较接近参数theta
可验证X1、X2到Xn的
最大值函数的期望
等于n+1分之n倍的theta
下节课我们会证明这个结论
最大值函数
并不是参数theta的无偏估计
但是它的期望与theta
只差一个常数倍
因此给最大值函数
乘以一个常数n分之n+1
即可得到参数theta的无偏估计
也就是对有偏的估计量
样本的最大值函数进行了无偏校正
直观上n越大
X1、X2到Xn的最大值函数
对theta的估计就会越准确
而校正因子n分之n+1
当n越大的时候也越接近于1
二者是一致的
设theta1一尖和theta2一尖
都是参数theta的无偏估计
如果theta1一尖的方差
小于theta2一尖的方差
则称theta1一尖
比theta2一尖更有效
有效性准则希望估计量的方差尽可能小
也就是
围绕参数真实值波动的幅度越小越好
通过增加样本容量
可以提高估计的有效性
例如样本均值为总体期望的无偏估计
设样本容量为n
总体方差为sigma方
则样本均值的方差
等于n分之sigma方
样本容量n越大
则样本均值X一拔的方差越小
设总体X服从期望为mu
方差为sigma方的正态分布
X1、X2、X3、X4是一个样本
验证theta1一尖等于X一拔
theta2一尖
等于2X1加X2减X3减X4
以及theta3一尖
等于8分之3倍的X1加X2
再加8分之1倍的X3加X4
这3个统计量
均为参数mu的无偏估计量
并比较它们的有效性
无偏性的证明非常简单
样本均值的期望永远等于总体期望
theta2一尖的期望展开计算
也等于总体期望mu
同样将theta3一尖的
期望的求和式展开
也得到期望等于mu
再计算3个估计量的方差
利用样本的独立性
可计算出theta1一尖的方差
等于16分之1乘以4倍的总体方差
等于4分之sigma方
theta2一尖的方差
将各项展开
计算系数的平方和等于7
theta2一尖的方差
等于7倍的sigma方
theta3一尖的方差
等于16分之5倍的sigma方
Theta1一尖的方差最小
theta2一尖的方差最大
-随机试验与随机事件
-古典概型
--1.2 古典概型
--第一周:古典概型
-事件间的关系与事件的运算
--第一周:事件间的关系与事件的运算
-两个著名的例子
--第一周:两个著名的例子
-讲义
-条件概率
--2.1 条件概率
--第二周:条件概率
-有关条件概率的三个重要计算公式
--第二周:有关条件概率的三个重要计算公式
-事件的独立性
--第二周:事件的独立性
-应用实例
--2.4 应用实例
--第二周:应用实例
-网球比赛胜率的计算
--Video
-讲义
-随机变量及分布函数
--第三周:随机变量及分布函数
-离散型与连续型随机变量
--第三周:离散型与连续型随机变量
-分布函数的性质与特殊的例子
--第三周:分布函数的性质与特殊的例子
-概率论所需微积分要点回顾
--第三周:概率论所需微积分要点回顾
-讲义
-二项分布与负二项分布
--第四周:二项分布与负二项分布
-泊松分布
--4.2 泊松分布
--第四周:泊松分布
-几何分布与指数分布
--第四周:几何分布与指数分布
-正态分布
--4.4 正态分布
--第四周:正态分布
-讲义
-随机变量函数的分布
--第五周:随机变量函数的分布
-随机变量的数学期望
--第五周:随机变量的数学期望
-随机变量的方差
--第五周:随机变量的方差
-原点矩与中心矩
--第五周:原点矩与中心矩
-期望和方差的一些补充性质
--第五周:期望和方差的一些补充性质
-讲义
-二项分布与泊松分布的期望与方差
--第六周:二项分布与泊松分布的期望与方差
-几何分布的期望与方差
--第六周:几何分布的期望与方差
-均匀、指数和正态分布的期望与方差
--第六周:均匀、指数和正态分布的期望与方差
-随机变量数学期望的应用实例
--第六周:随机变量数学期望的应用实例
-快速排序算法的平均计算量分析
--Video
-讲义
-多维随机变量
-第七周:多维随机变量
-常见多维随机变量举例
--第七周:常见多维随机变量举例
-随机变量的独立性
--第七周:随机变量的独立性
-独立随机变量期望和方差的性质
--第七周:独立随机变量期望和方差的性质
-讲义
-条件分布
--8.1条件分布
--第八周:条件分布
-条件期望
--8.2 条件期望
--第八周:条件期望
-全期望公式(上)
--第八周:全期望公式(上)
-全期望公式(下)
--第八周:全期望公式(下)
-讲义
-随机变量函数的期望
--第九周:随机变量函数的期望
-协方差
--9.2 协方差
--第九周:协方差
-相关系数
-- 9.3 相关系数
--第九周:相关系数
-相关与独立
--第九周:相关与独立
-讲义
-独立随机变量和的分布
--第十周:独立随机变量和的分布
-独立正态分布和的分布
--第十周:独立正态分布和的分布
-最大值、最小值分布
--第十周:最大值、最小值分布
-顺序统计量
--第十周:顺序统计量
-讲义
-正态分布的相关与独立
--第十一周:正态分布的相关与独立
-边缘密度均为正态,联合分布不是二元正态的例子
--第十一周:边缘密度均为正态,联合分布不是二元正态的例子
-二项分布的正态近似
--第十一周:二项分布的正态近似
-正态近似计算实例
--第十一周:正态近似计算实例
-讲义
-大数定律
--12.1大数定律
--第十二周:大数定律
-中心极限定理
--第十二周:中心极限定理
-蒙特卡洛(Monte Carlo)算法
-伪随机数和随机模拟
-讲义
-统计学实例
-总体与样本
-常用统计量
--第十三周:常用统计量
-三种重要的统计分布和分位数
--第十三周:三种重要的统计分布和分位数
-讲义
-参数的矩估计
--第十四周:参数的矩估计
-参数的极大似然估计
--第十四周:参数的极大似然估计
-参数点估计的无偏性和有效性
--第十四周:参数点估计的无偏性和有效性
-参数点估计应用实例
--第十四周:参数点估计应用实例
-讲义
-区间估计的基本思想
--第十五周:区间估计的基本思想
-区间估计的构造方法
--第十五周:区间估计的构造方法
-两个正态总体的区间估计
--第十五周:两个正态总体的区间估计
-大样本置信区间
--第十五周:大样本置信区间
-讲义
-假设检验问题的提示和标准步骤
--第十六周:假设检验问题的提示和标准步骤
-假设检验问题的两类错误和P值
--第十六周:假设检验问题的两类错误和P值
-单个正态总体参数的假设检验
--第十六周:单个正态总体参数的假设检验
-拟合优度检验
--第十六周:拟合优度检验
-讲义
-利用条件概率计算网球比赛胜率
-利用期望的计算性质分析快速排序算法的平均计算量
-讲义
-事件
--事件
-分布函数
--分布函数
-正态
--正态
-指数与二项
--指数与二项
-随机变量函数的分布
-指数分布期望
--指数分布期望
-切比雪夫不等式
--切比雪夫
-二元离散
--二元离散
-协方差
--协方差
-二元特征
--二元特征
-统计量
--统计量
-无偏估计
--无偏估计
-点估计
--点估计
-假设检验
--假设检验
-选择
--选择
-填空
--填空
-大题
--大题