当前课程知识点:概率论与数理统计 > 第7章 参数估计 > 似然原理与似然函数 > 拓展知识
极大似然估计具有一个简单而十分有用的性质,称为极大似然估计的不变性。
性质(似然估计的不变性)
1. 如果 \( \hat {\theta } \) 是参数 \( \theta
\) 的极大似然估计,则对任意的连续函数 \( g(\theta ) \),它的极大似然估计为 \( g(\hat
{\theta }) \)。
2. 如果 \( \hat {\theta }_1 ,\hat {\theta }_2 ,\ldots ,\hat {\theta }_l
\) 是参数 \( \theta _1 ,\theta _2 ,\ldots ,\theta _l
\) 的极大似然估计,则对任意的连续函数 \( h(\theta _1 ,\theta _2 ,\ldots ,\theta
_l ) \),它的极大似然估计为 \( h(\hat {\theta }_1 ,\hat {\theta }_2 ,\ldots ,\hat
{\theta }_l ) \)。
该性质可以使一些复杂结构的参数的极大似然估计的获得变得比较容易。请看下面两个例子。
例1 设 \( X_1 ,X_2 ,\ldots ,X_n \) 是来自正态总体 \( N(\mu ,\sigma
^2) \) 的样本,根据极大似然法可求得参数 \( \mu ,\sigma ^2 \) 的极大似然估计量为 \( \hat
{\mu }=\bar {X},\quad \hat {\sigma }^2=M_2^\ast
=\frac{1}{n}\sum\limits_{i=1}^n {(X_i -\bar {X})^2} \)。试求
1). 标准差 \( \sigma \) 的极大似然估计;
2). 概率 \( p=P\{X\le 3\} \) 的极大似然估计;
3). 参数 \( A \) 的极大似然估计,其中 \( P\{X>A\}=0.1 \)。
解:根据似然估计的不变性质,容易获得
1). 标准差 \( \sigma \) 的极大似然估计 \( \hat {\sigma }=\sqrt {\sigma ^2} =\sqrt {M_2^\ast } \) ;
2). 因为 \( p=P\{X\le 3\}=\Phi (\frac{3-\mu }{\sigma }) \),所以 \( \hat {p}=\Phi (\frac{3-\hat {\mu }}{\hat {\sigma }})=\Phi (\frac{3-\bar {X}}{\sqrt {M_2^\ast } }) \);
3). 因为 \( P\{X>A\}=0.1\quad \Leftrightarrow \quad P\{X\le A\}=0.9 \),那么参数 \( A \) 就是正态总体 \( N(\mu ,\sigma ^2) \) 的0.9分位数,由表达式 \( \Phi (\frac{A-\mu }{\sigma })=0.9 \) 解出 \( A=\mu +u_{0.9} \sigma \),其中 \( u_{0.9} \) 是标准正态分布 \( N(0,1) \) 的0.9分位数。
所以参数 \( A \) 的极大似然估计 \( \hat {A}=\hat {\mu }+u_{0.9} \hat {\sigma }=\bar
{X}+u_{0.9} \sqrt {M_2^\ast } \)。
\[
\hat {p}_1 \approx 1-e^{-10.39}(1+10.39)\approx 0.9997
\]
例2 一个罐子里装有黑、白两色球若干,有放回地抽取 \( n \) 次,抽得 \( k \) 个白球,试确定罐子里黑白球的比例 \( R \) 的极大似然估计 \( \hat
{R} \)。
解:记 \( p \) 为罐子中白球的比例,\( X_i =\left\{ {\begin{array}{ll}
1,& \mbox{第 i 次取到白球}\\
0,&\mbox{第 i 次取到黑球}\\
\end{array}} \right.\quad i=1,2,\cdots,n \)。
则 \( X_i \sim B(1,p),\quad i=1,2,\cdots,n \),故参数 \( p \) 的极大似然估计为 \( \hat
{p}=\bar {X} \)。
由于黑球数与白球数之比 \( R=\frac{n(1-p)}{np}=\frac{1-p}{p} \),根据极大似然估计的不变性,有
\[
\hat {R}=\frac{1-\hat {p}}{\hat {p}}=\frac{1-\bar {X}}{\bar
{X}}=\frac{n-k}{k}
\]
极大似然估计的不变性应用非常广泛,请大家通过例子加深理解。
-课程发展概况及概率的三要素
--讲义下载
--拓展知识
-第一章第一节测试题
-古典概率
--讲义下载
--拓展知识
-第一章第二节测试题
-几何概率
--讲义下载
--拓展知识
-第一章第三节测试题
-条件概率与乘法公式
--讲义下载
--拓展知识
-第一章第四节测试题
-全概率公式
--讲义下载
--拓展知识
-第一章第五节测试题
-贝叶斯公式
--讲义下载
--拓展知识
-第一章第六节测试题
-事件的独立性及应用
--讲义下载
--拓展知识
-第一章第七节测试题
-讨论
--“三门”问题
-第一章测试题
-随机变量及其分布
--讲义下载
--拓展知识
-第二章第一节测试题
-一类离散型随机变量的分布
--讲义下载
--拓展知识
-第二章第二节测试题
-泊松分布及泊松定理
--讲义下载
--拓展知识
-第二章第三节测试题
-均匀分布与指数分布
--讲义下载
--拓展知识
-第二章第四节测试题
-正态分布
--讲义下载
--拓展知识
-第二章第五节测试题
-连续型随机变量函数的分布
--讲义下载
--拓展知识
-第二章第六节测试题
-讨论
--分布之间关系
-第二章测试题
-多维随机变量及分布(一)
--讲义下载
--拓展知识
-第三章第一节测试题
-多维随机变量及分布(二)
--讲义下载
--拓展知识
-第三章第二节测试题
-边缘分布律和边缘密度
--讲义下载
--拓展知识
-第三章第三节测试题
-条件分布与随机变量的独立性
--讲义下载
--拓展知识
-第三章第四节测试题
-随机变量极值的分布
--讲义下载
--拓展知识
-第三章第五节测试题
-随机变量和的分布
--讲义下载
--拓展知识
-第三章第六节测试题
-数形结合求解函数的分布
--讲义下载
--拓展知识
-第三章第七节测试题
-讨论
--分布类的和不变性
-第三章测试题
-数学期望和方差的定义
--讲义下载
--拓展知识
-第四章第一节测试题
-数学期望和方差的应用
--讲义下载
--拓展知识
-第四章第二节测试题
-数学期望的线性性质及应用
--讲义下载
--拓展知识
-第四章第三节测试题
-方差的性质与协方差
--讲义下载
--拓展知识
-第四章第四节测试题
-标准化与相关系数
--讲义下载
--拓展知识
-第四章第五节测试题
-讨论
-第四章测试题
-大数定律
--课程讲义下载
--拓展知识
-第五章第一节测试题
-中心极限定理
--讲义下载
--拓展知识
-第五章第二节测试题
-讨论
--用电量的正态假设
-第五章测试题
-数理统计的基本概念
--讲义下载
--拓展知识
-第六章第一节测试题
-单样本均值统计量的分布
--讲义下载
--拓展知识
-第六章第二节测试题
-单样本方差统计量的分布
--讲义下载
--拓展知识
-第六章第三节测试题
-讨论
--保险损失分布
-第六章测试题
-什么是参数估计
--讲义下载
--拓展知识
-第七章第一节测试题
-矩估计
--讲义下载
--拓展知识
-第七章第二节测试题
-似然原理与似然函数
--讲义下载
--拓展知识
-第七章第三节测试题
-连续型分布的似然估计
--讲义下载
--拓展知识
-第七章第四节测试题
-一类离散总体的似然估计
--讲义下载
--拓展知识
-第七章第五节测试题
-区间估计
--讲义下载
--拓展知识
-第七章第六节测试题
-讨论
--湖中有多少条鱼?
-第七章测试题
-假设检验的基本原理
--讲义下载
--拓展知识
-第八章第一节测试题
-两类错误
--讲义下载
--拓展知识
-第八章第二节测试题
-正态总体均值的检验
--讲义下载
--拓展知识
-第八章第三节测试题
-正态总体方差的检验
--讲义下载
--拓展知识
-第八章第四节测试题
-卡方拟合检验
--讲义加载
--拓展知识
-第八章第五节测试题
-讨论
-第八章测试题
-一元线性回归(最小二乘估计)
--讲义下载
--拓展知识
-第九章第一节测试题
-一元线性回归(相关系数检验)
--讲义下载
--拓展知识
-第九章第二节测试题
-讨论
--火灾损失的因素
-第九章测试题