当前课程知识点:概率论与数理统计 > 第五周:随机变量函数的分布及随机变量的数字特征 > 期望和方差的一些补充性质 > 5.5 期望和方差的一些补充性质
X为一随机变量
对所有的实数c
c=E(X)使(X-c)的
平方的期望达到最小
下面证明这个结论
将X-c拆分为X - E(X)
加E(X)减c
[X - E(X)]加[E(X)减c]的平方
展开等于[X - E(X)]的平方
加[E(X)减c]的平方
再加2乘以[X - E(X)]
乘[E(X)减c]
总的期望等于
[X - E(X)]的平方的期望
加[E(X)减c]的平方的期望
因为[E(X)减c]为常数
这一项就等于
[E(X)减c]的平方
再加2乘以[X - E(X)]
乘[E(X)减c]的期望
最后一项提出
常数2倍的[E(X)减c]
剩下为X减E(X)的期望
等于X的期望
减去X的期望等于0
所以(X-c)平方的期望
等于[X - E(X)]平方的期望
加[E(X)减c]的平方
因为[X - E(X)]平方的期望
由X唯一决定
所以当c=E(X)时
(X-c)平方的期望达到最小
就等于随机变量X的方差
平方偏差达到最小
通常称为最小二乘
这一性质的直观含义
是平均意义下
与随机变量X
平方偏差最小的常数
是其期望
用平方偏差刻画差异的话
随机变量的期望
就是与随机变量X
偏差最小的常数
求区间a,b上取值的
所有随机变量中
方差可能达到的最大值
并给出取到最大方差的随机变量
利用期望的最小二乘性质
[X - E(X)]平方的期望
小于等于任意(X-c)平方的期望
特别地
取c等于2分之(a+b)
则X的方差
[X - E(X)]平方的期望
小于等于
(X 减去2分之(a+b))平方的期望
因为当X等于b或者a时
(X 减去2分之(a+b))平方
达到最大
所以(X 减去2分之(a+b))的平方
的期望小于等于
(b 减去2分之(a+b))的平方的期望
也小于等于
(a 减去2分之(a+b))的平方的期望
而后两个期望都是常数的期望
且相等
等于(2分之(b-a))的平方
其中第一个小于等于号
当E(X)等于2分之(a+b)时
取等号
第二个小于等于号
若取等号X必须或者等于a
或者等于b
即X以概率1取值为a或b
也就是X=a的概率
加X=b的概率等于1
同时满足上面两个等式条件
即得到达到最大方差
(2分之(b-a))的平方的条件是
X=a的概率等于X=b的概率
等于2分之1
即区间a,b上取值的所有随机变量中
各以2分之1概率
取值在两个端点的随机变量
其方差最大
也就是取值最分散
对于任意正数ε
随机变量X
减去它的期望的绝对值
不小于ε的概率
小于等于随机变量X的方差
除以ε的平方
也就是随机变量X
与其期望E(X)
偏差超过ε的概率
不超过随机变量X的方差
除以ε的平方
这就是概率论中
著名的Chebyshev不等式
这里
我们只对连续型随机变量
给出证明
X减去E(X)的绝对值
大于等于ε的概率
等于密度函数f(x)
在满足x减去E(X)的绝对值
大于等于ε的
所有x组成的集合D上的积分
此时(x减去E(X))的平方
均大于等于ε的平方
即[ε分之(x减去E(X))] 的平方
大于等于1
所以f(x)在D上的积分
小于等于
ε分之(x减去E(X))的平方
乘以f(x)在D上的积分
小于等于
ε分之(x减去E(X))的平方
乘以f(x)从负无穷到正无穷积分
等于ε平方分之
(X减去E(X))的平方的期望
等于ε平方分之X的方差
切比雪夫不等式
可以给出随机变量的
取值与其均值
不同程度偏离的概率的估计
例如 由切比雪夫不等式
可知对任意随机变量
其取值在期望的
正负2倍标准差之内的概率
一定不小于3/4
将一枚均匀的硬币
独立地抛掷100次
用切比雪夫不等式估计
得到正面次数
在40-60次之间的概率
至少为多少
设投掷100次硬币
得到正面的次数为随机变量X
则X服从参数为100
2分之1的二项分布
X的期望等于50
方差等于25
X小于60大于40的概率
等于(X-50)
即(X-E(X))的绝对值
小于10的概率
等于1减去(X-E(X))的绝对值
大于等于10的概率
根据切比雪夫不等式
(X-E(X))的绝对值
大于等于10的概率
小于等于10平方分之X的方差
所以X小于60大于40的概率
大于等于
1减去10平方分之X的方差
等于0.75
若随机变量X的方差为0
则X以概率1等于一个常数
反之 若随机变量X以概率1
等于一个常数
则X的方差等于0
这里利用切比雪夫不等式
给出一个解释
若X的方差为0
则对任意正整数n
均有X减去E(X)的绝对值
大于等于n分之1的概率
小于等于n平方
乘以X的方差等于0
因为n为任意正整数
当n趋于无穷时
1/n可以任意小
所以随机变量X与E(X)
偏差超过任意小的正数的概率
均为0
即X以概率1等于E(X)
也就是一个常数
随机变量的期望存在
要求对x的绝对值求和
或积分有界
并不是所有随机变量
都存在期望
例如柯西分布随机变量X
柯西分布随机变量
有两个参数λ和μ
其密度函数等于
pi乘以λ平方
加x减去μ平方分之λ
x属于整个实数集合
可以验证f(x)非负
且在负无穷
到正无穷积分等于1
所以f(x)是一个合理的
密度函数
计算λ等于1
和μ等于0参数下
柯西分布的期望
由于x的绝对值
乘以f(x)
从负无穷到正无穷积分
趋于无穷 即无界
所以随机变量X不存在期望
定义一个
离散型随机变量X
其取值为所有正整数
其中X=k的概率为
k方pi方分之6
因为1加2平方分之1
加3平方分之1一直加下去
的极限等于6分之pi方
所以X=k的概率总和为1
X定义了一个合理的
离散型随机变量
而考察k乘以X=k的概率
对k=1到无穷求和
这一求和是发散的
趋于无穷
所以随机变量X的期望不存在
-随机试验与随机事件
-古典概型
--1.2 古典概型
--第一周:古典概型
-事件间的关系与事件的运算
--第一周:事件间的关系与事件的运算
-两个著名的例子
--第一周:两个著名的例子
-讲义
-条件概率
--2.1 条件概率
--第二周:条件概率
-有关条件概率的三个重要计算公式
--第二周:有关条件概率的三个重要计算公式
-事件的独立性
--第二周:事件的独立性
-应用实例
--2.4 应用实例
--第二周:应用实例
-网球比赛胜率的计算
--Video
-讲义
-随机变量及分布函数
--第三周:随机变量及分布函数
-离散型与连续型随机变量
--第三周:离散型与连续型随机变量
-分布函数的性质与特殊的例子
--第三周:分布函数的性质与特殊的例子
-概率论所需微积分要点回顾
--第三周:概率论所需微积分要点回顾
-讲义
-二项分布与负二项分布
--第四周:二项分布与负二项分布
-泊松分布
--4.2 泊松分布
--第四周:泊松分布
-几何分布与指数分布
--第四周:几何分布与指数分布
-正态分布
--4.4 正态分布
--第四周:正态分布
-讲义
-随机变量函数的分布
--第五周:随机变量函数的分布
-随机变量的数学期望
--第五周:随机变量的数学期望
-随机变量的方差
--第五周:随机变量的方差
-原点矩与中心矩
--第五周:原点矩与中心矩
-期望和方差的一些补充性质
--第五周:期望和方差的一些补充性质
-讲义
-二项分布与泊松分布的期望与方差
--第六周:二项分布与泊松分布的期望与方差
-几何分布的期望与方差
--第六周:几何分布的期望与方差
-均匀、指数和正态分布的期望与方差
--第六周:均匀、指数和正态分布的期望与方差
-随机变量数学期望的应用实例
--第六周:随机变量数学期望的应用实例
-快速排序算法的平均计算量分析
--Video
-讲义
-多维随机变量
-第七周:多维随机变量
-常见多维随机变量举例
--第七周:常见多维随机变量举例
-随机变量的独立性
--第七周:随机变量的独立性
-独立随机变量期望和方差的性质
--第七周:独立随机变量期望和方差的性质
-讲义
-条件分布
--8.1条件分布
--第八周:条件分布
-条件期望
--8.2 条件期望
--第八周:条件期望
-全期望公式(上)
--第八周:全期望公式(上)
-全期望公式(下)
--第八周:全期望公式(下)
-讲义
-随机变量函数的期望
--第九周:随机变量函数的期望
-协方差
--9.2 协方差
--第九周:协方差
-相关系数
-- 9.3 相关系数
--第九周:相关系数
-相关与独立
--第九周:相关与独立
-讲义
-独立随机变量和的分布
--第十周:独立随机变量和的分布
-独立正态分布和的分布
--第十周:独立正态分布和的分布
-最大值、最小值分布
--第十周:最大值、最小值分布
-顺序统计量
--第十周:顺序统计量
-讲义
-正态分布的相关与独立
--第十一周:正态分布的相关与独立
-边缘密度均为正态,联合分布不是二元正态的例子
--第十一周:边缘密度均为正态,联合分布不是二元正态的例子
-二项分布的正态近似
--第十一周:二项分布的正态近似
-正态近似计算实例
--第十一周:正态近似计算实例
-讲义
-大数定律
--12.1大数定律
--第十二周:大数定律
-中心极限定理
--第十二周:中心极限定理
-蒙特卡洛(Monte Carlo)算法
-伪随机数和随机模拟
-讲义
-统计学实例
-总体与样本
-常用统计量
--第十三周:常用统计量
-三种重要的统计分布和分位数
--第十三周:三种重要的统计分布和分位数
-讲义
-参数的矩估计
--第十四周:参数的矩估计
-参数的极大似然估计
--第十四周:参数的极大似然估计
-参数点估计的无偏性和有效性
--第十四周:参数点估计的无偏性和有效性
-参数点估计应用实例
--第十四周:参数点估计应用实例
-讲义
-区间估计的基本思想
--第十五周:区间估计的基本思想
-区间估计的构造方法
--第十五周:区间估计的构造方法
-两个正态总体的区间估计
--第十五周:两个正态总体的区间估计
-大样本置信区间
--第十五周:大样本置信区间
-讲义
-假设检验问题的提示和标准步骤
--第十六周:假设检验问题的提示和标准步骤
-假设检验问题的两类错误和P值
--第十六周:假设检验问题的两类错误和P值
-单个正态总体参数的假设检验
--第十六周:单个正态总体参数的假设检验
-拟合优度检验
--第十六周:拟合优度检验
-讲义
-利用条件概率计算网球比赛胜率
-利用期望的计算性质分析快速排序算法的平均计算量
-讲义
-事件
--事件
-分布函数
--分布函数
-正态
--正态
-指数与二项
--指数与二项
-随机变量函数的分布
-指数分布期望
--指数分布期望
-切比雪夫不等式
--切比雪夫
-二元离散
--二元离散
-协方差
--协方差
-二元特征
--二元特征
-统计量
--统计量
-无偏估计
--无偏估计
-点估计
--点估计
-假设检验
--假设检验
-选择
--选择
-填空
--填空
-大题
--大题