5.1 大数定律（上）在线视频

欢迎同学们来到我的课堂

今天我们开始学习第五章

大数定律和中心极限定理

极限定理是概率论的基本理论

在理论研究和应用中都起着重要的作用

其中最重要的两个大数定律

和中心极限定理

它们将概率与统计学连接起来

是数理统计部分的理论基础

比如我们在后续要学的

点估计区间估计

假设检验中都会有着非常重要的作用

所谓的大数定律

其实指的在一定条件下

随机变量序列的前一些项的

算术平均值

会收敛到这些项的均值的算术平均值

简单一点说也随机变量的平均

会收敛到期望的平均

而所谓的中心极限定理

其实指在一定的条件下

大量的随机变量和的分布

会逼近于正态分布

今天我们首先学习

大数定律

大数定律主要包括五个部分

第一个是概念

依概率收敛

第二个是不等式切比雪夫不等式

接下来三个是我们讲的三个大数定律

接下来我们先看例子

假如说X是离散型随机变量

取值0 1 2

对应的概率0.2 0.4 0.4

我们接下来对随机变量进行数值模拟

按照所给的分布

我们依次生成n个随机数

记作X1 X2……Xn

显然这些X的取值只有0 1 2

记Yk为前k个随机数的平均

Yk的就等于

k分之(X1+X2……+Xk)

其中k的取值是从1取到n

我们的任务观察当n增大的时候

Yk是怎么变化的

这四个图是我做的数值模拟

取值分别是n等于10

100 500 1000

其中红线Y等于1.2

表示的是X的期望

通过观察

我们会发现Yk

总是围绕这条红线上下波动

而且随着n的增大

Yk大家会发现

是不是会基本上收敛到这条直线上

特别是n等于五百和一千的时候

基本上已经到了这条线上

通过观察我们会发现

随着n的增大

Yk会收敛到1.2

也就是X的期望

而Yk等于k分之(X1

+X2……+Xk)

我们结论其实是

k分之(X1

+……+Xk)收敛到EX

我们把刚才总结一下

得到规律

随着n的增大

前n个数的算术平均值

会以很大的概率收敛到X的期望EX

简单点说也就是n分之(X1

+……+Xn）会收敛到EX

以很大概率收敛

这个规律我们就称为大数定律

注意这里我们只是说

很大率收敛到EX

并不能保证算术平均值

肯定收敛到EX

原因是算术平均值

就是个随机量

所以它有可能后面所有的项

比如说都取2

那显然算术平均值

是取到了2而不是EX

只不过

后续所有的点都取2

这种情况的概率很小

我们说收敛到EX

是以很大概率收敛的

我们把式子来分析一下

第一个（X1+……+Xn）除以n

收敛到EX

那也就意味着

n分之（X1……+……Xn ）

与EX的差距会很小

也就意味着一切大于零的ε

n分之（X1+……+Xn）

减去EX的绝对值

应该任意小 小于ε

我们看看很大概率

什么叫很大概率

也就是意味着

n分之（X1

+……+Xn）减EX的绝对值

小于ε概率是不是可以充分大

充分大是多少到1

把这两个式子结合起来

就得到了我们要引入的新的收敛

依概率收敛

依概率收敛的定义

如果Y1……Yn是随机变量序列

a是常数

如果对于任意ε大于0

有Yn减a的绝对值小于ε的概率

收敛到1

我们就称Y1……Yn依概率收敛到a

记作Yn收敛

上面加个P表示

关于依概率收敛我们有一个性质

如果Xn依概率收敛到a

Yn依概率收敛到b

g是连续函数

则g(Xn, Yn)

它们也会依概率收敛到g(a,b)

这条性质在我们后续的学习中

还会用到这里不作证明

第二个我们介绍不等式

叫做切比雪夫不等式

定理 设随机变量X

具有期望EX等于μ

方差DX等于σ方

对于任意ε大于零

有X减μ的绝对值大于等于ε的概率

小于等于ε方分之σ方

这个不等式成立

这个不等式我们就称为

切比雪夫不等式

显然根据概率的性质

X减μ的绝对值大于ε的概率

就应该等于E减去X减μ的绝对值

小于ε的概率

所以切比雪夫不等式也等价于

X减μ的绝对小于ε的概率

大于等于1减ε方分之σ方

这两个不等式我们都会用到的

接下来我们证明一下不等式

我们已连续型随机变量为例来进行证明

设X的概率密度是f(x)

那显然X减μ的绝对值大于ε的概率

是连续型随机变量求概率

是不是只要密度在范围上求积分就行

所以这概率应该等于

f(x)在x减μ的绝对值

大于等于ε上求积分

注意在这个积分区域上

X减μ除以ε的平方是大于1的

所以f

是小于等于ε方分之X减μ的平方

乘以f(x)

f在这个范围的积分

就小于等于ε方分之X减μ的平方

乘以f(x)在这个范围的积分

注意被积函数是非负的

我们可以把积分区域

扩展到负无穷到正无穷

把ε方提出来

那得到了ε方分之一

X减μ的平方f(x)的积分

而大家看积分是不是正好是X的方差

就等于ε方分之σ方

我们就证明了

X减μ的绝对值

大于等于ε的概率

小于等于ε方分之σ方

也我们的切比雪夫不等式

接下来我们用切比雪夫不等式

证明方差的第四条性质

若DX等于零

则X等于EX的概率是1

证明我们用反证法

假设X等于EX的概率

不是严格小于1

那我们就存在ε大于0

使得X减EX是有差距的

对不对

X减EX的绝对值

大于等于ε的概率

可以严格大于

对这个式子X减EX的绝对值

大于等于ε的概率

这个式子利用切比雪夫不等式

那它应该是小于等于ε方分之σ方的

也就是ε方分之DX

大家注意DX是0

所以就得到了X减EX的绝对值

大于等于ε的概率其实是等于0

那一个大于0一个等于0

是不是得到了矛盾

我们的假设不成立

也就意味着X等于EX的概率

应该是1

我们就证明了方差的第四条性质

接下来我们看例子

设种子的良种率六分之一

任选六百粒适用切比雪夫不等式估计

在六百粒种子中

良种所占比例与六分之一之差的绝对值

不超过零点零二的概率

解设X表示六百粒种子中的良种数

则显然X可以服从二项分布

n是600 p是1/6

好那我们来算算

根据二项分布的性质

X的期望是不是应该等于np

所以是600乘以1/6等于100

而X的方差

等于npq

就等于600乘1/6

乘以5/6

等于500/6

有了期望有了方差我们来看问题

它要的问题是六百粒种子中

良种所占比例

也就是X除以600

与1/6的差

所以减1/6

绝对值小于等于0.2

我们其实主要考虑的

X除以600减1/6的绝对值小于等于0.2的概率

小于等于0.2的概率

把这个式子通分一下

得到了X减100

除以600的绝对值

小于等于0.02的概率

把600乘过去我们就得到了

X-100的绝对值

小于等于12 的概率

注意100正好是X的期望

问的概率其实

X-EX的绝对值

小于等于某个数的概率

那我们用切比雪夫不等式

它应该大于等于1减12方分之DX

把DX等于500/6带进去

得到了概率等于0.4213

这样我们就得到了结果

这节课我们就讲到这里

下节课我们将介绍三个重要的大数定理