5.2.1 独立同分布的中心极限定理在线视频

大家好

下面我们学习第5.2节，中心极限定理

前面我们学习的大数定律

只是揭示了大量随机变量的

平均结果的稳定性

但是并没有告诉我们

它的概率分布情况

解决这个问题的是中心极限定理

中心极限定理衔接了概率论与数理统计

这两部分的相关知识

数理统计当中，许多统计方法基本上都

是以中心极限定理作为理论基础的

中心极限定理产生的客观背景是

人们在实践中发现，有很多随机现象

可以看做是由大量相互独立的随机因素的

综合影响所造成的

而其中每一个因素

对该现象的影响都很微小

那么描述这种随机现象的随机变量

可以看成许多相互独立的随机变量的总和

它往往近似服从正态分布

我们都知道随机变量的和的概率分布

基本上是比较难求的

但是当我们对很多个随机变量求和的时候

在一定的条件下

它就会呈现出一种规律性

比如，一个城市的耗电量是

大量用户耗电量总和

尽管每一个用户用电情况不同

但是，整个城市的总的用电量随时间变化的

曲线却几乎每天都相同

类似的情况

还有炮弹的射程以及天文学当中

测量误差，等等

我们把随机变量和的极限分布定理

统称为中心

极限定理

注意，中心极限定理不是一个定理

而是包括一系列的定理

这里我们只介绍两个常用的中心极限定理

独立同分布的中心极限定理和

De Moivre-Laplace中心极限定理

首先我们来看独立同分布的中心极限定理

这个定理也叫Lindeberg-Levy中心极限定理

设X₁、X₂、Xn是一列

相互独立的随机变量

它们服从相同的分布

从而有相同的期望和方差

对于每一个随机变量Xi

将其期望E（Xi）记为μ

方差D（Xi）记为σ方

σ方是大于0的

i从1一直到无穷

μ和σ方都是有限的

令Yn等于∑i从1到nXi

则对于任意的实数x有

Yn减去E（Yn）比上根号下D（Yn）小于

等于x的概率，当n趋向于无穷时

它的极限是

根号2π分之1乘上负无穷到x

对e的负的2分之t方的积分

由前面我们学习过的关于标准

正态分布的相关知识

我们知道这个积分是标准正态分布的

分布函数

将其既为Φ（x）

这就是独立同分布的中心极限定理

我们仔细看一下这个定律，注意到

Yn减去E（Yn）比上根号下

D（Yn）

实际上，是Yn这个随机变量的标准化

随机变量

这个随机变量小于等于x的概率

实际上就是它的分布函数

那么

通过这个等式

我们可以看出来，当n趋向于无穷时

Yn的标准化随机变量的分布函数是以

标准正态分布的分布函数为极限的

这说明这个随机变量Yn减去

E（Yn）比上根号下

D（Yn），当n趋向于无穷时近似的

服从标准正态分布

所以这个定理表明

n个独立同分布的随机变量

无论这些随机变量服从什么分布

只要期望和方差存在，当n足够大时

n个这样的随机变量的和的标准化随机变量

都近似的服从标准正态分布

所以这个定理的结论

简单的来讲就是

n足够大的时候Yn减去它的数学期望

E（Yn）比上它自己的标准差根号下D（Yn）

近似服从标准正态分布

其中Yn是n个随机变量的和

如果我们另外Yn减去E（Yn）比

上根号下D（Yn）等于Z

将它变形，我们就会得到Yn是等于根号

下D（Yn）乘上Z加上E（Yn）

而E（Yn）就是Yn的数学期望是等于nμ的

D（Yn）是Yn的方差

它是等于nσ方的

将它们带入我们就会得到Yn

实际上是随机变量

Z的一个线性函数

它等于根号n乘上σ

乘上Z加上nμ

而Z是近似服从标准正态分布的

利用正态分布的性质

我们就可以得到Yn

它会近似服从正态分布

而它的参数就是Yn的期望和方差

而Yn的期望是nμ

方差是nσ方

从而我们可以得到

另外一个近似的分布，就是n个随机变量的和

∑i从1到nXi近似的

服从参数是nμ和nσ方的

正态分布

进一步的

如果我们给这个随机变量

再乘上一个1/n

得到n分之1乘上∑

i从1到nXi

它仍然会近似服从正态分布

参数就是它自己的期望和方差

也就是说n个随机变量的算术平均值

近似的服从参数是μ和n分之1σ方的

正态分布

下面我们来看独立同分布的

中心极限定理的应用

这里我们主要讨论，利用上面的这三个

近似分布来进行近似计算的问题

设随机变量序列

独立同分布

且期望和方差均有限

由中心极限定理

我们就会有1/n

乘上∑i从1

到nXi减去nμ比上根号n乘σ

近似的服从标准正态分布

∑

i从1到nXi近似服从参数是nμ和

nσ方的正态分布

1/n乘上∑

i从1到nXi近似服从参数是

μ和n分之1σ方的正态分布

今后我们可以利用这几种形式

来进行概率的近似计算

比如对于任意的实数a、b

我们现在想求∑i从1到nXi

大于等于a小于等于b的概率

就可以利用正态分布来近似计算

这个概率

它约等于

Φ(b减nμ比上根号n乘σ)

减去Φ(a减nμ比上根号n乘σ)

下面我们来看两个例题

一个加法器

同时收到20个噪声电压Vk

k从1一直到20

设它们是相互独立的随机变量

且都在区间{0，10}上服从均匀分布

记V等于∑k从1到20Vk

现在我们想求V大于105小于

等于135的近似值

注意到这里边我们是计算20个独立同

分布的随机变量的和的概率分布问题

所以我们可以用独立同分布的

中心极限定理来近似计算

这个概率

对于每一个随机变量

Vk

它都是服从区间

{0，10}上的均匀分布的

所以它的期望是等于5的方差等于

100/12，化简之后等于25/3

k从1一直到20

V等于∑

k从1到20Vk，是20个独立

同分布的随机变量的和

从而我们可以利用独立同

分布的中心极限定理

n个随机变量的和近似服从的正态分布的

参数是nμ和nσ方

现在对于V来讲

μ是等于5，σ方等于25/3

n等于20，所以V近似服从的正态分布

它的第一个参数是5乘20等于100

第二个参数nσ方是20乘上

25/3是500/3

从而，对于V大于105小于

等于135的概率

我们就可以

利用正态分布去近似计算

它约等于Φ(135减去

100比上根号下500/3)减去

Φ(105减去100比上根号下

500/3)

经过计算

这是约等于Φ(2.711)减去

Φ(0.387)的

通过查表我们可以得出来，这个概率

约等于0.3449

好，下面我们再来看一个例题

设X₁、X₂一直到X₆₀相互独立

且任意的Xi都是服从参数是

0.04的泊松分布的

i是从1到60的，令X等于

∑i从1到60Xi

求X大于3的概率

仍然是一个求独立同分布的随机变量和的

概率分布问题

所以我们利用中心极限定理去近似计算它

因为对于每一个i来讲，Xi服从的都

是参数是0.04的泊松分布

所以

Xi的期望是等于0.04

并且方差也是等于0.04的

i是从1到60

X是60个这样的随机变量的和

利用独立同分布的中心极限定理

它会近似的服从参数是nμ和nσ方的

正态分布

现在μ是等于0.04的，σ方

也等于0.04，n等于60

因此X近似服从的这个正态分布

它的两个参数

都是60乘上0.04等于2.4

X近似服从参数是

2.4和2.4的正态分布

那么，X大于3的概率

利用对立事件来进行计算

X是60个服从泊松分布的

随机变量的和，我们知道

对于泊松分布来讲

随机变量的取值是0、1、2一直到无穷

这可列个数

那么60个这样的随机变量的和

它的取值仍然是从0、1、2、一直到无穷

这样的可列个数

所以X大于3

它的对立事件实际上是

X大于等于0小于等于3

因此

X大于3的概率等于1减去X大于

等于0小于等于3的概率

那么现在我们对于这个概率

来进行近似计算

它就约等于1减去Φ（3减去2.4

比上根号下2.4）

再减去Φ（0减去2.4比

上根号下2.4）

经过计算，这个概率约等于0.4089

好，下面我们简单的总结一下

在这一讲当中

我们主要讨论的是独立同分布的

中心极限定理及其应用

当随机变量序列

独立同分布的时候

无论这些随机变量服从什么样的分布

只要其期望μ和方差σ方存在

当n足够大时

n个随机变量的和都近似服从参数是

nμ和nσ方的正态分布

其近似计算公式是这个

好，今天就讲到这里，谢谢大家