4.5 协方差和相关系数（下）在线视频

欢迎同学们来到我的课堂

这节课我们继续学习相关系数

我们将介绍相关系数的性质

相关系数的性质主要有两条

第一条ρXY的绝对值小于等于1

第二条ρXY的绝对值等于1

当且仅当存在常数a b

使得Y等于a加bX的概率是1

为了证明两条性质

我们引入函数e

等于Y减去a加bX的平方

再取期望

把式子展开就等于Y的平方的期望

加上b方倍的X方的期望

加上a方减去2aY的期望

减去2bXY的期望

再加上2ab X的期望

我们的问题在于考虑a b为何值时

让e达到最小

显然

根据我们微积分所讲

要让e达到最小

是不是只需要对变量求导

等于零就可以了

这个地方我们e对a求偏导

得到2a加2b

EX减去2倍的EY等于0

e对b求偏导

得到2bEX^2

减去2EXY

加上2aEX也等于0

由第一个式子我们很容易得到

a就等于EY减去b倍的EX

把带入第二个方程

我们就得到b倍的EX^2

减去EXY

再加上EY减b倍的EX

乘以EX

等于零

显然

解得b等于分子XY的期望

减X期望乘Y的期望

分母X平方的期望减去X期望的平方

大家注意

分子XY的期望

减X期望乘Y的期望

是不是正好是协方差的计算公式

分子其实XY的协方差

而分母X方的期望减去X期望的平方

是不是正好是方差的计算公式

其实分母其实DX

b其实就等于XY的协方差除以X的方差

把b带入a等于EY减bEX中

我们就得到a等于EY减去EX

乘以XY的协方差除以DX

显然当a和b取这两个值的时候

e就得到了最小

把两个值代入e的式子

我们就可以计算得到

e的最小值应该是多少

就等于e减ρXY的平方乘以DY

我们分析这个式子

注意左边是平方的期望最小值

那平方的期望是非负的

但最小值也是非负的

左边非负导致了右边非负

而DY是方差也是非负的

我们要让右边非负

只需要括号1减ρ方大于等于0

那显然就得到了ρ的绝对值小于等于1

得到了相关系数的第一个性质

我们要证明第二个性质的时候

我们假设ρ的绝对值等于1

那把ρ的绝对值等于1

带入右式那右边就是零了

我们得到了Y减去a

加bX的平方的期望就等于零

或者根据方差的定义

X的方差等于X平方的期望

减期望的平方

Y减a加bX平方的期望

那是不是就等于Y减a加bX的方差

加上Y减a加bX期望的平方

两项的和应该等于零

方差非负后面的平方项非负

两项和要等于零

也就意味着两项都是0

注意我们前面讲过的方差的性质

DX等于0

当且仅当X等于EX的概率为1

既然现在Y减a加bX的方差是0

那我们就得到了

Y减a减bX

等于0的概率其实是1

得到了Y等于a加bX概率是1

就证明了一部分

反过来

如果我们说存在a b

使得Y等于a

加b X的概率是1

把这个式子变形下

就得到了Y减去a加b

X等于0的概率也是1

我们算它的平方的期望

显然就等于0的平方乘以1也是0

所以

Y减a加bX的平方的期望是0

大家注意Y减a加bX的平方的期望

是不是e中a取a b取b

那显然它是大于e的最小值的

而e的最小值我们刚才算了

等于1减ρ方DY

0大于等于1减ρ方DY

而1减ρ方DY又大于等于0

我们就得到了

1减ρ方必须等于0

或者说ρ的绝对值必须等于1

这样就证明了第二条性质

接下来我们介绍新的概念叫做不相关

如果XY的相关系数是0

我们就成XY不相关相关

相关系数表征的是

X与Y的线性关系紧密程度

当ρ的绝对值等于1时

我们说X与Y以概率1存在线性关系

Y就等于a加bX

如果当ρ的绝对值接近零

我们就说XY的线性关系在变弱

那当ρ的绝对值等于0

其实ρ等于0的时候

X的不相关

X与Y不存在线性关系

但是注意不相关

只是说明不存在线性关系

不一定独立

比如说它没有线性关系

但它可以有X方加Y方等于1

这时候XY就不独立了

不相关未必独立

我们也可以很容易地证明

独立肯定不相关

为什么

因为我们前面讲过

如果独立的话

乘积的期望是不等于期望的乘积

而乘积的期望等于期望的乘积

是不是就得到了协方差

等于乘积的期望

减期望的乘积等于0

协方差等于0即相关系数是0

也就意味着不相关

独立可以得到不相关

但是不相关未必独立

接下来我们介绍不相关的充要条件

不相关的定义

相关系数为零

第二条

相关系数等于

协方差除以标准差的乘积

相关系数是0

也就意味着协方差分子是0

而根据协方差的计算公式

协方差等于XY的期望

减去X的期望乘Y的期望

协方差是零

也就意味着乘积的期望

等于期望的乘积

协方差是0根据方差的性质

X加Y的方差

等于X方差加Y的方差

加2倍的协方差

如果不相关的时候

协方差是0的时候

X加Y的方差

是不是就X的方差加Y的方差

这些都是不相关的充要条件

接下来我们看例题

设XY是二维正态分布

求XY的协方差

下面是XY的密度

我们要求协方差

我们来看看先求XY的期望

由第三章所讲

XY如果是二维正态的话

则X是服从μ1σ1方的正态分布

Y是服从μ2σ2方的正态分布

X的期望就等于μ1

Y的期望就等于μ2

XY的协方差等于X减EX

乘以Y减EY的期望

把期望带进去

就等于X减μ1Y减μ2

再乘以联合密度f(x,y)的积分

把联合密度带进去就是这个形式

我们接下来做一个换元

令μ等于σ1分之x减μ1

t等于根号1减ρ方分之一

乘以σ2分之Y减μ2

减去ρ倍的σ1分之x减μ1

我们利用u t对x y进行换元

则我们式子就可以变成如下形状

2πσ1σ2根号1减ρ方分之1

被积函数ρ1ρ2 ut根号1减ρ方

加上ρu e^(-2分之u^2

减2分之的t^2)

再乘以雅可比行列式

负σ1σ2根号1减ρ方的绝对值

这个地方我们把这个和

t根号1减ρ方

加上ρu把它进行分解

那得到两个积分

大家注意在第一个式子中

第一个积分

u1的负2分之u方的积分

如果给它乘一个根号2π分之1

那显然标准正态分布的期望

是等于0

类似的第一个式子中的第二项

乘以根号2π分之一

也是标准正态分布的期望

也等于零

第一项其实就是0

我们看第二项

第二项的第一个积分

如果乘以一个根号2π分之1

是不是正好是等于标准正态分布的方差

等于1

而第二项乘以一个根号2π分之1

其实就等于标准正态分布密度的积分

根据密度的性质也等于1

化简以后

XY的协方差

其实就等于ρσ1σ2

接下来我们算一下XY的相关系数

那相关系数等于协方差除以标准差

ρXY其实就等于ρ

OK把上面式子我们总结一下

就得到如下结论

对于二维正态分布的密度函数中

参数ρ其实X与Y的相关系数

而且根据第三章所讲知识

二维正态分布中

X与Y独立当且仅当ρ等于0

而ρ等于0也就意味着

相关系数等于0

也就意味着不相关

对于二维正态分布相关系数为零

也就是不相关和独立是等价的

接下来我们再看例子

上面例子是利用密度来计算它的相关系数

这个例子

我们是利用性质来计算相关系数

设（X Y）是二维随机变量

已知X的方差1 Y的方差4 XY的协方差1

即ξ等于X减2Y

η等于2X减Y

我们求ξη的相关系数

根据相关系数定义

ρ就等于ξη的协方差

除以ξ的方差开方

η的方差开方

我们先算ξ的方差

根据性质

ξ的方差就等于X减2Y的方差

但根据方差的性质是不是就等于

X的方差加4倍Y的方差

减去4倍的XY的协方差

带入式子等于13

类似的η的方差

就等于2X减Y的方差

也就等于4倍的X方差加Y的方差

减4倍的协方差

带入得4

接下来我们算一下协方差

ξξ的协方差

就等于X减2Y 2X减Y的协方差

那根据协方差的性质

我们可以把它转成四项

二倍的XX的协方差

减去四倍的YX的协方差

减去XY的协方差

加上二倍的YY的协方差

注意第一项XX的协方差就是X方差

第四项YY的协方差Y的方差

而XY的协方差和YX协方差是相等的

这个式子就等于

二倍的X的方差

减去五倍的XY的协方差

加上二倍的Y的方差

带入式子我们可以得到它是5

把三个量都带入相关系数公式

我们就可以得到相关系数等于五倍

根号13除以26

好本节小结

我们主要介绍了两个数字特征

协方差和相关系数

我们介绍了它的定义

介绍它的性质

同时我们还引入新的概念不相关

介绍它的定义和等价条件

对于二维正态分布中

我们还介绍了它的独立性

与不相关是等价的

好课后

大家可以围绕三个方面进行复习