4.4 协方差和相关系数（上）在线视频

欢迎同学们来到我的课堂

今天我们继续学习

随机变量的数字特征

第三节 协方差及相关系数

本节中我们主要介绍

协方差与相关系数的定义和性质

好

第一 协方差的定义

在前面两节中

我们已经介绍了两个数字特征

期望反映了X变化的平均值

方差反映了X的偏离程度

但注意

这两个数字特征

都是描述一个随机变量X的

而在现实生活中

我们经常会碰到两个随机变量的情形

我们需要描述

两个随机变量之间的关系

这时候期望方差就无能为力了

为此我们需要引入一个

新的数字特征

也就是我们要讲的协方差

好 协方差是用来衡量两个随机变量

关系的一种数字特征

通俗的来说

协方差就是描述两个变量

在变化过程中是同向变化

还是反向变化

或者同向或者反向的程度是如何呢

好 我们以一个例子为例

设X Y是两个随机变量

我们观察其变化的方向

好 这个我也是做了一个数值模拟

X我们用红线表示

Y用绿线表示

其中X的期望是1

Y的期望是1.5

然后大家看这个图

大家可以发现

每个时刻X Y的取值

是不是同时高于期望

或者同时低于期望

比如说第一个点的时候

X和Y的值

是不是都高于他们各自的期望

而第二个点的时候

X和Y的值是不是都低于他们的期望

所以这种情况

X-EX和Y-EY是同号的

也就是说X-EX乘以Y-EY是大于等于0的

这个我们是同向变化

当然它的乘积是大于等于0

乘积的期望显然也是大于等于0

好 我们考虑第二种情形

X还是红线

Y还是绿线

在这个图中大家可以发现

每个时候的取值

总是一个高于期望

一个低于期望

比如说1的时候

X的取值就高于X的期望

Y的取值就低于Y的期望

而第二个点的时候

X的取值低于X的期望

而Y的取值高于Y的期望

所以也就意味着

X-EX和Y-EY总是异号

所以它们的乘积是小于0

所以这个是反向变化

好 当然

乘积小于0 它的期望也小于0

好 所以大家发现

这两种情况下

我们要研究它是同向 反向

是不是都可以用

X-EX乘以Y-EY的符号来决定

符号是大于0

我们就认为是同向

小于0就认为是反向

好 这是两种特殊情形

我们考虑一般的情形

好 在这个例子中

我为了便于比较

我把Y的期望也都定义成1

好 大家可以发现在这个图中

这两个点有时候都高于期望

比如说1的时候

有时候都低于期望

比如说3的时候

当然有时候一高一低

比如说2的时候

所以这时候X-EX和Y-EY的符号

就没有规律了

有时候同正有时候同负

有时候一正一负

这时候我们用X-EX乘以Y-EY的符号

就没办法确定它是同向或者异向了

这怎么办呢

既然有时候大于0

有时候小于0

我们最常用的办法是不是取个平均

用X-EX乘以Y-EY的期望

它的符号来决定是同向还是反向

好

X-EX乘以Y-EY的期望

这个量我们今天要介绍的

数字特征协方差

好 给出定义

若X-EX乘以Y-EY的期望存在

我们就称它为随机变量X Y的协方差

记做Cov(x,y)

也就是说X与Y的协方差

Cov就等于X-EX乘以Y-EY的期望

说明一下

协方差反映的是两个随机变量之间的相互关系

当两个变量的变化趋于一致时

协方差就为正

当两个变量的变化趋势相反时

协方差就是负

而协方差的大小可以反映这两个变量

变化趋势一致性的程度

好

我们看协方差的计算

注意

协方差是X-EX乘以Y-EY的期望

所以所谓的协方差

其实也是函数的期望

只不过这个函数变成X-EX乘以Y-EY

所以

利用函数的期望的计算公式

我们可以发现如果X Y是离散形式

X Y的协方差就等于xi-EX乘以yj-EY

再乘以pij对ij同时求和

而如果是连续型

X Y的协方差

就等于x-EX乘以y-EY

乘以联合密度f(x,y)

取二重积分

所以大家注意

无论是求和还是求积分

都是二重的

好 除了利用定义

我们还可以利用性质

得到协方差的计算公式

X Y的协方差等于

XY的期望减去X的期望乘X的期望

好 我们简单证明一下

根据协方差的定义

X Y的协方差

就等于X-E(X)乘以Y-E(Y)的期望

好 把里边展开

就等于XY减去YE(X)期望

减去XE(Y)的期望

加上X期望乘Y的期望

利用期望的性质

我们把期望放进去

第一项就是XY的期望

第二项注意EX常数

所以根据期望的性质可以提出来

所以变成EX乘以Y的期望

而第三项类似的

EY常数可以提出来

变成EY乘以X期望

这两项一合并其实就等于

减去二倍的E(X)乘E(Y)

第三项E(X)乘E(Y)是常数

所以再取期望还等于本身

好 大家注意

第二项 第三项

是不是正好可以抵消一部分

所以得到了XY的期望

减去X期望乘Y的期望

这样我们就得到了

协方差的计算公式

等于乘积的期望减期望的乘积

好 接下来我们介绍协方差的性质

一 X与X协方差等于DX

根据定义 X与X协方差

是不是就等于X-EX乘以X-EX的期望

那显然就是X-EX的平方的期望

当然就是方差的定义了

第二个

XY的协方差等于YX的协方差

这是为什么

因为协方差定义中X-EX乘以Y-EY

是不是等于Y-EY乘以X-EX

所以它们既然可以交换顺序

交换顺序以后再取期望

是不是就是Y与X的协方差

好 第三条

aX bY的协方差

就等于abXY的协方差

这个利用协方差的定义也非常容易的

可以验证

第4条

X+Y和Z的协方差

等于XZ的协方差

加上YZ的协方差

好 第5条

X+Y的方差

等于X方差加Y的方差

加上二倍的XY的协方差

接下来我们证明一下第5条

好

D(X+Y)根据定义

就等于X+Y减去X+Y期望的平方

再取期望

好 对于这个式子中

我们把平方项重新分组

变成X-E(X)加上Y-E(Y)平方的期望

好 把这平方项展开

利用期望的性质

我们就可以得到

第一项X-E(X)平方的期望

第二项Y-E(Y)平方的期望

再加上第三项

2倍的X-E(X)乘以Y-E(Y)的期望

好 大家注意第一项

X-E(X)的平方期望

是不是正好是X的方差

第二项Y-E(Y)的平方期望

正好是Y的方差

而第三项X-E(X) Y-E(Y)的期望

正好是X Y的协方差

所以我们就得到了X加Y的方差

就等于X的方差加Y的方差

再加上二倍的协方差

结合这几个性质

我们其实可以得到一个最常用的公式

aX加bY的方差

其实就等于

a^2的X的方差

加b^2的Y的方差

再加上2ab X Y的协方差

好

接下来我们介绍相关系数的定义

好

大家还是看这个图

第一个图就是我刚才举的第一个图

第二个图

是相当于把第一个图中的X Y

同时扩大10倍

大家发现

这两个图其实走势是完全一样的

变化趋势一样的

但是我们看看协方差

根据协方差的性质

10X 10Y的协方差

是不是就可以相当于把10都提出来

变成100倍的XY的协方差

所以大家会发现

如果我们用协方差来

描述它们的变化趋势的时候

本来这两个图应该是一样的变化趋势

但他们的协方差了100倍

也就意味着

扩大数值会导致协方差也变大

但是变化趋势不变

好 为了更精确的研究两个变量在变化中的

相似程度

我们就要把这个变化幅度

对协方差的影响去掉

或者简单点说

我们对协方差进行标准化

标准化的协方差

我们就称之为相关系数

好 定义

ρXY等于XY的协方差

除以X的标准差

乘以Y的标准差

则ρXY我们称为X与Y的相关系数

说明一下

相关系数其实是一种标准化的协方差

它也是用来反映

两个随机变量的变化相似程度的

两个随机变量的变化相似程度的

好

这节课我们就讲到这里

下节课我们继续讲解

相关系数的性质