当前课程知识点:概率论与数理统计 > 第九周 协方差与相关系数 > 协方差 > 9.2 协方差
多元随机变量
与一元随机变量更本质的区别在于
多元随机变量要考虑
各分量之间的相互关系、相互作用
这方面最重要的数字特征
是协方差与相关系数
本节先介绍协方差
设(X,Y)是二元随机变量
X减去E(X)
乘以Y减去E(Y)的期望
称为X Y的协方差
通常协方差用英文缩写Cov表示
容易验证协方差的几个基本性质
随机变量和常数a的协方差为0
协方差满足交换律
随机变量X,Y的协方差
等于Y X的协方差
c1X加a 与c2Y加b的协方差
等于c1乘c2乘以X,Y的协方差
即随机变量平移不改变协方差
且常数因子可以提出
协方差也满足分配律
即X加Y与Z的协方差
等于X与Z的协方差
加Y与Z的协方差
将协方差的定义式
X减去E(X)乘以
Y减去E(Y)的期望展开计算
可以得到一个常用的
协方差的计算公式
即X与Y的协方差
等于XY乘积的期望
减去X期望与Y期望的乘积
特别地
当X Y相互独立时
XY乘积的期望
等于X期望与Y期望的乘积
相互消去
所以相互独立的随机变量
它们之间的协方差为0
仍然看我们之前考察过的随机变量
从1 2 3 4中等可能地取1个数记为X
再从1 2 直到X中
等可能地取1个数记为Y
求X,Y的协方差
X,Y的联合分布列和边缘分布列
如表中给出
先计算XY乘积的期望
将所有X,Y可能取值的乘积
乘以取值对应的联合概率求和
计算得XY的期望等于5
X,Y的协方差等于XY的期望
减去X的期望与Y的期望的乘积
等于8分之5
设随机变量X
服从参数为p的几何分布
随机变量Y依赖X
X=1时 Y等于1
X大于1时 Y等于0
计算X,Y的协方差
首先计算X,Y各自的期望
参数为p的几何分布随机变量
X的期望为p分之1
Y的期望等于1乘以Y等于1的概率
加上0乘以Y等于0的概率
就等于1乘以X=1的概率 等于p
XY的期望用重期望公式计算
等于Y条件下XY的期望的期望
等于Y等于1的概率
乘以Y等于1条件下XY的期望
加上Y等于0的概率
乘以Y等于0条件下XY的期望
后一项显然等于0
所以只用算第一项
Y等于1的概率乘以
Y等于1条件下XY的期望
等于X等于1的概率
乘以X等于1条件下X的期望 等于p
X,Y的协方差
等于XY乘积的期望
减去X的期望和Y的期望的乘积
等于p-1
其中X,Y乘积的期望
也可以直接观察得到
只有X=1,Y=1时
X,Y的乘积非零
而X=1,Y=1的概率
就等于X=1的概率
所以X,Y乘积的期望等于p
考虑一般情况下
随机变量X+Y的方差计算
(X+Y)方差
等于x+y平方的期望
减去(X+Y)期望的平方
将各平方项展开
等于X平方的期望
加2XY的期望
加Y平方的期望
减去X的期望的平方
加2倍的E(X)乘E(Y)
再加上Y的期望的平方
等于X平方的期望
减去X期望的平方
加上Y平方的期望
减去Y期望的平方
再加2倍的XY的期望
减去X的期望乘以Y的期望
等于X的方差加Y的方差
再加2倍的X,Y的协方差
若计算X减Y的方差
计算过程与上述相同
只是最后的协方差项的符号为负
一般地 可以给出公式
X加减Y的方差
等于X的方差加Y的方差
加减2倍的X,Y的协方差
若X,Y的协方差为正
则它们求和后的方差
比各自方差的累加更大
若X,Y的协方差为负
则它们求和后的方差
比各自方差的累加减小一些
考虑随机变量X,Y的协方差的定义式
对X,Y的取值
若当X大于E(X)时
Y也大于E(Y)的可能性较大
而当X小于E(X)时
Y也更可能小于E(Y)
也就是当X偏大时 Y也偏大
当X偏小时 Y也偏小
则此时X,Y的协方差为正
称X,Y正相关
而对X,Y的取值
若当X大于E(X)时
Y小于E(Y)的可能性较大
而当X小于E(X)时
Y大于E(Y)的可能性较大
也就是X偏大时
Y会偏小
当X偏小时
Y倾向于偏大
则此时X,Y的协方差为负
称X,Y负相关
而若X,Y的变化相互无明显关联
也就是,当X偏大大于E(X)时
Y可能大也可能小
当X偏小 小于E(X)时
Y也可能大也可能小
此时X,Y的协方差会接近于0
所以X,Y的协方差
反映了两个随机变量
相互变化的依赖关系
也就是一定程度的相关性
例如本节的例1
X越大则Y取到比较大的值的可能性也越大
它们是正相关的关系
计算得协方差也为正数
等于8分之5
例2中的随机变量
当X等于1时Y等于1
当X大于1时
Y的取值为0
X,Y的变化趋势相反
它们是负相关的关系
协方差等于p-1 是负数
但是 随机变量X,Y的协方差的大小
还不足以充分地反映X,Y之间的相关程度
因为若将X,Y同时放大10倍
变为10X和10Y
它们的协方差增大了100倍
但是它们实际的相关程度并没有发生变化
所以我们还需要引入
更细致、更合理的
刻画随机变量之间相关性的指标
就是相关系数
-随机试验与随机事件
-古典概型
--1.2 古典概型
--第一周:古典概型
-事件间的关系与事件的运算
--第一周:事件间的关系与事件的运算
-两个著名的例子
--第一周:两个著名的例子
-讲义
-条件概率
--2.1 条件概率
--第二周:条件概率
-有关条件概率的三个重要计算公式
--第二周:有关条件概率的三个重要计算公式
-事件的独立性
--第二周:事件的独立性
-应用实例
--2.4 应用实例
--第二周:应用实例
-网球比赛胜率的计算
--Video
-讲义
-随机变量及分布函数
--第三周:随机变量及分布函数
-离散型与连续型随机变量
--第三周:离散型与连续型随机变量
-分布函数的性质与特殊的例子
--第三周:分布函数的性质与特殊的例子
-概率论所需微积分要点回顾
--第三周:概率论所需微积分要点回顾
-讲义
-二项分布与负二项分布
--第四周:二项分布与负二项分布
-泊松分布
--4.2 泊松分布
--第四周:泊松分布
-几何分布与指数分布
--第四周:几何分布与指数分布
-正态分布
--4.4 正态分布
--第四周:正态分布
-讲义
-随机变量函数的分布
--第五周:随机变量函数的分布
-随机变量的数学期望
--第五周:随机变量的数学期望
-随机变量的方差
--第五周:随机变量的方差
-原点矩与中心矩
--第五周:原点矩与中心矩
-期望和方差的一些补充性质
--第五周:期望和方差的一些补充性质
-讲义
-二项分布与泊松分布的期望与方差
--第六周:二项分布与泊松分布的期望与方差
-几何分布的期望与方差
--第六周:几何分布的期望与方差
-均匀、指数和正态分布的期望与方差
--第六周:均匀、指数和正态分布的期望与方差
-随机变量数学期望的应用实例
--第六周:随机变量数学期望的应用实例
-快速排序算法的平均计算量分析
--Video
-讲义
-多维随机变量
-第七周:多维随机变量
-常见多维随机变量举例
--第七周:常见多维随机变量举例
-随机变量的独立性
--第七周:随机变量的独立性
-独立随机变量期望和方差的性质
--第七周:独立随机变量期望和方差的性质
-讲义
-条件分布
--8.1条件分布
--第八周:条件分布
-条件期望
--8.2 条件期望
--第八周:条件期望
-全期望公式(上)
--第八周:全期望公式(上)
-全期望公式(下)
--第八周:全期望公式(下)
-讲义
-随机变量函数的期望
--第九周:随机变量函数的期望
-协方差
--9.2 协方差
--第九周:协方差
-相关系数
-- 9.3 相关系数
--第九周:相关系数
-相关与独立
--第九周:相关与独立
-讲义
-独立随机变量和的分布
--第十周:独立随机变量和的分布
-独立正态分布和的分布
--第十周:独立正态分布和的分布
-最大值、最小值分布
--第十周:最大值、最小值分布
-顺序统计量
--第十周:顺序统计量
-讲义
-正态分布的相关与独立
--第十一周:正态分布的相关与独立
-边缘密度均为正态,联合分布不是二元正态的例子
--第十一周:边缘密度均为正态,联合分布不是二元正态的例子
-二项分布的正态近似
--第十一周:二项分布的正态近似
-正态近似计算实例
--第十一周:正态近似计算实例
-讲义
-大数定律
--12.1大数定律
--第十二周:大数定律
-中心极限定理
--第十二周:中心极限定理
-蒙特卡洛(Monte Carlo)算法
-伪随机数和随机模拟
-讲义
-统计学实例
-总体与样本
-常用统计量
--第十三周:常用统计量
-三种重要的统计分布和分位数
--第十三周:三种重要的统计分布和分位数
-讲义
-参数的矩估计
--第十四周:参数的矩估计
-参数的极大似然估计
--第十四周:参数的极大似然估计
-参数点估计的无偏性和有效性
--第十四周:参数点估计的无偏性和有效性
-参数点估计应用实例
--第十四周:参数点估计应用实例
-讲义
-区间估计的基本思想
--第十五周:区间估计的基本思想
-区间估计的构造方法
--第十五周:区间估计的构造方法
-两个正态总体的区间估计
--第十五周:两个正态总体的区间估计
-大样本置信区间
--第十五周:大样本置信区间
-讲义
-假设检验问题的提示和标准步骤
--第十六周:假设检验问题的提示和标准步骤
-假设检验问题的两类错误和P值
--第十六周:假设检验问题的两类错误和P值
-单个正态总体参数的假设检验
--第十六周:单个正态总体参数的假设检验
-拟合优度检验
--第十六周:拟合优度检验
-讲义
-利用条件概率计算网球比赛胜率
-利用期望的计算性质分析快速排序算法的平均计算量
-讲义
-事件
--事件
-分布函数
--分布函数
-正态
--正态
-指数与二项
--指数与二项
-随机变量函数的分布
-指数分布期望
--指数分布期望
-切比雪夫不等式
--切比雪夫
-二元离散
--二元离散
-协方差
--协方差
-二元特征
--二元特征
-统计量
--统计量
-无偏估计
--无偏估计
-点估计
--点估计
-假设检验
--假设检验
-选择
--选择
-填空
--填空
-大题
--大题