7.1多重共线性及其后果在线视频

古典线性回归模型应当满足一系列的条件

其中有一条要求解释变量之间不存在完全的多重共线性

今天我们开始讲多重共线性的问题

多重共线性的形成原因很多

可能是解释变量之间变化的方向相同导致的

可能是解释变量间存在密切的关联性导致的

可能是模型当中的滞后变量项的影响导致的

也可能是模型的解释变量选择不当导致的

多重共线性容易发生在截面数据之间

因此如果解释变量是截面数据的时候

我们一般都应当侦测多重共线性的问题

多重共线性从根本上来说是程度问题

按照共线性的程度

一般可以分为三类

一类是解释变量之间是完全的多重共线性

例如右表当中X3=X1+X2-100

X1、X2、X3之间是完全的多重共线性

第二类是高度但是不完全的多重共线性

例如X2*等于5*X1加上一个残差ui

残差项波动范围很小

可以认为X2*和X1之间是高度但不完全的多重共线性关系

第三类是一般程度的多重共线性

表中X3*=X1+X2-100+vi

我们发现此时的残差项比较大

换句话说

X1、X2和X3*之间只有一般程度的多重共线性

或者说共线性的程度相对比较低

多重共线性的程度不一样

其理论后果也不同

其理论后果也不同

在完全的多重共线性时

后果十分严重

此时回归系数无法确定

回归系数的标准差为无穷大

好在实际当中

完全多重共线性几乎不存在

完全多重共线性几乎不存在

当存在高度但不完全的多重共线性时

它的回归系数是可以确定的

最小平方法得到的估计量也是BLUE的

但回归系数的标准差会变大

其带来的后果是回归估计不准确

注意最小方差并不意味着方差值一定很小

当然

对于一般程度的共线性

回归系数可以确定

最小平方法得到的估计量是BLUE的

对回归系数、其标准差及相关检验的影响也都不大

再看看严重的多重共线性的实际后果

最小平方法得到的估计量方差变大

根据最小平方法得到的回归系数的标准差公式

方差变大的结果是置信区间变宽了

结果本来应该拒绝的原假设变成了接受

所以检验不可靠

再看看t检验的统计量

标准差变大

t检验就会变得不显著

还会出现测量模型拟合程度的R2很高

但是t检验并非都显著的矛盾结果

我们进一步分析回归系数的方差公式

发现从它的方差公式当中

可分解出一个共同因子1/(1-Ri2)

注意这里的Ri2表示

第i个 解释变量对其它解释变量做辅助回归的决策系数

如果只有两个解释变量的时候

Ri2就是它们相关系数的平方

我们把回归系数方差当中的1/(1-Ri2)记为VIF

叫做方差膨胀因子

从VIF的变化曲线来看

开始变化非常平缓

当Ri2越来越接近于1的时候

变化得越来越快

这就是高度的多重共线性会带来严重后果的原因

当然

一般程度的多重共线性

我们几乎可以忽略它的影响

我们继续分析严重的多重共线性的实际后果

它的统计量和标准差对数据变化很敏感

也就是说当抽取的样本数据小的变化

会引起模型估计大的波动

表明估计结果不稳定、不可靠

当然

严重的多重共线性还会导致回归系数的正负号出现错误

打个比方说

当收入和财富之间存在严重的多重共线性时

方程出现了财富对消费支出的回归系数为负值

表明财富越多

对消费支出越不利

这显然是荒唐的

最后一点

解释变量之间存在严重多重共线性时

难以估计每个解释变量对决策系数R2的贡献量的大小