1.8 How to use matrix calculation to solve OLS在线视频

那么我们怎么样通过矩阵运算来去解决

OLS的这样的一个估算的过程

那么

首先我们刚才说了

我们是有一组

observations 观察

值

那么我们是想求这样的一组参数

待估参数从β0一直到βk

来满足刚才我们说的那样的一个结果

就是我们能够最小化

离差的平方和

那么

求最优的问题

我们就要求一阶导和二阶导，一阶导为0

那么这个是最基本的条件

也就是说对刚才那个Q

求对β0一直到βk

我们来求它的偏微分

那么它要等于0

我们知道

Q的表达式，不是刚才的Q，是这个Q

那么这个Q的表达式就是离差的平方和

离差的平方和

就是这么来写的

刚才*也说了

就是说我们的观测值

跟我们估算值之间的距离就是离差

我们希望最小化这样的一个离差，整个样本

那么这样的一个参数就是我们希望要的

那么我们来最小化它就是Q

当然我可以把它展开

大家可以看到说这个里面都有

β，这些β都在哪儿

这样的话我对这些β求偏导的时候

就知道怎么求了 我们不要求你掌握

但是把这个过程要列列在这里

这是把刚才离差平方和的形式

求偏导刚才那这组式子

左边这组式子

把它展开之后就是正定方程组

我们来求这个β hat

这个不要求掌握 但是这个过程你要知道

熟悉

Ok

那么这个正定方程组我们可以重新

用矩阵的形式来表达

就表达成这个样子

就是x转置乘以x然后再乘以β hat

这样的一个形式它等于x转置乘以y

这个时候大家想

其实我的目标就是求β

这个时候我只需要把 x转置成以x

把它挪到方程的右边就可以了

因为x

转置乘以x是满秩的一个矩阵

那么所以

这个是满秩的 我们之前假设

所以我只要在这边

在方程的左右两侧

同时乘以 x'x的逆就可以了

这边乘以一个逆

然后这边也乘以一个逆

这边诚逆

这个就消掉了 就变成单位阵了

所以就只剩下β hat的了

那么

这边就是刚才说的两边同

乘以 x'x的逆

就变成这样的一个形式

所以这样的话我们其实就是

通过一个矩阵运算

就能够很方便的

把我们的数据里面的这些

一大堆数据把它组织好

然后求助我们的待估参数

所以我详细的讲下来这个过程

希望大家能够对你底层的这些数据

它是怎么排列的

它怎么样进行矩阵运算得到我们这一组

非常少的

待估参数

有一个这种直观的联系

这个是很重要的

好 有没有什么问题

那么我们再把刚才的式子再表达一遍

没听明白

没听明白不要

不要恐慌

就没听明白 这个没有关系

这个过程知道是求极值

这个可以听懂是不是

那么

你们感兴趣的话可以再把线性代数这一块

再去了解一下

如果不感兴趣的话

至少你看到这些式子

你知道它代表的是什么

比如说加粗的x

跟加粗的y

这个里面是什么东西

这个里面是矩阵

矩阵里面是什么

是我们存的这些变量的数据

是不是

你去采了一个数据

那么 Excel表格

它其实

把它给放到这里了

x y等等

对这个要有一个感性的认识

知道我在直接对这些数据进行操作

进行运算

来得出我的待估参数

要理解这一点

这个可以理解吧

这个里面每一个都是你的Excel表格

这些加粗的x和y

都是你的Excel表格

你最后就能够用这些数据

矩阵

方块

得出你的系数

这个是我希望你能理解的

所以大家看一下

当你想求β的时候

其实你这里面

你就是两个表格

一个是x的矩阵

一个是y的向量

y就是一列数字 对不对

一列比如一列成绩

每一个学生

他的成绩

那么你只需要用这两个表单有这两个矩阵

进行这样的一个矩阵运算

就是乘法求逆等等

那么你就可以把你的待估

参数β给求出来

这样你就能够描述

x

和y的关系

通过β来去

描述

这点可以理解吧

这个要理解清楚

就是怎么样把你这些数据底层的数据

给我们的分析对应上的