4.5 RLS自适应算法在线视频

上一节我们介绍了自适应梯度算法

这节课我们讨论另一种下降算法

最小二乘自适应算法

本节课包括两部分内容

最小二乘自适应算法的基本思想

以及最小二乘自适应算法的计算过程

首先我们来看第一个部分

最小二乘自适应算法的基本思想

最小二乘自适应算法是

将最小二乘法推广为一种自适应算法

其目的是设计自适应的横向滤波器

使得在已知n-1时刻

横向滤波器系数的情况下

能够通过简单的更新

求出n时刻的滤波器系数

以上便是最小二乘自适应算法的基本思想

接下来我们讨论一下

最小二乘自适应算法的计算过程

与一般的最小二乘方法不同

这里考虑一种指数加权的最小二乘方法

即

使用指数加权的误差平方和作为代价函数

则代价函数的表达式如下

式中

加权因子λ在0到1上取值

称为遗忘因子

其作用是对离n时刻越近的

误差加比较大的权重

对离n时刻越远的误差加比较小的权重

要使代价函数J（n）最小

需满足代价函数J（n）

对滤波器系数W的偏导为0

即负的两倍的λ的n-i次幂乘以Xi再乘以

括号内di的转置与Xi的转置乘以W的差

对i从0到n上求和等于0

进而得到λ的n-i次幂乘以Xi乘以Xi的转置

再乘以W 对i从0到n上求和

等于λ的n-i次幂乘以Xi乘以di的转置

对i从0到n上求和

令R（n）等于λ的n-i次幂乘以Xi乘以Xi的转置

对i从0到n上求和

令r（n）等于λ的n-i次幂乘以Xi乘以di的转置

对i从0到n上求和

那么滤波器系数W等于R（n）的逆乘以r（n）

上式表明指数加权最小二乘问题的解W

为维纳滤波器

下面我们考虑它的自适应更新

由R（n）的公式

我们可以得到R（n）等于λ倍的R（n-1）

加上Xn乘以Xn的转置

由r（n）的公式

我们可以得到r（n）等于λ倍的r（n-1）

加上Xn乘以dn的转置

根据矩阵求逆引理可得到逆矩阵

P（n）等于R（n）的逆的递推公式

P（n）等于λ分之一倍的P（n-1）减去k（n）

乘以Xn的转置乘以P（n-1）

其中k（n）为增益向量

它等于P（n-1）乘以Xn除以括号内λ与Xn的转置

乘以P（n-1）乘以Xn的和

那么P（n）乘以Xn等于λ分之一倍的P（n-1）

乘以Xn与k(n）乘以Xn的转置乘以P（n-1）

乘以Xn的差

容易证明

P（n）乘以Xn就等于k（n）

所以W（n）的更新公式

W（n）等于R（n）的逆乘以r（n）

就等于P(n）乘以r(n）

就等于W（n-1）

加上dn的转置乘以k（n）再减去k（n）

乘以Xn的转置乘以W（n-1）

综上所述

可得到最小二乘算法如下

步骤1

首先对w和P进行初始化W(0）=0

P(0）等于δ分之一乘以单位矩阵

其中δ是一个很小的值

步骤2

我们更新n n=1 2 3一直往后

根据如下的更新公式

计算误差信号e（n） 增益向量k（n）

R（n）的逆矩阵P（n）以及滤波器系数W（n）

逐步迭代可以得到最优的滤波器系数W（n）

以上便是最小二乘自适应算法的全部内容

谢谢大家