7.5 神经网络（下）在线视频

例 BP神经网络分类实例

如图给出了一个多层前馈神经网络

令学习率为0.9

第一个训练元组X={1,0,1}

其类标号为1

初始权重和偏移如表所示

BP神经网络分类模型的训练过程

使用BP神经网络分类模型训练

给定第一个训练元组X

该例给出后向传播计算过程

把该元组提供给网络

计算每个单元的净输入和输出

以及每个单元的误差

并后向传播

一 计算输入层每个单元的

净输入和净输出

输入层每个单元的净输出等于净输入

I1=1 I2=0 I3=1

O1=I1=1 O2=I2=0 O3=I3=1

二 计算隐藏层及输出层每个单元的

净输入及净输出

先计算隐藏层的净输入和净输出

根据前面计算Ij和Oj的计算公式

计算I4 J5 O4 O5如下

I4=w14×O1+w24×O2+w34×O3+θ4

=0.2×0+0.3×1+(-0.5)×0+(-0.4)=-0.6

I5计算结果为0.3

O4计算结果为0.354

O5计算结果为0.574

再计算输出层的净输入I6

和净输出O6

如下

I6计算结果为0.109

O6计算结果为0.527

三 计算输出层及隐藏层的误差

先计算输出层误差Err6

再计算隐藏层误差Err4和Err5

如下所示

Err6=O6 (1-O6)(T6-O6)

计算结果为0.1179

Err4=O4 (1-O4)Err6 w46

= (0.354)×(1-0.354)×(0.1179)×(-0.3)

计算结果为-0.0081

Err5=O5(1-O5)Err6w56

=(0.574)×(1-0.574)×(0.1179)×(0.2)

计算结果为0.0058

四 更新权重

先计算权重的增量

再计算权重的更新值

按后向顺序计算

计算结果如下

Δw46=(l)Err6O4

=(0.9)×(0.1179)×(0.354)

计算结果为0.0376

w46=w46+Δw46

=(-0.3)+0.0376=-0.262

同理可以计算Δw56

计算结果为0.0609

w56计算结果为0.261

Δw14计算结果为0

w14计算结果为0.2

Δw15计算结果为0

w15=计算结果为-0.5

Δw24计算结果为-0.0073

w24计算结果为0.293

Δw25计算结果为0.0052

w25计算结果为0.095

Δw34计算结果为-0.0073

w34计算结果为-0.507

Δw35计算结果为0.0052

w35计算结果为0.205

五 更新偏移

先计算偏移的增量

再计算偏移的更新

按后向顺序计算

如下所式

Δθ6=(I)Err6

=(0.9)×(0.1179)

计算结果为0.1061

θ6=θ6+Δθ6

=0.1+0.1061

计算结果为0.206

同理可以计算Δθ5

计算结果为0.0052

θ5计算结果为0.205

Δθ4计算结果为-0.0073

θ4计算结果为-0.407

以上为一个训练元组的训练过程

可以根据预先设置的终止条件

判断该元组的训练是否终止

构建模型时需要将所有元组

均输入网络中训练

以构建模型并评估

正确率能够接收后

可以用此模型对未知元组进行预测

为了对未知元组X分类

把该元组输入到训练过的网络

计算每个单元的净输入和输出

如果每个类有一个输出结点

则具有最高输出值的结点

决定X的预测类标号

如果只有一个输出结点

则输出值大于或等于0.5

可以视为正类

而值小于0.5可以视为负类