当前课程知识点：智能控制 > 第六章 典型神经网络 > 6.2 BP神经网络 > 6.2.1.1 BP神经网络简介(上)
下面我介绍一下
BP神经网络
包括它的概述
BP网络的结构
BP算法
及其MATLAB实现
首先来看一下BP神经网络的概述
那么在1986年
BP神经网络和BP算法提出来了
所谓的BP网络
英文就是Back Propagation
中文就是误差反向传播神经网络
那么它是由这两位专家
在1986年提出来的
它的基本思想
就是最小二乘算法
采用了梯度搜索技术
目标使得神经网络的实际输出值
与期望输出值之间的误差均方值为最小
这是它的一个基本思想
最小二乘法
那么这是它的学习算法的实质
BP神经网络的基本结构
这是说它的多个输入
特征向量
x1，x2到xM
依次经过输入层、隐含层到输出层
那么输入层有M个神经元
隐含层有Q个神经元
输出层有L个神经元
那么从输入层到隐含层之间
它的连接权值
我们定义为我们一个ωij
显然i的范围是1到M
j的范围是1到Q
隐含层到输出层
神经元的连接权值是
我们要ωjk
j的方法是1到Q
k的范围是1到L
那么输入特征向量x1，xM
依次经过输入层、隐含层到输出层
计算出输出之后
与它的期望输出进行比较
形成误差
那么误差反过来调整
它的连接权值
我们的ωij
我们的ωjk
这样构成了误差反传学习算法
也就是BP算法
这是它的一个基本结构
在这里面我们的输入向量定义为x1，x2到xM
因为有M个神经元输入
M个输入
L个输出
那隐含层的j个节点的输入
我们定义为netj
第j个节点的输出定义为Oj
输出层第k个节点的输入
定义为netk
第k个节点的输出定义为Ok
最终的输出层的期望输出向量定义为dk
输入层与隐含层的连接权值
我们记为ωij
隐含层与输出层的连接权值
我们记为ωjk
隐含层各神经元的阈值定义为θj
输出层各神经元的阈值定义为θk
样本的数据个数P
激励函数定义为这样一个函数
（见公式）
误差函数定义为E
那么BP算法首先它是正向传播
输入样本
依次经过输入层
隐含层到输出层正向计算
这叫正向传播
那么基于输入样本计算出来的
按照加权求和取函数
这样依次计算出来了输出层的输出
它有个实际输出
我们会给它一个期望输出
输入样本的时候
我们就知道每一个样本
对应的期望输出是多少
我们把它进行一个比较
如果输出层的实际输出
与期望输出不相符、不相等
我们就进入误差反向传播阶段
所谓的误差反向传播
就是定义一个误差函数
这个误差函数实际上是权值的函数
误差以某种形式在各层表示
又拿来修正各层的连接权值
这里面是用了梯度的概念
来进行修正权值了
那么修正权值之后
再继续输入样本
正向传播
依次经过输入层
隐含层
计算出它的实际输出
再跟它的期望输出相比较
如果不符合
再继续按照梯度算法
进行修正它的连接权值
这样的话不断地循环
直到神经网络的实际输出误差
减少到可以接受的程度
比如10的负9次方
或者是事先设定一个学习次数
终止次数
为止
这是一个停止条件
BP算法宏观上来看
就是一个正向传播
加误差反传
这样一个不断循环迭代的过程
不断地给它输入样本
告诉它期望的输出是多少
如果不相符
我就进行误差反传
调整它的连接权值和阈值
直到达到我们的停止条件
要么是误差
精度要求
要么是学习次数要求
-开篇
--开篇
-1.1课程考试方式
-1.2 数据、信息、知识与智能
-1.3传统控制面临的挑战
-1.4 控制科学发展过程
-1.5 智能控制的多元论
--1.5
-1.6 控制策略的渗透与融合
--1.6
-1.7 智能控制与传统控制的联系与区别
--1.7
-1.8 智能控制的类型之分级递阶智能控制系统
--1.8
-1.9 智能控制的类型之专家控制系统
--1.9
-1.10 智能控制的类型之模糊控制系统
--1.10
-1.11 智能控制的类型之神经网络控制系统，智能控制的类型之基于规则的仿人智能控制系统，集成智能控制系统，组合智能控制
--1.11
-1.12智能控制系统的类型之基于规则的仿人智能控制系统，集成智能控制系统，组合智能控制
--1.12
-1.13本章小结
--1.13
-第一章测试
-2.1基于搜索的问题求解
-- 2.1.7 均一代价搜索
-- 2.1.10 A星算法
-2.2 专家系统简介
- 2.3 专家PID
-第二章测试
-3.1 模糊控制概述
-3.2 模糊集合
-3.3 隶属函数
--3.3隶属函数.
-3.4 模糊关系及其运算
-第三章测试
- 4.1 模糊自适应整定PID控制原理
-4.2 基于FF的模糊PID控制试验验证
-第四章测试
- 5.1 神经网络简介
- 5.2 神经网络的发展简史
-5.3 神经网络的基本概念
- 5.4 神经网络的分类
-5.5 神经网络的学习算法、基本特征和研究领域
-第五章测试
-6.1 感知器
--6.1.2.1 感知器应用实例分析(实现逻辑运算与或非)
- 6.2 BP神经网络
--6.2.2.1 BP神经网络应用实例分析之一：逻辑运算异或实现
--6.2.2.2 BP神经网络应用实例分析之二：非线性函数拟合
-第六章测试
- 7.1 什么是遗传算法
-7.2 遗传算法的特点
-7.3 遗传算法的基本操作之复制
-7.4 遗传算法的基本操作之交叉与变异
-第七章测试
-8.1 遗传编程工作原理
-8.2 遗传编程基本操作之复制
-8.3 遗传编程基本操作之交换和突变
- 8.4 遗传编程的工作步骤及实例分析
-第八章测试
-期末测试
