当前课程知识点:人工智能 > 4.计算智能 > 4.2神经网络 > 4.2.4BP网络模型
误差反向传播(Error Back Propagation)网络通常简称为BP(Back Propagation)网络,是由美国加州大学的鲁梅尔哈特和麦克莱兰在研究并行分布式信息处理方法,探索人类认知微结构的过程中,于1985年提出的一种网络模型。
BP网络的网络拓扑结构是多层前向网络,如图4-9所示。在BP网络中,同层节点之间不存在相互连接,层与层之间多采用全互连方式,且各层的连接权值可调。BP网络实现了明斯基的多层网络的设想,是当今神经网络模型中使用最广泛的一种。
对BP网络需说明以下两点:
第一,BP网络的每个处理单元均为非线性输入/输出关系,其作用函数通常采用的是可微的Sigmoid函数,如:
第二,BP网络的学习过程是由工作信号的正向传播和误差信号的反向传播组成的。所谓正向传播,是指输入模式经隐层到输出层,最后形成输出模式;所谓误差反向传播,是指从输出层开始逐层将误差传到输入层,并修改各层联接权值,使误差信号为最小的过程。
BP算法的实现
另一种方法是在所有样本输入之后,计算网络的总误差:
然后根据总误差计算各层的误差信号并调整权值。
BP网络应用实例——基于BP网络的医疗诊断系统
某医疗诊断系统只考虑 6 种症状、2 种疾病、3种治疗方案
症状:对每一症状采集三种信息 — 有(1)、无(-1)、没有记录(0)
疾病:对每一疾病采集三种信息 — 有(1)、无(-1)、没有记录(0)
治疗方案:对每一治疗方案采集两种信息 — 是、否
每个病人的信息构成一个训练样例,用一批训练样例对网络进行训练(BP算法),假设得到的是如图所示的神经网络
x1 -- x6 为症状(输入)
x7,x8 为疾病名
x9,x10,x11 为治疗方案(输出)
-1.1人工智能的定义与发展
--人工智能的诞生
--定义
--发展
-1.2智能的本质
--人类智能
--人工的智能
-1.3人工智能各学派的认知观
--AI的萌芽
-1.4人工智能的研究与应用领域
--AI的研究范围
--AI在中国
-资源推荐
--有趣的资源
-章节习题
-2.1知识的基本概念
-2.2状态空间法
--习题
-2.3问题归约法
-2.4谓词逻辑法
-章节习题
-3.1图搜索策略
--图搜索策略概述
-3.2盲目搜索策略
-3.3启发式搜索策略
-3.4消解原理
-章节习题
-4.1概述
--计算智能定义
-4.2神经网络
-4.3进化计算
-4.4蚁群算法
-4.5模拟退火算法
-4.6博弈搜索策略
--教师讲解:博弈树
--教师讲解:剪枝
-章节习题
-5.1专家系统概述
-5.2专家系统结构
--5.4 黑板模型
-5.3专家系统的应用与发展概况
-5.4专家系统实例
-6.1机器学习的基本概念
-6.2记忆学习
-6.3归纳学习
-- 6.3.3决策树学习
-6.4解释学习
-6.5神经学习
-章节习题
-7.1自然语言理解概述
--7.1.1概述
-7.2词法分析
--词法分析
-7.3句法分析
-7.4 统计语言建模
-7.5信息检索