当前课程知识点:人工智能 > 4.计算智能 > 4.2神经网络 > 4.2.3人工神经网络的互联结构
人工神经网络的互连结构(或称拓扑结构)是指单个神经元之间的连接模式,它是构造神经网络的基础,也是神经网络诱发偏差的主要来源。从互连结构的角度, 包括单层前馈网络和多层前馈网络:
1.前馈网络
单层前馈网络是指那种只拥有单层计算节点的前向网络。它仅含有输入层和输出层,且只有输出层的神经元是可计算节点,如图4-7所示:
其中,输入向量为X=(x1,x2,…,xn);输出向量为Y=(y1,y2,…,ym);输入层各个输入到相应神经元的连接权值分别是wij,i=1,2,..,n,j=1,2,.., m。
若假设各神经元的阈值分别是θj,j=1,2,…,m,则各神经元的输出yj, j=1,2,..,m分别为:
其中,由所有连接权值wij构成的连接权值矩阵W为:
在实际应用中,该矩阵是通过大量的训练示例学习而形成的。
多层前馈网络是指那种除拥有输入、输出层外,还至少含有一个、或更多个隐含层的前馈网络。隐含层是指由那些既不属于输入层又不属于输出层的神经元所构成的处理层,也被称为中间层。隐含层的作用是通过对输入层信号的加权处理,将其转移成更能被输出层接受的形式,如图4-8所示。
多层前馈网络的输入层的输出向量是第一隐含层的输入信号,而第一隐含层的输出则是第二隐含层的输入信号,以此类推,直到输出层。多层前馈网络的典型代表是BP网络。
2.反馈网络
反馈网络是指允许采用反馈联结方式所形成的神经网络。所谓反馈联结方式是指一个神经元的输出可以被反馈至同层或前层的神经元。
反馈网络和前向网络不同:
前向网络属于非循环连接模式,它的每个神经元的输入都没有包含该神经元先前的输出,因此不具有“短期记忆”的性质。反馈网络则不同,它的每个神经元的输入都有可能包含有该神经元先前输出的反馈信息,即一个神经元的输出是由该神经元当前的输入和先前的输出这两者来决定的,这就有点类似于人类的短期记忆的性质。 反馈网络的典型例子是Hopfield网络 。
-1.1人工智能的定义与发展
--人工智能的诞生
--定义
--发展
-1.2智能的本质
--人类智能
--人工的智能
-1.3人工智能各学派的认知观
--AI的萌芽
-1.4人工智能的研究与应用领域
--AI的研究范围
--AI在中国
-资源推荐
--有趣的资源
-章节习题
-2.1知识的基本概念
-2.2状态空间法
--习题
-2.3问题归约法
-2.4谓词逻辑法
-章节习题
-3.1图搜索策略
--图搜索策略概述
-3.2盲目搜索策略
-3.3启发式搜索策略
-3.4消解原理
-章节习题
-4.1概述
--计算智能定义
-4.2神经网络
-4.3进化计算
-4.4蚁群算法
-4.5模拟退火算法
-4.6博弈搜索策略
--教师讲解:博弈树
--教师讲解:剪枝
-章节习题
-5.1专家系统概述
-5.2专家系统结构
--5.4 黑板模型
-5.3专家系统的应用与发展概况
-5.4专家系统实例
-6.1机器学习的基本概念
-6.2记忆学习
-6.3归纳学习
-- 6.3.3决策树学习
-6.4解释学习
-6.5神经学习
-章节习题
-7.1自然语言理解概述
--7.1.1概述
-7.2词法分析
--词法分析
-7.3句法分析
-7.4 统计语言建模
-7.5信息检索