当前课程知识点:大数据管理与挖掘 > 第8章 分类方法 > 8.4 神经网络 > 8.4 神经网络
吧
大家好
我是西安工程大学
管理学院 王艳老师
欢迎回来
本节我们接着介绍
神经网络
首先介绍人工神经元与感知器
感知器的结构如下图所示
图中
为加于输入端上的输入信号
XI为相应的突出连接权系数
它是模拟突出传递强度的一个比例系数
表示突出后信号的空间累加
表示神经元的阈值
表示神经元的响应函数
该模型的数学表达式
可以由下图所示
那么人工神经元与生物神经元的区别
生物神经元传递的信息是脉冲信息
而神经网络模型传递的信息是模拟电压
由于在神经网络模型中
用一个等效的模拟电压
来模拟生物神经元的脉冲密度
所以
在模型中只有空间累加
而没有时间累加
从这方面
我们可以认为
时间累加已隐含在等效的模拟电压之中
神经网络模型未考虑时延
不应期和疲劳等
接下来
我们介绍人工神经网络的数学模型
单个神经元的功能是很有限的
人工神经网络
只有用许多神经元
按一定规则连接构成的神经网络
才具有强大的功能
神经元的模型确定以后
一个神经网络的特性
及能力主要取决于
网络的拓扑结构及学习方法
神经网络的基本结构可以分成四类
第一类是向前网络
其结构图如下图所示
网络中的神经元是分层排列的
每个神经元只与前一层的神经元相连接
最右一层为输出层
隐含层的层数可以是一层或多层
向前网络
在神经网络中的应用很广泛
比如感知器就属于这种类型
第二种是反馈向前网络
其结构图如下图所示
网络的本身是向前行的
与前一种不同的是
从输出到输入由反馈回路
第三种是内层互连前馈网络
其结构图如下图所示
通过层内神经元之间的相互联结
可以实现同一层神经元之间
横向抑制或兴奋抑制
从而限制层内能同时动作的神经数
或者把层内神经元分为若干组
让每组作为一个整体来动作
一些自组织竞争型神经网络
就属于这种类型
那么最后一种是互联网络
其网络结构图如下图所示
互联网络由局部互连和全互联两种
全互联网络中的每个神经元
都与其他神经元相连
局部互连是指互连只是局部的
有些神经元之间没有连接关系
Hopfield网络和Boltzmann机
属于互联网络的类型
神经网络的学习与训练方式
如下图所示
可分为两种
有教师监督学习方式
和无教师监督学习方式
应用神经网络求解问题的一般过程
可以分为以下四步
第一步
确定信息表达方式
在这步中数据样本已知
且数据样本之间
相互关系不确定
输入数据按照模式进行分类
数据样本的预处理
将数据样本分为训练样本和测试样本
第二步是确定网络类型
在这步中选择模型的类型和结构
也可对原网络进行变形和扩充
在这步中也需要确定输入输出神经元数目
那么在这步中选择合理的训练算法
确定合适的训练步数
指定适当的训练目标误差
第三步训练模型
利用训练样本进行机器训练
确定网络参数
第四步是网络测试
选择合适的测试样本进行实例测试
接下来我们介绍人工神经网络的特点
它的特点可以分为四个
第一个
选择合适的拓扑结构
来防止模型的过分拟合是很重要的
第二
人工神经网络可以处理冗余的特征
第三
神经网络对训练数据中的噪声非常敏感
第四
人工神经网络全职学习使用的梯度下降方法
经常会收敛到局部最小值
训练人工神经网络是一个很耗时的过程
特别是当隐藏节点数量很大的时候
那么本节
就是我们8.4神经网络内容
-第1章 教学目标
--第1章 教学目标
-1.1 大数据的基本概念
-1.2 大数据的演变过程
-1.3 大数据应用
-1.4 大数据的处理模式
-1.5 大数据管理的关键技术
-第1章 作业
--第1章 作业
-第1章 讨论
--第1章 讨论
-第2章 教学目标
--第2章 教学目标
-2.1 大数据融合的概念
-2.2 大数据融合的方法论
-2.3 数据融合技术
-2.4 知识融合技术
-2.5 大数据融合的驱动枢纽
-2.6 小结
--2.6 小结
-第2章 作业
--第2章 作业
-第2章 讨论
--第2章 讨论
-第3章 教学目标
--第3章 教学目标
-3.1 大数据存储与管理方法
-3.2 基于新型存储的大数据管理
-3.3 大数据处理与存储一体化技术
-3.4 小结
--3.4 小结
-第3章 作业
--第3章 作业
-第3章 讨论
--第3章 讨论
-第4章 教学目标
--第4章 教学目标
-4.1 大数据的实时分析
-4.2 大数据的交互式分析
-4.3 云在线聚集
-4.4 大数据的智能分析
-4.5 小结
--4.5 小结
-第4章 作业
--第4章 作业
-第4章 讨论
--第4章 讨论
-第5章 教学目标
--第5章 教学目标
-5.1 隐私保护技术
-5.2 隐私保护技术的应用
-5.3 大数据隐私管理
-5.4 小结
--5.4 小结
-第5章 作业
--第5章 作业
-第5章 讨论
--第5章 讨论
-第6章 教学目标
--第6章 教学目标
-6.1 云计算 大数据基础平台与支撑技术
-6.2 批数据与流数据管理系统
-6.3 SQL NOSQL与NEWSQL系统
-6.4 小结
--6.4 小结
-第6章 作业
--第6章 作业
-第6章 讨论
--第6章 讨论
-第7章 教学目标
--第7章 教学目标
-7.1 一元回归
--7.1 一元回归
-7.2 多元回归
--7.2 多元回归
-7.3 逐步回归
--7.3 逐步回归
-7.4 Logistic回归
-7.5 应用实例-多因子选股模型的实现
-7.6 小结
--7.6 小结
-第7章 作业
--第7章 作业
-第7章 讨论
--第7章 讨论
-第8章 教学目标
--第8章 教学目标
-8.1 分类方法概要
-8.2 K-近邻(KNN)
-8.3 贝叶斯分类
-8.4 神经网络
--8.4 神经网络
-8.5 LOGISTIC分类
-8.6 判别分析
--8.6 判别分析
-8.7 支持向量机(SVM)
-8.8 决策树
--8.8 决策树
-8.9 分类的评判
-8.10 小结
--8.10 小结
-第8章 作业
--第8章 作业
-第8章 讨论
--第8章 讨论
-第9章 教学目标
--第9章 教学目标
-9.1 聚类方法概要
-9.2 K-means方法
-9.3 层次聚类
--9.3 层次聚类
-9.4 神经网络聚类
-9.5 模糊C-均值(FCM)方法
-9.6 高斯混合聚类方法
-9.7 类别数的确定方法
-9.8 应用实例-股票聚类分池
-9.9 小结
--9.9 小结
-第9章 作业
--第9章 作业
-第9章 讨论
--第9章 讨论
-第10章 教学目标
-10.1 预测方法概要
-10.2 灰色预测
-10.3 马尔科夫预测
-10.4 实用实例-纺纱质量预测
-10.5 小结
--10.5 小结
-第10章 作业
--第10章 作业
-第10章 讨论
--第10章 讨论
-第11章 教学目标
-11.1 离群点诊断概要
-11.2 基于统计的离群点诊断
-11.3 基于距离的离群点诊断
-11.4 基于密度的离群点挖掘
-11.5 基于聚类的离群点挖掘
-11.6 应用实例-纱线断点诊断
-11.7 小结
--11.7 小结
-第11章 作业
--第11章 作业
-第12章 教学目标
-12.1 数字挖掘技术的应用
-12.2 纺纱质量控制
-第12章 作业
--第12章 作业
-第12章 讨论
--第12章 讨论