题 目： BP神经网络
专 业
学 号：
学生姓名：
BP神经网络
1. 人工神经网络概述
20世纪50年代，Rosenblatt首先在模式分类中应用单层感知器。此后的几十年里，人们一直致力于单层感知器的研究，即人工神经网络(Artificial Neural Network,ANN)方面的研究，而此时Minsky和Papert却指出许多单层系统带来的局限性。到了20世纪70年代，研究者们逐渐减少了对ANN的研究。然而随着Rumelhart等在80年代中期提出的反传训练方法，又迅速升点燃了世界各地对ANN的研究热潮。人们一直期待一种拥有强大的并行处理能力、自适应能力、容错鲁棒、联想记忆以及能无限逼近任意非线性映射的模型，来应用在预测评估、模式识别、信号处理、组合优化及知识工程等领域。ANN就是这样一种按照人脑的组织和活动原理而构造的一种数据驱动型非线性映射的理想模型。近年来，研究者提出了多种ANN模型。在进行深入研究后，研究者普遍倾向于采用前馈反向传播的网络（Back-Propagation Network，简称BP网络）来实现人工神经网络。
2. BP神经网络
BP神经网络即多层前馈神经网络。下图2.1显示的是三层前馈神经网络的拓扑结构。这种网络神经具有各种神经元之间无反馈连接，各层内神经元之间无任何连接，仅相邻层神经元之间有连接等特点。
图2.1 三层前馈神经网络示意图
我们选取Sigmoid函数作为节点的处理函数，然后输入信号，再向前传播到隐节点，经由Sigmoid函数处理，再将隐节点的输出信号传播到输出接点，最后得到输出结果。
BP神经网络是一种在输入和输出之间具有高度非线性映射关系的识别模型。假设该网络有n个输入节点，m个输出接点，则这就实现了一种从n维欧式空间到m维欧式空间的映射的神经网络。要实现非线性分类，并且能够任意精度都无限逼近任何非线性函数，我们可以通过调整BP神经网络中的连接权值、网络的规模（包括n,m和隐含层节点数）。这不仅是软件解决实际问题的基础，同时也是人工神经网络拥有自学能力的关键。正因为如此，所以BP神经网络能够通过对样本进行学习，自动的调整网络中连接权值，从而实现非逻辑归纳。而这都是基于BP算法的，它是人工神经网络得以迅速发展的催化剂，也实现了多层前馈神经网络的权值自动调整。
此外，BP神经网络还具有反向传播算法，同时也有很多研究者提出对BP算法的改进算法，用来克服其固有的收敛速度慢、易陷入局部极小点等缺点。
3.实例介绍
采用动量梯度下降算法训练 BP 网络。
训练样本定义如下：
输入矢量为
p =[-1 -2 3 1
-1 1 5 -3]
目标矢量为 t = [-1 -1 1 1]
解：本例的 MATLAB 程序如下：
close all
clear
echo on
clc
% NEWFF——生成一个新的前向神经网络
% TRAIN——对 BP 神经网络进行训练
% SIM——对 BP 神经网络进行仿真
pause
% 敲任意键开始
clc
% 定义训练样本
% P 为输入矢量
P=[-1, -2, 3, 1; -1, 1, 5, -3];
% T 为目标矢量
T=[-1, -1, 1, 1];
pause;
clc
% 创建一个新的前向神经网络
net=newff(minmax(P),[3,1],{'tansig','purelin'},'traingdm')
% 当前输入层权值和阈值
inputWeights=net.IW{1,1}
inputbias=net.b{1}
% 当前网络层权值和阈值
layerWeights=net.LW{2,1}
layerbias=net.b{2}
pause
clc
% 设置训练参数
net.trainParam.show = 50;
net.trainParam.lr = 0.05;
net.trainParam.mc = 0.9;
net.trainParam.epochs = 1000;
net.trainParam.goal = 1e-3;
pause
clc
% 调用 TRAINGDM 算法训练 BP 网络
[net,tr]=train(net,P,T);
pause
clc
% 对 BP 网络进行仿真
A = sim(net,P)
% 计算仿真误差
E = T - A
MSE=mse(E)
pause
clc
echo off
仿真结果如下：
4.结论
BP算法的实质是非线性化问题的梯度下降搜索法。基于这种收敛算法的局限性，引入动态神经网络来实现动态系统逼近和控制。带时滞的多层感知器网络和Hopfield网络模型结构和学习算法，其中多层感知器网络对于解决有限阶非线性离散系统和控制非常有效。而Hopfield网络则是利用反馈动力学活动规律实现联想记忆。神经网络的模型远远不止这几种，由于本人知识的局限性，不能做过多的介绍，希望在日后的学习研究中有更深入的了解。
本文档为【BP神经网络浅谈】，请使用软件OFFICE或WPS软件打开。作品中的文字与图均可以修改和编辑，
图片更改请在作品中右键图片并更换，文字修改请直接点击文字进行修改，也可以新增和删除文档中的内容。
该文档来自用户分享，如有侵权行为请发邮件ishare@vip.sina.com联系网站客服，我们会及时删除。
[版权声明] 本站所有资料为用户分享产生，若发现您的权利被侵害，请联系客服邮件isharekefu@iask.cn，我们尽快处理。
本作品所展示的图片、画像、字体、音乐的版权可能需版权方额外授权，请谨慎使用。
网站提供的党政主题相关内容(国旗、国徽、党徽..)目的在于配合国家政策宣传，仅限个人学习分享使用，禁止用于任何广告和商用目的。
浙公网安备 33021202002483