首页 > 文章中心 > bp神经网络

bp神经网络

前言:想要写出一篇令人眼前一亮的文章吗?我们特意为您整理了5篇bp神经网络范文,相信会为您的写作带来帮助,发现更多的写作思路和灵感。

bp神经网络

bp神经网络范文第1篇

关键词 bp神经网络 数据挖掘 最速下降法 函数逼近 模式识别

中图分类号:TP391 文献标识码:A

1研究背景

BP神经网络是一种多层的前馈网络而且它的学习算法是一种误差逆向传播算法。BP神经网络是目前研究最为成熟、应用最为广泛的人工神经网络模型之一。由于其结构简单、可操作性强、具有较好的自学习能力、能够有效地解决非线性目标函数的逼近问题等优点,因此被广泛应用于自动控制、模式识别、图像识别、信号处理、预测、函数拟合、系统仿真等学科和领域中。

2 BP神经网络原理

2.1概述

BP神经网络是一种反向传播误差算法然后训练的一个多层前馈网络,简称为BP算法,它应用在已被开发出来的神经网络中,到目前为止是应用最为广泛的网络模型之一。BP神经网络可以学习并且存储非常多的输入模式与输出模式之间的映射关系,却无需在学习和存储前事先揭示并描述输入输出间的映射关系的一种数学方程。它使用最速下降法,通过对输出误差的反向传播,获得不断调整网络连接权系数和阈值的信息,最终使神经网络的平方误差最小,达到期望要求。

2.2 BP神经网络结构

BP神经网络模型是一个三层网络,它的拓扑结构可被划分为:输入层、输出层、隐含层。其中输入层与输出层具有更重要的意义,因此它也可以为两层网络结构(把隐含层划入输入层或者把隐含层去掉)。每层都由许多简单的能够执行并行运算的神经元组成,这些神经元与生物系统中的那些神经元非常类似,但其并行性并没有生物神经元的并行性高。BP神经网络是一个前馈网络,因此它具有前馈网络所具有的特性:相邻两层之间的全部神经元进行互相连接,而处于同一层的神经元不能进行联接。

2.3 BP算法原理

BP神经网络的基本原理是把一个输入矢量经过隐含层的一系列变换,然后得到一个输出矢量,从而实现输入数据与输出数据间的一个映射关系。输入信息的正向传播,以及输出误差的反向传播,构成了 BP网络的信息循环。BP算法根据输出误差来修改各神经元连接的连接权系数,其目的是使输出误差达到预计范围内。BP网络需要实际输出与期望输出之间的误差来确定是否要修改神经元连接的连接权系数。其中,期望输出便是该网络意义上的“导师”。BP网络具有对称性的网络结构,在输出端的每一个处理单元基本上都具有一个相同的激励函数。

BP算法由正向传播和反向传播两部分组成。在正向传播过程中,输入信息从输入层经隐层单元处理后,传至输出层。每一层神经元的状态只影响下一层神经元的状态。如果在输出层得不到期望输出,就转为反向传播,即:把误差信号沿连接路径返回,并通过修改各层神经元之间的连接权值,使误差信号最小。

具体的算法步骤可概括如下:

第一步,选取初始权值、阈值。

第二步,重复下述过程直至满足性能要求为止:

(1)对于学习样本P=1到N

①计算每层各节点j的输出yj,netj和的值(正向过程);

②对各层从M层到第二层,对每层各节点反向计算%]j(反向过程);

(2)修改权值

具体推导过程见参考文献4。

3基于BP神经网络设计的实例

3.1函数逼近

我们设计一个简单的BP网络,实现对非线性函数的逼近。通过改变该函数的参数以及BP网络隐层神经元的数目,来观察训练时间以及训练误差的变化时间。将要逼近的非线性函数设为正弦函数,其频率参数k可以调节。假设频率参数k=2,绘制此函数的曲线。如图1。

(1)网络建立:用MATLAB编程建立BP网络结构,为二层BP神经网络。隐层神经元数目n 可以改变,暂时设为n=10,输出层有一个神经元。网络训练采用Levenberg-Marquardt算法trainlm。

分析:因为建立网络时,权值和阈值的初始化是随机的,所以网络输出结果很差,根本达不到函数逼近的目的,并且每次运行的结果也有所不同。

(2)网络训练:在MATLAB里应用train()函数对网络进行训练之前,需要预先设置训练参数。将训练时间设置为50,训练精度设置为0.01,其余参数用默认值。

(3)网络测试:对于训练好的网络进行仿真,绘制网络输出曲线,并与原始非线性函数曲线相比较,结果如下图2。

由此可看出,得到的曲线和原始的非线性函数曲线很接近。这说明经过训练后,BP网络对非线性函数的逼近效果非常好。

(4)讨论分析:改变非线性函数的频率和BP网络隐层神经元的数目,对于函数逼近的效果有一定的影响。网络非线性程度越高,对BP网络的要求越高,则相同的网络逼近效果要差一些;隐性神经元的数目对于网络逼近效果也有一定的影响,一般来说隐形神经元数目越多,则BP网络逼近非线性函数的能力越强,同时网络训练所用的时间相对来说也要长一些。

参考文献

[1] 闫志忠.BP神经网络模型的改进及其应用研究[D].吉林大学,2003.

[2] 李友坤.BP神经网络的研究分析及改进应用[D].安徽理工大学,2012.

[3] 吴昌友.神经网络的研究及应用[D].东北农业大学, 2007.

bp神经网络范文第2篇

关键词:BP神经网络;学习过程;模式识别;旋转机械;故障诊断

中图分类号:TP311 文献标识码:A 文章编号:1009-3044(2009)15-3982-02

The Study and Application of the BP Neural Network

HOU Zhi-bin, WEN Bi-teng, PENG-Hua, LI Chun-hou

(Department for Graduate Students of Artillery Academy, Hefei 230031,China)

Abstract: The manual NN as a highly integrated chiasma subject. Most of models about NN are adopting the BP network and the changed form at the practical appliance, which is also the hard core of forward network, incarnating the essential part of NN. The paper introduces the studying process of the BP network and uses the BP network for the mechanical failure diagnoses as assorted organ in the mode identification.

Key words: BP neural network; studying process; mode identification; revolving machine; failure diagnoses

1 引言

人工神经网络是一门高度综合的交叉学科,它的研究和发展涉及神经生理学、数理科学、信息科学和计算机科学等众多学科领域。

人工神经网络是模仿生物脑结构和功能的一种信息处理系统,虽然目前的模仿还处于低水平,但已显示出一些与生物脑类似的特点:1) 大规模并行结构与信息的分布式存储和并行处理,克服了传统的智能诊断系统出现的无穷递归、组合爆炸及匹配冲突问题,它特别适用于快速处理大量的并行信息。2) 具有良好的自适应性,系统在知识表示和组织、诊断求解策略与实施等方面可根据生存环境自适应、自组织达到自我完善。3) 具有较强的学习、记忆、联想、识别功能,系统可根据环境提供的大量信息,自动进行联想、书记及聚类等方面的自组织学习,也可在导师的指导下学习特定的任务,从而达到自我完善。4) 具有很强的容错性,当外界输入到神经网络中的信息存在某些局部错误时,不会影响到整个系统的输出性能。神经网络已经在信号处理、模式识别、目标跟踪、机器人控制、专家系统、系统辨识等众多领域显示出其极大的应用价值,作为一种新的模式识别技术或一种知识处理方法,神经网络在机械故障诊断中显示了其极大应用潜力。

目前,在人工神经网络的实际应用中,绝大部分的神经网络模型是采用BP网络和它的变化形式,它也是前向网络的核心部分,体现了人工神经网络最精华的部分。本文介绍BP网络的学习过程以及从模式识别角度应用BP神经网络作为分类器进行机械故障诊断。

2 BP神经网络的学习过程

有多层感知器可知,输入层中人以神经元的输出为输入模式分量的加权和。其余各层中,设某一层中任一神经元j输入为netj,输出为yi,与这一层相邻的低一层中任一神经元i的输出为yi。则有

如式(5)和式(6)所示,输出层中神经元的输出误差反向传播到前面各层,以各层之间的权值进行修正。

3 旋转机械故障的训练

表1是一组旋转机械故障的训练示例,表内的值表示各训练示例的特征值大小,其取值区间为[0,1],如在不平衡训练示例中,0~1/4倍频的振动幅值的当量值为0;1/4~3/4倍频的振动幅值的当量值为0;3/4~1倍频的振动幅值的当量值还为0;1倍频的振动幅值的当量值为0.9;2倍频的振动幅值的当量值为0.1;等等,其余类推。

将这些故障训练示例输入到一个具有8个输入节点,8个中间层节点和3个输出层节点的网络中,经过1200次迭代,形成了一个网络,该网络的记忆效果如表2所示,经过12000次迭代形成网络的记忆效果如表3所示。

表2中第一行表示,当输入一组不平衡故障时,得出该故障的置信度为0.94,而其他故障几乎为0;第二行表示,当输入一组油膜涡动故障时,得出该故障的置信度为0.96,而其他故障几乎为0;第三行表示,当输入一组不对中故障时,得出该故障的置信度为0.90,而其他故障几乎为0。表3中的结果有所改进,其值已趋于稳定。通过比较表2和表3,可看出训练中迭代次数越多,所得到的网络越能够更好的联想出训练示例。但训练次数不宜过长,只要满足精度要求,训练次应尽可能少,以减少训练时间。

4 结论

人工神经网络是模仿生物脑结构和功能的一种信息处理系统,并且已经在信号处理、模式识别、目标跟踪、机器人控制、专家系统、系统辨识等众多领域显示出其极大的应用价值。文章介绍了BP神经网络的学习过程,并给出了BP神经网络在旋转机械故障诊断中的应用。作为一种新的模式识别技术或一种知识处理方法,神经网络在机械故障诊断中显示了其极大的应用潜力。

参考文献:

[1] 王江萍.机械设备故障诊断技术及应用[M].西安:西北工业大学出版社,2001.

[2] 盛兆顺,尹琦岭.设备状态监测与故障诊断技术及应用[M].北京:化学工业出版社,2003.

[3] 温熙森.模式识别与状态监控[M].长沙:国防科技大学出版社,1997.

[4] 李孝安.神经网络与神经计算机导论[M].西安: 西北工业大学出版社,1994.

bp神经网络范文第3篇

1.1事件的选取和回顾在实证分析中以“宁波PX事件”为预警模型的最终目标,而选择了“厦门PX事件”和“昆明PX事件”为学习样本进行学习。这一连串关于PX事件其危害的对象不仅仅是政府形象更是对整个社会和谐稳定造成了较大的影响。尤其是宁波PX事件中,甚至出现了不理智的因受谣言的蛊惑冲击政府机关掀翻执勤警车的情况。倘若能及时且准确地对此类事件进行预警并作出相应的预防措施就能对事件进行有效的控制。

1.2指标数据的获取对于所建立的模型而言其关键不仅仅在于预警模型的指标的建立和神经网络的识别。其数据的获取亦是十分关键的一步。根据各个数据的特点,整理各个指标数据获取方式如下。将厦门PX事件和昆明PX事件作为一个学习样本,其数据清单如表3所示。同样将模型的预警目标——“宁波PX事件”作为目标数据,其数据清单如表4所示。

1.3输入数据的标准化处理网络舆情危机预警指标体系中有5个预警指标,其中存在定性指标和定量指标两大类,并且对各个指标的数据进行了量化处理,然而各个指标的单位的量纲是不同的,为了能够对各个指标进行对比评分,需要将它们进行标准化得到[0,1]无量纲指标。量化的指标均有正负方向均有正负方向之分,自然这些数据的标注化方法均有不同:1)正向指标处理:正向指标表示值越大越安全,危机等级越小无量纲化以最小值为基准,正向无量纲化处理方程:2)负向指标处理:负向指标在文章中表示指标值越小越安全,危机等级越小。无量纲化以最大值为基准,负向的无量纲化处理方程:其中,X表示量化后的指标值,xmin表示指标的最小值,xi表示指标的实际值,xmax表示指标的最大值。

2舆情预警模型的建立及结果

2.1模型的建立神经网络模型是一个典型的“输入-处理-输出”的过程。输入是采集到的指标的实际值,输出是模型识别的结果,即预警的敏感度,而中间过称则采用BP神经网络模型进行学习计算,这部分相当于“黑匣子”。在处理的时候,该文采用三层BP网络(一个输入层、一个隐含层、一个输出层)的网络结构,那么输入、输出节点数分别是5和1[8]。在设置完参数之后用第四章所讲述的利用Matlab软件完成模型的建立。

2.2结果及检验通过搜集得到的数据汇编成的学习样本,并将其中的70%作为样本,30%作为检验样本进行。通过计算可以得到该表,从该表中容易得到,学习过程中准确率达到了91.76%。并在测过程中抽取了5项进行预测,得到的准确率为92.31%,其较高的准确率。因此有理由认为该模型在未来的预测过程中其准确率应该达到90%以上。

3研究结论

bp神经网络范文第4篇

关键词:BP神经网络;数字识别;特征提取

中图分类号:TP183 文献标识码:A 文章编号:1009-3044(2013)14-3362-04

1 概述

数字识别在车辆牌照识别、银行支票识别和邮政储蓄票据识别等领域有着广泛的应用,因而成为研究人员近年来研究的一个焦点[1]。而人脑神经系统模型的建立为人工神经网络的产生提供了理论模型依据, 使其具有模拟人脑部分形象思维的能力[2],因而使其成为人工智能技术的重要组成部分和常用方法。人工神经网络由简单信息处理单元相互连接组成,通过简单处理单元间的相互作用来实现对其所接收信息的处理。而随着人工神经网络技术的快速发展,其为解决模式识别邻域的相关问题提供了新的解决思路和方法,其突出的优点在于它具有对接收信息可进行并行分布式处理能力和自我学习反馈能力,因而吸引了众多研究人员对其进行广泛和深入的研究。而误差反向传播网络(Back-Propagation),即BP神经网络,是一种典型的人工神经网络,它具有人工神经网络的所有优点,因而在众多技术邻域有着广泛的应用[3]。该文首先对BP神经网络的基本原理进行了详细介绍,在分析了其基本原理的基础上,针对数字识别问题,设计了一种利用BP神经网络技术进行数字识别的方法。经实验表明,该方法合理可行,且其识别效果正确有效。

2 相关原理与知识

由于本文针对数字识别问题,利用BP神经网络技术对其进行方法设计和实现,首先必须了解BP神经网络的基本原理,即了解其具体构成形式、模型分类和其功能特点。其次,在了解了BP神经网络基本原理的基础上,进一步了解其所处理数据的特点和组成形式,并根据处理数据的特点和其数据结构设计相应的数字识别方法。下面分别对它们进行详细的介绍。

2.1 BP神经网络基本原理

BP神经网络算法由数据信息流的前向计算,即正向信息流的正向传递,误差信息的反向回馈两个部分组成。当信息流进行正向传递时,其传递方向为从输入层到隐层再到输出层的顺序,器每层神经元所处的状态只会影响下一层神经元的状态。若在最后的输出层没有得到理想的输出信息,则应立即进入误差信息的反向回馈过程[6]。最终经过这两个过程的相互交替运行,同时在权向量空间使用误差函数梯度下降策略,动态迭代搜索得到一组权向量,使得该BP神经网络的误差函数值达到最小,从而完成对信息提取和记忆过程[7]。

2.2 BMP二值图像文件数据结构

由于本文处理的数据源为BMP二值图像,则必须了解其数据结构,才能对其进行进一步的识别方法设计。由数字图像处理基础知识可知,常见BMP二值图像文件的数据结构由以下三部分组成:(1)位图文件头,其包含了BMP二值图像的文件类型、文件大小和位图数据起始位置等信息;(2)位图信息头,它包含了BMP二值图像的位图宽度和高度、像素位数、压缩类型、位图分辨率和颜色定义等信息;(3)位图数据体,其记录了位图数据每一个像素点的像素值,记录顺序在扫描行内是从左到右,扫描行之间是从下到上。因此,根据BMP二值图像数据结构信息,读出所需要的图像数据,并对这些图像数据做进一步的处理。在本文给定的训练图像中,图像数据大小为80个字节,而图像数据体距离其文件头的偏移量为62个字节。但为了减少数据处理数量,该文在进行实验时直接使用位图数据体中的数据,没有通过读出位图文件头来得到位图数据体中的数据。

3 数字识别具体设计方法

由上文可知,该文使用数据源为图像大小为20*20的BMP二值图像,由于是对位图数据体的数据直接进行操作,因此省去了对图像其他数据结构数据的繁杂处理过程,将问题的核心转向BP神经网络的设计方法步骤。

4 实验结果

图4所示为BP神经网络训练及测试结果图。该文选择10个训练样本,通过实验结果可以看出,由这10个训练样本训练出来的BP神经网络对于训练样本中的图像数值识别率达100%,训练时间也比较短,其迭代次数大概为700次左右。对于一些含有噪声的图片,只要噪声系数小于0.85个字符,其数字识别率可达96%。

5 结束语

针对二值图像数字识别问题,该文在对BP神经网络的基础理论进行分析后,设计了一种基于BP神经网络的数字识别方法,并通过实验验证了该BP神经网络用于数字识别的可行性和有效性。而对于BP神经网络存在的收敛速度慢、易陷入局部最优和学习、记忆具有不稳定性等问题,还有待于对其进行一步研究。

参考文献:

[1] 韩力群.人工神经网络教程[M].北京:北京邮电大学出版社,2006.

[2] 吕俊,张兴华.几种快速BP算法的比较研究[J].现代电子技术,2003,24(167):96-99.

[3] 陆琼瑜,童学锋.BP算法改进的研究[J].计算机工程与设计,2007(10):96-97.

[4] Sven Behnke,Marcus Pfister.A Study on the Combination of Classifiers for Handwritten Digit Recognition,2004.

[5] 马耀名,黄敏.基于BP神经网络的数字识别研究[J].信息技术,2007(4):87-88.

[6] Hasan soltanzadeh.Mohammad Rahmati.Recogniton of Persian Handwritten Digits Using Image Profiles of Multiple Orientations[J].Pattern Recognition Leaers,2004(15).

[7] 吴成东,刘文涵.基于粗网格神经网络的车牌字符识别方法[J].沈阳建筑大学报,2007,23(4):694-695.

bp神经网络范文第5篇

关键词:BP神经网络; 小波变换; 目标识别; 数据融合

中图分类号:TN91934 文献标识码:A 文章编号:1004373X(2012)10010003

战场目标识别一直是重要的研究课题,只用正确的识别目标,才能有效地采用克敌制胜的方法。多年以来,科学家为研究识别目标的方法,投入了大量的精力。最主要的方法是通过目标的外形进行识别,然而这很容易受到目标各种外形特征的影响,而且通过伪装和遮蔽,大大增加了通过图像识别目标的难度。另外也可以通过采集目标运动产生的地震动信号对目标进行识别。不同类型地面目标行进产生的地震动信号具有不同的频率和能量特征[1]。通过数据采集得到这些信号,然后利用小波分析,得到地震动信号的特征向量,利用神经网络分类器完成目标识别[2]。由于所有的检测信号都来源于目标本身,不会由于发射侦测信号被目标识别,属于被动目标识别方法,大大增加了隐蔽性。通过应用最新的信号分析处理方法和识别技术,能极大地提高识别效果和识别准确率。

1 数据采集和信号处理

1.1 测试系统组成

整个测试系统包括震动传感器、电荷放大器、PXI数据采集仪。采集系统构成如图1所示。为了提高信号质量,在采集之前增加了滤波电路。

所有的数据采集都是由PXI数据采集仪完成的。它来自地震动传感器的信号(频率较高)和频率为24.8 MHz的RF信号混合调制。为了减小杂波噪声,在量化的时候,通过一个低通滤波器将高于2 MHz的信号去除。PXI数据采集仪的内部包含数据采集卡,数据采集卡的采样频率为1 MHz,设定采样2 s的数据。采样得到的数据为WAV格式,能够通过外部音响播放出来。采样数据转换成MAT格式后,使用Matlab完成离线信号处理,包括解调和频谱计算。

图1 测试系统构成1.2 信号消噪

通过数据采集得到的信号通常包含各种噪声,必须将信号中的噪声信号去除。在实际工程中,有用信号通常表现为平稳信号,包含在低频部分,而噪声信号通常包含在高频部分。为此采用小波降噪的方法,将高频部分滤除。小波降噪的原理是首先对信号进行小波分解,分解后噪声包含在高频分量中,通过门限阈值等形式对小波系数进行处理,然后对信号进行重构,即达到了小波降噪的目的[3]。小波降噪一般分为3个步骤:

(1) 信号的小波分解。选择一个小波并确定分解的层次,然后进行分解运算。

(2) 小波分解高频系数阈值量化。对各个分解尺度的高频系数选择一个阈值进行阈值量化处理。

(3) 一维小波重构。根据小波分解的底层低频系数和各层高频系数进行一维小波重构。

这三个步骤中,最重要的步骤是如何选取阈值和如何进行阈值量化,这直接关系到信号消噪的质量[4]。本文采用的是sym8小波进行了6层分解,并用Heursure软阈值进行小波系数阈值量化。

通过对比原始信号(见图2)和滤波后信号(见图3)可以看出,滤波后的信号中包含的噪声信号明显减少了。这样就是减少了数据量,使后续的处理更方便,速度更快,结果更准确,从而达到最佳的识别效果。

图2 原始信号

图3 滤波信号2 人工神经网络

2.1 人工神经网络

人工神经网络(Artificial Neural Network,ANN),也称为神经网络,是由大量的神经元(Neurons)广泛连接组成的网络,是对人脑的抽象和模拟,实现人脑的基本功能。人工神经网络通过输入/输出数据调节参数、算法和结构模型,其自诞生至今,由于人工神经网络具有自学习能力和并行处理大量数据等特点,已经在智能控制和模式识别等领域得到越来越广泛的应用。尤其是基于误差信号反向传播(Error Back Propagation)的多层前馈网络(Multiplelayer Feedback Network),简称BP神经网络,因其可以以任意精度逼近任意连续函数而广泛应用于函数逼近、模式识别等领域。

BP神经网络一般有一个输入层,一个隐含层(有时有2个或者更多)和一个输出层[5]。输入层和输出层的神经元个数分别是输入层和输出层输入数据的维数,隐含层的层数和隐含层节点的个数要根据具体情况而定。BP神经网络模型如图4所示。

图4 BP神经网络神经网络模型有n输入和m输出。假设k代表采样序列,则数学上神经网络模型代表输入Xk=(xk1,xk2,…,xkn)T和输出Yk=(yk1,yk2,…,ykm)T之间的非线性映射,有以下等式:Yk=g(W,Xk)式中:W={wij,i=1,2,…,Ni,j=1,2,…,Nj}是一个权重矩阵反映层之间的连接;Ni和Nj分别代表i层和j层神经元数目。对神经网络模型的训练实际上就是利用训练样本计算权重矩阵W。训练完成的神经网络计算速度会很快,无论问题的复杂程度如何[6]。

2.2 信号特征分量提取

相关期刊更多

激光与红外

北大期刊 审核时间1-3个月

中华人民共和国信息产业部

重庆理工大学学报·自然科学

北大期刊 审核时间1-3个月

重庆市教育委员会

地下空间与工程学报

北大期刊 审核时间1-3个月

中华人民共和国教育部