前言:想要写出一篇令人眼前一亮的文章吗?我们特意为您整理了5篇人工神经网络的实际应用范文,相信会为您的写作带来帮助,发现更多的写作思路和灵感。
【关键词】气体识别;自组织神经网络
1.引言
气体识别在环境保护、化工控制、家用报警、食品保鲜、温室环境控制、航空航天等领域有着广泛的应用。应用气体传感器进行多组份气体的定性定量研究,可以极大的降低测量成本,减小测量周期,并可实现在线的实时测量。但由于当前气体传感器普遍存在着交叉敏感和选择性差等缺点,使用单一传感器很难实现多组份气体的检测分析。为解决以上问题,一方面可以采用新材料、新工艺来改善传感器本身的性能;另一方面可以将现有的气体传感器构成阵列,并与自组织神经网络技术相结合。本文采用后者的原理,即通过多个敏感程度不同的气体传感器组成传感器阵列,结合神经网络模式识别算法进行气体识别分析。
人工神经网络(Artificial Neuron Networks,ANN)人工神经网络(Artificial Neutral Networks,ANN)是一个由大量简单处理单元广泛连
接而成的复合网络系统。神经元结构是受到生物神经元的启发而得来的。目前应用的神经网络类型有很多,其中应用最广的是BP神经网络,神经网络需要学习的过程,即利用外部条件作用于神经网络,使其能重新对外界做出反应。将气体传感器阵列与采用BP算法进行训练的人工神经网络模式识别技术相结合形成的气体识别系统,是利用传感器阵列对混合气体的高维响应模式来实现对混合气体的定量检测。其中传感器阵列的选取、传感器信号的预处理方法、BP神经网络的结构和参数以及测量环境是影响系统性能的可能因素。
2.人工嗅觉系统
人工嗅觉系统是一种化学分析系统,它由一个具有部分专一性的电子化学传感器阵列和一个合适的模式识别系统组成。由于人工嗅觉系统主要模仿的是生物的嗅觉系统,所以人工嗅觉系统也可被称为“电子鼻”或者电子嗅觉系统。
2.1 电子鼻简介
电子鼻这个术语开始出现于二十世纪八十年代晚期,当时它被用于1987年的一个学术会议。较为科学的电子鼻的概念出现于1994年英国Warwick大学的J.W.Gardner发表的文章中,并且J.W.Gardner综述了世界各国人工嗅觉系统的发展概况。
电子鼻模仿人的鼻子的功能,以电讯号的方式予以表达,可以工作在恶劣或有毒的环境下,在食品、化工、环保、医疗诊断、检验等方面有很重要的应用,其关键技术就是气体传感器阵列。
2.2 人工嗅觉系统的原理及基本组成部分
人工嗅觉系统主要是受生物的嗅觉系统启发和影响,以下是该系统中的关键因素:
(1)对微量、痕量气体分子瞬时敏感的监测器,以得到与气体化学成分相对应的信号;
(2)对检测到的信号进行识别与分类的数据处理器,将有用的信号与噪声加以分离;
(3)将测量数据转换为感官评定指标的智能解释器,得到合理的感官结果。
2.3 气体传感器
气体传感器是一种将气体的成分、浓度等信息转换为可以被人员、仪器仪表、计算机等利用的信息的装置。
2.3.1 半导体气体传感器
半导体气体传感器在气体传感器中约占60%,根据其机理分为电导型和非电导型,电导型中又分为表面型和容积控制性。
2.3.2 表面敏感型传感器元件
表面敏感型传感器元件SnO2-Pd、ZnO-PT、AgO、Pt-SnO2,可检测气体为CO、NO2和氟利昂等,传感材料Pt-SnO2的气体传感器可检测气体为可燃性气体如H2、CO、CH4等。
2.3.3 容积控制型传感材料
容积控制型传感材料有TiO2、CoO-MgO-SnO2等,其半导体气体传感器可检测气体为液化石油气、酒精和燃烧炉气尾气等。
3.神经网络
人工神经网络(Artificial Neuron Networks,ANN)是近年来人工智能的一个重要科学分支。二十世纪五十年代末人工神经网络系统开始作为人工智能的一种重要计算工具逐渐受到重视。进入二十世纪八十年代后期,人工神经网络的研究进入了一个新的。主要原因是:一方面经过几十年迅速发展起来的以逻辑符号处理为主的人工智能理论和冯-诺依曼计算机在处理诸如视觉、听觉、形象思维和联想记忆等智能信息问题时遇到挫折;另一方面,具有并行分布处理模式的人工神经网络本身的研究取得了巨大的进展。
神经网络具有一些不同于其它计算方法的性质和特点以及它自身是基于人类大脑结构和功能而建立起来的,因此具有很多和人类智能类似的特点。首先,神经网络将信息存储在大量的神经元中,具有内在的知识索引功能。信息在网络中使用两种方式被保留:一种是神经元之间的连接,另一种是连接权重因子。其次,人工神经网络具有对周围环境自学习、自适应功能,也可用于处理带噪声的、不完整的数据集。在人工神经网络中,输入与输出的关系不是由单独的神经元直接负责的,相反是与神经元的输入输出有关。最后,人工神经网络模拟人类的学习过程。人类大多数的学习和求解过程都是采用尝试法,而人工神经网络可以以相同的方式运行。
神经元(neuron)即神经网络中的基本处理单元,也就是节点。一般节点由输入与输出、权重因子、内部阀值和函数形式四部分组成。
图1 神经元模型
图1给出了一个基本的神经元模型,它具有R个输入,每个输入都通过一个适当的权值wli和下一层相连,网络输出可表示为:
式中,n为该神经元(序号l)的总输入;
f(n)为神经元输入输出关系的函数,称为作用函数、响应函数或传递函数。
人工神经网络的拓扑结构是指它的处理单元是如何相互连接的,主要由输入层、隐含层和输出层组成。每一节点的输出被送到下一层的所有节点。通过将这些处理单元组成层,将其相互连接起来,并对连接进行加权,从而形成神经网络的拓扑结构,将若干个人工神经元作为有向图的节点,可连接成人工神经网络。其中每一层对于人工神经网络的成功都非常关键。可以将人工神经网络输入层、隐含层和输出层看成为一个通过输入层的所有节点输入特定信息的黑箱。人工神经网络通过节点之间的相互连接关系来处理这些信息,最后从输出层的节点给出最终结果。
4.误差反向传播网络(BP网络)
1985年,以Rumelhart和McClelland为首提出了至今仍广泛接受和使用的误差反向传播学习算法。按照这一算法进行训练的多层神经网络被直接称为BP神经网络。BP网络是一种多层前馈型神经网络,其神经元的传递函数是S型函数,输出量为0到1之间的连续量,它可以实现从输入到输出的任意非线性映射。其权值的调整采用反馈传播学习算法。
目前,在人工神经网络的实际应用中,绝大部分的神经网络模型都采用BP网络及其变化形式。BP网络主要用于以下四方面:
(1)函数逼近:用输入矢量和相应的输出矢量训练一个网络以逼近一个函数;
(2)模式识别:用一个特定的输出矢量将它与输入矢量联系起来;
(3)分类:把输入矢量所定义的合适方式进行分类;
(4)数据压缩:减少输出矢量维数以便于传输和存储。
对于神经网络算法,使用基于误差反向传递的神经网络算法设第p个模式XP=(X1P,X1P,…XNP,)T,p=1,2,…,N(N为模式个数),将其视为BP网络的输入,yip为其实际输出,隐含层和输出层各单元的激活函数采用sigmoid函数,即:
一般基于BP的神经网络算法具体步骤如下:
Step1、构造网络,初始化网络的权矩阵,设置学习因子,动态因子,跌代次数和允许误差;
Step2、从一个网络开始,提供训练模式;
Step3、开始训练第k个网络;
Step4、前向传播过程,对所有训练模式,计算网络的实际输出并与目标输出相比较,如果误差超过运行误差,则进行下一步,否则训练第k+1个网络;
Step5、反向传播过程:计算隐含层和输出层各单元的误差精度,修正权值和阀值:
式中,为学习效率;
di为教师信号或希望输出;
为实际输出yi与希望输出di之差,其中yi和xj是取1或0的离散值。
Step6、继续训练第k个网络。
BP网络的训练函数有traingd、traingdm、traingdx、trainrp、traincgf、traincgp等。由于BP网络的简单性,在人工嗅觉系统的模式识别部分占有很大的比例,许多以前和现在的一些成熟人工嗅觉系统的产品仍然使用BP神经网络进行模式识别。
BP网络的学习是通过求解一个优化问题完成的,从数学的角度看,它是通过函数逼近拟合曲面(线)的想法,并且将其转化为一个非线性优化问题而求解。BP网络是对简单的非线性函数进行复合,经过多次复合后,则可以实现复杂的函数,但存在BP学习算法收敛速度慢、不完备性和隐节点数只能凭经验选取。
由于存在上述问题,科学家们从利用线性的自适应步长加速BP算法和增加动量项来去除收敛过程中的局部最小点。模拟退火(Simulated Annealing,简称SA)思想是由Metopolis等人提出的,它可以很好的避免局部最小点的出现,把它用在优化中是由Kirkpatrick等人提出的。组合优化问题的解空间中的每一个点都代表一个解。不同的解有着不同的目标函数值。优化过程就是在解空间中寻找目标函数的最小解。
SA算法的特点是通用性强、可达到全局最小。传统的启发式搜索算法如快速下降法,每次都是向改进解的方向搜索,往往只能找到一个局部最优解,而不是全局最优解。而SA算法在系统朝能量减少这个总趋势的过程中,允许解的搜索以一定的概率向较差的方向走,以避开局部最小,而最终稳定到全局能量最小的状态。
5.利用自组织神经网络进行气体识别
将被测气体按所需测量精度和浓度范围按成份分成不同的浓度等级,采用标准气体配置这些等级的不同成份气体的所有组合作为标准模态来训练神经网络。通过识别某一未知气体样本的模式,即可以得到未知气体的成份浓度。例如,选用N种互相参比配制混合气体样本。根据传感器的灵敏范围,将配制的气体浓度限制在a1到am以内,浓度变化间隔为l。这样每种气体有m种浓度模式,共计可得到mN个样本。采用这些样本作为原始数据训练自组织神经网络,就可以实现在这一浓度范围内的最大误差为l的气体定量测量。
论文关键词:人工神经网络(ANN),船舶与海洋工程,海洋预报与预测,海洋资源评估,海洋环境监测
人工神经网络是对人类大脑特性的一种描述。它是一个数学模型,可以用电子线路实现,也可以用计算机程序来模拟。是人工智能研究的一种方法。主要功能有:联想记忆、分类识别、优化计算、非线性映射。由于其具有好的容错性、并行处理信息、自学习性及非线性映射逼近能力等特点,因此被广泛的应用于各个领域。
ANN在海洋领域的应用起步较晚。20世纪90年代以来,国内外掀起了应用ANN研究海洋问题的热潮。相比传统方法,由于ANN提高了预测的准确性,减少了对数据的要求并且便于应用,到目前为止,ANN模型的应用已经遍布海洋工程(包括港口、沿海、近海和深海工程)海洋环境监测,海洋预报与预测,海洋资源与环境等各方面,并且应用前景不断扩大。本文通过梳理相关文献,分析和总结了ANN在海洋领域的研究进展和主要成果,以期为相关研究提供参考。
1 船舶与海洋工程
钢材腐蚀问题是海洋工程的重大课题。国内许多学者通过建立ANN模型考察海水环境相关参数与钢材腐蚀速度的相关性。刘学庆等根据四层BP神经网络分析了3C钢腐蚀速度与海水环境参数的相关性,建立了3C钢在海洋环境中腐蚀速度的人工神经网络模型,证明该方法在监测与评价区域海洋环境腐蚀性方面具有实际应用价值[1]。邓春龙等研究建立了海洋环境材料腐蚀与防护数据库,收集和整理了大量的材料腐蚀数据。并在此基础上建立了误差反传(BP)人工神经网络预测模型和灰色GM(1,1)腐蚀预测模型。从而形成一套较完整的数据采集、处理和分析网络系统[2]。王佳等采用电化学、人工神经网络和数据库方法研究了5种海洋工程钢材在深海环境中非现场腐蚀行为评价技术。结果表明,结合采用多种非现场方法可以可靠评价深海环境钢材的腐蚀行为[3]。刘艳侠等同样利用三层BP神经网络,根据已有的3C钢在不同海水环境参数下的腐蚀速度数据,建立了3C钢在海洋环境中腐蚀速度的人工神经网络模型;并分析预测了海水环境参数与腐蚀速度之间的关系 [4]。
ANN在海洋工程中的应用主要是海洋平台的抗击性和稳定性的模拟。许亮斌等针对海洋平台桩基模拟中存在的问题,将神经网络应用于桩基分析 [5]。淙在引进遗传算法的基础上构造了工程结构优化的神经网络模型,计算结果表明这一方法具有很好的稳定性和全局收敛性[6]。周亚军等将经典最优控制算法与人工神经网络相结合,采用BP神经网络模型,实现了受随机波浪力作用下的海洋平台的振动主动控制[7]。由于神经网络的优越性能,克服了传统算法本身的时滞问题,为海洋平台的振动控制提供了一条新的思路。
以上学者都对神经网络进行了一定程度的改进和完善,达到了良好的模拟和预测效果,推进了海洋工程中ANN理论的发展。除此以外,针对波浪数据的完备性对于海岸海洋工程设计的关键作用, 人工神经网络作为一个具有高度非线性映射能力的计算模型,在工程中具有广泛的应用前景。在数值预测方面,它不需要预选确定样本的数学模型海洋环境监测,仅通过学习样本数据即可以进行预测论文格式范文。
2 海洋预报与预测
赤潮作为海洋灾害的一种,对海洋经济造成巨大影响。蔡如钰利用人工神经网络BP算法,建立了赤潮预报模型 。杨建强通过比较发现人工神经网络方法在模拟和预测方面优于传统的统计回归模型,具有较强的模拟预测能力及实用性 。在此基础上,为克服BP网络训练易陷入局部最优的缺点,王晶采用遗传算法改进网络训练方法,建立赤潮生物密度与环境因子的人工神经网络的预报模型,保证网络达到全局最优。此外,还有部分学者将改进的人工神经网络模型用于赤潮预报,经过实证研究,取得良好的预测效果。
潮汐预报对人类活动和降低海洋环境建筑成本是非常重要的。为了解决潮位预测中存在的时滞问题,提高预测精度,不少学者进行了初步探索,并且普遍认为BP模型应用于潮汐预报具有较高的预测精度和良好的泛化能力,它为海洋潮汐预报工作提供了一种全新的思路和方法。张韧利用人工神经网络BP模型及其优化算法,建立起了赤道太平洋纬向风和滞后的东太平洋海温之间的映射关系和预报模型,结果表明,这种方法可有效用于辩识和反演复杂的大气、海洋动力系统及其预报模型.冯利华针对海洋预报问题,初步建立了基于神经网络的预报分析系统,给出了应用实例。以我国东南沿海地区一次登陆台风所造成的最大24小时暴雨量为例来说明ANN在海洋预报中的应用问题。罗忠辉采用人工神经网络智能方法,建立了多参数声速预报神经网络模型海洋环境监测,克服了回归拟合方法在获得海底沉积物声速预报中存在的不足,为海底沉积物的声速预报提供了一条新途径。
3 海洋资源评估
张富元等利用东太平洋CC区多波束海底地形测量、结核覆盖率深拖系统探测、结核丰度地质采样和地球物理地震勘探资料,运用板块构造和沉积动力学理论,并与丰度趋势面和神经网络分析结果对比,对东太平洋CC区构造与多金属结核资源效应关系进行了探讨。李少波等讨论了如何利用神经网络预测天然气水合物的合成和分解。利用了声速、幅度、频率来反映天然气水合物的合成,建立了一个3层前向型网络,通过实验,人工神经网络的引用取得了良好的效果。近年来人工神经网络还越来越多地被用来预测水资源。在水资源应用中,前馈神经网络建模技术是使用最广泛的类型。
4 海洋环境监测
非法排放油污和海上漏油事件对海洋生态系统造成的严重危害,人工神经网络可以有效的用于海水石油污染诊断。李伟认为海中悬移质是决定海洋光学性质、海洋水质,河口海岸带演变动力过程的重要环境参数。利用模拟遥感反射比数据集建立人工神经网络反演悬移质浓度,并利用东中国海现场同步数据对该算法进行验证,神经网络技术对于反演大洋水和沿岸海域中的组分浓度有一个很好的前景。刘辉等采用BP神经网络和广义回归神经网络2种方法进行训练,建立了南海南部海区的上混合层深度人工神经网络计算模型 。结果显示,人工神经网络方法精度较高,是一种切实可行的上混合层深度估算方法。
5 结语
人工神经网络在海洋领域的应用遍布海洋工程、海洋科学技术、海洋环境资源等各个方面。国内外学者根据研究的需要设立了不同的ANN模型,随着时间的发展,这些模型的预测和分析能力逐步完善。大量实证结果表明,很多ANN模型都取得了良好的模拟和预测效果。大部分的人工神经网络模型对传统的统计回归计算、时间序列分析、模型匹配和数值方法等产生了替代或补充作用。在某些情况下,神经网络的应用减少了对数据的要求。在未来,随着现有模型的不断完善和ANN模型缺陷的不断纠正,先进和混合神经网络结构很可能会在海洋领域更多方面得到广泛应用。
参考文献
[1]刘学庆,唐晓,王佳.3C钢腐蚀速度与海水环境参数关系的人工神经网络分析[J].中国腐蚀与防护学报, 2005,(1):11-14.
[2]邓春龙,孙明先,李文军等.海洋环境中材料腐蚀数据采集处理网络系统的研究[J].装备环境工程,2006,(3):58-62.
[3]王佳,孟洁,唐晓等.深海环境钢材腐蚀行为评价技术[J].中国腐蚀与防护学报. 2007,(1):1-7.
[4]刘艳侠,高新琛,张国英等.BP神经网络对3C钢腐蚀性能的预测分析[J].材料科学与工程学报,2008,(1):94-97.
[5]许亮斌,陈国明.神经网络在平台桩基分析中的应用[J].中国海上油气(工程),2001,(1):7-10.
[6]淙.海洋工程结构优化的遗传Hopfield神经网络算法研究[J].中国海洋平台,2001,(5-6):58-61.
[7]周亚军,赵德有,马骏.基于人工神经网络的海洋平台振动主动控制[J].船舶力学, 2003,(5):65-69.
关键词:BAM神经网络;平衡点;时滞;稳定性
中图分类号:TP 183 文献标识码:A
1引言人工神经网络是人们利用机器模仿人类智能的一种尝试性质的科学,它通过电路来模仿人脑神经细胞的结构和功能的,也即通过选取一些自适应单元,去组成一种广泛互联的网络 [1]。
1982 年,人工神经网络- Hopfield网络模型的提出[2],首次引入了网络能量函数的概念(Lyapunov函数),并且给出了网络稳定性的判定依据,这一研究成果,对人工神经网络的应用研究提供了重要的理论依据,特别是在仿照人脑进行联想记忆等方面具有极其重要的意义。
1987年,Kosko [3] 提出了一系列的双向联想记忆神经网络,其完全将单层的自相联Hebbian学习器推广成两层的模型匹配异相联网络,即双向联想记忆(BAM,Bidirectional Associative Memory)神经网络。双层双向结构的BAM神经网络一经提出,就在求解优化问题以及联想记忆等问题等方面被证明是很有用的数学模型。双向联想记忆神经网络模型是一种常用的神经网络,具有信息记忆和信息联想的特点,他是联想记忆神经网络模型的一种。由于联想特性,所以被广泛地应用于模式识别、信号、图形处理等方面[4-5],成为了人工神经网络研究的热点。
但由于在神经网络的实际应用中,神经元间的传输过程中必然存在的时间延迟现象的存在[6],对于一个动力系统来说,其信号在传递过程中总是存在着信号的传输时间滞后问题,时滞问题的存在会导致应用系统的不稳定。因此,对于神经网络系统的研究来说,首要的任务就是系统的稳定性研究,而稳定性就是寻找神经网络的平衡点。给定一个激励函数和常输入向量,该神经网络系统的平衡点是一定存在的[7],而且平衡点的相邻域的任意状态都会收敛到该平衡点,这样系统就达到了状态稳定和输出收敛。可以看出,神经网络系统的稳定基础就是系统平衡点的存在性,随着时间的增加,神经网络所有状态都会趋近于该平衡点。更重要的是该平衡点还具有唯一性,即平衡点对应于唯一一个求解的目标。平衡点的存在性和唯一性实际上就是数学上的全局稳定性(渐近稳定、指数稳定)。
因此,对双向联想记忆神经网络的稳定性研究,首要的任务也是找出该网络系统的平衡点的存在性和唯一性,即平衡点的渐进稳定条件,进而去确定平衡态的吸引域以及其收敛速度,从而得到系统稳定性的条件。本文就针对一种具有时滞性的BAM神经网络的平衡点的存在性和唯一性进行证明,从而得到该系统平衡点的唯一性的充分条件,为进一步寻找系统平衡点的渐进稳定条件奠定基础。
2BAM神经网络工作方式
BAM神经网络是联想记忆神经网络模型的一种。对于联想记忆其又可以划分为自联想记忆和异联想记忆(又称为双向联想记忆)[8]。自联想记忆的自联想也就是一种可以由受损的输入模式,经过训练运算,进而能够恢复到完整的模式本身;异联想记忆神经网络模型在存储方式不同于传统的数字计算机按地址存储信息的方式,其存储方式是根据内容去存储信息,也就是说在找到信息的地址后便能找到这个信息。异联想记忆神经网络模型他就要求对于不同的存储信息必须有不同的地址存储。
5结论
在人工神经网络的研究中,稳定性是最为人关注广泛的一个问题,而系统稳定的前提就是给定一个输入常量和激励函数时,神经网络平衡点是存在的,而且对于其所在邻域内的任何状态都是收敛平衡的。因此平衡点的存在和唯一性十分重要,本文利用BAM神经网络的模糊模型,证明了BAM神经网络的平衡点问题,得出了系统平衡点的存在性和唯一性的结论。后期的研究将进一步寻找系统平衡点的渐进稳定条件,确定平衡态的吸引域以及其收敛速度,从而达到系统的稳定状态,为实际应用的实现奠定基础。
参考文献
[1]T. Takagi, M. Sugeno, Fuzzy identification of systems and its application to modeling and control[J]. Trans, Systems Man Cybernet ,1985,15(1):116-132.
[2]李秀玲. 具时滞的神经网络模型的非平凡周期解的全局存在性[J]. 应用数学学报, 2010,33(02): 363-373.
[3]黄元清, 许金快, 钟守铭. 具有离散和分布时滞的中立型细胞神经网络的全局渐近稳定性[J]. 四川理工学院学报:自然科学版,2010,23(02): 163-167.
[4]Y. Li, C. Yang, Global exponential stability analysis on impulsive BAM neural networks with distributed delays[J]. Math. Analy. Appl,2006,324(5): 1125-1139.
[5]张丽娟,时宝.变时滞BAM神经网络的全局指数稳定性[J].数学的实践与认识,2008,38(5):148-153.
[6]Zhang C,Wei J. Bifurcation Analysis of a Class of Neural Networks with Delays [J]. Nonlinear Analysis: Real World Applications, 2008, (9) :2234-2252 .
[7]时宝,袁建,潘特铁,等. 带脉冲的BAM神经网络的全局指数稳定性[J]. 生物数学学报,2012,27(2):241-250.
关键词:山区高速公路;填石路堤;人工神经网络;沉降
中图分类号:U412.36+6文献标识码: A
1 引言
在山区高速公路修筑中,存在大量的石质挖方路段和隧道路段,怎样利用大量的石质填料填筑路堤,使其不出现工程质量事故,同时避免一方面大量借石填筑路堤,另一方面又造成大量的石质弃方占用农田耕地的不合理现象,成为山区高速公路建设中迫切需要解决的问题。在高等级公路逐渐进入山区的今天,在云南省乃至全国范围内还将遇到更多的填石路堤修筑技术问题。填石路堤的压实工艺和检测手段及检测标准,粗粒料的压实特性,填石路堤的沉降、稳定性评价是填石路堤面临的主要难题[1]。
2 沉降分析方法
本文采用神经网络方法对某山区高速公路填石路堤沉降进行分析计算,以便科学合理的评价公路填石路堤稳定性与沉降规律。
2.1神经网络模型
BP神经网络通常是指基于误差反向传播算法(BP算法)的多层前向神经网络,它是目前应用最广泛也是发展最成熟的一种神经网络模型,它是按层次结构构造的,包括一个输入层、一个输出层和一个或多个隐藏层(图中只画出一层),一层内的节点(神经元)只和与该层紧邻的下一层各节点相连。这个网络学习过程由正向传播和反向传播两个过程组成。在正向传播过程中,输入信息从输入层经隐藏层逐层处理,然后传向输出层,每一层神经元的状态只影响下一层神经元的状态。如果在输出层不能得到希望的输出,则转向反向传播过程,将误差信号沿原来的连接通路返回,通过修改各层神经元的权值,使得误差信号最小[2]。
网络学习的过程首先从给出一组随机的权值开始,然后选取学习样本集中的一个模式(输入和期望输出对)作为输入,接着按前馈方式计算输出值。这时的输出值和期望值之间的误差一般比较大,这就迫使权值必须改变。利用反向传播过程,计算所有的权值的改变量。对所有的模式和所有的权值重复计算,修正权值后又以前馈方式重新计算输出值。实际输出和目标输出之间的偏差和权值改变量又一次在计算中产生。在学习样本中的所有模式进行计算后得到一组新的权值,在接下来的前馈过程中便得到一组新的输出值,如此循环下去。在一次成功的学习中,系统误差或单个输入模式的误差将随着迭代次数的增加而减小,而过程将收敛到一组稳定的权值。
实际上,BP模型把一组样本的输入输出问题变为一个非线性优化问题。我们可以把这种模型看成一个从输入到输出的映射,这个映射是高度非线性的。如果输入节点数为n,输出节点数为m,则神经网络表示的是从n维欧式空间到m维欧式空间的映射。
2.2 神经网络模型的改进
BP算法的主要缺点是:收敛速度慢、局部极值、难以确定隐层和隐层节点的个数。在实际应用中,BP算法很难胜任,因此出现了许多改进算法。BP算法的改进主要有两种途径:一种是采用启发式学习算法,另一种则是采用更有效的优化算法。
启发式学习算法,就是对于表现函数梯度加以分析,从而改进算法,其中包括:有动量的梯度下降法(traingdm)、有自适应lr的梯度下降法(traingda)、有动量和自适应lr的梯度下降法(traingdx)和能复位的BP训练法(trainrp)等。另一种是基于数值最优化理论的训练算法,其中包括共轭梯度法、高斯-牛顿法和Levenberg-Marquardt方法等。
本文采用共轭梯度法进行改进。共轭梯度法是梯度法的一种改进方法,可以改进梯度法振荡和收敛性差的缺陷。其基本思路是寻找与负梯度方向和上一次搜索方向共轭的方向作为新的搜索方向,从而加快训练速度,并提高训练精度。所有的共轭梯度法,都采用负梯度方向作为初始搜索方向:
然后沿着该方向作一维搜索:
接下来,就利用共轭方向作为新一轮的搜索方向,通常在当前负梯度上附加上一次搜索方向:
共轭梯度法通常比自适应lr的梯度下降法速度快,有时候也优于弹性梯度下降法。同时由于共轭梯度法占有较少的存储空间,因此在训练复杂网络的时候,通常选用共轭梯度法[3]。
2.3程序的实现
本文采用Matlab,进行程序的编制,算法如下:
%%神经网络预测_BP神经网络模型
% n:原始数据个数 x:填石路堤沉降实测值 y:填石路堤沉降预测值
clc;clear all;
clf;
%%读数据;
load x1.txt;load x2.txt;
P=x2;x=x1;
%%NEWFF——生成新的线性神经网络
%%TRIAN——对线性神经网络进行训练
%%SIM——对线性神经网络进行仿真
%P——为输入矢量;
%x——为目标矢量;
%创建网络
net=newff(minmax(P),[1,1],{'tansig','purelin'},'traingdm');
%当前网络层的权值与阈值
layerWights=net.LW{2,1};
layerbias=net.b{2};
%设置训练参数
net.trainParam.show=50;
net.trainParam.lr=0.05;
net.trainParam.mc=0.9;
net.trainParam.epochs=100;
net.trainParam.goal=0.1;
%%对BP神经网络进行训练
[net,tr]=train(net,P,x);
%对线性网络进行仿真
y=sim(net,P);
y
x
3 填石路堤沉降计算分析结果
以现场监测数据与网络预测值进行比较如表1所示。应用该模型进行预测精度很高,这进一步证明了该BP神经网络拟合效果好,泛化能力强,收敛快。所以,该法在填石路堤最终沉降预测中十分有效和可行。
表1 网络预测与实际值比较
4 结轮
本文将人工神经网络引入到填石路堤的沉降计算,利用实测资料,直接建模,更好的反映了填石路堤的沉降规律,工程实例研究表明,网络预测值与实测值吻合较好,可信度较高,并且随着学习样本的不断补充,网络的预测精度将进一步提高。
(1)一个良好的神经网络模型,可以不断学习,使求解的范围不断扩大,同时人工神经网络的抗干扰能力较强,个别测点的误差将不会对结果产生大的影响。
(2)工程实例研究表明,实测值与神经网络预测值吻合较好,但也有个别点偏差较大,主要原因是训练的数据太少,随着训练数据的增加,网络的预测精度还会进一步提高。
(3)人工神经网络方法避免了传统方法的许多弊病,具有自组织、自适应、容错性等特点,计算精度高,操作简便,适应性强,因而具有广阔的工程应用前景。
参考文献:
摘要:旅游需求的预测预报研究一直是旅游学研究的一个重要课题。本文在对到访澳门地区中国内地游客量分析的基础上,运用人工神经网络(ANN)的理论和方法,构建了ANN模型分析中的3层BP模型,以澳门近10年(1996-20__)入境来访的中国内地旅游人数为例进行模型验证,模拟结果表明,BP神经网络预测的结果能够高程度的吻合原始数据,在旅游市场预测中,BP神经网络预测是一种有效的预测方法。一.问题的提出与分析近年来,对澳门地区的旅游业来说,中国内地旅客是旅游收入的主要来源。目前旅游业已成为澳门地区经济发展特别是第二产业发展的支柱。建立科学的可操作的旅游预测模型是实现澳门地区旅游业持续健康稳定发展的理论基石和前提。由于影响某地旅游人数的因素各异,还不存在普遍适用的神经网络模型。基于此,本文拟用3层BP神经网络模型来仿真模拟分析和预测澳门地区旅游需求,以此为旅游需求预测提供一种新的方法。二.模型的假设与符号说明1.基本假设1)交通在旅游中通常不是重要的,为了研究的方便(主要是无法获得交通数据),把交通这个影响忽略。2)假设澳门的接待能力都满足需求。3)在本例旅游需求预测模型中,我们考虑的主要因素有:客源地的人口,客源地的总收入,客源地的消费水平,旅游目的地的生活水平。4)为了研究的方便,假定以上四因子之间相互独立,本例旅游需求即为上述四因子的函数,即y=f(GDI,POP,GDE,M-GP)。就用这四个因素作为人工神经网络模型输入层的神经元。2.符号说明T澳门内地游客量GDI中国内地国民总收入POP中国内地人口总数GDE中国内地国民消费水平M-GP澳门生产总值三.模型的建立与求解1.人工神经网络模型理论原理
人工神经网络(ArtificialNeuralNetwork)是由大量的、简单元件(神经元)广泛相互联结而成的非线性的、动态的复杂网络信息处理系统,它是在现代神经学研究成果基础上提出的,能模拟人脑的若干基本功能[1]。它具有并行分布的信息处理结构,可以通过“自学习”或“训练”的方式完成某一特定的工作。它可以从积累的工作案例中学习知识,尽可能多地把各种定性或定量的因素作为变量加以输入,从而建立各种影响因素与结论之间的高度非线性映射,采用自适应模式识别方法来完成预测工作[2]。人工神经网络模型尤其是对处理内部规律不甚了解、不能用一组规则或方程进行描述的复杂的、开放的非线性系统显得较为优越。人工神经网络模型一般由处理单元、激活状态、单元输出、连接模式、激活规则、学习规则等6个部分组成。一个多层神经网络中包含有很多个信息处理单元,分布于不同的层次中。根据每项输入和相应的权重获取一个综合信号,当信号超过阈值则激活神经元而产生输出。各类影响因素和最终输出结果之间可以假定存在一种映射,即输出结果=F(影响因素)。为了寻求最佳的映射关系F,将训练样本集合和输入、输出转化为一种非线性关系,通过对简单非线性函数的复合,从而建立一个高度的非线性映射关系F,最终实现输出值的最优逼近[3]。在人工神经网络的实际应用中,80~90的人工神经网络是采用前馈反向传播网络(back-propagation-network,简称BP网络)或它的变化形式。BP神经网络(如图一)是一种单项传播的多层前向神经网络,分为输入层、隐含层和输出层,层与层之间采用全连接方式,同一层单元之间不存在相互连接。它是前向网络的核心部分,体现了人工神经网络最精华的部分[4]。标准的BP网络是根据W-H学习规则,采用梯度下降算法,对非线性可微函数进行权值训练的多层网络。图一:BP神经网络的每一层的权值通过学习来调节,其基本处理单元为非线性输入-输出关系,选用S型作用函数:其中:xj为该神经元第i个输入;wij为前一层第i个神经元至该神经元j的连接权值,i=0时的权值为阈值。其计算步骤如下:(1)给定一组随机的权值和阈值初始值及步长系数η与势态因子α;(2)取学习样本数据,根据学习样本、权值及阀值计算输出,并与学习期望输出比较,当误差满足要求时结束训练,否则将误差向后逐层传播,并修正各层连接权值,调整公式为:其中:k取j结点所在层的前一层所有结点。5)澳门内地旅客人数神经网络模型的建立(一)BP网络设计网络设计是一个综合性问题,它应满足多种不同要求,例如,希望所涉及的网络有较好的推理能力,易于硬件实现,训练速度快等,其中有较好的推理能力是最主要的。一般来说,推广能力决定于3个主要因素,即问题本身的复杂程度、网络结构以及样本量大小。在一般情况下,旅游需求预测研究中样本的数量是一定的,因此可归结为在样本量一定的情况下,如何选择网络规模的问题。在进行BP网络预测模型设计中,我们主要考虑以下因素:网络的层数、每层中的神经元个数、初始值的选择、学习速率和期望误差。i)网络的层数已证明:具有偏差和至少一个S型隐含层加上一个线性输出层的网络,能够逼近任何有理函数。所以,本文选择一个3层的BP网络。ii)每层中神经元的个数输入层和输出层神经元的个数根据解决具体问题的复杂程度而定。为了提高网络训练的精度,可以通过采用一个隐含层,再加上1到2个神经元以加快误差的下降速度即可。因此,本文输入层神经元个数选择为4个,隐含层神经元个数分别选择了9、12、15个,输出层神经元个数选择为1个。iii)初始值的选择由于人工神经网络是一个非线性系统,初始值的选择对于网络学习是否达到局部最小、是否能够收敛以及训练时间的长短都有较大影响。在初始值的选择上一般是使经过初始值加权后的每个神经元的输出值都接近零,这样可以保证每一个神经元的连接权值都能够在它们的S型激活函数变化最大处进行调解。所以,初始值一般选择在(-1,1)之间的随机数。本文的初始值为默认值。iv)学习速率对于任何一个网络都对应一个合适的学习速率。学习速率决定每一次循环训练中所产生的权值的变化量。大的学习速率可以导致网络的不稳定,但是小的学习速率又会导致训练时间延长,收敛速度较慢,不能保证网络的误差能最终趋于最小。综合上述考虑,在学习速率的选择上倾向于选择较小的学习速率以保证网络的稳定性,本文选择的学习速率为0.01。v)期望误差值期望误差值的确定也是通过网络对不同误差值分别进行训练比较后确定的最适合值。所谓的最适合值是相对于所需要的隐含层的节点数来确定的,一个较小的误差值的获得需要增加隐含层的节点以及训练时间。本文经过不断测试,选择0.0001为期望误差值。(二)1.网络训练模式的选择训练网络有两类模式:逐变模式和批变模式。在逐变模式中,每一个输入被作用于网络后,权重和偏置量被更新一次。在批变模式中,所有的输入被应用于网络后,权重和偏置量才被更新 一次。使用批变模式不需要为每一层的权重和偏置量设定训练函数,而只需为整个网络制定一个训练函数,使用起来相对方便,因此,本文在进行网络训练时采用批变模式。表格一:年度
澳门的内地游客量(T)(千人)中国内地国民总收入(GDI)(亿元)中国内地人口数(POP)(万人)中国内地居民消费水平(GDE)(元)澳门生产总值(M-GP)(亿美元)1996604.270142.5122389278966.31997529.877653.1123626300266.71998816.883024.3124761315961.919991645.288189.0125786334659.220__2274.798000.5126743363261.020__3005.7108068.2127627386961.920__4240.4119095.7128453410668.220__5742.0135174.0129227441179.220__9529.7159586.71299884925103.320__10463183956.11307565439115.62.数据和模型的建立神经网络模型要求数据具有:A、易获得性B、可靠性C、可测度性。本项研究采用很可靠的官方发表的数据作为分析的数据源(见表1),主要来自于中国统计局网。用3层BP网络模型对本例旅游需求进行模拟,根据BP网络的映射原理,对于样本集合X和输出Y,可以假设存在一映射F。为了寻求F的最佳映射值,BP网络模型将样本集合的输入、输出转化为非线性优化,通过对简单的非线性函数的复合,建立一个高度的非线性映射关系,实现F值的最优逼近。对于本例旅游需求模型的模拟:其输入层结点数(4个神经元):中国内地国民总收入(GDI)、中国内地人口总数(POP)、中国内地国民消费水平(GDE)、澳门生产总值(M-GP)。把澳门内地游客量(T)作为输出结点。从而得出3层前馈反向传播神经网络模型。四.模型结果及分析1网络训练性能的检查。不同个数的隐层单元组成的BP网络训练曲线如图1,2,3所示。通过比较发现,中间层神经元个数为9和12时,网络的收敛速度比较快。2网络预测性能的考查。在数据列表中选取1996年到20__年的数据作为网络的测试数据。20__、20__年的(文秘站:)游客量检验误差曲线如图4。其仿真结果令人满意,达到预期的效果。图1图2图3图4五.模型的应用与评价(优缺点与改进)从上面的分析可以看出,3层BP神经网络模型的仿真模拟效果是邻人满意的。可以看出,人工神经网络的拟合精度比较高,主要是基于人工神经网络抗干扰能力强,稳定性好,能自动准确地找出各种输入和输出之间的线性或非线性关系,具有较强的模拟适应能力等特点。在本例对于澳门的内地游客量的旅游预测中BP神经网络模型是一种有效的预测方法。这一研究方法为旅游学的定量预测研究提供了一种新的思路,也为工程实践问题中的一些研究工作提供了一种非常好的指导方法。虽然BP网络得到了广泛应用,但其自身也存在一些缺陷和不足,主要包括几个方面的问题。首先,由于学习速率是固定的,因此,网络的收敛速度慢,需要较强的训练时间。再次,网络隐含层的层数和单元数的选择尚无理论上的指导,一般是根据应验或者通过反复试验确定的。因此,网络往往存在很大的冗余性,在一定上也增加了网络学习的负担。六.原题附带问题简析通过对本例旅游需求模型的分析,我们认为在利用数学建模的方法对旅游需求进行预测预报时,对于数据的采集和整理工作需要认真做好。对于数据的分析有助于我们寻求变量间的关系,以形成初步的想法。如何获得数据以及如何获得准确的数据对于我们研究实际问题具有相当重大的意义。收集数据并非多多益善,而是要弄清究竟需要哪些数据,剔除不必要的数据,从而减少冗余的工作。同时,需要什么形式的数据也是我们应该思考的一个问题,这与建立模型的目的和所选择的模型的特点有关。[参考文献][1]王士同,等.问题求解的人工智能:神经网络方法[M].北京:气象出版社,1995.[2]HillT,MarquezO’connorM,RemusW.ArtificialNeuralNetworkMedelsfor
ForecastingandDecisionMaking[J].InternationalJournalofForecasting,1993,