神经网络反向传播原理

前言：想要写出一篇令人眼前一亮的文章吗？我们特意为您整理了5篇神经网络反向传播原理范文，相信会为您的写作带来帮助，发现更多的写作思路和灵感。

神经网络反向传播原理范文第1篇

[关键词]人工神经网络；旅游物流；需求预测

[DOI]1013939/jcnkizgsc201538051

1引言

旅游物流对广西地区经济的发展至关重要，准确把握、预测旅游物流需求有助于有关部门制定合理的旅游物流规划、促进国民经济可持续发展、提高居民生活水平。国内学者通过一定的方法和模型确定了影响旅游物流能力的关键要素，为旅游物流需求的预测提供了一定的理论基础，而在物流需求预测方面也提出了很多如时间序列模型、灰色预测、回归分析等具有创新性和实践意义的方法。由于旅游物流具有的独特性和负责性使得这些模型及分析方法在前提条件、适用范围和侧重点的选取方面具有一定的困难，因此在实际应用中各有利弊。人工神经网络可以将定量或定性的信息等势的分布贮存于网络内的各神经元，有很强的鲁棒性和容错性，通过建立基于人工神经网络的预测模型，利用Braincell软件进行计算以期达到精确预测旅游物流需求的目的。

2旅游物流的需求界定

经过多年的发展，关于旅游物流需求的定义至今仍没有一个令各方满意的结论。物流服务贯穿了整个旅游活动过程中，旅游物流可以看作为了使旅游消费者获得更好地满足感和旅游体验，与旅游相关的主体提供让旅游消费者更为畅通流动的旅游服务，与此相应的旅游物流的能力指提供的旅游服务内容以及相关主体使用物流设施对旅游物流活动进行计划、组织、协调和控制的能力，到旅游物流的具体环节，可以从涉及旅游者的吃、住、行、购、游、娱等方面界定旅游相关主体运用物流设施为游客提供旅游服务的能力。文中对旅游物流需求的预测可以从往年的旅游物流能力方面进行预测，通过准确的预测旅游物流需求可以较好地规划未来年份旅游业发展方向，对物流设施和设备进行准确的投入，减少资源的浪费及设施投入不足的状况。

旅游物流能力是指旅游服务主体向旅游消费者从“吃、住、行、购、游、娱”6个方面提供服务的能力，旅游物流需求可根据这6方面来选取指标，但是旅游物流需求预测的准确性不仅受到旅游物流的独特性的制约，还受到一些客观性条件的影响。如物流统计制度不健全，目前，我国仍没有建立系统全面的物流统计制度，更没有涉及旅游物流领域；物流统计没有涉及物流活动的全过程；物流统计指标过于单一。此外，国内只有基本的货物运输量和货物周转量统计，其他与物流相关的指标没有公开的统计资料，也没有权威的统计方法和基础数据，致使物流需求预测不能通过直接指标来衡量需求规模的大小。

3基于神经网络的旅游物流需求预测模型的建立

神经网络具有非线性、曲线拟合能力、学习能力和抗干扰能力，是一种通用的非线性函数逼近工具。通过对BP神经网络的训练，特别适用于构造非线性预测函数，而且精度可达到预定的要求。

31预测领域中的BP神经网络模型简介

BP神经网络通过正向输入，反向传播误差不断迭代的学习过程，直到误差减到可以接受的程度。一般包括输入层、隐含层和输出层的单隐含层网络就能以任意精度表示并揭示任何连续函数所蕴含的非线性关系。其中：

（1）工作信号正向传播。输入信号从输入层经过隐含层，传向输出层，在输出端产生输出信号，这是工作信号的正向传播。在信号的正向传播过程中网络的权值是固定不变的，上一层神经元的只影响下一层神经元的状态，即正向影响。如果在输出层不能得到期望的输出，则转入误差信号反向传播。

（2）误差信号反向传播。网络的实际的输出与所期望的输出之间差值即为误差信号，误差信号由输出端开始逐层向前传播，即误差信号的反向传播。在误差信号反向传播中，神经网络的权值根据误差的反馈进行调节。通过不断地对权值的修正，使实际输出更加接近期望输出。

（3）预测神经网络流程。通过了解工作信号与误差信号的传播方向，可以清楚地了解预测神经网络的工作流程。预测开始时神经网络读入样本、权值，通过计算输入层的输入得出结果传递到输出层，在输出层进行计算，最后在计算输出值与期望值的误差。若误差小于确定值则计算结束，若误差大于确定值则继续回到前两层进行权值调整，把调整后的权值重新输入到模型中，直到误差小于设定的确定值。

本文应用Braincell神经网络软件来实现神经网络的计算与分析。

32BrainCell软件及实现

321BrainCell 神经网络基本原理

BrainCell 神经网络采用误差反向传播学习算法，算法从两个方面（信号的前向传播和误差的反向传播）反复进行迭代学习，与神经网络预测模式基本原理相同。

322BrainCell 神经网络实现步骤

（1）数据的预处理和后处理。为方便的计算减少误差，保证数据同一量纲，需要将数据归一化为区域[0，1]之间数据。在实际的预测模型中当数据接近0或1的时候训练效果会明显下降。因此，为了避免数据落入最大饱和区，保持数据的原有特征，根据经验将数据规范到[015，085]来进行修正。模型中采用反归一化处理输出数据。

（2）网络层数目的确定。由Kolmogorov定理可知，含有一个神经元隐含层的三层神经网络可以从任意精度逼近一个从输入到输出的映射关系，因此在Braincell神经网络中采用含有单隐层的三层神经网络[2]。

（3）网络节点的确定。输入层节点的多少与评价指标个数是相对应的。

（4）网络训练。假设训练样例是形式（x，y），其中x为输入向量，y为输出值。N为输入节点数，M为输出层节点数。从单位i到单位j的输入表示xij，单位i 到单位j的权值表示Wij。一是创建具有N 个输入单位，M 个输出单位的BrainCell 神经网络；二是用随机数（0 或1）初始化某些数字变量网络权值Wij；三是对于第k个训练样例（a，b），把入跟着网络前向传播，并计算网络中每个单元x的输出Qx，使误差沿着反向传播；四是对于每个输出单元u，计算它的误差项；五是对于每个隐含单元h，计算它的误差项；六是利用误差项更新调整每个网络权值；七是重复三到六点，直到完成指定的迭代次数或者是其误差值达到可接受的范围。

33神经网络的旅游物流需求预测模型的建立

331模型中数据指标确定

目前我国仍没有健全的物流统计制度，因此实际工作中收集旅游物流需求数据十分困难。这里采用间接指标法――利用与旅游物流需求相关的经济指标来建立旅游物流需求的经济指标体系，通过数学的方法进行总结与推导，确定旅游物流需求模型。

旅游物流需求是一种派生需求，这种需求的大小与其本身发展有着密切的关系。从宏观层面上考虑主要有内外两部分因素：旅游业自身发展的状况及外部环境的影响。从微观层面来说，旅游业自身发展的状况是旅游物流需求的关键因素。旅游业产值越高，旅游物流需求增长随之增加，反之亦然。由此，本文选取旅游总收入和接待人数作为预测旅游物流需求的指标。其次，影响旅游物流的其他关键因素就是旅游行业本身所投入的设施、人员、公路铁路旅客周转量等因素。根据旅游物流能力的理解从“吃、住、行、购、游、娱”等方面进行指标的选取，如“吃、住”方面使用餐饮住宿从业人数、星级饭店数目衡量；“行”使用公路、铁路旅客的周转量来衡量等；“游”则使用旅行社从业人数等方面来衡量。这些因素都对行业的产值有较大的影响。因此，在模型中可将这些相关经济指标作为旅游物流需求规模的影响因素。由此可选择如下输入层指标：星级饭店数X1、接待入境旅游者平均每人消费额X2、餐饮住宿业从业人数X3、旅行社从业人数X4、铁路旅客周转量X5、公路旅客周转量X6、旅游部门游船年末实有船数X7，旅游部门旅游客车年末实有数X8，共有8个。而把旅游业的年收入Y1与年接待入境旅游者人数Y2作为物流需求预测的目标。

332数据来源

本文选取的数据资料来源于广西壮族自治区历年统计年鉴、中国统计年鉴、中国旅游年鉴，如表1所示。根据样本数据选取原则，将2005年和2012年的数据作为网络测试样本，最后用训练好的神经网络预测2014―2016年的物流需求规模。

333广西旅游物流需求的BP人工神经网络模型

（1）样本数据的归一化处理。选取X1，X2，X3，X4，X5，X6，X7，X8作为广西旅游物流需求预测BP人工神经网络模型的输入，Y1，Y2为BP网络的输出。根据BP 的本身特点，对输入层数据进行归一化时，采用如下公式：y=log[JB（（]x[JB））]/10。对输出层数据则使用归反一化处理，公式如下：P=log[JB（（]tT[JB））]/10。

（2）网络节点的确定。根据构建好的评价指标体系，可以确定输入层的节点数为8，输出层的指标数为2。

（3）网络训练。以traindx作为训练函数，利用matlab计算。可知在最大训练次数为200次，目标误差为001，学习率设置为003，误差曲线收敛于目标001，进过45次迭代后，网络达到目标要求，训练误差图见下图。

训练误差图

通过设置的数据，使用Braincell软件对数据进行训练，选取全部数据作为样本数据组，2010―2013年的样本作为将预测样本，输入模型可得2010―2013年的预测值见表2。

据表3可以看出，预测效果较好，一般来说，对于经济指标的预测，误差能够控制在3%以内就算比较准确。因此，基于与旅游物流相关的其他经济数据来建立BP神经网络模型预测旅游物流需求有一定的实用价值。

4结论

根据人工神经网络理论建立的旅游物流需求预测模型，通过Braincell神经网络的自学习特征，运用traindx函数进行训练，在训练过程中对权值进行不断修正，误差比率控制合适的在范围内，使网络的实际输出向量逐渐地接近期望的输出值。最后把仿真的预测结果与真实量进行初步比较分析，得出的结果能够证明使用神经网络模型对旅游物流的预测精度较高。因此可以得出以下的结论：用BP神经网络建立模型，可以准确地把与旅游物流相关的经济数据与目标本身的需求量进行结合，可得到较为精准的旅游物流需求预测值。由此可以推断，人工神经网络作为高度的非线性体系，能够对经济系统中个变量之间的非线性关系进行高精度的预测，将其运用在物流领域中的应用具有更加广阔的发展潜力。

参考文献：

[1]王新利，赵琨基于神经网络的农产品物流需求预测研究[J].农业技术经济，2010（2）：64-66

[2]秦立公，韦金荣等基于BrainCell 的B2B 电子商务供应链协同绩效评价体系[J].中国集体经济，2014（15）：112-113

[3]张圣楠，郭文义，等基于MATLAB的BP神经网络的设计与训练[J].内蒙古科技与经济，2005（17）：96-98

[4]熊勋人工神经网络在环境质量评价和预测中的应用研究[D].武汉：华中科技大学，2009

[5]白平，陈菊红基于旅游物流能力的西部旅游发展研究[J].新疆大学学报，2013（41）：16-17

[6]秦立公，王东，等旅游景区物流能力优化研究[J].现代商业，2010（24）：47

神经网络反向传播原理范文第2篇

关键词：神经网络；上证综合指数；Clementine；股价

中图分类号：F830.9 文献标识码：A 文章编号：1001-828X（2013）05-0-01

证券市场是一个资源重新配置的市场，在我们国家经济建设中起着非常重要的作用，和我们广大人们群众的生活息息相关。股价预测有着很大的应用价值，具有动态性、强非线性等特点。人工神经网络是一种模拟人脑神经网络结构，通过对研究对象的不断学习、训练，从而实现预测模型的方法。在股价预测方面，人工神经网络方法可以通过股票历史数据进行学习，从而找出股票价格的规律，实现对股票价格的准确预测。

一、神经网络模型简介

1.神经网络基本概念

神经网络模型是一种数学模型，它试图模拟人类大脑的功能。它由大量的人工神经元通过适当的方式互连构成，是一个非线性的自适应系统，用于智能决策和推断。

2.BP神经网络

目前神经网络有很多种，BP神经网络模型是用的比较多的一种模型。BP神经网络是一种基于有监督的学习、使用非线性的可导函数作为传递函数的前馈神经网络，由信息的正向传播和误差的反向传播两个过程组成，包括一个输入层、一个输出层以及一个或者多个隐层。输入层收到输入信号，传递给中间隐层各神经元，由最后一个隐层神经元传递到输出层各神经元的信息，经过进一步处理，完成一次正向传播处理过程，由输出层向外界输出信息处理结果。当实际输出与期望输出不相符时，进入误差的反向传播过程。误差通过输出层，按照误差梯度下降的方式修正各层权值，向隐层、输入层逐层反传。周而复始的信息正向传播和误差反向传播过程，一直进行到网络输出的误差减少到可以接受的程度。BP神经网络模型包括其输入模型、输出模型、作用函数模型、误差计算模型和自学习模型。

二、神经网络模型在股票分析预测中的应用

1.初始数据选取

本文拟以A股市场上证综合指数为研究对象，选取2012年1月4日至2013年4月17日期间每个工作日的上证综合指数的相关数据，利用Clementine软件的BP神经网络方法进行建模，对上证综合指数的走势进行分析和预测。在建模过程中，选取的变量为：开盘价、最高价、最低价、成交量、收盘价。

2.BP神经网络建模

3.分析与结论

下图为通过神经网络模型得到的次日收盘价格与次日预测结果之间的拟合图，从图中可以看出，尽管预测结果与真实值之间的变化趋势基本一致，但还是有一定的预测误差，这是因为股票价格不仅跟成交价和成交量有关系，还受政策因素、市场供应关系、季节因素、突发事件等影响。根据价量关系，对短期预测效果比较有效，如果希望对股票进行长期有效的分析，我们还需要考虑很多因素，包括宏观因素、上市公司财务状况及内部其他因素等。

参考文献：

[1]史忠植.神经网络[M].北京：高等教育出版社，2009：48-65.

[2]薛薇，陈欢歌.基于Clementine的数据挖掘[M].北京：中国人民大学出版社，2012：1-132；275-305.

[3]元昌安.数据挖掘原理与SPSS Clementine 应用宝典[M].北京：电子工业出版社，2009：234-257；550-555.

[4]杨富勇.神经网络模型在股票投资中的应用[J].计算技术与自动化.2010，29：108-112.

[5]范明，孟小峰，译.Han J， Kamber M.数据挖掘：概念与技术[M].北京：机械工业出版社，2012.

[6]张娴.数据挖掘技术及其在金融领域的应用[J].金融教学与研究，2003，6（04）：15-18.

神经网络反向传播原理范文第3篇

关键词：BP神经网络； 模糊矩阵； 教学评价

中图分类号：TP183 文献标识码：A文章编号：2095-2163（2013）06-0060-03

0引言

教师教学效果的审核评定是高校教学中的重要工作。传统的考核方法或者只是由学生填写调查表，给教师划分等级，进行定性描述，或者是由督导组根据几堂课的听评给教师的课堂教学打出一个分值。无论是哪种方法都不能全面客观地对教学工作做出科学评定。而且传统的考核方法受主观因素影响较大，学生在对教师的评判中常会加入多种因素，各种因素之间的影响也各不相同，仅以学生或仅凭督导团的评定来实施评判显然已不尽合理。因此， 建立一种能尽量排除各种主观因素的干扰，同时又具有完善且稳定的评价体系的评定方法则成为必要和重要的研究课题。

本文构建一种教学效果评价体系，即对教师的评价从“教学态度”、“教学内容”、“教授方法”、“课堂效果”四大方面分项进行，无论是学生还是督导组均可据此评价体系给出相应评分。本文提出使用BP反向传播神经网络来构建一个稳定的评分系统，各项评分指标为网络输入，使用已训练完成的BP神经网络来模拟一个专家的打分经验，由此输出一个终值。BP神经网络通常是指基于误差反向传播算法的多层前向神经网络，由于BP网络的神经元采用的传递函数是Sigmoid型可微函数，因而可以实现输入和输出间的任意非线性映射[1]。由于BP神经网络本身就是一种高度复杂的非线性动力系统的辨识模型，并且BP神经网络具有逼近任意非线性函数的能力[2]，因此使用BP神经网络进行评价将使结果更具客观性，以此来模拟一个稳定的评分系统亦将具备了现实实现基础。在本文提出的系统中，系统将评价体系中各组评分的分值作为反向传播神经网络的输入，使用BP网络运算后得出一个综合性的评分，即整个过程好似系统模拟一个经验颇丰的专家进行打分。其后，本文又通过数据测试验证了模型的评价结果与实际相符。

1BP神经网络模型

BP（Back Propagation）神经网络是基于误差反向传播的多层前向神经网络，即权值和阈值的调节规则采用了误差反向传播算法，这是一个有导师的神经元网络学习算法[2]。BP网络能学习和存储大量的输入输出模式映射关系，而无需事前揭示描述这种映射关系的数学方程。该网络的学习规则是使用最速下降法，通过反向传播来不断调整网络的权值和阈值，使网络的误差平方和最小。BP神经网络模型拓扑结构包括输入层（input）、隐层（hide layer）和输出层（output layer）。其中的隐层可扩展为多层。只要在隐层中有足够数量的神经元，就可使用这种网络来逼近任何一个函数[3]。一个典型的BP网络结构如图1所示。

2评价模型的构建

本文构建了一套评价体系，使用一套客观标准进行量化表达，且该体系适用于大多数学校的教学评价。评价项目中，各项指标的取值范围为[0，10]。多位专家将根据评价体系方案为每一位参评教师填表打分，经过汇总后，每一个教师的教学情况评分将和一个评价矩阵A对应。列向量x为各个项目指标，行向量e为各位专家评出的各项指标分值。对列向量进行均值计算，则得到各个教师的教学效果指标向量S。所得教学效果指标向量S即是神经网络的输入。评价体系方案设计如表1所示。

表1教师教学评价体系

Tab.1 The system of teaching evaluation类别项目教学态度严谨负责x0； 思想教育x1；教学内容教学目标x2； 准确度x3； 熟练程度x4； 信息量x5；教授方法启发思维x6； 讲授思路x7；重点难点x8；联系实际x9；教学仪态x11；语言表述x12；媒体使用x14课堂效果课堂纪律x15；学生思维x16 图2则为一个由6名专家给出的某位教师教学效果的评分矩阵。

3BP网络模型的设计与实现

使用BP神经网络可以构建稳定的评分系统。人为打分时由于主观因素的影响，分值出入较大，往往不能准确地反映实际情况，为了避免对同一教师的教学评价出现较大反差，构建一个稳定的BP神经网络系统即已成为实践发展过程中的一个必然要求。在系统实现过程中，一位专家首先根据本文提出的评分系统给出各项成绩，并将此成绩作为神经网络的输入值。其后，这位专家再给出一个综合评分，作为神经网络的样本，即输出值，以此即可对BP网络进行训练。训练后的神经网络就可以模拟该专家的打分经验，由此构建形成一个稳定的评分系统。

根据BP神经网络模型的定理（Kolmogrov 定理）：给定任一连续函数f：[0，1]nRn，f可以用一个三层前向神经网络来模拟实现。第一层，即输入层，有n个神经元；中间层，神经元个数可由经验公式实验得出；第三层，输出层有m个神经元。因此一个三层结构的、设有Sigmoid神经元，并具有足够隐节点的BP神经网络则可以逼近任何一个连续函数。本系统采用有三层结构的BP神经网络，其结构如图1所示。由于评价体系中有17个指标，因此网络的输入层有17个输入。系统的输出层则确定为1个节点。隐层神经元个数将根据实验结果而确定为11个。隐层传递函数可使用“lognsig”对数传递函数实现，输出层传递函数使用“pureline”纯线性传递函数实现。训练函数则使用“traingdm”动量梯度下降反向传播法对网络进行训练，另外，网络性能函数使用了默认的“mse”均方误差函数。MATLAB中的主要代码如下：

设有10位教师需要评分，因而使用10组分数即17×10的矩阵作为10个教师的教学效果矩阵。教学效果矩阵即是神经网络的输入矩阵，亦是训练样本，矩阵的行向量为各项评价指标，10个样本，即10位教师的最终评价结果则作为目标样本来训练神经网络，获取1×10矩阵为目标矩阵，即10位教师的最终得分。实验中运用Matlab编程建立三层BP神经网络，目标训练误差为0.1，最大训练次数为 3 000次。训练误差随训练次数的变化情况如图3所示，神经网络经过909步迭代达到精度要求。对应输出与目标的误差如图4所示。

训练样本的输出与专家打分结果比较如表2所示。

由表2可以看出，训练后的网络输出值与专家给出的终值之间的差异均在可接受的指标范围内，因此采用BP神经网络可以构建稳定的评分系统。

4结束语

在对教师教学效果的评价中存在着多种因素，本文构建了一套较为合理的评价体系，并且提出使用BP神经网络对专家评分进行模拟，利用神经网络可避免打分过程中出现的宽严不定的情况。实验证明，BP神经网络可以构建稳定的评分系统，并取得了良好的实验效果。

参考文献：

[1]许东. 吴铮. 基于Matlab 的系统分析与设计—神经网络[M]. 西安：西安电子科技大学出版社，2003：18-19.

[2]胡守仁. 神经网络导论[M] . 长沙：国防科技大学出版社，1993 ：113 - 120.

[3]Martin T. Hagan， Howard B.demuth. 神经网络设计[M]. 北京：机械工业出版社 ，2002：227-255.

[4]郭齐胜. 系统建模原理方法[M]. 长沙：国防科技大学出版社，2003：172-173.

[5]袁剑. BP神经网络在学生综合考评中的应用[J]. 福建电脑，2010（6）.

神经网络反向传播原理范文第4篇

关键词： 模糊神经网络；短期负荷预测；BP算法

algorithm

中图分类号：TN711文献标识码： A 文章编号：

1 引 言

短期负荷预测是电力系统管理现代化的重要内容之一，是对发电、输电和电能分配等合理安排的必要前提，对提高电力系统的经济效益和社会效益，保障电力系统的安全经济运行与国民经济的发展具有非常重要的影响。因此，寻求有效的负荷预报方法，提高预测结果的准确度具有重要意义。

本文针对延边电网短期负荷预测问题，考虑到气象因素对负荷的影响，提出了一种具备模糊数据处理能力的模糊理论与擅长拟合非线性映射的神经网络方法结合起来的短期负荷预测方法，首先根据评价函数选取相似日学习样本，然后利用隶属函数对影响负荷的特征因素向量的分量进行模糊处理，采用反向传播算法，对24点每点建立一个预测模型，提高了学习效能。

2模糊理论与人工神经网络方法简介

2．1模糊集合论的概念

客观事物的差异在中介过渡时所呈现的亦此亦彼的现象称为模糊性，它体现了事物变化的连续过程。模糊集合论使用隶属度来描述中介过渡，是以精确的数学语言对模糊性的一种表述。

设论域u＝｛x｝，u到闭区间〔0，1〕的任一映射uA（x）∶u〔0，1〕，xuA（x）确定了u的一个模糊子集，简称模糊集，记作A，该映射称为A的隶属函数。uA（x）的大小反映了x对模糊集A的隶属程度，简称为隶属度。实数集合上常用的隶属函数为F分布，主要有矩形分布，梯形分布，抛物形分布等，在实际应用中可根据对象特点加以选择。

2．2人工神经网络和反向传播算法的原理

神经网络是由处理单元组成的一种并行、分布式信息处理结构，处理单元之间由单向信道相互连接。人工神经元是神经网络的基本计算单元，模拟了人脑中神经元的基本特征，一般是多输入／单输出的非线性单元，可以有一定的内部状态和阈值。

反向传播（Error Back Propagation－BP）算法是多层感知器的一种有效学习算法，它的模型为前向多层网络，如图1所示。

网络不仅有输入层节点、输出层节点，而且有隐含层节点，经过作用函数后，再把隐节点的输出信息传播到输出节点，最后给出结果。节点的作用函数通常选取s型函数，如 这个算法的学习过程由正向传播和反向传播组成。在正向传播过程中，输入信号从输入层经隐含层逐层处理，并传向输出层，每一层神经元的状态只影响下一层神经元的状态。如果在输出层不能得到期望的输出，则转向反向传播，将误差信号沿原来的连接通道返回，通过修改各层神经元的权值，使得误差信号最小。

BP算法可描述为：

a．权值和阈值初始化：随机地给全部权值和神经元的阈值赋以较小的初始值；

b．给定输入xk和目标输出yk；

其中 为第l层第j个神经元到第l＋1层的第i个神经元的权系数，η为增益项，δ（l）ik为第l层i节点的k模式的误差项，且有

若i为输出节点，则

e．达到误差精度要求则输出结果，否则回到3。

3预测方法

3．1BP网络学习样本的选择

根据差异评价函数选择一批比较相似的负荷日，选择方法如下：

a．首先将影响因素向量的各分量数值化，这些因素包括日类型，工作日取1，双休日取2；光照，晴天取1，少云取2，多云取3，阴天取4，下雨取5；雨量，无雨取0，小雨取1，中雨取2，大雨取3，暴雨取4；最高温度、最低温度、平均温度等可取实际值。

b．建立评价函数

其中是α－β的范数，α为已知日的影响因素向量，β为预测日的影响因素向量（预测值），δ为设定的偏离值，要根据不同地区的实际情况由经验决定。凡是满足该评价函数的已知日均可加入学习样本。

3．2预测方法

为了提高BP网络的学习速度和预测精度，对网络输出的实际负荷值进行规一化处理，同时使用隶属度函数对输入网络的影响因素向量进行模糊化处理，使得输入向量的不同分量如工作日、光照、雨量、温度等都转换为模糊量。

日类型的隶属度函数采用半矩形分布，形式如下。

对工作日的隶属度函数为：

温度的隶属度函数分别如下。

对低温的隶属度函数采用偏小型梯形分布：

对中温的隶属度函数采用中间型梯形分布：

对高温的隶属度函数采用偏大型梯形分布：

将最高温度th代入以上3个公式，可分别求出对于低温、中温、高温3个状态的隶属度。对于最低温度t1、平均温度tα，可采用同样方法求出它们的3个状态隶属度。

影响因素向量的其它分量如光照、雨量等的隶属度函数与温度相似，根据当地实际情况选择建立相应的分布函数，从而求出光照的5个状态隶属度以及雨量的5个状态隶属度。

另外，为了降低求解规模，对1d的24点负荷每点建立1个预测模型，第i点的输入输出函数为：

其中Lji是指第j个学习样本第i点负荷的实际值，Ljimin是学习样本中第i点负荷的最小值，Ljimax是学习样本中第i点负荷的最大值，经过规一化处理后，

fi是指第i点的输入输出函数，α′j1，…α′jl是第j个样本影响因素的隶属度向量，包括2个代表日类型的隶属度，3个代表最高温度的隶属度，3个代表最低温度的隶属度，3个代表平均温度的隶属度，5个代表光照的隶属度，5个代表雨量的隶属度。当学习完成后，将预测日当天影响因素的隶属度向量 代入（10）式，则可得第i点的负荷预测值。

3．3一些注意事项

a．伪数据的处理

因为神经网络所用的负荷数据来自电力部门的SCADA系统，由于各种原因会造成一定数量的异常数据。考虑到负荷前后小时的自然变化，如果出现超常规值，必须将其剔除，代之以正常比例范围内的估计值。

b．待选的相似日范围

因为随着时间的推移，系统负荷结构会发生缓慢的变化，当已知日和预测日相隔较远时，即使它们的天气情况等因素很相似，预测精度也不会高，因而取前3个星期的已知日作为待选范围，同时还可以缩短程序选取样本所花费的时间。

4计算实例分析与结论

4．1实例计算

对延边电网2012年5月5日24点的负荷进行预测，所得结果如表一。

表一：

预测的平均绝对百分误差为1.77％，最大预测误差为3.1％，最小误差为0.8％，误差超过3％的预测点有2个，小于2％的点有15个，预测效果良好。

4．2结论

准确进行短期负荷预测是电力行业所企盼的，本人提出一种模糊神经网络预测方法，利用模糊技术和神经网络各自的特长，充分发挥了ANN处理非线性问题的能力，具有训练速度快，学习精度高，数值稳定等优点，算例也表明这是一种行之有效的短期日负荷预测方法。

参考文献

【1】 刘晨晖，“电力系统负荷预报理论与方法”哈尔滨工业大学出版社 1987

神经网络反向传播原理范文第5篇

关键词：神经网络技术，ANNBP网络算法

 

1、人工神经网络概述

人工神经网络是模拟生物神经信息处理方法的新型计算机系统，它可以模拟人脑的一些基本特征，（如自适应性，自组织性和容错性），是一个并行、分布处理结构,它由处理单元及其称为联接的无向信号通道互连而成。

人工神经网络力图模仿生物神经系统，通过接受外部输入的刺激，不断获得并积累知识，进而具有一定的判断预测能力。尽管神经网络模型的种类很多，但基本模式都是由大量简单的计算单元（又称为节点或神经元）广泛相互连接而构成的一种并行分布处理网络。。基于神经信息传输的原理，各个节点通过可变的权值彼此相连接，每个节点对N个加权的输入求和，当求和值超过某个阈值时，节点呈“兴奋”状态，有信号输出。节点的特征由其阈值、非线性函数的类型所决定，而整个神经网络则由网络拓扑、节点特征以及对其进行训练所使用的规则所决定。

2、多层前向网络

神经网络按拓扑结构分为前馈型网络和反馈型网络。前馈型网络在结构上采用的是其信息只能从前一层到它下面一层的单元，在网络运算过程中不存在任何反馈。从学习观点看，前馈网络是一种强有力的学习系统，其结构简单,易于编程；从系统观点看，前馈网络是非线性映射，通过简单非线性处理单元的复合映射可获得复杂的非线性处理能力，因此具有较强的分类能力和模式识别能力。

反向传播（BP）网络是典型的前馈型网络，结构上它属于多层前向网络,它的结构如图1所示。它分为输入层、隐含层和输出层，层与层之间多采用全互连方式，同一层之间不存在相互连接。网络中每一层权值都可通过学习来调节,且网络的基本处理单元（输入单元除外）为非线性输入、输出关系，处理单元的输入、输出值可连续变化。由于BP网络可在多个连续的输入和一个或多个连续的输出之间建立非线性映射这一特性，它常被用于智能预测。

多层前向网络是使用最广泛的一种网络结构，它可很好的解决XOR等经典的非线性问题，比起单层的感知器有很大的优越性，尤其80年代中期，Rumelhart和Mcclelland最先提出了多层前馈网络的反向传播学习算法，简称BP算法，它的效率很高，是目前应用最为普遍的训练算法，这使得多层前馈网络应用更加广泛。应该指出，我们常说的BP网络，严格说是基于BP算法的多层前向网络。

图 1 BP网络结构图

4、 BP网络算法

BP网络算法的思想是把一组样本的I/O问题变为一个非线性优化问题，使用了优化中最普通的梯度下降法,用迭代运算求解权对应于学习记忆问题，加入隐含层节点使优化问题的可调参数增加，从而可得到更精确的解。BP网络模型设计的最大特点是网络权值是通过使用网络模型输出值与已知的样本值之间的误差平方和达到期望值而不断调整出来的，并且确定BP神经网络评价模型时涉及隐含层节点数、转移函数、学习参数和网络模型的最后选定等问题。下面简单介绍一下基本BP算法相关数学描述：

(1)梯度下降算法

(2)S(Sigmoid)型函数

BP网络的激活函数经常使用的是Sigmoid对数或正切激活函数和线性函数。对数S型函数 f(x)=1/(1+exp(-x)), Sigmoid 函数具有非线性放大功能，它可以把输入从负无穷大到正无穷大的信号，变换成-1到1之间的输出，对较大的输入信号，放大系数较小，而较小的输入，放大系数较大，所以采用S型激活函数可以去逼近非线性的输入/输出关系。

(3)BP算法

BP网络学习是典型的有导师学习，其学习算法是对简单的学习规则的推广和发展。BP网络实现了多层网络学习的设想，其学习过程包括正向传播和反向传播两部分。。

在正向传播过程中，给定网络的一个输入模式时，输入信息从输入层经过隐含层逐层处理，并传向输出层，每一层神经元的状态只影响下一层神经元的状态，由输出层单元产生一个输出模式，这是一个逐层状态更新过程，称为前向传播。。如果输出响应与期望输出的模式误差值不满足要求，那么就转入误差反向传播，将误差值沿连接通路逐层传送并修正各层连接权值。对于给定的一组样本，不断用一个个训练模式进行学习，重复前向传播和误差反向传播过程，当各个训练模式都满足要求时，BP网络训练完毕。

其中的激发函数我们采用S型函数， 即f(x)=1/(1+exp(-x))。BP算法描述如下：

（2）提供训练样本：输入矢量Xk ,k=1,2,..n 和期望输出tk, k=1,2,…,m；对每个输入样本进行（3）到（5）的迭代。

（3）计算网络的实际输出okj 。

（4）分别计算输出层和隐含层的训练误差

其中(4-2)为输出层的误差值, (4-3)为隐含层的误差值。

（5）修正权值和阈值

（6）判断实际误差指标是否满足规定误差的要求,满足则到(7)。

（7）结束 。

BP算法是人工神经网络中最为重要的网络之一, 也是迄今为止应用最为广泛的网络算法, 实践证明这种基于误差反传递算法可以解决许多实际问题, 但其算法自身也存在着局部极小点、算法的收敛速度慢等缺陷，需要我们在今后的研究中不断完善改进。