神经网络反向传播过程

前言：想要写出一篇令人眼前一亮的文章吗？我们特意为您整理了5篇神经网络反向传播过程范文，相信会为您的写作带来帮助，发现更多的写作思路和灵感。

神经网络反向传播过程范文第1篇

关键词： BP神经网络；价格预测；归一化处理

期货市场是一个不稳定的、非线性动态变化的复杂系统。市场上期货合约价格的变动受金融、经济、政治及投资者心理等众多因素的影响，其过程具有非线性、混沌性、长期记忆性等特点。传统的经济模型大部分是线性模型，具有一定的局限性.而人工神经网络则能很好地解决这个问题。

一、BP神经网络原理与过程

BP神经网络（反向传播网络Back Propagation）是一种多层前馈型神经网络，其神经元的激活函数是sigmoid函数，一般为log sigmoid 函数和tan sigoid 函数，函数的图形是S 型的，其值域是为0到1的连续区间。它是严格递增函数，在线性和非线之间有着较好的平衡性。

1.数据归一化处理

数据归一化方法是神经网络预测前对数据常做的一种处理方法。数据归一化处理把所有数据都使其落在[0，1]或[-1，1]之间，其目的是取消各维数据间数量级差别。避免因为输入输出数据数量级差别较大而造成网络预测误差较大。数据归一化的方法主要有以下两种。

（1）平均数方差法，其公式如下：

2.BP神经网络的学习过程

BP网络的学习过程由信号的正向传播和误差的反向传播两个过程组成。其基本原理是：网络先根据输出层的误差来调整输出层和隐含层的权值和阈值，再将部分误差分配置隐含层，然后根据误差来调整隐含层和输入层之间的权值和阈值，并不断地重复上述过程，直到网络的输出与目标之间的误差趋于最小，达到规定的要求。

一般地，BP网络的学习算法描述为如下步骤。

（1）初始化网络及学习参数，如设置网络初始权矩阵，给出学习速率和神经元激活函数等。

（2）提供训练模式，训练网络，直到满足学习要求。

（3）前向传播过程：对给定训练模式输入，计算网络的输出模式，并与期望模式比较，若有误差，若执行步骤（4），否则，返回步骤（2）。

（4）反向传播过程：计算同一层单元的误差，修正权值和阈值，返回步骤（2）。

二、玉米期货价格预测分析

美国是世界上玉米生产大国和消费大国，良好的现货基础为美国玉米期货市场的发展提供了优越条件。其中，以CBOT为代表的美国玉米期货市场同现货市场有效接轨，不仅在美国内玉米生产流通领域发挥了重要作用，而且在世界玉米市场上也影响巨大。

发现价格作为期货市场的基本功能之一，CBOT作为全球最大的玉米期货交易市场，其玉米期货价格的国际影响力是非常巨大的。目前，在国际玉米市场上，玉米贸易价格的形成和交易活动是以CBOT的玉米期货价格为中心展开的，该价格是国际玉米贸易中签约双方需要考虑的最重要的依据之一。美国已经通过芝加哥玉米期货市场取得国际玉米贸易的定价权，在国际玉米市场中发挥着主导作用，并且能够对本国和其他国家玉米产业的发展产生深刻影响。

本文研究所采取的样本来自WIND资讯金融终端，以2008年07月-2015年10月的CBOT的玉米期货为研究对象。共计100组样本数据，将其中92组数据作为训练数据。8组作为分析样本。本文从影响全球玉米的供需平衡的角度出发，从期初库存、产量、进口、饲料消费、国内消费总计、出口、期末库存、总供给、贸易量共九个因素进行分析研究，对玉米期货的价格进行预测。利用MATLAB软件训练生成BP神经网络并进行预测，将隐含层神经元设为20个，训练次数为100次，训练精度为0.00005。最后得到结果见表1。

从表1中可以看出，通过BP神经网络计算得出的预测值与实际值绝对误差相对较小，这说明通过BP神经网络预测模型产生的预测结果的精确度较高。具有较强的实用性。但是由于玉米期货除了受到供需因素的影响外，同时还受金融、经济、政治及投资者心理等众多因素的影响。所以本文的结果还带有一定的局限性。若把上述因素考虑进去，其精确度可能进一步提高。

三、结语

本文采用BP神经网络对美国玉米期货的价格进行了研究。使用了多因素BP神经网络预测模型，对玉米期货的价格进行预测，得到了拟合度在较高的预测值。这说明BP神经网络方法可以对玉米期货价格走势进行有效预测。通过预测，可以对投资者的投资行为进行指导，从而达到规避风险而获取较好的经济利益。

参考文献：

神经网络反向传播过程范文第2篇

关键词：神经网络 时用水量 预测 BP算法

目前，国内外用于城市用水量短期预测的方法多为时间序列分析法并采用多种预测模型，但都存在计算比较复杂、费时、预测精度较差等问题。

现通过对时用水量变化规律的研究，提出以神经网络法预测城市短期用水量。

1　城市供水管网用水量变化规律

在我国城市供水系统中，用水量一般包括居民生活用水、工矿企业生产用水和公共事业用水等。同一城市在一天内的不同时段，用水量会发生显著变化。

虽然城市用水量的变化受气候、生活习惯、生产和生活条件等诸多因素的影响，变化情况也较为复杂，但通过分析不难发现：城市用水量曲线呈现三个周期性的变化，即：一天(24h)为一个周期、一星期(7d)为一个周期、一年(365d)为一个周期，并受增长因素(人口增长，生产发展)的影响。若将预测时段取为1h，则季节因素和增长因素的影响就显得十分缓慢 ，因此管网时用水量的变化具有两个重要特征：随机性和周期性。

2　人工神经网络模型

采用目前应用最广泛的多层前馈神经网络模型(BP模型)来预测用水量。BP网络由输入层、输出层及隐含层组成，隐含层可有一个或多个，每层由若干个神经元组成。最基本的三层BP神经网络的结构如图1所示。隐含单元与输入单元之间、输出单元与隐含单元之间通过相应的传递强度逐个相互联结，用来模拟神经细胞之间的相互联结［1～4］。

BP神经网络采用误差反馈学习算法，其学习过程由正向传播(网络正算)和反向传播(误差反馈)两部分组成。在正向传播过程中，输入信息经隐含单元逐层处理并传向输出层，如果输出层不能得到期望的输出，则转入反向传播过程，将实际值与网络输出之间的误差沿原来的联结通路返回，通过修改各层神经元的联系权值而使误差减小，然后再转入正向传播过程，反复迭代，直到误差小于给定的值为止。

假设BP网络每层有N个处理单元，训练集包括M个样本模式对(Xk，Yk) 。对第p个训练样本p，单元j的输入总和记为netpj，输出记为Opj，则：

如果任意设置网络初始权值，那么对每个输入模式p，网络输出与期望输出一般总有误差，定义网络误差EP：

式中dPj——对第p个输入模式输出单元j的期望输出

可改变网络的各个权重Wij以使EP尽可能减小，从而使实际输出值尽量逼近期望输出值，这实际上是求误差函数的极小值问题，可采用梯度最速下降法以使权值沿误差函数的负梯度方向改变。

BP算法权值修正公式可以表示为：

式中δpj——训练误差

t——学习次数

η——学习因子

f′——激发函数的导数

η取值越大则每次权值的改变越剧烈，这可能导致学习过程发生振荡，因此为了使学习因子的取值足够大而又不致产生振荡，通常在权值修正公式中加入一个势态项［5］，得：

式中α——常数，势态因子

α决定上一次学习的权值变化对本次权值新的影响程度。

转贴于 　3　时用水量预测

3.1　方法

利用BP神经网络预测时用水量分为三大步骤：第一步为训练样本的准备和归一化，第二步为神经网络的训练，第三步是利用训练后的神经网络对用水量进行预测［6］。

由于用水量的数值较大，应对其进行一定的预处理，一般可采用初值化、极值化或等比变换。通过这些变换可有效地缩短神经网络训练时间，从而加快网络收敛速度。

3.2　实例

采用华北某市2000年24h用水量的实测数据进行预测。在应用神经网络预测模型预测时用水量时，建立了时用水量数据库，共收集了240个样本，每个样本包括24h的时用水量资料。 

通过选取不同的输入样本数及不同的隐层单元个数来比较其训练与预测结果的最大相对误差、均方差、程序运行时间以决定网络的结构。经过比较，最后决定采用一个隐层、12个隐层单元、24个输出单元的BP网进行训练， 训练过程中均采用24h的时用水量作为输入与输出节点(即Opi与Opj)。

由于时用水量变化具有趋势性、周期性及随机扰动性的特点，故预测样本的变化规律将直接影响预测结果的变化趋势，所以在预测时应根据预测对象的情况，选择适当的样本进行预测 。

①预测次日24h的时用水量(或某一时刻的用水量)

a.如果这一天处于工作日则选取上一工作日的用水量作为输入样本进行训练，然后预测次日的时用水量。预测结果见图2，与实际用水量的相对误差为-0.02%～0.01%。

b.如果预测日为周末(即周六或周日)则选取前一周(包括上周周末)的实测数据进行训练以使预测更加准确，预测结果见图3。与实际用水量的相对误差为-2%～1%。

②预测一个月的时用水量

可以选取上个月的数据进行训练，也可以选取去年或连续几年同月的时用水量进行预测，不过训练样本数越大、训练时间越长则预测精度越高。预测结果见图4，与实际用水量的相对误差在±1%以内。

3.3　预测效果比较

为了考察神经网络模型对城市时用水量的预测效果，同时采用时间序列三角函数分析法、灰色系统理论预测法、小波分析法对上述实例进行了预测，结果表明：时间序列三角函数分析法的预测误差一般为±5%～±7%；灰色系统理论预测法的预测误差大一些，为±5%～±50%；小波分析法误差范围为0%～±25%；而神经网络的最大误差不超过±1%。

可见，神经网络方法对城市时用水量的预测效果明显好于其他方法。

4　结语

人工神经网络是一门新兴的交叉学科，利用BP网络进行预测能拟合任意的非线性函数并且具有准确、简单等特点，实际应用结果表明，用它来预测时用水量是可行的。

参考文献

［1］Hagan MT，Menhaj M B.Training feed forward networks with Marquart algorithm［J］.IEEE Trans on Neural Networks，1994，5(6):989-993.

［2］Kanad Chakraborty，Chilukuri K Mohan.Forecasting the behavior of multivariate tim e series using neural networks［J］.Neural Networks，1992，(5)：961-970.

［3］Sietsma J，Dow RJF.Back propagation networks that generalize［J］.Neural Netwo rks，1999，(12)：65-69.

［4］邵良彬，高树林.基于人工神经网络的投资预测［J］.系统工程理论与实践，1997，17(2)：67-71.

神经网络反向传播过程范文第3篇

[关键词] BP算法 权值 学习步长 学习样本

BP算法采用广义的δ学习规则，是一种有导师的学习算法。它分两个阶段：正向传播阶段和反向传播阶段。正向传播阶段，将学习样本的输入信息输入前馈网络的输入层，输入层单元接受到输入信号，计算权重合，然后根据神经元的激活函数将信息传到隐含层（1层或2层），同样根据隐含层的输出计算输出层的输出。反向传播阶段，将网络的实际输出与期望输出相比较，如果误差不满足要求，将误差向后传播，即从输出层到输入层逐层求其误差（实际上是等效误差），然后相应地修改权值。

误差反向传播算法简称BP算法，现在成为人工神经网络中最引人注意应用最广泛的算法之一。该算法是一种有教师示教的训练算法，它通过对P个输入输出对(即样本)(X1，Y1)，(X2，Y2)，…，(XP，YP)的学习训练，得到神经元之间的连接权Wij、Wjk和阈值θj、k，使n维空间对m维空间的映射获得成功训练后得到的连接权和阈值，对其它不属于P1=1，2，…，P的X子集进行测试，其结果仍能满足正确的映射。

一、BP网络的学习结构

在神经网络中，对外部环境提供的模式样本进行学习训练，并能存储这种模式，则称为感知器；对外部环境有适用能力，能自动提取外部环境变化特征，则称为认知器。一个有教师的学习系统分成三个部分：输入部、训练部和输出部。

二、BP网络的数学模型

从第一节神经元的讨论可知，神经元是一个多输入单输出的信息处理单元。它对信息处理是非线性的。可把神经元抽象为一个简单的数学模型。

如X1，X2，…，Xn是神经元的输入，即来自前级n个神经元的轴突信息；θi是i神经元的阀值，Wi1，Wi2，…，Win分别是i神经元对X1，X2，…，Xn的权系数，也即突触的传递效率；Yi是i神经元受到输出；f［•］是激发函数，它决定i神经元受到输入X1，X2，…，Xn的共同刺激达到阀值时以何种方式输出。

数学模型表达式为：

是对应第i个样本Xi的实际输出；Yi是对应第i个样本Xi的期望输出。

求令e最小时W：

三、BP算法推导

定义误差函数e为期望输出与实际输出之差和平方和：

其中：Y为期望值，即教师信号；X为实际输出。考察权系数Wij的修改量，与e的负梯度有关。即：

四、BP算法的执行

BP算法执行分两个过程：

(1)正向传播：输入的样本从输入层经过隐单元一层一层进行处理，通过第二层，第三层，第四层之后，传出第五层――输出层；在逐层处理过程中，每一层神经元的状态只对下一层神经元的状态产生影响。在输出层把现行输出和期望输出进行比较，如果现行输出不等于期望输出，则进入反向传播过程。

(2)反向传播：反向传播时，把误差信号按原来正向传播的通路反向传回，并对每一隐层各个神经元的权系数进行修改，以使误差信号趋向最小。

实验结果表明：

(1)如改变精度要求，将影响BP算法的计算次数，当精度提高时，计算量明显加大；当精度降低时，计算量减小。

(2)当改变神经网络的结构时，意味着整个计算过程将变化。

(3)当取不同样本点组时，有的收敛较快，有的计算非常多。

(4)当取不同加速因子时，加速效果不同。有的较快，有的较慢。

(5)BP算法求函数逼近有一定的实用性。

参考文献：

［1］张立明编著.人工神经网络的模型及其应用［M］.上海：复旦大学出版社，1993.42.

［2］黄凤岗，宋克鸥编著.模式识别［M］.哈尔滨：哈尔滨工程大学出版社，1998.65，68，69.

［3］杨万山，陈松乔等.基于BP神经网络的工程图纸图形符号识别［J］.微型电脑应用，2000，2：22-23.

［4］扬葳，韩春成.BP网络接点作用函数的改进及算法在汉字字库学习中的应用［J］.

神经网络反向传播过程范文第4篇

关键词：Matlab；BP神经网络；预测

中图分类号：TP183文献标识码：A文章编号：1009-3044(2008)19-30124-02

Based on Matlab BP Neural Network Application

YANG Bao-hua

(Institute of Information and Computer, Anhui Agricultural University, Hefei 230036, China)

Abstract: BP learning algorithm is a one-way transmission of multi-layer to the network, Matlab toolbox is based on the theory of artificial neural network, based on Matlab toolbox, with watermelon-heavy forecasts, BP neural network forecast the feasibility of re-watermelon is verified, and fast convergence, small error, should be promoted in the forecast crop growth.

Key words: Matlab; BP Neural Networks; Forecast

1 引言

人工神经网络是人工构造的模拟人脑功能而构建的一种网络，BP神经网络是结构较简单、应用最广泛的一种模型，BP神经网络是Rumelhart等在1986年提出的。它是一种单向传播的多层前向网络，一般具有三层或三层以上的神经网络，包括输入层、中间层（隐层）和输出层[1]，其模型见图1所示。

■

图1 BP网络模型

Matlab中的神经网络工具箱是以人工神经网络理论为基础，利用Matlab语言构造出许多典型神经网络的传递函数、网络权值修正规则和网络训练方法。网络的设计者可根据自己的需要调用工具箱中有关神经网络的设计与训练的程序，免去了繁琐的编程过程。

红籽瓜(Red-seed Watermelon)种子即瓜子富含有蛋白质、脂肪、钙、磷及多种维生素，含油率达55%左右，营养颇为丰富，经过精细加工，味道鲜美，市场十分畅销[4]。为了提高瓜子的产量，需要关注很多因素，这些因素的改变会影响瓜子的产量，所以确定哪些因素能预测产量，如何预测是本文研究的内容。本文利用红籽西瓜的测量数据，以单果重，种子数，千粒重，种子重作为输入因子，仁重为输出因子，选择合适的隐层，构建影响红籽西瓜种仁重量的BP网络模型，运用Matlab软件进行预测。

2 BP神经网络设计的基本方法

Matlab的NNbox提供了建立神经网络的专用函数newff()[5]。用newff函数来确定网络层数、每层中的神经元数和传递函数，其语法为：

net=newff(PR,[S1,S2,…,SN],{TF1,TF2,…,TFN},BTF,BLF,PF)

式中：PR表示由每个输入向量的最大最小值构成的R×2矩阵；Si表示第i层网络的神经元个数；TF表示第i层网络的传递函数，缺省为tansig，可选用的传递函数有tansig，logsig或purelin；BTF表示字符串变量，为网络的训练函数名，可在如下函数中选择：traingd、traingdm、traingdx、trainbfg、trainlm等，缺省为trainlm；BLF表示字符串变量，为网络的学习函数名，缺省为learngdm；BF表示字符串变量，为网络的性能函数，缺省为均方差“mse”。

2.1 网络层数

BP网络可以包含不同的隐层，但理论上已经证明，在不限制隐层节点数的情况下，两层（只有一个隐层）的BP网络可以实现任意非线性映射。

2.2 输入层节点数

输入层起缓冲存储器的作用，它接受外部的输入数据，因此其节点数取决于输入矢量的维数。

2.3 输出层节点数

输出层节点数取决于两个方面，输出数据类型和表示该类型所需的数据大小。在设计输人层和输出层时，应该尽可能的减小系统规模，使系统的学习时间和复杂性减小。

2.4 隐层节点数

一个具有无限隐层节点的两层BP网络可以实现任意从输入到输出的非线性映射。但对于有限个输入模式到输出模式的映射，并不需要无限个隐层节点，这就涉及到如何选择隐层节点数的问题，至今为止，尚未找到一个很好的解析式，隐层节点数往往根据前人设计所得的经验和自己进行试验来确定。一般认为，隐层节点数与求解问题的要求、输入输出单元数多少都有直接的关系。另外，隐层节点数太多会导致学习时间过长；而隐层节点数太少，容错性差，识别未经学习的样本能力低，所以必须综合多方面的因素进行设计。

隐层节点数的初始值可先由以下两个公式中的其中之一来确定[2,3]。

1=■+a (1)

或 1=■(2)

式中，m、n分别为输入结点数目与输出结点数目，a为1～10之间的常数。

2.5 数据归一化

因为原始数据幅值大小不一，有时候还相差比较悬殊。如果直接投人使用，测量值大的波动就垄断了神经网络的学习过程，使其不能反映小的测量值的变化。所以，在网络训练之前，输人数据和目标矢量都要经过归一化处理。

根据公式可将数据“归一化”，即限定在[0,1]区间内。归一化公式为：

■ (3)

也可以使用归一化函数Premnmx，及反归一化函数Postmnmx。

3 BP学习算法及实例

3.1 BP学习算法

1) 初始化网络及学习参数；

2) 从训练样本集合中取一个样本，并作为输入向量送入网络；

3) 正向传播过程，对给定的输入样本，通过网络计算得到输出样本，并把得到的输出样本与期望的样本比较，如有误差超出限定范围，则执行第4步；否则返回第2步，输入下一个样本；

4) 反向传播过程，即从输出层反向计算到第一隐层，修正各神经元的连接权值，使用误差减小。

3.2 实例

为了提高瓜籽产量，需要关注很多因素，滤去相关度过低的因子，根据经验确定输入因子为单果重，种子数，千粒重，种子重，输出因子为仁重。现以表1所示的2000~2002年测量数据作为训练样本进行训练，对2003年的数据进行预测。输出层结点代表仁重量，神经网络的预测模型采用4-4-1，即输入层4个神经元，根据公式(2)计算隐层神经元数确定为4，1个输出神经元。设定最大的迭代次数为500次，系统全局误差小于0.001。传递函数为tansig，训练函数为trainlm。

根据经典的BP算法，采用Matlab编程，样本训练结果见图2，2003的数据作为预测样本，预测结果如下：

TRAINLM, Epoch 0/500, MSE 0.316381/0.001, Gradient 2.8461/1e-010

TRAINLM, Epoch 4/500, MSE 0.00056622/0.001, Gradient 0.0830661/1e-010

TRAINLM, Performance goal met.

SSE = 0.0102

y = 0.269 0.267 0.27 0.269 0.2679 0.2679

表1 红籽西瓜数量性状表

瓜籽仁重实际值为0.265，0.282，0.264，0.269，0.265，0.287，误差为0.0102，当样本较少时可以接受的误差范围内。并且收敛速度快。

■

图2训练函数为trainlm的训练结果

采用traingd函数进行训练，则5000次仍未达到要求的目标误差0.001，说明该函数训练的收敛速度很慢。见图3所示。所以训练函数的选择也非常关键。

■

图3 训练函数为traingd的训练结果

4 结论

用Matlab编编写的基于BP网络的仁重预测程序，计算结果表明，误差较小，预测值与实测值吻合较好，所建立的模型具有较好的实用性，说明单果重，种子数，千粒重，种子重的数据影响瓜子的产量，同时验证BP算法可以用于瓜仁产量的预测。

目前所进行的预测试验中数据的样本较少，且生长动态变化，今后拟建立一个动态预测系统，为红籽瓜品种培育、提高产量提供新的方法，值得在预测作物生长中推广。

参考文献：

[1] 飞思科技产品研发中心.神经网络理论与Matlab 7实现[M].北京：电子工业出版社.2006:100-105.

[2] 徐庐生.微机神经网络[M].北京：中国医药科技出版社,1995．

[3] 高大启.有教师的线性基本函数前向三层神经网络结构研究[J].计算机学报,1998,21(1):80-85．

[4] 钦州农业信息网：.

神经网络反向传播过程范文第5篇

关键字：小波分解；BP神经网络；负荷预测；电网

中图分类号：TN711文献标识码：A 文章编号：

1.引言

电力系统负荷预测指的是，在充分考虑一些重要的系统运行特性、增容决策、自然因素与社会影响的条件下，研究或利用一套系统来处理过去与未来负荷的数学方法，在满足一定精度要求的前提下，确定未来某特定时刻的负荷数值。

在生产实践中，负荷预测有着其至关重要的意义：电力系统负荷预测是电力系统调度、用电、计划和规划等管理部门的重要工作之一。准确的负荷预测，有利于经济合理的安排电网内部发电机组的启停，保持电网运行的安全稳定，减少不必要的旋转储备容量；有利于用电管理，合理的安排电网运行方式和机组检修计划，保证社会的正常生产和生活；有利于节煤、节油和降低发电成本，提高电力系统的经济效益和社会效益；有利于制定合理的电源建设规划，决定未来新发电机组的安装及装机容量的大小、时间和地点；有利于合理的安排电网的增容和改建、决定电网的建设和发展。未来电网内负荷变化的趋势与特点，是一个电网调度部门和规划部门所必须具有的基本信息之一。

负荷预测从预测的时间范围上可以分为长期、中期、短期和超短期预测。长期预测一般指十年以上并以年为单位的预测；中期预测指在五年左右以年为单位的预测；中长期负荷预测主要是用于制定电力系统的扩建规划；短期预测指一年内以月为单位的负荷预测，还指以周、天、小时为单位的负荷预测，通常预测未来一个月、未来一周、未来一天的负荷指标，也预测未来一天每小时的负荷；短期负荷预测对电力企业的日常运营起到指导和调节作用，有利于合理安排电力日生产计划；超短期负荷预测指未来1h、0.5h,甚至10min的预测，其意义在于对电网进行计算机在线控制，实现发电容量的合理调度，满足给定运行要求，同时使发电成本最小。

一般目前的电力系统负荷预测有以下几种方法：一般指数平滑模型、时间序列预测技术、神经网络预测技术、小波分析方法、灰色预测技术、模糊逻辑技术或组合预测法。

本文主要针对美国最大的区域电网——PJM应用小波分解下的BP神经网络进行超短期符合预测。

2.理论背景

神经网络在电力系统中的研究领域已涉及到了很多方面，如暂态、动态稳定性分析，负荷预测，机组最优组合，警报处理与故障诊断，配电网线损计算，发电规划，经济运行及电力系统控制等。

1991年D.C.Park等人首次将人工神经网络（ANN）方法引入了电力负荷预测，引起了广泛关注。

本文应用的是误差反传学习算法(BP)，简称BP神经网络算法，是现在应用最成功、最广泛的人工神经网络。

BP网络通常由输入层、输出层和若干隐层组成。

BP网络是正向、各层相互全连接的网络。对于输入信号，要经过输入层，向前传递到隐层节点(隐层可以是一层，也可以是多层)。

经过作用函数后，再把隐层节点的输出送到输出层节点，最后给出输出结果。BP网络的算法（学习过程）由正向传播和反向传播两部分组成。正向传播过程中，输入信息从输入层经隐层逐层处理，并传向输出层，每一层神经元状态只影响下一层神经元状态。 在输出层输出信号与期望值进行比较，如果存在误差，则将误差沿原来连接的路径返回，通过修改层间各节点的连接强度(权值)，使误差信号减少，直至把误差限定在预定的范围。

设网络分为M层，第M层仅含输出节点，第一层为输入节点，则BP算法步骤如下：

（1）选定初始权值为W；

（2）重复下述过程直到收敛。

a. 对k＝1到N

计算Oik，netjk和yk^ (正向过程)；

对各层m＝M到2反向计算 (反向过程)。

b. 修正权值

（1-1）

其中

（1-2）

小波理论源于傅立叶分析．经傅立叶变换处理后的信号只能在时域或者频域进行分析．经小波平移和伸缩变换处理后的信号，可在时频域对其局部细节进行多分辨分析。

图2 BP神经网络预测流程图

小波神经网络，把小波变换与神经网络有机地结合起来，充分继承了两者的优点。小波与神经网络可以按以下两种途径结合：一是松散型结合，即小波分析作为神经网络的前置手段，先将电力负荷数据进行小波分解，得到各尺度上的小波系数，再利用这些小波系数组成特征向量，输入给常规神经网络进行处理；二是紧致性结合，直接以小波函数代替常规神经网络的Sigmoid或径向基函数作为神经网络的隐节点激励函数，以小波的尺度和平移参数作为神经网络的权值和阈值参数，构成一种新型的前馈神经网络。

3.实例分析

本文选用美国PJM电网2011年3月RTO每小时的负荷监测数据数据作为训练集和验证集，

图3 对原始数据进行小波分解后的数据波形

图4其中一个小波的训练曲线

建立了三层BP神经网络，并对初始数据进行小波处理，利用Matlab中已有的小波工具箱函数将原始序列分解为3个小波和一个母波，将数据分别进行归一化处理后，利用Matlab中自带的神经网络工具箱分别对分解后的数据进行BP神经网络的预测，在不发生过拟合的条件下不断调整训练算法，最终获得滚动预测数据（每次得到一个点）。

本文利用的是Matlab自带的小波分解函数wavedec，在BP神经网络算法中采用L—M算法进行迭代收敛。

图5预测曲线局部的五个点（滚动预测）

在对3月21到31日11天的预测中，训练的相对误差误差基本集中在3%—6%之间，有个别点相对误差超出10%，相比普通的BP神经网络预测方法，其准确度有了一定的提高。

4.结语

采用小波分解作为BP神经网络负荷预测的前置处理，可以一定程度上更好地保存本身负荷数值的非线性特征，一定程度上提高了预测数据的准确度，但仍不能避免部分异常点的出现（相对误差超过10%），仍需要改进，可以考虑进行小波分解与神经网络的紧致性结合，将分解过程融入到训练层中，不单单作为前置处理。

参考文献：

1.小波网络和BP网络在符合预测中的比较江汉大学学报（自然科学版） 冯再勇，钟康惠，马永旺

2.水稻需水量预测的小波BP网络模型农业工程学报 冯艳 付强 李国良 李伟业 刘仁涛 冯登超

3.基于小波分析的月度负荷组合预测 电网技术 姚李孝 刘学琴

4.L-M优化算法在短期负荷预测中的应用 计算机科学 代小红 王光利

5.电力系统负荷预测 中国电力出版社 康重庆 夏清 刘梅