训练神经网络的方法

前言：想要写出一篇令人眼前一亮的文章吗？我们特意为您整理了5篇训练神经网络的方法范文，相信会为您的写作带来帮助，发现更多的写作思路和灵感。

训练神经网络的方法范文第1篇

1基于贝叶斯算法的BP神经网络

1.1贝叶斯算法基于贝叶斯算法的BP神经网络是基于贝叶斯定理而发展出来的用于解决统计问题的方法，即任意一个待求量都可以看作是一个随机变量，因此可以通过概率分布来对待求量进行描述，这个概率是在抽样前就有的关于待求量的先验概率分布。贝叶斯理论正是在没有样本信息时，只根据先验概率分布来求解待求量。而在有样本后，则可根据总体、样本和先验信息的联合分布来对未知量进行判断。后验分布π（θ|x）是反映人们在抽样后对随机变量θ的认识，其与先验分布即样本x的差异是由于样本出现后人们对θ的调整，即后验分布π（θ|x）为抽样信息对先验分布π（θ）调整的结果[6]。

1.2贝叶斯算法BP神经网络基于贝叶斯算法的BP神经网络是一种以神经网络基本原理为构架，通过引入贝叶斯推理有效地控制网络模型的复杂度，进而更好地解决非线性问题及其不确定性[7]。在BP神经网络中，训练样本集为D（xm，Om），xm为输入信号，Om为输出节点，在一定的网络结构A与网络参数W下，可以得到网络的输出由网络的输入D唯一的确定。网络训练的目标函数为误差函数ED（D|W，A），则有。采用贝叶斯算法BP神经网络步骤如下：（1）确定网络结构A，初始化超参数α，β，对网络参数W进行赋值。（2）以最终目标函数为M（W）最小为原则，对BP神经网络进行训练，寻找最优可能网络参数W。（3）寻找最优可能参数α，β。（4）采用不同初始网络参数寻找最优网络参数。（5）对不同网络结构A，寻找最优网络参数。

2贝叶斯算法的BP神经网络量化结果分析

2.1训练样本与测试样本在对管道进行磁化的过程中，最常用的方法是沿管道轴向进行磁化，提取缺陷处沿轴向变化的漏磁场与沿周向变化的漏磁场，缺陷的长度信息主要由沿轴向变化漏磁场反应，缺陷的宽度信息主要由沿周向变化的漏磁场反应，而缺陷的深度信息则是由这两个量共同反应[9]。本文采用实验的方法获取网络所需样本，这里以对陡壁缺陷的分析为例，研究贝叶斯算法的BP神经网络对陡壁缺陷量化的有效性。分别制作缺陷长度为3，3.5，4，4.5，5，5.5倍管道壁厚，宽度为0.5，1，1.5，2倍管道壁厚，深度为0.1，0.15，0.2，0.25倍管道壁厚，共得到96组测量结果，取其中80个缺陷特征作为网络的训练样本，剩余的16个缺陷特征作为测试样本。

2.2长度的量化采用统计分析的方法选取与缺陷长度关系密切的特征量作为神经网络的输入信号，将缺陷长度作为网络的输出信号来对网络进行训练。所选取主要特征有漏磁场轴向分量的静态阈值截取长度、一阶微分信号极小值的位置与周向变化漏磁场动态阈值截取长度。分别对基本的BP神经网络与贝叶斯算法的BP神经网络进行训练，当均方误差小于10-3时停止训练，得到两种网络的训练与学习过程如图1所示。比较两种算法训练过程可以看出贝叶斯算法的BP神经网络总共进行了331次训练，而基本的BP神经网络总共进行了1789次训练，可见贝叶斯算法的BP神经网络的收敛速率更快。用16组测试数据对两种网络长度的量化误差进行比较，得到量化后缺陷最大相对误差与最小相对误差如表1所示，对应贝叶斯算法BP神经网络量化的缺陷如表2所示。从表2中可以看出，采用贝叶斯算法的BP神经网络量化得到的缺陷长度与设计值的误差明显小于基本的BP神经网络，最大相对误差仅为0.05%。

2.3宽度的量化与缺陷长度的量化相似，采用统计分析的方法选取与缺陷宽度关系密切的特征量作为神经网络的输入信号，将缺陷宽度作为网络的输出信号来对网络进行训练。所选取主要特征有轴向变化漏磁场峰谷值、周向变化漏磁场波形面积、波形能量、静态阈值截取长度。分别对基本的BP神经网络与贝叶斯算法的BP神经网络进行训练，当均方误差小于10-3时停止训练，得到两种网络的训练与学习过程如图2所示。比较两种算法训练过程可以看出贝叶斯算法的BP神经网络总共进行了269次训练，而基本的BP神经网络总共进行了2248次训练，可见引入贝叶斯算法后的BP神经网络的收敛速率大幅提升。与之前相同，用16组测试数据对两种网络宽度的量化误差进行比较，得到量化后缺陷误差如表3所示，贝叶斯算法BP神经网络量化达到误差的缺陷见表4。在对缺陷宽度进行量化的过程中，尽管量化得到的最大相对误差仍较大，采用贝叶斯算法的BP神经网络量化得到的缺陷宽度与设计值的误差明显小于基本的BP神经网络。

2.4深度的量化在对缺陷的深度进行量化时，采用统计分析的方法选取了缺陷的长度、宽度以及轴向变化漏磁场的两个峰谷值、波形面积、周向变化漏磁场峰值、峰谷值作为神经网络的输入信号，将缺陷深度作为网络的输出信号来对网络进行训练。对基本的BP神经网络与贝叶斯算法的BP神经网络进行训练，得到两种网络的训练与学习过程如图3所示。贝叶斯算法BP神经网络总共进行了4152次训练，基本的BP神经网络总共进行了8763次训练，尽管引入贝叶斯算法BP神经网络的训练过程仍旧较长，但比基本BP神经网络的收敛速率有所提升。用16组测试数据对两种网络深度的量化误差进行比较，得到量化后缺陷误差如表5所示，贝叶斯算法BP神经网络量化达到误差的缺陷见表6。从对缺陷深度量化结果可以看出，采用贝叶斯算法的BP神经网络对缺陷深度进行量化，得到的缺陷深度与设计值的误差小于基本的BP神经网络。

3结束语

训练神经网络的方法范文第2篇

关键词：人工神经网络 矿山 安全状态 评判能力

中图分类号：TD77；TP181 文献标识码：A 文章编号：1007-9416（2015）04-0206-01

通过改变神经网络训练样本等方式，对神经网络不同训练样本的反应能力进行对比分析，从而探讨人工神经网络对矿山安全程度评价的适应性。为了有效的提高人工神经网络对矿山安全程度评价的能力，可以通过改变神经网络的神经元数目以及初值赋值的方式来测试不同的结构，从而得出不同参数下神经网络对相同训练样本的评价结论，以便提高其评价能力，在矿山安全状态评判中充分发挥出人工神经网络的作用。

1 人工神经网络中的网络结构设计与原始数据的准备

本文中主要采取如1所示的神经网络结构，根据测试目的的差异性，其测试过程中神经网络的部分性能也就不同，但是对整个网络结构的性能不会改变。

这种神经网络的主体结构是单输入、三层式BP的网络结构，输出连接、目标连接、输入权重连接、偏置连接以及层权连接等是其主要的连接方式。各层神经元的分类包括：第一隐含层有8个正切S型神经元，第二隐含层有8个对数S型的神经元，输入层有4个元素，输出层有一个线性神经元。其网络函数主要包括训练函数、初始化函数、性能函数以及各网络层的层初始化函数。其训练函数需要采取TRAINLM回转方法来运算；初始化函数需要采取逐层初始化的方法运算；性能函数需要采取均方误差法来计算；各网络层的层初始化函数需要采取优化规则的方式计算，有的时候还需要采取INITWB的方式进行运算。各个权阈值的初始化需要采用RANDS方法来计算。在人工神经网络训练的原始样本数据以及期望值中，这些数据主要是用来评价地质因素对矿山安全影响程度的原始数据。当训练完成之后，需要对其各种数据进行仿真测试，以便评断这种人工神经网络结构在矿山安全状态中的应用价值与能力，并对其不足之处以及缺陷问题等进行分析，以便寻找出更加优化的方案，从而提高人工神经网络在矿山安全状态中的评判作用与能力。

2 人工神经网络对矿山安全状态评判能力的训练以及仿真测试

对矿山安全评价的方法较多，但是能够较好的应用于矿山安全评价的方法却很少，例如事故树分析法、概率风险评价法以及事件树分析法等，这些方法均由于基本事件的发生概率的确定方面存在一定的困难，从而导致运用于矿山过程中的安全评价效率不高。另外，在矿山安全状态评价的过程中，其安全检查表、专家评价方法等存在一定的缺点与不足，其在评价的过程中，主观性较强，受到个人意识的影响较大。综合指标评价法由于其指标间的逻辑关系，指标的权值与指标的量化等问题，从而导致该方法难以在矿山安全状态中进行准确的评价。只有能够更好的适应这种复杂的动态系统的安全评价方法，才能够将其更好的应用在矿山安全状态评价中[1]。

其中人工神经网络在处理无法使用简单规则或公式进行描述的大量的原始数据的问题时，以及在处理规律不清楚的问题时，其具有较大的优势。也正是由于这种方法能够对复杂的非线性动力学系统的适应，才能够使其在矿山安全状态评价中得到引进与推广。将人工神经网络对矿山安全状态评价能力的训练进行仿真实验，在每次实验检测之前，都需要对同一神经网络进行重新初始化，之后需要运用相同的训练样本数据对神经网络进行训练，以便达到训练要求后对网络进行仿真测试，训练性能函数的误差需要保持在10以内。其神经网络的训练过程是网络在初始权阈值的基础上，对其权阈值进行不断的修改，以便寻找出它们之间的某种联系，使得输入的整个训练样本集数据经过网络的运算之后，其输出与相应的目标数据差别能够满足性能函数的要求。因此，在人工网络对矿山安全状态进行评判的时候，即使所有数据与性能均符合要求，但是由于在训练的时候就被赋予了不同的权阈值，训练之后得到的权阈值的最终组合也会存在较大的差异。通过神经网络对矿山进行安全评判的目的在于运用神经网络总结分析数据，对矿井各个致灾的贡献率进行分析，进而对矿山的安装状态进行评判。从神经网络的角度来分析，通过运用网络的运算功能对训练样本的数据进行统计分析，并从中找出满足目标值以及性能要求的权阈值组合形式，从而通过仿真方式来评价矿山的安全状态。

3 结语

通过对人工神经网络在矿山安全状态的评判能力进行训练以及仿真测试后，发现人工神经网络与人类评判方法存在一定的差异性，在今后的发展过程中，还需要对人工神经网络在矿山安全状态中的评判能力进行不断的优化与改进，以便更好的适应矿山安全状态的评判，在矿山安全状态的评判中充分发挥出人工神经网络的作用，从而更好的确保矿山生产与经营的安全性。

训练神经网络的方法范文第3篇

>> 基于人工神经网络过闸流量模型在南水北调中线工程的应用 基于人工神经网络的优化配置研究 基于BP神经网络的彩色温度软测量 基于小波神经网络的网络流量预测研究 基于改进小波神经网络的网络流量预测研究 基于混沌神经网络的区域物流量预测 基于BP神经网络的铁路客流量预测研究 基于人工神经网络的煤炭需求预测 基于人工神经网络的PPI预测模型 基于人工神经网络的自适应距离保护 基于人工神经网络的故障诊断 基于人工神经网络的化工安全评价 基于人工神经网络的人口预测 基于人工神经网络的图像识别 基于人工神经网络的车牌识别探究 基于人工神经网络的信息处理 基于人工神经网络的巨大儿预测的研究 基于BP人工神经网络的土壤含水量预测模型的研究 基于BP人工神经网络的知识管理战略选择研究 基于人工神经网络的水泵故障诊断技术研究 常见问题解答 当前所在位置：

关键词：BP网络；软测量；过闸流量；MATLAB神经网络工具箱

DOI： 10.3969/j.issn.1005-5517.2013.10.011

引言

通过闸门的水流量是一个非常重要的参数。只有获得准确的流量值，才能实现对水资源的优化配置。目前对于过闸水流量的测量已形成了几种方法：流速仪法、水力学公式法以及曲线法[1，2]。其中，被广泛运用与现场测流中的方法是流速仪法，它也是流量测量中最重要的方法。流速仪法是通过实测断面上的流速和水道断面积来确定流量的方法。测量时先在断面上布设测速垂线和测速点，再将流速仪放到测速点处测速，用分割法计算断面面积，推算出流量。虽然这种测流方法是目前的主导方法，但却存在着一些天生的缺陷：一是很难确定合适的测速垂线及测点，这是由于河道断面形状的不规则以及流速场分布情况复杂等原因造成的；二是实时性不高，测量时间比较长，从而导致管理部门不能及时了解过闸流量，耽误启闭闸门的最佳时机；三是需要的硬件资源比较多，因此大大增加了测流成本。鉴于此，研究一种新型的即简单、操作方便实时性又高，并且精度满足要求的测流方法已成为目前的迫切需求。而本文采用的BP网络软测量技术正好解决了以上诸多问题。

BP神经网络软测量模型

隐含层神经元数的确定

隐含层神经元数的选择在理论上并没有一个明确的规定。因此，选择合适的神经元数就显得十分麻烦。如果神经元太少，则网络不能很好地学习，需要的训练次数也多，训练的精度也不高。反而言之，如果隐含层神经元数选的太多，虽然功能会越大，但是循环次数也就是训练时间也会随之增加。另外可能还会出现其他的问题，如导致不协调的拟合。一般的选择原则是：在能够解决问题的前提下，再加上一到两个神经元以加快误差的下降速度即可[7]。

这里，我们通过对不同神经元数进行训练对比，以及通过简单的交叉验证法确定隐含层的神经元数为15个。基于BP网络的过闸流量软测量模型如图1所示。

数据样本的选取及处理

所用的人工神经网络的训练与测试集样本来源于碧口水电厂右泄工作门2001年水文历史数据。从中选取典型的60组数据，其中前40组作为训练样本，后20组作为测试样本。限于篇幅只列出部分数据，如表1所示。

由于输入样本各参数的集中取值范围不同，参数大小不一，为了使各类参数所起的作用大致相同，必须对输入数据进行标准化，把输入数据都规一到[0，1]闭区域内[8]。因此，我们对表1的数据做如下处理：H*G=HG/10；H*UP=HUP/1000；Q*=Q/Qmax。

运用MATLAB神经网络工具箱对网络进行训练与测试

在运用MATLAB神经网络工具箱对网络进行训练之前，要注意两方面问题。一是初始权值的选择，再个就是学习速率的选取。

由于系统是非线性的，初始值对于学习是否达到局部最小、是否能够收敛以及训练时间的长短的关系很大。一般选取初始权值为（-1，1）之间的随机数。在MATLAB工具箱中可采用函数initnw.m初始化隐含层权值。学习速率决定每一次循环训练中所产生的权值变化量。若学习速率过大可能导致系统的不稳定；但学习速率过小会导致训练时间较长，收敛速度很慢，不过能保证网络的误差值不跳出误差表面的低谷而最终趋于最小误差值。所以在一般情况下，倾向于选取较小的学习速率以保证系统的稳定性。学习速率的选取范围在0.01到0.8之间。综合考虑一下，本系统选取学习速率为0.1。BP网络训练程序如下所示[9]：

%定义输入向量和目标向量

P=[0.5 0.6 0.8 ？？；0.7082 0.7081 0.7079 ？？]；

T=[0.3744 0.4533 0.3735 0.648？？]；

%创建BP网络和定义训练函数及参数

net=newcf（ minmax（P），[15，1]，{‘lo gsig’，‘purelin’}，‘traingd’）；

net=initnw（net，1）；

net.trainParam.epochs=5000；

net.trainParam.lr=0.1；

net.trainParam.goal=0.00001；

%训练神经网络

[net，tr]=train（net，P，T）；

待网络训练好后，利用选定的20组测试样本对其进行测试，以测量其泛化能力。测试结果如图2和图3所示。

图2为真实流量值与通过BP网络软测量模型的预测值之间的拟合曲线，方框代表预测值，圆点代表真实值。

训练神经网络的方法范文第4篇

【关键词】大学生身体素质评估 遗传算法 BP神经网络 MATLAB计算程序

在校大学生是国家重要的人才后备力量，大学生的身体素质培养和锻炼是学校体育教学中关注的重点。对大学生身体素质进行科学、切实的评价可制订更为有效的培养方案，帮助大学生提高其身体素质。身体素质评价就是将大学生的身体形态、生理机能及运动能力等方面的数据综合起来进行评价[1]。从以往的研究成果看，对大学生身体素质评价集中于采用概率统计、多元回归分析和神经网络[2]的方法。然而，概率统计仅得到整体评价结果，多元回归分析预测精度较低，且两者受样本空间影响较大。为此，本文利用遗传算法来训练初始网络模型，再用BP算法来进行精确求解，是对神经网络评估大学生身体素质的进一步优化应用。

基于遗传算法的BP神经网络理论

通过把神经网络和遗传算法合理、科学的结合，既能够利用神经网络较强的学习能力，又发挥了遗传算法全局寻优的搜索功能。首先利用遗传算法得到权值的较优初始取值，训练网络避免了局部极小，利用BP神经网络训练次数和最终权值也相对稳定，训练速度明显加快，从而既节约了时间，又提高了预测结果的准确性。

1.基于遗传算法的BP神经网络结构

BP网络的学习规则采用最速下降法，利用遗传算法根据训练目标函数对网络权值进行迭代，找到最佳初始网络权值。通过反向传播来不断调整网络权值，使网络误差平方和最小，该系统的网络结构，如图1所示。先对大学生身体素质的评估指标进行分类，抽取大学生身体素质的特征指标，并作为输入信息送入由输入层、中间层和输出层组成的三层网络模型进行评估。经过测试的网络，成为稳定的模式评估器，即可输出评估结果[3，4]。

该模型的输入层节点数为n，即大学生身体素质评价指标数，中间层节点数为 ，输出层节点数为1，即身体素质评估结果值，ωij和ωj为BP神经网络权值，初始化隐含层阈值为ɑ，输出层阈值为b，由此可给定学习速率和神经元激励函数。从图1可发现，BP神经网络可以看成一个非线性函数，网络输入值和输出值分别为该函数的自变量和因变量。当输入层节点数为n，输出层节点数为1时，BP神经网络就表达了从n个自变量到1个因变量的函数映射关系。

2.基于遗传算法的BP神经网络算法

遗传算法优化BP神经网络的核心是用遗传算法来优化BP神经网络的初始权值和阈值，使优化后的BP神经网络能够更好地预测函数输出，计算流程如图2所示。

1.背景资料

根据本校某班2011年大学生身体素质测评成绩，从中选取30名学生的测试结果作为神经网络的训练样本和校验样本。结合遗传算法和BP神经网络算法，在大型数学计算软件MATLAB中编程实现基于遗传算法的BP神经网络大学生身体素质评估[4]。

2.计算结果与分析

遗传算法优化过程中最优个体的适应度变化（如图3）。把最优初始权值、阈值赋给神经网络，用训练数据训练100次后，得到基于遗传算法的BP神经网络预测值。为了对比分析，也进行了BP神经网络预测分析（如图4）。

从图4可看出，采用BP神经网络及遗传算法优化的BP神经网络两种算法得到的预测结果，与专家判断（实际值）基本一致。但基于遗传算法的BP神经网络较BP神经网络预测精度高。特别在输入节点，即评价大学生身体素质的指标较多时，基于遗传算法的BP神经网络预测效果要好一些。

结 论

1.本文提出了基于遗传算法的BP神经网络大学生身体素质评价算法，并建立了相应的网络模型。

2.基于遗传算法的BP神经网络算法不但具有神经网络的函数逼近能力，而且应用遗传算法优化BP神经网络的权值、阈值，可使优化后的神经网络避免训练时间长、易陷入局部极值的缺点。

3.结合实例，将基于遗传算法的BP神经网络大学生身体素质评价算法，应用于本校学生身体素质评估。结果表明，该算法较BP神经网络预测精度及效率高，可作为今后大学生身体素质评价的一种新方法。

参考文献：

[1]范正森，张明如，周瑞琪.大学生身体素质综合评价数学模型[J].武汉工业大学学报，2001，4：92-94.

[2]陈海英，郭巧.短跑运动能力的神经网络评价方法[J].北京理工大学学报，2003，1：54-57.

[3]陈刚，何政伟，杨斌，杨洋.遗传BP神经网络在泥石流危险性评价中的应用[J].计算机工程与应用，2010，46（3）.

训练神经网络的方法范文第5篇

关键词：风电机组；matlab；人工神经网络；风功率预测

1 风电功率预测模型

1.1 径向基神经网络

神经网络算法是近年来发展起来的一种新型人工智能算法。不同于以往的数学算法，它是一种模仿动物神经网络行为特征，进行分布式并行信息处理的算法数学模型，具有自学习、自适应和自组织能力的特点。

径向基神经网络（即RBF神经网络）是一种三层前向网络，由输入层、隐含层和输出层组成，网络结构如图1所示。由输入到输出的映射是非线性的，而隐含层到输出层是线性的，从而大大加快了学习速度并避免局部极小问题。

根据径向基函数中心选取方法的不同，RBF神经网络有很多学习方法，如随机选取中心法、梯度训练法、有监督选取中心法和正交最小二乘法等。这里，选用梯度训练法作为RBF神经网络的学习方法。

1.2 梯度训练方法

RBF网的梯度训练方法是通过最小化目标函数实现对各隐节点数据中心、扩展常数和输出权值的调节。使用一种带遗忘因子的单输出RBF网学习方法，此时神经网络学习的目标函数为：

（1）

其中，？茁j为遗忘因子，误差信号ej的定义为：

（2）

由于神经网络函数F（X）对数据中心ci、扩展常数ri和输出权值wi的梯度分别为：

（3）

（4）

（5）

考虑所有训练样本和遗忘因子的影响，ci、ri和wi的调节量为

（6）

（7）

（8）

其中，？椎i（Xj）为第i个隐节点对Xj的输出，？浊为学习速率。

1.3 数据归一化

数据归一化是神经网络预测前对数据常用的一种处理方法。数据归一化处理将所有数据都转化为[0，1]之间的数，其目的是取消各维数据间数量级别差，避免因为输入输出数据数量级差别较大而造成神经网络预测误差较大。

风速归一化：应用多年统计的极限风速对风速数据进行归一化处理

（9）

其中，Vg为归一化处理后的风速标量值；vt为应用于预测的历史风速值；vmax为风场气象观测到的历史最大风速，如不超过风场风机最大切除风速，则取为风机的切除风度。

风功率归一化：根据风电机组额定功率，采用与风速归一化相同的方式，对风电机组历史出力情况进行归一化，并对网络预测的输出功率进行反归一化，得到预测结果。

1.4 神经网络的构建

首先挑选几组数据风功率作为样本，将每个样本的前n个风速和风功率值进行归一化处理，将处理后的数值作为RBF神经网络的输入；可将每个样本的后n个风速和风功率值进行归一化处理，将处理后的数值作为RBF神经网络的目标输出，通过对RBF神经网络的训练学习，实现从输入空间到输出空间的映射。

2 短期风功率预测结果

将前10天的风功率数据作为训练样本，对风机功率提前1小时进行预测。图2预测风功率与实测风功率比较可知，可以看到神经网络预测风功率变化趋势与实际风功率变化基本趋势一致，并且预测功率比实际功率变化平缓。

神经网络在风功率预测时，每点的预报误差不尽相同，这主要与早晚温差造成的风速突然变化以及当天天气变化情况等有关，从预测曲线的总体趋势以及与实际曲线误差值大小来看，该神经网络模型预测结果基本令人满意。

3 结束语

采用人工神经网络进行预测精度较高、训练速度快，适用于在线预测的场合。但是由于所用训练数据为风速相对平稳时期的数据，所以该模型对于突变风速的处理能力仍然有限，为提高预测结果的精度，还需对模型进行进一步改进。总体而言，通过建立神经网络模型，对短期风功率进行预测，虽有一定局限性，但其预测精度满足工程要求。

参考文献

[1]Tony Burton，等.风能技术[M].北京：科学出版社，2007.