首页 > 文章中心 > 神经网络的鲁棒性

神经网络的鲁棒性

前言:想要写出一篇令人眼前一亮的文章吗?我们特意为您整理了5篇神经网络的鲁棒性范文,相信会为您的写作带来帮助,发现更多的写作思路和灵感。

神经网络的鲁棒性

神经网络的鲁棒性范文第1篇

关键词:星图识别;构建识别特征星库;GRNN网络

星敏感器是卫星中最精确的姿态传感器。随着光电技术的发展,星敏感器在航天器上的应用前景十分广阔。利用神经网络在星图识别方面具有良好的效果,但由于训练效率低,难以实现星敏感器的在线应用。本文将广义回归神经网络应用于星图识别过程中,在大视场条件下,通过构建特征矢量作为网络输入,实验结果表明,该方法准确率较高且识别时间较短。

1星敏感器原理

星敏感器是对恒星进行观察和分析,通过提取拍摄视场中恒星的信息与数据库进行比较来定位局部范围的高精度姿态测量设备[1]。星敏感器的工作流程图如图1所示。利用基本星表提取出赤经、赤纬和星等信息,并根据提取的信息进行导航星库的构建。导航星库由两个部分组成,即基本信息库和识别特征库,两者具有一一对应的关系。基于星敏感器实际拍摄星图的困难性[2],使用加入噪声的模拟星图进行替代。对获取的星图需要进行去噪和图像处理,即星图预处理。经处理后的星图中,观测星特征矢量的构建方法与导航星库中识别特征库的构建方法相同。识别特征库中的特征矢量作为神经网络的训练集输入数据,输出为对应导航星的赤经和赤纬,即导航星的特征信息包含在连接权值中。故向神经网络输入观测星特征矢量时,无需多次迭代即可直接输出对应的赤经、赤纬。

2导航星库的构造

2.1识别特征星库的构建

图2是利用神经网络算法构造特征矢量[3]的方法。具体实现方法如下:(1)选取视场中亮度最大的8颗星,其中最亮的星为导航星G1,距离G1最近的星为导航星G2。若最亮的星有多颗,则选择离视场中心最近的星为G1;(2)以G1G2的连线作为基线,计算其余观测星与导航星G1的连线与基线的逆时针夹角,并按照夹角值由小到大命名剩余6颗观测星G3~G8;(3)计算导航星G1到G2~G8的距离17r~r;(4)对于整个视场,可以得到由7个距离值r和6个夹角余弦值构的特征矢量:

2.2验证集的获取

以赤道为起点并根据赤道上(10°,10°)对应的空间立体角进行划分,示意图见图3。在保证赤纬β=10°的基础上,利用式2计算赤经αn的变化值,将天球分为n个子块,其中南北两极处为球冠,其余部分为球面环带。本文利用空间立体角法将天球分为386个子块,在每个子块中随机抽取1颗星,并利用该星对应的基本信息获得其特征矢量。

3神经网络与星图识别

神经网络进行星图识别属于模式识别方法,识别的目的是获得一个映射f,使b=f(a),其中,a为输入星模式,b为对应的星信息。神经网络的输入为特征矢量,输出为对应的赤经和赤纬。在神经网络的输入值为x1,x2,...,xn时,预测输出值为y1,y2,...,ym,ωij和ωjk为神经网络权值;设隐含层阈值参数α,则在隐含层的输出为利用输出阈值参数b来计算神经网络预测输出Ok(k=1,2,...,m),并根据期望输出值Tk确定预测误差ek。

4实验结果

4.1星图模拟

本文中为了简化计算,将二维高斯模型的x和y方向的标准偏差取为1,并将相关系数取0,以获得高斯模型式中,(x0,y0)为中心点坐标,星点像素最大灰度值I0利用敏感星等对应的最大灰度值g0与恒星星等m求得。

4.2神经网络训练结果

神经网络基于MATLAB平台构建,为验证广义回归神经网络GRNN在星图识别中的优越性,测试了不同神经网络在星图识别中的性能,并将BP神经网络与GRNN网络进行性能对比。将导航星特征向量输入,其赤经、赤纬坐标作为输出进行训练。随后将均匀抽取的包含384个导航星的验证数据集输入网络。我们将BP神经网络中间层设为两层,激活函数设为tansigmoid,BP神经网络的验证结果输出值与真实值相差较大,若要达到良好的效果需要花费更多的训练时间成本,难以满足要求。利用GRNN网络进行训练时,多次试验寻找到合适的扩散系数,并将验证集数据输入到网络中得到的赤经与赤纬与真实值进行对比并计算相对误差。GRNN网络输出坐标与实际坐标基本一致,识别成功率很高。为进一步验证GRNN网络在星图识别中的有效性,我们对其鲁棒性进行了简要探究。鲁棒性评价的目的是评估星图识别算法的成功率受到不同干扰因素的影响程度,由于星图中会存在一定的位置噪声和干扰星,因此我们向验证集中随机添加距离误差和角度误差。测试表明,在像素距离误差为±5%、角度误差为±2°时,验证样本的识别正确率在97%以上;在像素距离误差为±10%、角度误差为±5°时,验证样本的识别正确率在95%以上。由此可见本文算法具有很强的鲁棒性。此外,在训练时间方面,BP神经网络训练时间至少需要300秒;而GRNN网络训练时间仅为1s左右,具有明显优势。

5结论

本文提出了基于广义回归神经网络GRNN的星图识别方法,相比于BP神经网络,GRNN网络具有训练时间短,鲁棒性也较高。向特征矢量中添加较大角度误差和距离误差后,识别正确率仍然能够保证,在像素距离误差为±10%、角度误差为±5°时,验证样本的识别正确率在95%以上。因此本方法更适用于星敏感器的实际应用,能够提高星敏感器在受到较大干扰时的有效性。

参考文献

[1]Toloei,Alireza1(AUTHOR);Zahednamazi,Mona1(AUTHOR);Ghasemi,Reza2(AUTHOR);Mohammadi,Fazel3(AUTHOR)(fazel@uwindsor.ca).Acomparativeanalysisofstaridentificationalgorithms.[J].Astrophysics&SpaceScience,2020,Vol.365(4):1-9.

[2]孙龙,蔡佳楠.一种折射星图的模拟方法[J].电子科技,2018,31(03):21-23+31.

神经网络的鲁棒性范文第2篇

【关键词】人工神经网络;教育资源;管理系统

【中图分类号】G40-057 【文献标识码】A 【论文编号】1009―8097(2009)07―0120―04

教育资源是信息化教学的基础。随着教育信息化的深层次推进,互联网中的信息资源以指数方式增长,这些资源不仅在内容上多种多样,在表现形式上更是丰富多彩。它对教育领域的冲击与渗透使得网络教育资源的利用受到重视,并随之出现了新型教学模式,如:基于资源的自主探索式学习和协作学习等。然而海量的网络教育资源既为教育带来了强大的服务功能,也为资源的建设与管理带来了新的挑战。教育资源具有数据量大、形式多样、针对性强、教育性强等诸多特点,如何将分散、无序的资源整合起来,使“用户能方便、高效地将其利用于自己的学习和工作之中,并在大范围内实现共享是网络教育资源建设者必须慎重面对的问题。”[1]

一 教育资源管理面临的问题

随着信息资源飞速增长,对教育资源管理的要求也更加苛刻。而网络环境的复杂给教育资源的管理带来许多不确定性。

1 教育资源管理系统在网络过载,受到攻击的情况下很容易崩溃。系统一旦崩溃,所有辛辛苦苦积累起来的资料化为乌有,资源的开发利用和共享无从谈起。目前“教育资源管理系统在输入错误、磁盘故障、网络过载或有意攻击情况下,很容易死机和崩溃。”[2]而鲁棒性(robustness)的大小是在异常和危险情况下系统生存的关键,代表了系统健壮与否。简而言之,系统的鲁棒性有待加强。

2 教育资源管理系统需要连续不断地吸收新的教育资源。向用户提供可靠的信息输出。但是在发生故障时,教育资源管理系统容易停止工作,给用户带来较大的损失。而容错性(Fault Tolerance)是指在故障存在的情况下管理系统不失效,仍然能够正常工作的特性。很明显,管理系统的容错性较差,犹如一个经常断电的供电站,给广大用户带来不必要的烦恼与损失。

3 教育资源的扩张速度极快,对海量教育资源的分类显得越来越困难。原先的人为分类跟不上信息传递的频率,导致很难在较短的时间内找到用户迫切需要的资料,浪费用户的时间,也给教育资源的进一步推广使用带来障碍。

二 人工神经网络的特点

人工智能(Artificial Intelligence)是探讨人类智能的基本机理,研究如何利用各种自动机来模拟人的某些思维过程和智能行为,从而构造智能人工制品的科学。

人类对人工智能的研究可以分成两种方式,对应着两种不同的技术:基于心理角度模拟的传统人工智能技术和基于生理角度模拟的人工神经网络技术。从人脑的生理结构来观察,人脑的每个神经元大约有103~4个树突及相应的突触,一个人的大脑总计约形成1014~15个突触。用神经网络的术语来说,即是人脑具有1014~15个互相连接的存储潜力。虽然每个神经元的运算功能十分简单,且信号传输速率也较低(大约100次/秒),但由于各神经元之间的极度并行互连功能,最终使得一个普通人的大脑在约1秒内就能完成现行计算机至少需要数10亿次处理步骤才能完成的任务。根据人脑的生理特点,人工神经网络(Artificial Neural Networks,ANN)是由大量并行分布的单元广泛互连而成,通过各组成部分非同步化的变换,实现信息的整体处理任务,它的这一结构特点决定着人工神经网络具有高速信息处理的能力。它实质上是一种模仿动物神经网络行为特征,进行分布式并行信息处理的算法数学模型。其“工作原理是通过调整内部大量节点之间相互连接的关系,从而达到处理信息的目的。” [3]所以它具有自学习和自适应的能力,可以通过预先提供的一批相互对应的输入――输出数据,分析掌握两者之间潜在的规律,最终根据这些规律,用新的输入数据来推算输出结果。

人工神经网络中神经元处理单元可表示不同的对象,例如特征、字母、概念,或者一些有意义的抽象模式。网络中处理单元的类型分为三类:输入单元、输出单元和隐单元。输入单元接受外部世界的信号与数据;输出单元实现系统处理结果的输出;隐单元是处在输入和输出单元之间,不能由系统外部观察的单元。神经元间的连接权值反映了单元间的连接强度,“信息的表示和处理体现在网络处理单元的连接关系中。”[4]人工神经网络的本质是通过网络的变换和动力学行为得到一种并行分布式的信息处理功能,并在不同程度和层次上模仿人脑神经系统的信息处理功能。正因为这个重要特征,“人工神经网络采用了与传统人工智能技术完全不同的机理,克服了传统的基于逻辑符号的人工智能在处理直觉、非结构化信息方面的缺陷,具有自适应、自组织和实时学习的特点。”[5]它与专家系统的最大区别是,专家系统属于人类智能的功能模拟,而人工神经网络则偏重走结构模拟的路子。与其它智能系统相比,人工神经网络具有以下特点:

1 学习能力:学习能力是神经网络具有智能的重要表现,即通过训练可抽象出训练样本的主要特征,表现出强大的自适应能力。例如实现图像识别时,只有先把许多不同的图像样板和对应的应识别的结果输入人工神经网络,网络就会通过自学习功能,慢慢学会识别类似的图像。

2 分布式结构:人工神经网络力图“体现大脑的分布式并行计算和非线性等特征,依此而建构的网络是一种具有大量连接的并行分布式处理器。”[6]具有通过学习获取知识并解决问题的能力,且知识是分布存储在与大脑神经元突触相类似的连接的权重中。在传统的串行体系计算机中信息分布在独立的存储单元中,而在神经网络中,信息则分散在神经元的连接上。神经网络的信息分布特性,使之具有强大的容错能力和记忆联想能力。信息的分布存储提供容错功能。由于信息被分布存放在几乎整个网络中,所以,“当其中的某一个点或者某几个点被破坏时,信息仍然可以被存取。系统在受到局部损伤时还可以正常工作。”[5]

3 并行处理:神经网络主要是对人脑的结构模拟。各种神经元在处理信息时是独立完成的,不同神经元之间具有并行性,这种并行处理使得信息处理速度大大加快。信息处理方式由原来冯•诺依曼设计的串行处理变为对信息并行处理。

三 人工神经网络应用于教育技术资源的管理之中

将网络布线由原来的星型布线转向神经网络布线方式。应用神经网络软件,网络采用分布式结构,信息采用统一并行处理的方式处理,从而加强了网络的鲁棒性、容错性。同时发挥神经网络的自学习能力,对待不同的信息资源进行模式分类。神经网络模型考虑采用目前比较成熟的误差反向传播网(BP神经网络)。教育资源分类考虑设计关键词进行训练,同时设立样本训练方法,用BP算法对该网络进行训练。训练结束之后,神经网络就可以作为教育资源分类器来进行使用。

BP(Back propagation反向传播)网络又称误差信号反馈网络,是神经网络中使用最广泛的一类。它是一种有教师的学习网络,能够实现从N维到M维的非线性映射,采用梯度下降法实现快速收敛。BP神经网络采用的是并行网格结构,包括输入层、隐含层和输出层,经作用函数后,再把隐节点的输出信号传递到输出节点,最后给出输出结果。由图1可见各层次的神经元之间形成全互连连接,各层次内的神经元之间没有连接。

该算法的学习过程由信息的前向传播和误差的反向传播组成。在前向传播的过程中,输入信息从输入层经隐含层逐层处理,并传向输出层。第一层神经元的状态只影响下一层神经元的状态。如果在输出层得不到期望的输出结果,则转入反向传播,将误差信号(目标值与网络输出之差)沿原来的连接通道返回,通过修改各层神经元权值,使得误差均方最小。神经网络理论已经证明“BP网络具有强大的非线性映射能力和泛化功能,任一连续函数或映射均可采用三层网络加以实现。”[3]

其BP神经网络模型设计方案如下:输入层、隐含层、输出层。输入层与外界的信息来源渠道紧密相连,称之为接受信息的服务器。隐含层包含若干个存储器,代表若干个知识单元。存储器需要具备输入输出渠道,具备自学习能力,可以接受外界信息,也可以传送信息。输出层由传送信息的服务器组成。输出层接受到隐含层传来的信息之后,根据用户要求传送相关信息。层间联接根据模型设计方案来铺设。神经网络中的每一个节点,无论其在输入层、隐含层、输出层上,每台计算机上必须有相应的神经元器件,以便网络进行自学与联想记忆。BP神经网络管理系统的硬件实现。是将协处理器插入标准计算机中,通过运行神经网络软件包,以实现神经网络的硬件功能,可以使神经网络在任何计算机硬件和软件环境中得到所需要的教育资源处理能力。其设计的模型具有如下特点:

1 教育资源并行分布方式处理:在神经网络中教育资源是分布储存和并行处理的,即神经网络把教育资源分布地存储在神经元之间的连接强度上,而且对教育资源的处理是由网络中神经元集体完成的。在BP神经网络中,教育资源的存储表现为神经元之间分布式的物理联系,它分散地表示和存储于整个网络内的各神经元及其连线上。每个神经元及其连线只表示一部分教育资源,而不是一个完整具体概念。只有通过各神经元的分布式综合效果才能表达出特定的概念和知识。由于人工神经网络中神经元个数众多以及整个网络存储容量的巨大,使得它具有很强的不确定性处理能力。即使输入教育资源不完全、不准确或模糊不清,神经网络仍然能够联想思维持在于记忆中事物的完整图像。只要输入的模式接近于训练样本,系统就能给出正确的推理结论。

2 鲁棒性与容错性比较强:人工神经网络的结构特点和其信息存储的分布式特点,使得它相对于其它的判断识别系统如专家系统等,具有另一个显著的优点健壮性。当一个人的大脑因意外事故受轻微损伤之后,并不会失去原有事物的全部记忆。人工神经网络不会因为个别神经元的损失(网络过载、停电、突发故障)而失去对原有模式的记忆(管理功能)。另外“即使是突发事件,暂时使网络的硬件实现还是软件实现中的某个或某些神经元失效,整个网络仍然能继续工作。”[7]BP神经网络是一种非线性的处理系统。只有当神经元对所有的输入信号的综合处理结果超过某一阈值后才输出一个信号。因此神经网络是一种具有高度非线性的超大规模连续时间动力学系统,可以实现对教育资源不间断、长时间的持续管理。它突破了传统管理系统的局限,标志着教育资源管理能力的较大提升。因而神经网络具有极强的鲁棒性与容错性,有联想记忆抽象概括和自适应能力。

3 具有自学习和自适应能力:神经网络抽象概括和自适应能力称之为自学习能力,自学习是神经网络中最重要的特征。通过学习,网络能够获得教育资源的分类知识,适应环境。在训练时,能从输入、输出的数据中提取出规律性的分类知识,记忆于网络的权值中。并具有泛化能力,即将这组权值应用于一般教育资源分类的能力。另外,BP神经网络的分类能力学习也可以在线进行。

以教育学院教育技术学资源管理为例,输入层由两台高性能的服务器组成,中间设七个知识单元,输出由两台输出服务器组成。隐层的七个神经元分别为计算机软件资源室、课堂教学资源室、“影视创作资源室、计算机教育应用资源室、网络技术资源室、传统教学资源室、传统媒体使用资源室。”[8]模型图如图2所示:

教育技术学资源管理系统一种可编程的动力系统,其存贮、加工和提取教育资源均是可编程的。输入层负责对教育技术学的相关教育资源进行筛选比较,然后根据学习后的分类能力对资源予以分类,将所有的教育技术资源分布式存储在隐层的各神经元中,需要处理时根据用户需要,从各个神经元中取出信息并行处理,输出到输出服务器中,提供给用户。用户可以将用户要求直接给输出处理平台,传递给输出层后,由输出层将用户要求反馈给中间隐层。也可以将要求送给输入处理平台,传递给输入层,进行筛选之后将信息传送给中间隐层。即使系统突然面临网络过载问题,由于存储是分布式的,可以很容易地将信息资源分配下去。即使突然停电,由于相关资源已经存储完毕,损失微乎其微。系统的鲁棒性大大加强。同时如果系统发生突然故障,由于输入渠道有两条,所以可以很轻松地用另一个服务器处理。输出处理时也是如此。因此系统的容错性也得到提高。至于模式分类,则需要较长时间的训练和大量的样本。一旦BP神经网络模型训练完毕,日后教育技术学资源分类就显得十分轻松。只需将关键词输入准确,便可以进入相应的知识单元存储起来。处理信息时,根据用户需要,有不少不同类别的资源需要统筹规划、联合利用,才能得到用户需要的结果。这儿就可以充分发挥神经网络并行处理的特点,有条不紊地对信息加以处理。其总体示意图如图3所示:

四 结语

教育信息化的核心问题是教育资源的应用和管理。神经网络式的教育资源管理系统把教育资源存储、教育资源管理、教育资源分类、教育资源动态升级四大特色功能进行整合,全面突破了“当前基础教育信息化过程中的应用‘瓶颈’。” [9]其最大的特点就是突出了教育资源的管理功能,通过以一个统一管理平台为核心的方式,对各类教育资源进行优化、整合,改善了以往教育资源管理从单一功能角度进行设计,各功能之间不能相互结合,造成资源管理困难和资源互不兼容的问题,实现了教育资源的价值最大化。值得注意的是,由于管理系统采用神经网络的结构特点进行设计,其鲁棒性、容错性和模式分类能力较强,较之传统教育资源管理方式比较起来,不仅提取和输入变得十分简单,而且对大量资源的分类式识别也大大加快,提高了管理效率。分布式存储提高了教育资源的存储容量,而“并行式处理又加大了教育资源的处理速度,同时系统在应付突发事件和网络攻击方面,应变能力大大增强,”[10]其可靠性与可用性也有突破性的提高。同时,在教育资源管理过程中,系统能抓住教育资源应用与管理过程中的关键问题,关注用户的反馈,即时更新教育资源,加强了教育资源的建设,为教育信息化的持续发展提供了有力的保障。

参考文献

[1] 余胜泉,朱凌云.教育资源建设技术规范体系结构与应用模式[J].中国电化教育,2006,(3):58-59.

[2] 穆肃.校本学科教学资源库的设计和实现[J].中国电化教育,2004,(1):56-61.

[3] 周志华著.神经网络及其应用(第1版)[M].北京:清华大学出版社,2004.

[4] 张广莹,徐丽娜,邓正隆.“神经网络控制”CAI课件研制中的几个问题[J].现代教育技术,1997,(2):32-33.

[5] 韩立群著.人工神经网络理论设计及应用(第1版)[M].北京:化学工业出版社,2002.

[6] 陶剑文.一种分布式智能推荐系统的设计[J].计算机工程,2007,(15):207-208.

[7] 王国旗,张辛亥,肖.采用前向多层神经网络预测煤的自然发火期[J].湖南科技大学学报(自科版),2008,(2):20-22.

[8] 茹洪丽.教育技术学课程设置问题探略[J].电化教育研究,2005,(12):38-41.

神经网络的鲁棒性范文第3篇

1 引言

在现代机械制造领域中,随着工厂机械制造机器人的普及,机械臂已经变得越来越重要。与传统的工业机械臂相比,未来的机械臂要能够完成更加复杂的机械加工任务。在实际的机械制造机器人应用中,衡量机械臂的工作性能主要是工作效率和工作可靠性指标。

机械臂是一个开链式的多连杆机构,用固定基座来进行固定,机械臂可以根据需要在自由端安装执行器来实现工厂生产操作,关节之间的运动可以带动连杆运动,使得机械臂运动来达到不同的姿态。本文主要针对这个问题展开研究,探讨机械臂的路径规划问题。

2 径向基函数神经网络介绍

神经网络具有分布式存储、并行协同处理和对信息具有自组织自学习等优点,所以广泛应用在人工智能方面。神经网络的大量神经元之间的连接权值和分布分别代表着特定的信息,当网络受损时可以保证网络的输出正确,这种信息处理方式大大提高了网络的容错性和鲁棒性。

径向基函数神经网络是基于函数逼近理论的,是根据系统的海量样本数据来选择隐含层神经元的径向基激活函数,可以用基函数来表示,能够无限的逼近真实的算法表达,它选择合理的隐含层单元个数和作用函数,能够把原来的非线性不可分问题映射成线性可分问题,把不好处理的非线性问题方便的简化为线性问题。径向基函数神经网络在训练时,在给定训练样本后学习算法要解决的核心问题是:设计神经网络的网络结构和求解相关的参数。网络结构设计主要包括网络的输入、网络的输出个数,隐含层节点数目。相关的参数主要包括涉及的参数有径向基函数的中心值、以及函数宽度和权值。

径向基函数神经网络属于一种性能较优的前馈型神经网络,它具有多维度非线性的映射能力和并行信息处理的能力,以及强大的聚类分析能力。与BP神经网络相比,径向基函数神经网络的网络拓扑结构采用的是径向对称的核函数,这样可以大幅提高神经网络的学习速度,同时能够避免陷入局部极小,具有较好的全局寻优能力,同时也具有较好的逼近任意非线性映射能力。

3 机械臂路径规划设计

机械臂轨迹规划主要研究的是机械臂在多维空间中的运动路线,即给定一个初始状态位姿,一个期望的末端执行器的位姿,根据规定的要求来寻找连接初始状态和期望状态的最优有效路径,然后把最优路径转变为机械臂各个关节的空间坐标,进一步转化为机械臂的各个关节的位移、速度和加速度,就形成了机械臂的路径。

机械臂的动力学状态模型为:

其中:D(q)为对称正定的惯量矩阵,为哥式力与离心力矩阵,G(q)为重力项矩阵,q为机械臂关节角位移矢量,为机械臂的角速度矢量,为机械臂的角加速度矢量,为机械臂各关节控制力矩输入矢量。

机械臂的动力学参考模型为:

其中,y为2n+1的参考模型状态矢量,r为n×1的参考模型输入矢量。

径向基函数神经网络包括一个输入层、一个隐层和一个输出层。隐层由一个径向基函数组成,和每个隐层节点相关的参数为网络中心向量和半径。本文选择高斯函数作为径向基函数。本文选择的神经网络训练方法为:输入层到隐层用无导师的聚类算法来训练,常用的是K-均值算法和模糊聚类算法,来确定神经网络的中心向量和半径,隐层和输出层的权值调整用有导师指导算法,来确定权重向量。

算法流程如下:首先对样本数据进行聚类,然后确定神经网络的隐层节点的中心的初始值,将这些样本进行分组,然后将训练样本按照距离的远近向隐层节点的中心聚类,完成后计算样本的均值,将样本均值赋值给隐层中心作为下一次迭代的聚类中心,下一步要判断聚类过程是否结束,聚类结束标志是当划分的每个聚类的样本中心不再变化。然后再计算下宽度半径,宽度半径等于每个聚类中心与该训练样本之间的平均距离。

通过算法验证,对机械臂的路径规划验证了算法的合理性和可行性,规划后支反力和扭矩等动力性能较好,完全满足工程需求。

神经网络的鲁棒性范文第4篇

关键词:车牌字符;BP人工神经网络;图像识别;模式识别

引言

近年来,神经网络的智能化特征与能力使其应用领域日益扩大,潜力日趋明显。许多用传统信息处理方法无法解决的问题采用神经网络后取得了良好的效果。其中,神经网络在车牌字符识别中的应用效果尤为明显。目前,车牌字符识别主要采用两种方法,即模式匹配法和神经网络法。由于神经网络模式识别方法能够实现基于计算理论层次上的模式识别理论所无法完成的模式信息处理工作,这种方法是选用适当的字符图像特征提取方法,然后使用训练样本训练网络并构建一个识别网络作为分类器。所以,相信未来一段时期内神经网络在车牌字符识别领域中的应用还会是趋于主导地位。

1 人工神经网络简介

人工神经网络来提取特征向量,把字符平均分成8份,统计每一份内黑色像素点的个数作为8个特征, 即分别统计这8个区域中的黑色像素点的数目,可以得到8个特征。然后统计水平方向中间两列和竖直方向中间两列的黑色像素点的个数作为4个特征,最后统计所有黑色像素点的个数作为第13个特征。如下图所示:

                         

 图3 13特征提取法

神经网络的鲁棒性范文第5篇

[摘要]该文介绍了神经网络的发展、优点及其应用和发展动向,着重论述了神经网络目前的几个研究热点,即神经网络与遗传算法、灰色系统、专家系统、模糊控制、小波分析的结合。

[关键词]遗传算法灰色系统专家系统模糊控制小波分析

一、前言

神经网络最早的研究20世纪40年代心理学家Mcculloch和数学家Pitts合作提出的,他们提出的MP模型拉开了神经网络研究的序幕。神经网络的发展大致经过三个阶段:1947~1969年为初期,在这期间科学家们提出了许多神经元模型和学习规则,如MP模型、HEBB学习规则和感知器等;1970~1986年为过渡期,这个期间神经网络研究经过了一个低潮,继续发展。在此期间,科学家们做了大量的工作,如Hopfield教授对网络引入能量函数的概念,给出了网络的稳定性判据,提出了用于联想记忆和优化计算的途径。1984年,Hiton教授提出Boltzman机模型。1986年Kumelhart等人提出误差反向传播神经网络,简称BP网络。目前,BP网络已成为广泛使用的网络;1987年至今为发展期,在此期间,神经网络受到国际重视,各个国家都展开研究,形成神经网络发展的另一个。神经网络具有以下优点:

(1)具有很强的鲁棒性和容错性,因为信息是分布贮于网络内的神经元中。

(2)并行处理方法,使得计算快速。

(3)自学习、自组织、自适应性,使得网络可以处理不确定或不知道的系统。

(4)可以充分逼近任意复杂的非线性关系。

(5)具有很强的信息综合能力,能同时处理定量和定性的信息,能很好地协调多种输入信息关系,适用于多信息融合和多媒体技术。

二、神经网络应用现状

神经网络以其独特的结构和处理信息的方法,在许多实际应用领域中取得了显著的成效,主要应用如下:

(1)图像处理。对图像进行边缘监测、图像分割、图像压缩和图像恢复。

(2)信号处理。能分别对通讯、语音、心电和脑电信号进行处理分类;可用于海底声纳信号的检测与分类,在反潜、扫雷等方面得到应用。

(3)模式识别。已成功应用于手写字符、汽车牌照、指纹和声音识别,还可用于目标的自动识别和定位、机器人传感器的图像识别以及地震信号的鉴别等。

(4)机器人控制。对机器人眼手系统位置进行协调控制,用于机械手的故障诊断及排除、智能自适应移动机器人的导航。

(5)卫生保健、医疗。比如通过训练自主组合的多层感知器可以区分正常心跳和非正常心跳、基于BP网络的波形分类和特征提取在计算机临床诊断中的应用。

(6)焊接领域。国内外在参数选择、质量检验、质量预测和实时控制方面都有研究,部分成果已得到应用。

(7)经济。能对商品价格、股票价格和企业的可信度等进行短期预测。

(8)另外,在数据挖掘、电力系统、交通、军事、矿业、农业和气象等方面亦有应用。

三、神经网络发展趋势及研究热点

1.神经网络研究动向

神经网络虽已在许多领域应用中取得了广泛的成功,但其发展还不十分成熟,还有一些问题需进一步研究。

(1)神经计算的基础理论框架以及生理层面的研究仍需深入。这方面的工作虽然很困难,但为了神经计算的进一步发展却是非做不可的。

(2)除了传统的多层感知机、径向基函数网络、自组织特征映射网络、自适应谐振理论网络、模糊神经网络、循环神经网络之外,一些新的模型和结构很值得关注,例如最近兴起的脉冲神经网络(spikingneuralnetwork)和支持向量机(supportvectormachine)。

(3)神经计算技术与其他技术尤其是进化计算技术的结合以及由此而来的混合方法和混合系统,正成为一大研究热点。

(4)增强神经网络的可理解性是神经网络界需要解决的一个重要问题。这方面的工作在今后若干年中仍然会是神经计算和机器学习界的一个研究热点。

(5)神经网络的应用领域将不断扩大,在未来的几年中有望在一些领域取得更大的成功,特别是多媒体技术、医疗、金融、电力系统等领域。

2.研究热点

(1)神经网络与遗传算法的结合。遗传算法与神经网络的结合主要体现在以下几个方面:网络连接权重的进化训练;网络结构的进化计算;网络结构和连接权重的同时进化;训练算法的进化设计。基于进化计算的神经网络设计和实现已在众多领域得到应用,如模式识别、机器人控制、财政等,并取得了较传统神经网络更好的性能和结果。但从总体上看,这方面研究还处于初期阶段,理论方法有待于完善规范,应用研究有待于加强提高。神经网络与进化算法相结合的其他方式也有待于进一步研究和挖掘。

(2)神经网络与灰色系统的结合。灰色系统理论是一门极有生命力的系统科学理论,自1982年华中理工大学的邓聚龙教授提出灰色系统后迅速发展,以初步形成以灰色关联空间为基础的分析体系,以灰色模型为主体的模型体系,以灰色过程及其生存空间为基础与内的方法体系,以系统分析、建模、预测、决策、控制、评估为纲的技术体系。目前,国内外对灰色系统的理论和应用研究已经广泛开展,受到学者的普遍关注。灰色系统理论在在处理不确定性问题上有其独到之处,并能以系统的离散时序建立连续的时间模型,适合于解决无法用传统数字精确描述的复杂系统问题。

神经网络与灰色系统的结合方式有:(1)神经网络与灰色系统简单结合;(2)串联型结合;(3)用神经网络增强灰色系统;(4)用灰色网络辅助构造神经网络;(5)神经网络与灰色系统的完全融合。

(3)神经网络与专家系统的结合。基于神经网络与专家系统的混合系统的基本出发点立足于将复杂系统分解成各种功能子系统模块,各功能子系统模块分别由神经网络或专家系统实现。其研究的主要问题包括:混合专家系统的结构框架和选择实现功能子系统方式的准则两方面。由于该混合系统从根本上抛开了神经网络和专家系统的技术限制,是当前研究的热点。把粗集神经网络专家系统用于医学诊断,表明其相对于传统方法的优越性。

(4)神经网络与模糊逻辑的结合

模糊逻辑是一种处理不确定性、非线性问题的有力工具。它比较适合于表达那些模糊或定性的知识,其推理方式比较类似于人的思维方式,这都是模糊逻辑的优点。但它缺乏有效的自学习和自适应能力。

而将模糊逻辑与神经网络结合,则网络中的各个结点及所有参数均有明显的物理意义,因此这些参数的初值可以根据系统的模糊或定性的知识来加以确定,然后利用学习算法可以很快收敛到要求的输入输出关系,这是模糊神经网络比单纯的神经网络的优点所在。同时,由于它具有神经网络的结构,因而参数的学习和调整比较容易,这是它比单纯的模糊逻辑系统的优点所在。模糊神经网络控制已成为一种趋势,它能够提供更加有效的智能行为、学习能力、自适应特点、并行机制和高度灵活性,使其能够更成功地处理各种不确定的、复杂的、不精确的和近似的控制问题。

模糊神经控制的未来研究应集中于以下几个方面:

(1)研究模糊逻辑与神经网络的对应关系,将对模糊

控制器的调整转化为等价的神经网络的学习过程,用等价的模糊逻辑来初始化神经网络;

(2)完善模糊神经控制的学习算法,以提高控制算法的速度与性能,可引入遗传算法、BC算法中的模拟退火算法等,以提高控制性能;

(3)模糊控制规则的在线优化,可提高控制器的实时性与动态性能;(4)需深入研究系统的稳定性、能控性、能观性以及平衡吸引子、混沌现象等非线性动力学特性。

关于神经网络与模糊逻辑相结合的研究已有很多,比如,用于氩弧焊、机器人控制等。

(5)神经网络与小波分析的结合

小波变换是对Fourier分析方法的突破。它不但在时域和频域同时具有良好的局部化性质,而且对低频信号在频域和对高频信号在时域里都有很好的分辨率,从而可以聚集到对象的任意细节。

利用小波变换的思想初始化小波网络,并对学习参数加以有效约束,采用通常的随机梯度法分别对一维分段函数、二维分段函数和实际系统中汽轮机压缩机的数据做了仿真试验,并与神经网络、小波分解的建模做了比较,说明了小波网络在非线性系统黑箱建模中的优越性。小波神经网络用于机器人的控制,表明其具有更快的收敛速度和更好的非线性逼近能力。

四、结论

经过半个多世纪的发展,神经网络理论在模式识别、自动控制、信号处理、辅助决策、人工智能等众多研究领域取得了广泛的成功,但其理论分析方法和设计方法还有待于进一步发展。相信随着神经网络的进一步发展,其将在工程应用中发挥越来越大的作用。

参考文献:

[1]张曾科.模糊数学在自动化技术中的应用[M].清华大学出版社,1997.

[2]李士勇.模糊控制·神经控制和智能控制论[M].哈尔滨工业大学出版,1996.250-387.

[3]谢联峻.模糊控制在列车自动驾驶中的应用[J].自动化与仪器仪表,1999,(4).

[4]CollierWC,Weiland,RJSmartCarts,SmartHighways[J].IEEESpec-trum,1994,31(4):27-33.

[5]HatwalH,MikulcikEC.someInverseSolutionstoanAutomobilePathTrackingProblemwithInputControlofSteeringandBreaks,Ve-hiclesystemDynamics,1986,(15):61-71.

[6]KosugeK,FukudaT,AsadaH.AcquisitionifHumanSkillsforRoboticSystem[C].In:ProcIEEEIntSympOnIntelligenControl,1991.469-489.

[7]王小平,曹立明.遗传算法—理论、应用与软件实现.西安交通大学出版社,2002.

[8]ManiezzoV.Geneticevolutionofthetopologhandweightdistribution

ofneuralnetwork[J].IEEETransonNeuralNetwork,1994,5(1)35-67.

[9]HarraldPG,KamstraM.Evolvingartificialneuralnetworkstocombinefinancialforecase[J].IEEETransonEvolComputer,1997,1(1):39-54.

[10]邓聚龙.灰色系统理论教程.华中理工大学出版社,1990.

[11]吕宏辉,钟珞,夏红霞.灰色系统与神经网络融合技术探索.微机发展,2000,23(4):67-109.