人工神经网络的优点范文
时间:2024-03-29 16:55:42
导语:如何才能写好一篇人工神经网络的优点,这就需要搜集整理更多的资料和文献,欢迎阅读由公文云整理的十篇范文,供你借鉴。

篇1
【关键词】人工神经网络 BP神经网络 图像识别 识别技术
通常而言,所谓图像处理与识别,便是对实际图像进行转换与变换,进而达到识别的目的。图像往往具有相当庞大的信息量,在进行处理图像的时候要进行降维、 数字化、滤波等程序,以往人们进行图像识别时采用投影法、不变矩法等方法,随着计算机技术的飞速发展,人工神经网络的图像识别技术将逐渐取代传统的图像识别方法,获得愈来愈广泛的应用。
1 人工神经网络图像识别技术概述
近年来,人工智能理论方面相关的理论越来越丰富,基于人工神经网络的图像识别技术也获得了非常广泛的应用,将图像识别技术与人工神经网络技术结合起来的优点是非常显著的,比如说:
(1)由于神经网络具有自学习功能,可以使得系统能够适应识别图像信息的不确定性以及识别环境的不断变化。
(2)在一般情况下,神经网络的信息都是存储在网络的连接结构以及连接权值之上,从而使图像信息表示是统一的形式,如此便使得知识库的建立与管理变得简便起来。
(3)由于神经网络所具有的并行处理机制,在处理图像时可以达到比较快的速度,如此便可以使图像识别的实时处理要求得以满足。
(4)由于神经网络可增加图像信息处理的容错性,识别系统在图像遭到干扰的时候仍然能正常工作,输出较准确的信息。
2 图像识别技术探析
2.1 简介
广义来讲,图像技术是各种与图像有关的技术的总称。根据研究方法以及抽象程度的不同可以将图像技术分为三个层次,分为:图像处理、图像分析以及图像理解,该技术与计算机视觉、模式识别以及计算机图形学等学科互相交叉,与生物学、数学、物理学、电子学计算机科学等学科互相借鉴。此外,随着计算机技术的发展,对图像技术的进一步研究离不开神经网络、人工智能等理论。
2.2 图像处理、图像识别与图像理解的关系
图像处理包括图像压缩、图像编码以及图像分割等等,对图像进行处理的目的是判断图像里是否具有所需的信息并滤出噪声,并对这些信息进行确定。常用方法有灰度,二值化,锐化,去噪等;图像识别则是将经过处理的图像予以匹配,并且对类别名称进行确定,图像识别可以在分割的基础之上对所需提取的特征进行筛选,然后再对这些特征进行提取,最终根据测量结果进行识别;所谓图像理解,指的是在图像处理与图像识别的基础上,根据分类作结构句法分析,对图像进行描述与解释。所以,图像理解包括图像处理、图像识别和结构分析。就图像理解部分而言,输入是图像,输出是对图像的描述解释 。
3 人工神经网络结构和算法
在上个世纪八十年代,McClelland与Rumelhant提出了一种人工神经网络,截止现在,BP神经网络已经发展成为应用最为广泛的神经网络之一,它是一种多层前馈神经网络,包括输入层、输出层和输入层输出层之间隐藏层,如图1所示,便是一种典型的BP神经网络结构。
BP神经网络是通过不断迭代更新权值使实际输入与输出关系达到期望,由输出向输入层反向计算误差,从而通过梯度下降方法不断修正各层权值的网络。
BP神经网络结构算法如下所述:
(1)对权值矩阵,学习速率,最大学习次数,阈值等变量和参数进行初始化设置;
(2)在黑色节点处对样本进行输入;
(3)对输入样本,前向计算人工神经网络隐层及输出层各层神经元的输出;
(4)使用梯度下降方法不断修正各层权值及阀值,由梯度算子得到的权值为
(6)判断,判断是否大于最大迭代次数或者是否误差已经达到要求。如果大于最大迭代次数或误差达到要求,那么便直接转到第(7)步,否则,转到第(4)步对各个矩阵的权值继续修正,反复训练;
(7)看是否遍历所有样本,是则结束,否则跳回第(3)步继续。
BP神经网络操作简单而有效,可通过Opencv的CvANN_MLP类, Matlab的模式识别工具箱Nprtool等实现,经验得出在如下情况中人工神经网络尤为适用:
(1)大量数据可用,却不知道与输出之间关系;
(2)问题的解决方案随时间变化而变化;
(3)输出是模糊的函数关系,而非精确数字。
4 人工神经网络图像识别
传感器或摄像仪输入图像识别系统以后,其目标图像不能够与系统全部的参考图像完全一样, 这是由于对应噪声干扰,光线不足和放缩旋转等问题。 基于人工神经网络对畸变图像识别进行深层分析,并且利用 CCD 摄像头对图像信息进行采集,在此过程之中通过对摄像头方位进行更改对易出现畸变的图像进行采集,从而使得畸变图像所带信息组成样本库。在电脑里面输入样本库中的图像信息,并且进行模数的转化,变成数字图像,利用数字滤波来对数字图像信息进行处理。在神经网络之中输入样本图像数字信息来进行训练,一方面可以基于数字图像的像素点集合组成输入矩阵,用高维数据作为训练样本,通过主成分分析(PCA)的方法进行降维,大大简化计算量;一方面可以基于数字图像的特征空间进行聚类分割,提取几何特征或者统计特征,输入到SOFM神经网络或者Hopfield神经网络,从而使其生成图像识别神经网络系统。在进行图像识别的时候使用CCD 摄像头来采集识别图像,并且把其模型转化为数字图像,预处理后,将其输入到训练好的神经网络识别系统里面,就其可以开展快速的计算,并进行识别。把图像识别技术与人工神经网络理论有机结合起来,可以非常有效地实现神经网络信息系统的一致性, 此外,还可以将其对网络连接结果与权值进行存储,促进管理效率的提高,并对于知识库的构建也具有积极的作用。
5 结论
本文就基于人工神经网络的图像识别技术进行了详细地阐述,由综上研究可以基于人工神经网络的图像识别技术具有比较多的优点以及比较高的可行性,然而,我们对该技术存在的网络规模及复杂图像识别准确度上还应继续进行深入研究,以求技术突破。在将来,图像识别技术随着科技的不断发展将会获得更多的应用,其势必会发展为一门独立且具备强大生命力的学科
参考文献
[1]王强,张小溪,韩一红.基于神经网络的图像识别[J].电子设计工程,2012.
[2]雷建锋,孙俊逸.基于人工神经网络下的图像识别的研究[J].现代电子技术,2008.
篇2
一个完整的智能健康监测专家系统简单来说可以分为三个部分[3],即信号采集、信号处理和损伤诊断。其中损伤诊断是健康监测的核心问题,是对结构进行安全性评估和维护决策的基础。目前损伤诊断方法有多种,而人工神经网络(简称ANN)诊断技术在知识获取、并行推理、适应性学习、联想推理、容错能力等方面具有较大的优越性。
1. 神经网络在损伤识别诊断中得应用
神经网络技术之所以适合于结构损伤诊断,主要有三个原因[4],①训练过的神经网络能够存储有关过程的知识,根据对象的正常历史数据训练网络,然后将此信息与当前测量数据进行比较,以确定损伤。②神经网络具有滤出噪声及在有噪声情况下得出正确结论的能力。③神经网络具有分辨损伤原因及损伤类型的能力。
损伤诊断可分为无模型识别法(Free-Model)和有模型识别法(Model-Based)两大类[5]。
无模型识别是指损伤识别过程中不需要建立结构的数学与力学模型,完全基于结构现场实时检测数据并考虑专家经验建立结构状态知识库,然后采用人工神经网络诊断技术进行诊断。因为结构在不同状态下其本身的某些往往会发生变化,这些变化包含了结构损伤位置和损伤程度的信息,根据结构特性变化分析就可以反演结构是否存在损伤以及损坏位置和损伤程度。这是一个反分析过程,需要建立结构关键性能指标变化与结构状态的非线性关系。人工神经网络通过对实测数据加专家经验建立的知识信息进行学习,通过权值记下所学过的样本知识并掌握输入、输出之间复杂的非线性关系。在诊断过程中,根据实测关键性能指标的变化与储存在已建知识库的各种状态的损伤识别量进行模式匹配来进行结构的损伤检测与诊断。建立在实测数据基础上的专家数据知识库,其知识信息具有真实性、连续性、准确性,可以不断更新。
基于模型的损伤诊断技术是在结构健康诊断过程中,通过建立精细的能够反映结构的真实形态的结构数学与力学模型,分析计算结构在各种状态下的参数指标,辅助实测数据以及考虑专家经验建立结构状态知识信息库,利用人工神经网络的模式识别功能进行结构损伤状态的诊断。所谓精细的模型是指理论分析的数据应该和实测数据吻合得较好,两者偏差要在允许范围内,这与设计分析所需建立的计算模型相比要求更加严格,如果用于损伤识别的模型存在较大的模型误差,会使计算的参数产生与损伤引起的参数改变相当,甚至更大的偏差,就可能使基于这些参数改变的损伤检测方法识别结果较差,甚至失效。
通常采用有限元法建立结构力学模型作为损伤诊断的基准参考。进行精细有效的有限元动力分析,一种方法是利用商业化软件如ANSYS、ABAQUS和ADINA等。但这些程序对于一些结构有特殊要求的分析就无能为力,例如混凝土坝考虑动水压力影响下的动力分析。这就需要利用自编程序来进行分析,但是工作量较大。但已有的有限元模型修正技术仅适用“小误差模型”的修正[6],而较大“误差”的情况则属于非适定的、非线性的问题。人工神经网络强大的非线性映射功能就非常适合解决结构模型修正中非线性问题[7]。建立结构有限元力学模型,选择不同的材料物理参数与边界条件可以计算不同的结构响应,因此结构响应和结构设计变量之间存在复杂的映射函数关系,这种近似映射函数关系用常规方法来确定比较困难。在前苏联数学家Kolmogorov提出的任意连续函数表示定理基础上,Robert HN提出了Kolmogorov多层神经网络映射存在定理,从理论上论证了一个任意的连续函数都能与一个三层神经网络建立映射关系。这为人工神经网络用于结构模型修正提供了理论基础[7]。
2. 基于神经网络损伤诊断的两级识别策略
采用人工神经网络方法对结构损伤的发生、定位和损伤类型与程度进行研究,可以采用基于网络判别指标过滤方法的两级识别策略[8]。
2.1 自适应神经网络方法检测结构损伤
自适应神经网络方法(Auto-associate Neural Network)利用健康结构在正常情况下的序列测量数据作为训练人工神经网络的输入和输出数据X,Y,依次构造一个自相关的神经网络Net=T(XY)。训练完成后,将输入数据X再次输入已训练的神经网络Net以便得到一组网络输出数据,比较测量数据Y和网络输出数据的差值向量,采用某种距离测度函数加以测量形成健康结构的判别指标。判别指标可以采用结构某个动力特性参数加以构造,也可将多个动力特性参数同时考虑加以构造。具体结构中最终如何构造判别指标,需要根据结构特点进行判别指标对结构损伤的敏感度的分析加以确定。
当同一个结构可能发生损伤以后的测量数据被作为输入数据通过已经训练的神经网络Net,由本次输入数据和输出数据可以计算得到的新的判别指标,与健康结构的判别指标相比较,就可以预告结构是否发生损伤。如果两者差值(可以称为损伤指标)较大,就认为结构已经发生损伤。
2.2 概率神经网络方法检测结构损伤的位置和类型
结构损伤指标的判定通常只能检测损伤的发生,难以确定损伤的位置和损伤的类型。概率神经网络(Probabilistic Neural Network,简称PNN)可以用于判定损伤的位置和类型。
PNN[9-11]是通过具有无参数估计量的已知数据集的概率密度函数来实现贝叶斯决策,将其加在人工神经网络框架中,接着进行判别未知数据最大可能属于哪个已知数集,对于具有,,…,,…,的多类指标问题来说,基于p维试验向量X的贝叶斯决策d(X)为: (1)
式中――分类指标的先验概率
――与错误分类的相关损失,在损伤检测问题中两者通常假定相等
――概率密度函数
采用多变量高斯(Gauss)分布函数:
(2)
将该贝叶斯决策映射为一个人工神经网络构成一个概率神经网络,该网络分为四层,即输入层、模式层、求和层和决策层,如图1所示。
输入向量X的每个元素作为输入层的输入参数。由权重向量和向量X的点积构成中间层的神经元,而相对于分类号q的决策层神经元输出为:
(3)
式中 ――高斯核的标准差
传统PNN对所有高斯核都采用统一的值。影响传统PNN广泛应用的最大障碍就是所有的参数具有同一个参数值。对于自适应PNN,每一测量维数具有不同的参数。
假定具有不同损伤部位(即损伤模式)和不同刚度损伤程度(如0%,20%,75%和90%)的有限元分析得到的模态数据作为输入数据输入PNN进行训练,数据可以加入或者不加入环境“污染”分量。损伤位置或类型假定有多种。如果结构损伤标识量选用自振频率变化率,输入向量X为P个自振频率变化率,将带有某种类型损伤(或混合模式损伤)的实测模态数据输入训练好的PNN,则得到决策层(输出层)各个损伤形态在试验向量点对应的概率密度函数PDF的估计值,具有最大PDF的损伤模式将给出损伤的位置或者类型。
这种损伤诊断方法最大优势在于可以降低测量误差对损伤识别结果的影响。因为损伤识别指标对模态参数变化率敏感,对于具有相同环境“污染”程度的前后两次数据,其“污染”造成的误差可以抵消,从而对损伤识别精度的影响较小。从本质上说,如果网络训练阶段并不需要数学模型分析而直接采用健康结果的实测数据,则神经网络算法并不需要数学模型,这也是该算法的一个优点。
研究表明[12, 13],在损伤诊断过程中,模型误差对损伤识别结果的影响要比测量误差小,而且随着损伤程度的增加而变化不大。用误差≯10%的模型来训练人工神经网络,是完全可以接受的。神经网络对损伤的识别结果受测量误差影响较大,但随损伤程度的增加而降低。改善测量误差,降低其对识别结果的影响极其重要。
3. 基于WPNN与数据融合的损伤检测方法
近年来。不断发展起来的多传感器数据融合(或称信息融合)技术以其强大的时空覆盖能力和对多源不确定性信息的综合处理能力,可以有效进行结构系统的监测和诊断。虽然目前基于动力响应的各种智能损伤诊断技术得到研究,但这些技术存在着识别精度不高或适用条件等缺陷。目前迅速发展的数据融合技术具有充分利用各个数据源包含的冗余和互补信息的优点,可以提高系统决策的准确性和鲁棒性。姜绍飞等[14]提出的基于小波概率神经网络(wavelet probabilistic neural network WPNN)和数据融合的结构损伤检测方法将两者有机结合,推动了神经网络技术在土木结构健康检测中应用的发展。
3.1 数据融合
数据融合是多源信息综合处理的一项新技术,是将来自某一目标(结构)的多源信息加以智能化合成,得到比单一传感器更精确、更完全的估计,其有点突出表现在信息的冗余性、容错性、互补性、实时性和低成本性。神经网络是由大量单元组成的非线性大规模自适应动力系统,具有学习、容错、记忆、计算以及智能处理,二者在结构上存在着相似性,可以充分利用神经网络的结构优势,考虑传感器或者信息处理单元之间的互相影响、互相制约的关系,体现了信息融合系统是一个有机的整体,而不是多种信息的罗列和简单的代数加减关系。根据信息(数据)表征的级次,数据融合可以分为数据级融合、特征级融合和决策级融合。
3.2 小波变化及小波概率神经网络
设函数,如果满足,则称为基本小波或母小波。将母小波函数伸缩和平移,得到的函数称为小波函数,简称小波。
设信号,则其小波变换定义为
基于小波变化的神经网络称为小波神经网络,它是小波分析与神经网络的融合(结合)二者的结合有两种途径:其一,将小波分析作为神经网络的前置处理手段,为神经网络提供输入特征向量,也称松散型小波神经网络、其二,将小波分析与神经网络直接融合,即以小波函数和尺度函数来形成神经元,也称紧凑型小波神经网络。小波神经网络继承了小波分析与神经网络的优点,通过训练自适应地调整小波基的形状实现小波变换,具有良好的函数逼近能力和模式分类能力。
3.3 基于WPNN与数据融合的损伤检测方法
为了充分发挥数据融合与WPNN的优点,提出了基于WPNN与数据融合的损伤模型(见图2),它首先将来自传感器1的结构响应进行数据预处理、特征提取,采用小波理论,获得该传感器的小波能量特征向量;依次类推,获得其他传感器的小波能量特征向量;然后将这些小波能量特征向量放入WPNN中,进行神经网络训练及融合计算;最后根据最大的概率密度函数值得到融合损伤识别结果及损伤类型。
为了验证该方法的有效性,姜绍飞运用美国土木工程学会提出的一个4层钢结构框架模型进行验证[14]。通过验证可见,基于WPNN与数据融合的损伤检测方法的识别效果比用单传感器进行损伤识别分类的效果好,它对损伤最敏感,受噪声的干扰影响最小;另一方面也说明,数据融合能够使不同传感器的信息相互补充,从而减小了损伤检测数据(信息)的不确定性,使结构的信息具有更高的精度和可靠性,进而能够获得更准确的损伤识别结果及最优的结构状态估计。
4. 用于损伤诊断的神经网络输入参数选择
采用什么参数作为神经网络的输入向量是利用人工神经网络进行结构损伤诊断中需要考虑的极其关键的一个问题。神经网络输入参数的选择及其表达形式直接影响损伤诊断的结果。采用结构动力参数作为结构损伤识别的方法现在得到大量的应用。其原因一方面是结构动力参数是结构本身固有特性,受外界环境干扰较小。另一方面结构自振频率和振动模态等动力参数比较容易从少量的动态测量中得到,而且测量方法比较简单。基于结构动力特性的损伤诊断方法,其基本思想是结构的物理参数如刚度、质量和阻尼比等在结构不同状态中的变化会改变结构动力特性――固有频率和模态。因此可以根据结构的固有频率、模态振型或者两者一起考虑等方法进行检测,另外还可以利用这些模态参数计算模态曲率、应变模态、结构柔度、模态阻尼比等力学指标,然后采用神经网络算法等对结构的损伤发生、损伤定位、损伤程度进行检测。对于简单的构件来说,采用结构固有振动频率作为网络输入参数就可以得到良好的诊断结果[15-17]。固有频率可以在结构的一个点上测到,并且与测点位置相对独立,是一个能反映结构整体的动力特性。但对于一般结构,固有频率包含的结构损伤信息还不足以进行识别与定位,例如对称结构,两个对称位置的损伤所引起的固有频率变化是完全相同的。因此有人建议采用固有频率和关键点的振型模态作为组合参数进行神经网络损伤诊断比较实用[18, 19],这可以解决对称结构和测量模态数据不完备问题。
对于结构损伤诊断来说,固有频率和振动模态是检测的全局量,可以用来对结构整体状态进行描述。但对于复杂结构,像大跨径桥梁,其赘余度大,造成结构局部损伤对整体性能反映影响不大,也就是说全局参数指标对局部损伤不敏感。例如结构局部损伤导致的固有频率变化很小,估计
采用全局量可以判断结构是否损伤,而用于结构损伤定位的物理参数需要选择局域量,且需满足四个基本条件[22],①对局部损伤敏感,且为结构损伤的单调函数。②具有明确的位置坐标。③在损伤位置,损伤标识量应出现明显的峰值变化。④在非损伤位置,损伤标识量或者不发生变化,或者变化幅度小于预定的阈值。
陆秋海[23]比较了六种不同输入参数对于结构损伤的敏感程度。得到的结论是,六种输入参数对结构损伤的敏感程度从低到高依次为:位移模态指标、固有振动频率指标、位移频响函数指标、曲率、应变模态指标以及应变频响函数指标。相比较来看,应变模态指标是较好的结构动力损伤诊断的损伤识别标识量,而且有对结构局部损伤敏感的优点,可以用作大型土木结构局部损伤定位的人工神经网络诊断输入参数。
5. 用于损伤诊断的神经网络选择
人工神经网络是在人类对其大脑神经网络认识理解的基础上人工构造的能实现某种功能的神经网络。它是理论化的人脑神经网络的数学模型,是基于模仿大脑神经网络结构和功能而建立的一种信息处理系统。
人工神经网络发展几十年来,形成了数十种网络,包括多层感知器,BP网络、Hopfield网络、RBF网络、自适应共振理论和概率神经网络等等。这些网络由于结构不同,应用范围业有所不同,但这些神经网络模型原则上讲都可用来进行结构损伤诊断,只是存在简单与复杂、稳定与不稳定、诊断效果高低与诊断结果好坏的差别。前面介绍的大型结构基于神经网络的两级损伤识别策略是采用以自适应共振理论为基础的自组织神经网络和概率神经网络。
建立大型土木结构的智能健康监测专家系统,首先要建立损伤诊断的子系统。采用人工神经网络进行记诶构损伤诊断,首先要根据各种神经网络的特点和适用范围,选择解决自己问题的合适模型,然后采用某种程序语言进行编制。若采用商业化软件建立损伤诊断子系统,则不能很好地与信号采集系统及专家知识库进行有效链接,从而妨碍实施在线检测与连续诊断。Matla现已成为国际上公认的最优秀的数值计算和仿真软件,其强大的扩展功能为各个领域的应用提供了基础,由各个领域的专家在Matlab平台上推出了30多个应用的工具箱。神经网络工具箱是Matlab环境下所开发的许多工具箱之一,它是以人工神经网络理论为基础,用Matlab语言构造出各种神经网络算法。因此建立人工神经网络进行损伤诊断时,利用Matlab语言可以减少工作量,提高效率。
参考文献:
[1] 李宏男,李东升. 土木工程结构安全性评估、健康监测及诊断述评[J]. 地震工程与工程振动. 2002(3): 82.
[2] 谢强,薛松涛. 土木工程结构健康监测的研究状况与进展[R]. , 2001.
[3] 周智,欧进萍. 土木工程智能健康监测与诊断系统[J]. 传感器技术. 2001, 20(11): 1-4.
[4] 姜绍飞,周广师,刘红兢,刘明. 考虑不确定性因素的结构损伤检测方法[J]. 沈阳建筑工程学院学报(自然科学版). 2002(2): 85-87.
[5] 陈,罗跃刚等. 结构损伤检测与智能诊断[M]. 北京: 科学出版社, 2001.
[6] 张德文,魏阜旋. 模型修正与破损诊断[M]. 北京: 科学出版社, 1999.
[7] 段雪平, 朱宏平, 熊世树. 神经网络在建筑物有限元模型修正中的应用[J]. 噪声与振动控制. 2000(2): 11.
[8] 姜绍飞. 基于神经网络的结构优化与损伤识别[M]. 北京: 科学出版社, 2002.
[9] 王柏生,倪一清,高赞明. 用概率神经网络进行解雇损伤位置识别[J]. 振动工程学报. 2001, 14(1): 60-64.
[10] 姜绍飞,倪一清,高赞明. 基于概率神经网络的青马悬索桥定位的仿真研究[J]. 工程力学. 2001: 965-969.
[11] 杜德润. 地震作用下大体积混凝土结构损伤识别研究[D]. 南京: 东南大学, 2002.
[12] 王柏生,丁皓江,倪一清,高赞明. 模型参数误差对用神经网络进行结构损伤识别的影响[J]. 土木工程学报. 2000(1): 50-55.
[13] Wang Bai-sheng,ni Yi-qing K J. Influence of measurement errors on structural damage identification using artificial neural networks[J]. Journal of Zhenjiang University. 2000, 1(3): 191-299.
[14] 姜绍飞,付春,陈仲堂, 盛岩. 基于WPNN与数据融合的损伤检测方法[J]. 沈阳建筑大学学报(自然科学版). 2005(2).
[15] 陈建林,郭杏林. 基于神经网络的简支梁损伤检测研究[J]. 烟台大学学报(自然科学与工程版). 2001(3).
[16] 罗跃纲, 陈, 王占国. 钢梁损伤的神经网络诊断分析[J]. 工业建筑. 2002(1).
[17] 罗跃纲, 刘红兢, 王政奎. 钢板结构损伤对其动力特性的影响研究[J]. 沈阳工业大学学报. 2002(3).
[18] 郭国会,易伟建. 基于神经网络的框架结构破损评估[J]. 重庆建筑大学学报. 1999, 21(3): 106-121.
[19] 王柏生,倪一清,高赞明. 框架结构连接损伤识别神经网络输入参数的确定[J]. 振动工程学报. 2000, 13(1): 137-142.
[20] 雷俊卿,钱冬生. 长大跨桥实时监测预警系统研究[J]. 公路. 2002(2): 1-4.
[21] 瞿伟廉,陈伟. 多层及高层框架结构地震损伤诊断的神经网络方法[J]. 地震工程与工程振动. 2002, 22(1): 43-48.
篇3
关键词:计算机网络模型;神经网络算法
计算机网络在人们日常生活越来越重要,被广泛应用到各个行业。随着社会不断发展,人们需求不断加高,使计算机得到良好改善,目前,计算机网络运用集线式服务器来实现网络互连,促进网络发展。但是也有很大弊端,过多的联想信息虽然满足人们需求,但是对技术的要求也更加苛刻,现有的技术满足不了计算机网络运行,使人们日常操作不方便。为了解决这一问题,研究人员需要全面优化计算机网络,提高运行能力和性能,运用神经网络算法,使计算机更加适合现代社会发展,储存更多信息。
1神经网络算法概论分析
1.1神经网络算法整体概论神经网络算法是按照人体大脑的思维方式进行模拟,根据逻辑思维进行推理,将信息概念化形成人们认知的符号,呈现在显示屏前。根据逻辑符号按照一定模式进行指令构造,使计算机执行。目前,神经网络被广泛使用,使直观性的思维方式分布式存储信息,建立理论模型。优化网络的神经网络主要是Hop?eld神经网络,是1982年由美国物理学家提出的,它能够模拟神经网络的记忆机理,是全连接的神经网络。Hop?eld神经网络中的每个神经元都能够信号输出,还能够将信号通过其他神经元为自己反馈,那么其也称之为反馈性神经网络。
1.2优化神经网络基本基础Hop?eld神经网络是通过能量函数分析系统,结合储存系统和二元系统的神经网络,Hop?eld神经网络能收敛到稳定的平衡状态,并以其认为样本信息,具备联想记忆能力,使某种残缺信息进行回想还原,回忆成完整信息。但是Hop?eld神经网络记忆储存量有限,而且大多数信息是不稳定的,合理优化计算机联想问题,使Hop?eld神经网络能够建设模型。
1.3神经网络算法优化步骤简述人工神经网络是模拟思维,大多是根据逻辑思维进行简化,创造指令使计算机执行。神经网络算法是按照人体思维进行建设,通过反应问题的方法来表述神经思维的解;利用有效条件和能量参数来构造网络系统,使神经网络算法更加可靠;大多数动态信息需要神经网络来根据动态方程计算,得出数据参数来进行储存。
2神经网络算法的特点与应用
2.1神经网络主要特点神经网络是根据不同组件来模拟生物体思维的功能,而神经网络算法是其中一种程序,将信息概念化,按照一定人们认知的符号来编程指令,使计算机执行,应用于不同研究和工程领域。神经网络在结构上是由处理单元组成,模拟人体大脑神经单元,虽然每个单元处理问题比较简单,但是单元进行组合可以对复杂问题进行预知和处理的能力,还可以进行计算,解决问题能力突出,能够运用在计算机上,可以提高计算机运算准确度,从而保障计算机运行能力。而且一般神经网络有较强容错性,不同单元的微小损伤并不阻碍整体网络运行,如果有部分单元受到损伤,只会制约运算速度,并不妨碍准确度,神经网络在整体性能上能够正常工作。同时,神经网络主干部分受到损伤,部分单元会进行独立计算,依然能够正常工作。
2.2神经网络信息记忆能力神经网络信息存储能力非常强,整体单元组合进行分布式存储。目前,神经网络算法是单元互相连接,形成非线性动态系统,每个单元存储信息较少,大量单元互相结合存储信息大量增加。神经网络具备学习能力,通过学习可以得到神经网络连接结构,在进行日常图像识别时,神经网络会根据输入的识别功能进行自主学习,过后在输入相同图像,神经网络会自动识别。自主学习能力给神经网络带来重要意义,能够使神经网络不断成长,对人们未来日常工作能够很好预测,满足人们的需求。
2.3神经网络的突出优点近年来,人工神经网络得到越来越多人重视,使神经网络得到足够资源进行良好创新。人工神经网络是由大量基本元件构成,对人脑功能的部分特性进行模仿和简化,人工神经网络具备复杂线性关系,与一般计算机相比,在构成原理和功能特点更加先进,人工神经网络并不是按照程序来进行层次运算,而是能够适应环境,根据人们提供的数据进行模拟和分析,完成某种运算。人工神经系统具备优良容错性,由于大量信息存储在神经单元中,进行分布式存储,当信息受到损害时,人工神经系统也可以正常运行。人工神经网络必须要有学习准则制约来能够自主学习,然后进行工作。目前,人工神经网络已经逐步具备自适应和自组织能力,在学习或训练过程中改变突触权重值,以适应周围环境的要求。通过一定学习方式和某些规则,人工神经网络可以自动发现环境特征和规律性,更贴近人脑某些特征。采用并行分布处理方法,使得快速进行大量运算成为可能。神经网络的一个很大的优点是很容易在并行计算机上实现,可以把神经的节点分配到不同的CPU上并行计算。钱艺等提出了一种神经网络并行处理器的体系结构,能以较高的并行度实现典型的前馈网络如BP网络和典型的反馈网络(如Hop?eld网络)的算法。该算法以SIMD(SingleInstructionMultipleData)为主要计算结构,结合这两种网络算法的特点设计了一维脉动阵列和全连通的互连网络,能够方便灵活地实现处理单元之间的数据共享。结合粒子群优化算法和个体网络的并行学习机制,提出了一种基于粒子群优化的并行学习神经网络集成构造方法。
3结束语
全球化的发展,信息交流不断加快,促使各个行业相互融合。神经网络算法具备简单、稳定等不同优势,神经网络研究内容相当广泛,神经网络算法能够与其它算法相互结合,在一定程度提高计算机网络模型运算能力。但是计算机网络模型中神经网络算法学习能力比较低下,梯度下降法不准确,所以需要有关人员进行深度研究,探索神经网络算法,使其更加完善,从而保证计算机整体性能的提高。
参考文献:
[1]陈竺.计算机网络连接增强优化中的神经网络算法[J].电子技术与软件工程,2014(19).
篇4
Abstract: Financial management decision support system (hereinafter referred to as the DSS) is to assist decision-makers at various levels realize financial management. It achieves scientific management through mainly the man-machine interactive way and the use of a lot of financial data and numerous model. Neural network is a complicated nonlinear network system, and it mainly consists of many processing units which are similar to neuron. The combination of financial management and neural network and decision support system can realize the automation of adaptive, associating and reasoning, and data mining, and make the financial management, decision-making, and execution more scientific, standardized, and intelligent.
关键词: 财务管理;神经网络;决策支持系统;专家系统
Key words: financial management;nerve network;decision support system (DSS);expert system
中图分类号:F275 文献标识码:A 文章编号:1006-4311(2012)03-0126-02
0 引言
DSS是80年代迅速发展起来的新型计算机科学。它是一个有着广泛应用背景的十分热门的交叉科学。神经网络是一个具有高度非线性的超大规模连续时间的动力系统。结合神经网络的智能决策支持系统是目前研究的前沿之一,它极具理论和使用价值。
财务管理的信息化、数字化是财务规范和科学管理的趋势。与DSS的结合将更加有利于数据标准的统一,有利于数据采集的模块化,有利于决策支持的科学化,有利于财务公开的透明化。
1 财务管理决策支持系统的研究现状
决策支持系统经过二十多年的发展,形成了如图1所示公认的体系结构。它把模型并入信息系统软件中,依靠管理信息系统和运筹学这两个基础逐步发展起来。它为解决非结构化决策问题提供了相应的有用信息,给各级管理决策人员的工作带来了便利。
从图1可以看出决策支持系统体系结构可划分为三级,即语言系统(LS)级、问题处理系统(PPS)级和知识系统(KS)级。其中问题处理系统级包括推理机系统(RS)、模型库管理系统(MBMS)、知识库管理系统(KBMS)及数据库管理系统(DBMS)。知识系统级包括模型库(MB)、知识库(KB)及数据库(DB)。
九十年代中期,兴起了三个辅助决策技术:数据仓库(DW)、联机分析处理(OLAP)和数据挖掘(DM)。联机分析处理是以客户/服务器的方式完成多维数据分析。数据仓库是根据决策主题的需要汇集大量的数据库,通过综合和分析得到辅助决策的信息。数据挖掘顾名思义,是为了获得有用的数据,在大量的数据库中进行筛选。人工智能技术建立一个智能的DSS人机界面,可进行图、文、声、像、形等多模式交互,人机交互此时变得更为自然和谐,人们能沉浸其中,进行合作式、目标向导式的交互方法。
从目前情况来看,财务决策支持系统的研究还处于初级发展阶段,财务数据的保密性、特殊性决定了财务决策不能全部公开化、透明化,但随着中央及国务院相关部门财务预决算数据的公开,财务决策系统及其支持系统和过程也将随之公开,这就要求决策者充分利用财务知识和决策支持系统的知识“聪明”决策、合理决策、科学决策、规范决策。
2 财务管理神经网络智能决策支持系统总体研究框架
2.1 神经网络运行机制 神经网络的着眼点是采纳生物体中神经细胞网络中某些可利用的部分,来弥补计算机的不足之处,而不是单单用物理的器件去完整地复制。
第一,神经网络中的链接的结构和链接权都可以通过学习而得到,具有十分强大的学习功能;第二,神经网络所记忆的信息是一种分布式的储存方式,大多储存在神经元之间的权中;第三,神经网络部分的或局部的神经元被破坏后,仍可以继续进行其他活动,不影响全局的活动,因此说,神经网络的这种特性被称作容错性;第四,神经网络是由大量简单的神经元组成的,每个神经元虽然结构简单,但是它们组合到一起并行活动时,却能爆发出较快较强的速度来。
我们可以利用神经网络的上述特点,将之应用于模式识别、自动控制、优化计算和联想记忆、军事应用以及决策支持系统中。
2.2 财务管理神经网络集成智能财务DSS的必然性 在企业经营管理、政府机构财务活动中,人们时常面临着财务决策。人们往往需要根据有关的理论及经验制定出一系列的衡量标准。这种评价是一个非常复杂的非结构化决策过程,一般都是由内行专家根据一定的专业理论凭经验和直觉在收集大量不完全、不确定信息基础上建立起多级指标体系。但在这种指标体系中,各种指标之间的关系很难明确,而且还受评价者的效用标准和主观偏好所左右。因此,很难在指标体系和评价目标间建立起准确的定量或定性模型。因此,我们需要采用一种可处理不确定性、不完全性信息的评价方法以支持决策。自然,利用人工神经网络构造系统模式来支持这类评价决策问题是目前财务管理智能决策支持系统的一种发展趋势和必然趋势[4]。
2.3 财务管理神经网络集成智能DSS系统框架 神经网络智能决策支持系统主要以知识、数据和模型为主体,结合神经网络进行推理与数据开采。图2给出了神经网络智能决策支持系统研究框架[2]。研究中有两个重点,即神经网络推理系统和神经网络数据开采系统。
2.3.1 神经网络数据开采系统 神经网络数据开采时利用神经网络技术协助从数据中抽取模式。数据开采有五项基本任务:相关分析、聚类、概念描述、偏差监测、预测。
常用的前馈式神经网络,如BP网络,可用于进行概念描述及预测。对向传播(Counter Propagation,简称CP)神经网路可用来进行统计分析和聚类。
CP网络是美国神经计算专家Robert Hecht-Nielsen提出的一种新型特征映射网络,其网络结构分输入、竞争、输出三层。该网络吸取了无教师示教型网络分类录活、算法简练的优点,又采纳了有教师示教型网络分类精细、准确的好处,使两者有机地结合起来。由竞争层至输出层,网络按基本竞争型网络学习规则得到各输出神经元的实际输出值,并按有教师示教的误差校正方法调整由竞争层至输出层的链接权。经过这样反复地学习,可以将任意输入模式映射为输出模式。
2.3.2 财务管理神经网络推理系统 财务管理神经网络推理系统主要利用神经网络的并行处理机制来解决传统推理方法中存在的“组合爆炸”、“无穷递归”,等问题。在神经网络系统中,计算与存储时完全合二为一的,即信息的存储体现在神经元互连的分布上,并以大规模并行方式处理。流动的过程就是从部分信息找到全部信息的过程,这就是联想记忆的基本原理。若视动力系统的稳定吸引子为系统计算能量函数的极小点,系统最终会流向期望的最小点,计算也就在运动过程中悄悄地完成了。因而,可用双向联想记忆(BAM)网络或CP网络实现并行推理。CP网络具有特殊的联想推理映射功能。将输入学习模式和期望输出模式取为同一模式,且将之分为X和Y两部分。网络通过提供的样本对进行充分的学习后,就可用来进行模式间的联想推理。
3 财务管理神经网络智能DSS研究展望
当前世界上最热门的研究课题,是模仿人类的思维方式来解决实际问题。专家系统和人工神经网络是比较常用的技术,但由于自身的局限性,它们都侧重于人类思维方式的某一方面。平时解决简单的问题的时候还好,但真遇到解决复杂的问题的时候,它就显得力不从心了,所以,这个时候我们可以将两种技术结合起来解决,除了它们要自身不断发展和完善外,还要注重两者的协调配合,神经网络DSS未来的发展趋势就是依靠这两种技术不断结合,从而能帮助我们解决更多的实际问题。
3.1 财务管理神经网络支持专家系统 常见的财务管理神经网络支持专家系统主要包括几个方面:知识维护、知识表示、知识获取、推理等,我们针对各个步骤展开讨论。
3.1.1 知识维护。如果知识是通过人工神经网络来获取的,我们就可以同样利用人工神经网络,来让维护工作变得更加方便快捷,维护可以通过人工神经网络来自动完成,我们需要做的只是重新运行网络模块,或者重新训练网络模块,又或是增加新的网络模块。
3.1.2 推理。一般的专家系统只是求解专门性问题,应用的领域非常狭窄,同时由于控制策略不灵活,推理方法简单,容易出现一些这样或那样的问题,推理效率低、速度慢。人工神经网络可以解决这一问题,从根本上提升工作效率,提高工作速度,它可以拓展知识空间,不只局限在狭窄的领域。
3.1.3 知识表示。很多专家知识事实上很难用规则表示出来,但在现实工作中,我们大部分财务管理专家却都采取这种方式,无论是直接的还是间接的。其它的知识表示方法也存在着同样的问题。为了解决这一问题,我们可以采用人工神经网络系统来将知识提供给专家系统,这样做就可以避免这一问题,当专家系统需要相应知识时,就不需要用规则来表示知识,直接调用人工神经网络就可以了。
3.1.4 知识获取。人工神经网络可以帮专家系统来获取知识,知识获取是通过人机对话的形式进行的。首先,专家系统向专家提出问题,人工神经网路则负责对这些信息进行收集、处理,在人工神经网络的联结权值中已经具有通用的知识,所以这一步骤会很方便,之后再产生相应的数据结果。接着,专家系统在对这些数据进行进一步的分析。在这一过程中,专家系统只运用很少的规则就可以获得相关的知识,大大提高了工作效率。
3.2 财务管理专家系统支持神经网络 财务管理专家主要通过三种方式来对神经网络提供必要的支持:第一,提供相应的必要的解释;第二,进行预处理;第三,联合应用。
3.2.1 解释。作为专家系统的人工神经网络,它做不到同其他专家系统那样,具体详细地跟踪问题求解的过程,以获得答案的原因,它只能依靠增加一个小型的专家来解决这一问题,以获得答案的原因,这个专家系统可以反向推理,从结果到初始输入,系统提供具体的解决方法。
在这种模式中,经过训练的人工神经网络来解决问题。当用户要求解释的时候,就可以通过网络输入一个并行的专家系统。
3.2.2 预处理。对于人工神经网络来说,处理数据这项工作比较难。专家系统可以帮助人工神经做好这些工作:选择合适的收敛算法,确定训练神经网络的样本的数量,选择合适的神经网络。收集正确数据的工作,对于人工神经网络来说至关重要,事先对它们进行预处理,可以确保各项工作顺利的完成。
3.2.3 联合应用。将一个复问题分解为几个子问题,如下图3所示,再将各个子问题来逐个解决,这就是我们所常说说的联合应用方法。它可以直接采用人工神经网络、专家系统以及其种可能的方法来解决问题,指导实际应用。
我们当前计算机所要解决的主要问题,是如何解决半结构化和非结构化的决策等问题,它是人们在日常生活中所经常遇到的,在财务活动中会大量存在。如何更科学、更合理地处理这些问题是我们当前工作的主要方向。运用人工神经网络技术处理半结构化和非结构化的决策是一种智能化的求解方式。但是此种方式并不是完美无缺的,它还存在着一定程度上的缺点,我们只有改善这种技术上的不成熟,将智能化研究进行到底,才能让神经网络决策支持系统的研究出现新的进展。
参考文献:
[1]陈文伟.智能决策技术.电子工业出版社,1998年.
[2]钟义信.智能理论与技术——人工智能与神经网络.人民邮电出版社,1992年.
篇5
关键词性能对比感知器BP网络霍普菲尔德网络字符识别
1引言
人工神经网络是在人类对其大脑神经网络认识理解的基础上人工构造的能够实现某种功能的神经网络。 它是理论化的人脑神经网络的数学模型,是基于模仿大脑神经网络结构和功能而建立的一种信息处理系统。因其自组织、自学习能力以及具有信息的分布式存储和并行处理,信息存储与处理的合一等特点得到了广泛的关注,已经发展了上百种人工神经网络。
一般来说,人工神经网络从结构上可分为两种:前向网络和反馈网络。典型的前向网络有单层感知器、BP网络等,反馈网络有霍普菲尔德网络等[1]。
人工神经网络已经被广泛应用于模式识别、信号处理、专家系统、优化组合、智能控制等各个方面,其中采用人工神经网络进行模式识别具有一些传统技术所没有的优点:良好的容错能力[2j、分类能力、并行处理能力和自学习能力,并且其运行速度快,自适应性能好,具有较高的分辨率。单层感知器、BP网络和霍普菲尔德网络均可以用于字符识别。
本文通过具体采用感知器网络、BP网络和霍普菲尔德反馈网络对26个英文字母进行识别的应用,通过实验给出各自的识别出错率,通过比较,可以看出这3种神经网络的识别能力以及各自的优缺点。
2 字符识别问题描述与网络识别前的预处理
字符识别在现代日常生活的应用越来越广泛,比如车辆牌照自动识别系统[3,4],手写识别系统[5],办公自动化等等[6]。毕业论文 本文采用单层感知器、BP网络和霍普菲尔德网络对26个英文字母进行识别。首先将待识别的26个字母中的每一个字母都通过长和宽分别为7×5的方格进行数字化处理,并用一个向量表示。其相应有数据的位置置为1,其他位置置为O。图1给出了字母A、B和C的数字化过程,其中最左边的为字母A的数字化处理结果所得对应的向量为:IetterA~「00100010100101010001111111000110001〕’,由此可得每个字母由35个元素组成一个向量。由26个标准字母组成的输人向量被定义为一个输人向量矩阵alphabet,即神经网络的样本输人为一个35×26的矩阵。其中alphabet=[letterA,letterB,lettere,……letterZj。网络样本输出需要一个对26个输人字母进行区分输出向量,对于任意一个输人字母,网络输出在字母对应的顺序位置上的值为1,其余为O,即网络输出矩阵为对角线上为1的26×26的单位阵,定义target=eye(26)。
本文共有两类这样的数据作为输人:一类是理想的标准输人信号;另一类是在标准输人信号中加上用MATLAB工具箱里的噪声信号,即randn函数。
3 识别字符的网络设计及其实验分析
3.1单层感知器的设计及其识别效果
选取网络35个输人节点和26个输出节点,设置目标误差为0.0001,最大训练次数为40。设计出的网络使输出矢量在正确的位置上输出为1,在其他位置上输出为O。医学论文 首先用理想输人信号训练网络,得到无噪声训练结果,然后用两组标准输入矢量加上两组带有随机噪声的输人矢量训练网络,这样可以保证网络同时具有对理想输人和噪声输人分类的能力。网络训练完后,为保证网络能准确无误地识别出理想的字符,再用无噪声的标准输入训练网络,最终得到有能力识别带有噪声输人的网络。下一步是对所设计的网络进行性能测试:给网络输人任意字母,并在其上加人具有平均值从。~0.2的噪声,随机产生100个输人矢量,分别对上述两种网络的字母识别出错率进行实验,结果如图2所示。其中纵坐标所表示的识别出错率是将实际输出减去期望输出所得的输出矩阵中所有元素的绝对值和的一半再除以26得到的;虚线代表用无噪声的标准输人信号训练出网络的出错率,实线代表用有噪声训练出网络的出错率。从图中可以看出,无噪声训练网络对字符进行识别时,当字符一出现噪声时,该网络识别立刻出现错误;当噪声均值超过0.02时,识别出错率急剧上升,其最大出错率达到21.5%。由此可见,无噪声训练网络识别几乎没有抗干扰能力。而有噪声训练出的网络具有一定的抗干扰能力,它在均值为。~0.06之间的噪声环境下,能够准确无误地识别;其最大识别出错率约为6.6%,远远小于无噪声训练出的网络。
3.2BP网络的设计及其识别效果
该网络设计方法在文献[lj中有详细介绍。网络具有35个输人节点和26个输出节点。目标误差为0.0001,采用输人在(0,l)范围内对数S型激活函数两层109519/109519网络,隐含层根据经验选取10个神经元。和单层感知器一样,分别用理想输人信号和带有随机噪声的输人训练网络,得到有噪声训练网络和无噪声训练网络。由于噪声输人矢量可能会导致网络的1或o输出不正确,或出现其他值,所以为了使网络具有抗干扰能力,在网络训练后,再将其输出经过一层竞争网络的处理,使网络的输出只在本列中的最大值的位t为1,保证在其他位置输出为O,其中网络的训练采用自适应学习速率加附加动量法,在MATLAB工具箱中直接调用traingdx。在与单层感知器相同的测试条件下对网络进行性能测试,结果如图3所示。其中虚线代表用无噪声训练网络的出错率,实线代表用有噪声训练网络的出错率。从图中可以看出,在均值为o一0.12之间的噪声环境下,两个网络都能够准确地进行识别。在0.12~0.15之间的噪声环境下,由于噪声幅度相对较小,待识别字符接近于理想字符,故无噪声训练网络的出错率较有噪声训练网络略低。当所加的噪声均值超过。.15时,待识别字符在噪声作用下不再接近于理想字符,无噪声训练网络的出错率急剧上升,此时有噪声训练网络的性能较优.
转贴于 3.3离散型,霍普菲尔德网络的设计及其识别效果
此时网络输人节点数目与输出神经元的数目是相等的,有r=s=35,采用正交化的权值设计方法。在MATLAB工具箱中可直接调用函数newh叩.m。要注意的是,由于调用函数newhoP.m,需要将输人信号中所有的。英语论文 变换为一1。如letterA~[一1一11~1-1一11一11一l一11一11一11一1一1一11111111一l一l一111一1一1一11〕’。设计离散型霍普菲尔德网络进行字符识别,只需要让网络记忆所要求的稳定平衡点,即待识别的26个英文字母。故只需要用理想输人信号来训练网络。对于训练后的网络,我们进行性能测试。给网络输入任意字母,并在其上加人具有平均值从。~0.5的噪声,随机产生100个输人矢量,观察字母识别出错率,结果如图4所示。从图中可以看出,在均值为0~0.33之间的噪声环境下,网络能够准确地进行识别。在0.33~0.4之间的噪声环境下,识别出错率不到1%,在0.4以上的噪声环境下,网络识别出错率急剧上升,最高达到大约10%。可以看出,该网络稳定点的吸引域大约在0.3~。.4之间。当噪声均值在吸引域内时,网络进行字符识别时几乎不出错,而当噪声均值超过吸引域时,网络出错率急剧上升。
4结论
本文设计了3种人工神经网络对26个英文字母进行了识别。可以看出,这3种人工神经网络均能有效地进行字符识别,并且识别速度快,自适应性能好,分辨率较高。由图2和图3可以看出,单层感知器的有噪声训练网络在均值为O~0.06之间的噪声环境下可以准确无误的识别,而有噪声训练的BP网络可以在o~0.12之间的噪声环境下准确无误的识别,故BP络网络容错性比单层感知器的容错性好;此外,噪声达到0.2时,单层感知器的有噪声训练网络的识别出错率为6.6%,而有噪声训练的BP网络的识别出错率为2.1%,故BP网络比单层感知器识别能力强。另外,由图2、图3和图4可以看出,这3种网络中霍普菲尔德网络识别率最高,它在噪声为0.33以前几乎不会出错,BP网络次之,感知器最差。
通过设计、应用与性能对比,我们可得单层感知器网络结构和算法都很简单,训练时间短,但识别出错率较高,容错性也较差。BP网络结构和算法比单层感知器结构稍复杂,但其识别率和容错性都较好。霍普菲尔德网络具有设计简单且容错性最好的双重优点。因此,我们应根据网络的特点以及实际要求来选择人工神经网络对字符进行识别。 参考文献
[1]丛爽.面向MATLAB工具箱的神经网络理论与应用「M.合肥:中国科学技术大学出版社,2003.
[2]武强,童学锋,季隽.基于人工神经网络的数字字符识别[J].计算机工程,2003,29(14):112一113.
[3]廖翔云,许锦标,龚仕伟.车牌识别技术研究[J].徽机发展,2003,13:30一35.
[4]李中凯,王效岳,魏修亭.BP网络在汽车牌照字符识别中的应用[J].东理工大学学报,2004,18(4):69一72.
篇6
关键词:BP神经网络;住宅项目;特征定价
中图分类号:F293.3文献标识码:A
新建住宅项目定价能否被消费者认同,对于项目投资者来说,能够快速准确地了解项目定价的合理区间是非常重要的。目前,在实际操作中运用的市场比较法、收益还原法等基本方法在估算精度、速度乃至应用范围上都具有局限性。随着计算机技术的迅速发展,近些年来兴起的人工神经网络模型的一个明显特征就是具有通过学习最佳逼近非线性映射的能力。因此,项目特征到项目定价的非线性映射关系通过人工神经网络来进行模拟求解是可行的。
一、应用BP神经网络的原理
神经网络在回归分析中较传统方法具有相对优越性,它能从大量的离散实验数据中经过学习训练,建立起反映实际过程内在规律的系统模型,BP神经网络是其中的一种较为简单但应用广泛的方法。
(一)BP人工神经网络模型构造概述。BP神经网络,由输入层、隐含层和输出层构成,各层采用全互连接,同一层中各单元不连接。通过调整各个权值和阈值,直到达到期望的误差即可。
(二)基于LM法的BP算法改进。由于标准BP算法用的梯度下降法随着接近最优值,梯度趋于零,致使误差函数下降缓慢。LM法的优点是迭代次数少,收敛速度快,精确度高,因此在训练样本时采用LM法。
二、住宅项目定价模型构建
(一)住宅项目定价特征的选取。根据Lancaster特征价格理论,模型的一般形式是:P=F(X1,X2,X3…XN),P为住宅项目均价,F为函数形式,X为住宅项目特征变量。住宅项目特征变量通常考虑的因素,可以分为建筑特征、区位特征、邻里特征、需求特征四大类,分别用L、M、N、R表示,如下:
P=F(Z)=F(L,M,N,R)(1)
变量应选取与项目整体相关的特征因素,对于特征的选取,采用专家评审法,邀请一家咨询公司5位工作8年以上的项目策划师,对住宅项目中影响定价的各种因素进行选取打分,最终选取的特征变量如表1所示。(表1)
(二)BP神经网络模型的建立。由于仅含有一个隐含层可以任意逼近连续函数,因此BP神经网络采用3层结构。BP神经网络的输入节点为7(对应特征变量数),输出节点为数为1(对应项目均价),隐层节点数根据以下公式来确定:
s=+0.51(2)
其中,m为输入层节点数;n为输出层节点数;s为隐层节点数。
将m=7,n=1带入上式,通过计算s=5,即建立7*5*1的拓扑结构。
三、应用分析
(一)研究对象。选取2008年北京、天津、沈阳、上海、南京等20个城市的78个普通住宅项目为研究对象。在选取过程中尽量保证市场的同一性,使不同城市之间的商品住宅具有可比性。
(二)变量的量化。由于样本数据较多,这里只选取测试样本数据做说明。参照表1进行量化,量化结果见表2。(表2)
(三)BP网络参数设置及训练。将规格化后的66个样本数据代入神经网络模型中,采用LM改进算法进行训练,隐含层激活函数为tansig,输出层激活函数为logsig,BP神经网络经过所设定的220次训练后,网络目标误差达到精度要求,此时的误差为:res=0.000991452。训练结束后,固定连接值和阈值并输入测试数据,测试数据的BP输出结果见表3。(表3)
(四)结果分析。样本项目的预测输出和实际值的相对误差值在0.6%~7.8%之间,平均误差为0.3828。这说明,BP神经网络在项目定价预测中具有相对的稳定性和优越性。
四、结论
与传统的住宅项目均价定价方法相比,利用BP神经网络确定新建项目均价一方面具有较高的精度;另一方面简化了计算过程,减少资源的投入,是一种快速、便捷、有效的新方法。当然,样本要尽量选取经典的,去掉一些“噪声”比较大的样本和特别复杂的项目。
(作者单位:重庆大学建设管理与房地产学院)
主要参考文献:
[1]LANCASTER KJ.A new approach to consumer theory[J].Journal of Political Economy,1966.74.1.
[2]张吉礼.模糊神经网络控制原理与工程应用[M].哈尔滨:哈尔滨工业出版社,2004.
[3]王其文,吕景峰,刘广灵等.人工神经网络与线性回归的比较[J].决策与决策支持,1993.3.3.
[4]张良均,曹晶,蒋世忠.神经网络实用教程[M].北京:机械工业出版社,2008.2.
篇7
关键词:矿床定位;综合物化探找矿预测;RBF神经网络
中图分类号:P641.4+63文献标识码: A 文章编号:
因为近年来地质成矿的复杂性与非线性,人们目前所面临的重要课题就是寻找隐伏矿床。要想对成矿进行准确的预测,采用简单的线性分析的方法来寻找矿标志信息的效率是比较低的。随着现代化科学技术的发展,在处理复杂非线性问题时,人工神经网络已经成为了一种有效的方法,在矿产定量预测方面已经广泛地使用到这种技术。人工神经网络具有自组织性、自学习性、高度非线性、可变性、巨量并行性等特点。文章以RBF网络对矿区综合物化探信息进行成矿预测为例,探析地质找矿定量预测方法的同时,较为成功地对铅锌矿成矿有利区段进行有效确定。综合物化探方法可按照任务目标,用于快速现场找矿。国内外的地质工作者们在找矿的探测深度技术和理论中,进行了关键技术的突破,使得综合物化探找矿的方面得到了飞速的发展,对推进探找矿事业做出了贡献。综合物化探的方法也具有很多,其中包括了地电地球化学学法、金属活动态测量法等化探技术方法,也包括了可控源音频大地电磁测深、瞬变电磁测深等物探技术和方法。
1、RBF神经网络概念
人工神经网络也成为连接模型或神经网络,其网络依靠系统的程度较为复杂,信息的处理是通过对内部大量节点之间相互连接的关系进行调整,最终得以实现的。神经网络是分布式并行信息处理的算法数学模型,它是以模范动物神经网络行为为特征。在诸多的领域中,人工神经网络因为具有独特的处理信息的能力而被广泛使用。RBF为径向基函数神经网络,它具有全局最优以及最佳逼近的性能,它是一种有效的、新型前馈式神经网络。径向基函数为一个取值只依赖于离原点距离的实值函数。径向函数用到了近似给定函数,神经网络是这种近似的最终解释。在支持向量机中,径向基函数也被用做核函数。在对非线性时间序列的预测中,RBF得到了比较广泛的应用。RBF在初次应用于神经网络设计的时间是1988年,它构成了径向基函数神经网络,也就是今天我们的主角RBF神经网络。RBF网络的基本思想是:RBF把低维的模式输入数据转变至高维空间,期间,变换了一次输入矢量,将隐单元作为隐含层空间,通过隐单元输出加权求和最终得到输出。RBF网络的构成有3层。第一层有信号源节点组成,是为输入层。第二层,作为一种局部分布非负非线性函数,隐单元的变换函数对中心点径向对称,并且进行逐步衰减,所以第二层是为隐含层,由所描述问题的需要来对隐含层的单元数进行确定。第三层网络的输出为隐单元输出的线性加权,是为输出层。RBF神经网络的结构如图所示。输出层输出的节点是简单的线性函数,隐含层的隐层节点有辐射状作用函数构成,输入层只将输入信号传递到隐层。
图RBF神经网络图
2、RBF神经网络优点
RBF神经网络的全称是基于误差反向传播算法的人工神经网络,是一种神经网络学习算法。RBF神经网络具备了很强的生物学背景,它还反映出人脑的反应特点。RBF网络的优点如下:①选取基函数中心是关键所在,对于网络性能而言,BRF网络中的非线性激活函数形式具有着深远的影响。②网络响应在输入接近RBF网络的接受域的情况下产生,BRF网络在做出响应时的决策包含了距离的概念,这就说明BRF网络具有局部接受特性。在RBF网络中,要预先确定隐层RBF单元半径以及中心,在输入层和输出层之间的全部权值则为“1”,可对隐层到输出层间的权值是可以进行调整。RBF网络的隐层将输入空间映射到另一个隐层空间,在新的空间中,输出层实现线性组合。③隐单元的非零响应为在输入空间的指定区域中输入时才会产生,即隐单元的激活函数一般是具有局部接受域的函数。④前向网络。前向神经网络通过对参数的选择,能够连续函数接近一定的精确值。目前,已被很多领域应用。它需要以非线性优化技术为基础,通过梯度下降算法,最终满足优化标准的局部最小化。
在铅锌矿床预测中RBF网络的应用
决定了成矿信息隐含性和多解性的就是成矿作用的复杂性。以铅锌矿体的外为隐伏矿体预测为说明,在选择预测变量时,要根据本地域指示矿化富集带异常实际物化探资料来进行。预测变量包含了土壤化探测量的具体数据,变量包括了。包括电阻率和极化率的中梯剖面测量数据。要想获得基于RBF神经网络的神经网络进行预测,作为输入相量,采用已知的勘探剖面数据来对人工神经网络进行建立、训练。在使用建立好的神经网络进行预测。
矿区的地层为下侏罗统枫评组沉积岩和前寒武系八都群变质岩。前寒武系八都群变质岩的主要岩性为斜长角闪岩与片麻岩,而下侏罗统枫评组沉积岩则为泥岩、砂岩。在矿产中所赋予的是变质岩,二这两种岩则为角度不整合,亦或断层接触。在获得等的土壤化探数据后,使用RBF网络对其进行检验和训练和成矿有力度预测,就可获得成矿有力度。铅锌矿床表现在组合异常、电阻低、极化高,检验的结果表现为有较高的成矿有力度,矿体同样位于成矿有力度区域内。因素覆盖于下侏罗统枫评组砂岩下下,铅锌矿为较弱土壤化探异常组合,且极化率和电阻率的表现极不明显。但是,隐伏铅锌矿体所处位置也表现出一定的成矿有力度,其在变质岩内,说明隐伏的铅锌矿体可以被RBF网络预测出来。在进行了一系列的研究与分析后,说明RBF网络模型可以轻松完成预测已知矿区外网找矿工作。通过对RBF网络模型的应用, 可以客观地预测出隐伏铅锌矿体。
OLS算法
确定RBF神经网络模型可分为:采用线性优化算法来得到输出层权值;对隐层中心和节点数进行确定。文章采用 OLS,即正交最小二乘法来对隐层中心和节点数,以及输出层权值进行有效确定。假设输出层存在一个神经元,网络训练样本集中d(n)是网络期望输出响应,而N作为训练样本数。可以采用线性回归模型来表示RBF神经网络。权值矩阵的选择可采用误差比最大的原则,最终可以对RBF网络的中心进行确定。,按照预先设定的误差容限来确定隐层节点数P,参考公式如下:>。
结束语
RBF神经网络预测模型可以对中梯剖面信息和已知剖面土壤化探为主的隐伏铅锌矿床进行有效预测。使用该预测模型可以快速预测出隐伏的铅锌矿成矿的有利地段,还可对其数据进行检验、训练。RBF网络有助于地质找矿工作的顺利开展与有效实施。矿产预测的重要途径之一就是以RBF人工神经网络理论为基础,来进行成矿有力度预测。特别是在信息丰富多元化和找矿手段较多的二十一世纪的今天,想要真正提高成矿预测的效率和精度就必须采用综合、有效的预测方法。
参考文献
[1]陈少华,尹胜兰,莫哲.基于免疫RBF网络改进小波分析的小电流接地故障选线[J].电力系统保护与控制,2012(3).
篇8
关键词:自主导航;人工智能;模糊神经网络;避障;BP神经网络
中图分类号:TP79文献标识码:A文章编号:1005-3824(2014)03-0083-03
0引言
2013年12月14日21时11分,嫦娥三号探测器在月球表面预选着陆区域成功着陆,装着红外成像光谱仪、避障相机、机械臂和激光点阵器等设备的月球车“玉兔”驱动着6个轮子在月球表面留下了历史的痕迹。这标志着我国已成为世界上第3个实现地外天体软着陆的国家,也展现出了智能控制系统[1]在航天事业上的卓越应用。在如今的社会生活中,随处体现着智能技术的存在,人们已经离不开智能技术,智能机器人的发展也飞速前进,从儿童的玩具机器人到太空探索的机器人,可以预见智能机器人的应用将更加广泛。近年来,非线性动态系统的自适应控制在我国引起了广泛的研究,模糊神经网络控制是一个重要的自适应方法,因此得到了很多专家学者的青睐。
模糊逻辑控制在宏观上模仿人的思维,处理语言和思维中的模糊性概念,它是以模糊集合论、模糊语言变量和模糊逻辑推理为基础的一种计算机数字控制技术;神经网络是从微观上模仿人的智能行为,进行分布式并行信息处理算法的数学模型,它是根据人脑的生理结构和信息处理过程创造的[2]。模糊控制与神经网络各自都有一定的应用局限,因此,人们早在20世纪80―90年代就把它们相结合,组成更为完善的控制方法。模糊控制与神经网络的结合有多种方式,根据研究角度和应用领域的变化而不同。1模糊控制与神经网络的介绍
1.1模糊逻辑控制系统
模糊逻辑控制系统主要包含输入变量、模糊控制器、被控对象和偏差。模糊逻辑控制系统结构如图1所示。
知识库:是模糊控制器的核心。由数据库和规则库组成,数据库中存着有关模糊化、模糊推理、解模糊的一切知识,规则库是由若干模糊规则组成的。
模糊推理机:根据模糊逻辑法则把逻辑规则库中的模糊“if-then”转换成某种映射。
反模糊化:反模糊化的方法一般有最大隶属度平均法、最大中点法、面积等分法、重心法和加权平均法等。
模糊控制的优点:可以在预先不知道被控对象的精确数学模型;规则一般是由有经验的操作人员或者专家的经验总结出来并且以条件语句表示的,便于学习和理解;控制是由人的语言形式表示,有利于人机对话和系统知识的处理等。不足之处:精度不够高;自适应能力有限;模糊规则库非常庞大,难以进行更改优化[3]。
1.2人工神经网络
人工神经网络(ANN)是一种模拟人脑神经系统的结构和功能的运算模型,由大量的节点,即神经元及相互之间连接构成的,它是人工方式构造的一种网络系统。神经元结构模型如图3所示。
传递函数f又称转移函数或激活函数,是单调上升的有界函数,常用的转移函数有线性函数、斜坡函数、阶跃函数及单双极S型函数等。但是最常用的还是单极S型函数:
神经网络的结构形式也有几种,例如,全互连型结构、层次型结构和网孔型结构等[4]。前馈型网络是一类单方向层次型网络模块,其最基本的单层神经元网络如图4所示。
图4单层神经元网络3层BP神经网络是比较常用的结构,图5是它的基本结构。
图5BP神经网络的基本结构BP神经网络至少有3层,图5中,第Ⅰ层是输入层,第Ⅱ层为隐藏层,第Ⅲ层为输出层。由于3层的BP神经网络就具有了模糊系统中万能逼近的能力[5],为了不使系统变得更复杂,本文就只用了3层的BP神经网络,当然,也可以根据自身的实际应用情况增加隐层的层数,但并不是层数越多,精度就越高,相对的系统的反应时间就会增加,时延也会增长。
神经网络的优点:能够通过学习和训练获取用数据表达的知识,不仅可以记忆一直获得的信息,还具有较强的概括及联想记忆能力,它的应用已经延伸到各个领域,在各方面取得很好的进展等。不足之处:缺乏统一的方法处理非线性系统;网络的权值是随机选取的;学习的时间长;无法利用系统信息和专家经验等语言信息;难以理解建立的模型等[6]。
所以,综合以上模糊逻辑系统与神经网络各自的优缺点,就提出了一种它们的结合方法,即模糊神经网络控制方法。
2模糊神经网络的结合方式
模糊神经网络大致分为3种形式:逻辑模糊神经网络、算术模糊神经网络和混合模糊神经网络。
在这3种形式的系统中,模糊神经混合系统是根据模糊控制系统和神经网络各自不同的功能、用途集成在一个系统里面的[7]。在这类系统中,我们可以将神经网络用于输入信号处理,模糊逻辑系统用于行为决策[8](如图6),或者把模糊逻辑系统作为输入信号处理,神经网络系统作为输出行为决策,再或者是将神经网络去代替模糊控制器的一部分,还可以将基于神经元网络的模糊系统或者神经元网络用在模糊神经混合系统中。
在本文的应用中,使用的是轮式智能小车,它一共安装了3个超声波传感器、3个红外传感器和1个角度传感器,红外传感器除了应用在小车循迹外,还用来增加控制系统测量的精确性和弥补超声波测距的盲区。例如,在某一路或者几路超声波受到了外界的干扰时,红外线就可以测量出系统所需要的数量值。超声波与红外线用来测量小车到左、前、右障碍物的距离Ll,Lf,Lr;模糊神经系统中控制器的输入包括: Ll,Lf,Lr,小车与障碍物的夹角tg;输出为小车的转角sa和小车的加速度va。将Ll,Lf,Lr的模糊变量设为{near ,far},论域为(0―2 m);tg的模糊变量为{LB,LM,ZO,RM,RB}表示{左大,左小,零,右小,右大},论域为(-1800,1800);距离和夹角的隶属度函数如图7和图8所示。输出变量的隶属度函数在这里就不再赘述了。
在系统解模糊化时,是将一个模糊量转换成确定量,常用的解模糊化的方法有最大隶属度函数法、重心法、加权平均法。在本文中用的是重心法。
智能小车避障的控制系统如图9所示。
篇9
关键词:负荷预y;电力市场;时间序列法;回归分析法;人工神经网络法
中图分类号:TM715
文献标识码:A
文章编号:1009-2374(2011)22-0005-03
一、负荷预y的含义及意义
在社会发展过程中,电力工业是国民经济发展的基础产业,对整个国民经济的发展起着举足轻重的作用,电力市场需求、电力系统规划建设的基础、依据是负荷预y,其准确度直接影响到电力的投资、布局和网络运行的合理性和稳定性,因此。负荷预y在国民发展的规划中显得尤为重要。
在电力系统中,负荷指电力需求量或用电量。需求量是指能量随时问的变化率,即指功率。负荷预y包括两个方面的含义:对未来需求量的预y和用电量的预y。电力负荷的准确预y是不仅是电力系统安全运行的前提,还是电力市场分析的基础,对电力生产和国民经济都有重要意义,随着我国电力事业的不断发展,高质量、高效率的电网管理已经受到国家和电力部门的高度重视,高质量的电力负荷预y问题研究已经成为现代电力系统运行研究的重要课题之一。
二、电力负荷预y
(一)负荷预y的分类
电力负荷预y按期限不同可以分为年度预y、月度预y和日度预y,从大的方面来分类,也可以分为长期、中期、短期和超短期负荷预y。长期预y大概为30年;中期预y为5-6年;短期预y是指几个月、几周、几天、几小时甚至更短;超短期预y一般指小时级或分钟级的预y。
(二)负荷预y的模型
电力系统总负荷预y模型一般可以按四个分量模型描述为L(t)=B(t)+W(t)+s(t)+V(t).L为时刻t的系统总负荷;B为时刻t的基本正常负荷分量;w为时刻t的天气敏感负荷分量;s为时刻t的特别时间负荷分量;V为时刻t的随机负荷分量。对于中长期负荷预y来说,E呈明显增长趋势的周期性变化,对于短期来说,B一般呈周期性变化;对于超短期负荷预y,B近似线性变化。
由以上可见不同的预y周期,B的内涵有不同的内涵,而对于基本正常负荷分量,可以用线性变化模型和周期变化模型描述。线性变化模型是将前面时刻的负荷描述成一条直线,其延长线即可预y下一时刻的负荷;周期变化模型,是用来反应负荷有按日、月、年得周期变化特性。
(三)负荷预y方法
电力负荷预y按预y方法可以分为经典预y方法和现代预y方法。
1.经典预y方法分为趋势分析法,时间序列法,回归分析法。
趋势分析法是指根据若干历史资料来拟合一条能反映负荷本身的增长趋势曲线,之后再根据这个增长趋势曲线,根据未来某一点估计出该时刻的负荷预y值。主要有有线性趋势模型、线性趋势模型、多项式趋势模型、对数趋势模型、指数趋势模型、幂函数趋势模型、逻辑斯蒂(Logistic)模型、龚伯茨(Gompertz)模型等模型。但是,只有符合以下两个条件时才能正确应用趋势分析法:一是负荷并未呈现跳跃式变化趋势,二是负荷发展因素不变或变化较小。对于趋势分析法的应用来说,选择合适趋势模型至关重要,选择趋势模型的方法有两种,一是图形识别法,二是差分法。大多数情况下,能够选择好适当的趋势曲线,能够预y出较好的结果。其中的关键在于,人们要根据地区发展的不同情况,来选择合适的模型。
时间序列法是目前电力系统短期负荷预y中发展较为成熟的算法,是根据负荷的历史数据的一个时间系列,建立描述电力负荷随时问变化的数学模型,在该模型的摹础上确立负荷预y的表达式,并对未来负荷进行预y。时间序列方法优点是所需数据少,工作量小;计算速度较快;反映了负荷近期变化的连续性。时间序列方法存在的不足是建模过程比较复杂,需要较高的理论知识;该模型对原始时间序列的平稳性要求较高,只适用于负荷变化比较均匀的短期预y;没有考虑影响负荷变化的因素,对不确定性因素(如天气、节假日等)考虑不足,当天气变化较大或遇到节假日时,该模型预y误差较大。
回归分析法是根据历史数据的变化规律和影响负荷变化的因素,寻找自变量与因变量之间的相关关系及其回归方程式,确定模型参数,据此推断将来时刻的负荷值。回归分析法的优点是计算原理和结构形式简单,预y速度快,外推性能好,对于历史上没有出现的情况有较好的预y。存在的不足是对历史数据要求较高,采用线性方法描述比较复杂的问题,结构形式过于简单,精度较低;该模型无法详细描述各种影响负荷的因素,模型初始化难度较大,需要丰富的经验和较高的技巧。
2.现代预y方法是基于非参数模型的,主要采用专家系统、灰色系统、模糊逻辑和人工神经网络理论建立的方法。
专家系统预y法是一个用基于专家知识的程序设计方法建立起来的计算机系统(在现阶段主要表现为计算机软件系统),它拥有某个特殊领域内专家的知识和经验,并能像专家那样运用这些知识,通过推理在某个领域内作出智能决策,所以,一个完整的专家系统由4个部分组成:知识库、推理机、知识获取部分和解释界面。专家系统技术应用到负荷预y上,可以克服单一算法的片面性;同时全过程的程序化,使本方法还具有快速决断的优点。此方法虽然有较广泛的使用前景,但由于预y专家比较缺乏,预y过程容易出现人为差错,在建数据库及将专家经验转化为数学规则时存在一系列的困难。目前,此方法在实践中应用不广泛。
灰色系统预y法是利用部分明确信息,通过形成必要的有限数列和微分方程,寻求各参数间的规律,从而推出不明确信息发展趋势的分析方法。灰色预y又称GM模型。GM(1,N)表示一阶的N变量的微分方程模型,GM(1,1)则是一阶一个变量的微分方程模型,灰色预y模型的优点是,建模时不需要计算统计特性量,从理论上讲,可以适用于任何非线性变化的负荷指标预y;不足之处是,其微分方程指数解比较适合于具有指数增长趋势的负荷指标,对于具有其它趋势的指标则拟合灰度较大,精度难以提高。
模糊逻辑预y法是以模糊集合论、模糊语言变量及模糊逻辑推理为基础的非线性智能控制,它基于模糊推理,模仿人的思维方式,对难以建立精确数学模型的对象实施的一种控制。它是模糊数学同控制理论相结合的产物,模糊控制器的设计依赖于实践经验。但是,有时人们对过程认识不足,或者总结不出完整经验,这样模糊逻辑势必粗糙,不完善用于负荷预y,难以满足对精度的要求。
负荷预y技术经过几十年的发展,人们提出了许多预y方法。现在的预y方法大体可以分为两大类:数学方法统计和人工智能方法。人工智能方法是在20世纪90年代中期开始运用,其中人工神经网络方法属于运用较成功的方法。
(四)人工神经网络法
传统意义上的电力负荷预y都是通过人工完成的,工作人员通过整理收集历史负荷数据,采用一定的预y方法,对历史数据加以计算,得到预y结果后,再结合自己的经验加以修正,便得出了最后的预y数据。在整个过程中,整理以前的数据,预y算法的选用和预y工作人员的经验,都是制约预y结果的因素,而这些因素是不可避免的会存在问题,会对预y结果产生很大的影响,使预y的精度难以保证。
如果负荷预y出现问题,电网的发展便不能适应实际发展的需要,就无法满足用户正常用电需求。因此,电力企业迫切需要建立适合自己本企业的电力负荷预y系统,这种系统必须保证企业在现有的资源条件下,能够克服人工预y的各种弊端,这就要求预y系统不仅达到较高的预y精度,还要具备自动化和智能化的特征。
人工神经网络法是以人类大脑神经网络为基础,模拟人类神经活动的仿生系统。具有以下很多优于传统人工计算负荷量的特点:
1.高度的非线性。不是单纯的数学计算,会综合考虑到经济、时间、天气、地域等影响负荷的因素,可以连续多日进行负荷预y电力系统,这样就保证了负荷预y的精准度。
2.良好的自学习和自适应性。从真正意义上来说,不只是一个单板的计算机,可以对大量非结构性、非精确性规律具有自适应功能,可以根据自己的学习要求,来适应各方面的发展和变化,其自学习和自适应功能是常规算法和传统技术所不具备的。
3.良好的容错性和联想记忆能力。新增的这一能力就保证了计算机的智能化和自动化,可以把历史预y数据记录下来,降低再出现的出错率,并且可以根据这些历史数据,预y出可能出现的问题,这就大大提高了预y的准确性。
4.人工神经网络结构简单。它是由许多的简单处理单元组合而成,是理论化的人脑神经网络的模型,它的工作工程是通过模仿大脑神经网络结构和功能,建立信息处理系统,将收集和记录的负荷数据,预y未来的用电量。
因此,负荷预y被当作人工神经网络具有最有潜力的应用领域之一。
三、人工神经网络的发展
人工神经网络技术由于自身的优点并且经过不断发展已逐渐成熟,并成功的应用于模式识别基于人工神经网络的电力负荷预y系统。基于软件界面架构来保证系统与其他应用的良好集成,避免过去人工预y的盲目与随意,保证了负荷预y更准确,更高效。
人工神经网络技术预y手段的先进性。包含两层意思:一是预y工具的先进性,由于数据量很大,人工神经网络是通过计算机进行各种统计分析及预y工作,预y人员可以从繁杂的大量计算中解脱出来;二是预y理论的先进性,由于人工神经网络可以不断发展和应用新的预y理论,借鉴其他领域预y工作中的成功经验,这样就使电力系统负荷预y达到一个较高的水平。以现代化的地理信息系统为基础,与市场营销系统、调度自动化系统、负荷控制系统等系统联网,建立现代化的市场营销地理信息系统,所以说通过人工神经网络电力负荷预y可以是准确把握市场脉搏,高速快效的分析未来电力需求的走势。四、电力市场环境下对负荷预y的要求
负荷预y是电力系统安全并且经济运行的一个重要手段,是电力交易的主要数据源,在电力市场环境里,存在着大量的不确定性因素,并且各个因素之问有着比较复杂的影响关系,本文上述方法均有一定的适用场合,各有各的优势和缺陷,在实际运行中,工作人员应结合当地电网的实际负荷情况及特点,考虑各种环境因素的影响,以需求预y管理为基础,以计算机技术为支撑,建立负荷预y软件与电力市场的软件的有效接口,灵活地选用预y模型,积极探索预y模型的新思路和新方法。不断提高负荷预y的准确性,促进电力企业整体经济效益的提高,推动整个国民经济的发展。
为了做好负荷预y工作,必须对电力系统负荷的现状及历史统计资料进行认真调查,搜集规划期各行业用户的发展资料,要不断研究那些电力负荷所代表的国民经济各行各业的发展规律,认清行业实际发展的可能性和未来性,更好的把握电力市场环境的发展方向。
参考文献
[1]钟庆,吴捷,钟丹虹.基于系统论的负荷预y集成化方法
[J].电力自动化设备,2002,(10).
[2]王天华,王平洋,袁钦成.空间负荷预y中不确定性因素
的处理方法[J]电网技术,2001,(1).
[3]李历波.城市配网空间负荷预y方法及应用研究[D],重
庆大学,2002.
[4]王天华,王平洋,袁钦成.空间负荷预y中不确定性因素
篇10
关键词: FPGA; BP神经网络; 线性拟合; 非线性拟合; 自适应训练
中图分类号: TN702.2?34; TP183 文献标识码: A 文章编号: 1004?373X(2016)15?0115?04
Abstract: Using software for neural network has the disadvantages of low parallelism and slow speed, the hardware design resource utilization of the traditional neural network is high, and the network training is uncontrollable. To solve these problems, a new FPGA?based design method of back propagation (BP) neural network is proposed. The method can realize the Sigmoid excitation function through piecewise linear fitting and nonlinear fitting based on symmetry, and uses the finite state machine (FSM) to accomplish the training times adaption based on error. The Verilog HDL language is used to design the 1?3?1 BP neural network to approximate the function [y=cosx.] The resource occupancy of the network is 2 756 LEs, the training times are 1 583, the average relative error of the network test sample is 0.6%, and the maximum clock frequency is 82.3 MHz. The verification results show that the neural network designed with the method has the advantages of less resource occupancy, high accuracy and fast running speed, and can control the network training automatically.
Keywords: FPGA; BP neural network; linear fitting; nonlinear fitting; adaptive training
0 引 言
人工神经网络(ANNs)[1]通常都是采用基于软件的方法实现。但作为一个并行计算系统,软件实现的方法存在速度慢的缺点,而硬件方式具有高并行性的特点,适合于人工神经网络。FPGA作为一种通用的硬件设计平台,其内部分布式的资源与神经网络的结构非常契合,是一个实现神经网络硬件化设计的良好选择。
资源占用是FPGA设计的一个重要考量因素,而网络训练是神经网络功能实现的基础。已有的神经网络硬件设计工作在这两方面还存在巨大的空间。例如,薛维琴等利用FPGA实现了BP神经网络[2],该网络经过训练能够描述非线性函数,但没有提出BP神经网络的激励函数和训练控制模块的具体硬件实现方法。李利歌等提出了直接利用查找表实现神经网络激励函数的方法[3],但是查找表存在占用资源大,运行速度慢的缺点。张海燕等采用基于查找表的STAM算法实现神经网络激励函数[4],且文中也没有提到训练控制模块。Javier Valls等提出利用CORDIC算法实现神经网络的激励函数[5],资源利用率低,但是存在精度不足的问题。刘培龙利用分段拟合实现激励函数[6],但是激励函数资源占用较多。
基于这一现状,本文通过对Sigmoid函数基于对称性分段拟合以及基于误差的训练自适应技术,提出了一种新的神经网络FPGA设计方法。该方法设计的神经网络资源占用少,网络训练自适应,同时还具有精度高,运行速度快的优点。
1 BP神经网络的FPGA设计
根据BP神经网络的结构,本文将网络划分为神经元模块、激励函数模块、误差计算模块,权值更新模块、权值存储模块以及自适应网络训练模块。图1给出了不同功能模块之间的连接和训练过程。其中,权值存储模块和输入神经元将输入层的权值以及训练的样本输入到隐含层神经元进行乘累加运算,其结果输入到激励函数模块得到激励函数输出,该输出和隐含层的权值作为输出层神经元的输入得到本次训练结果。该结果再经过误差计算模块计算误差值和权值改变量。权值改变量在权值更新模块中得到新权值存入到权值存储模块。误差值输入到自适应网络训练模块判断网络训练是否达到最优。网络训练达到最优前,该过程循环,当网络训练达到最优,自适应训练模块控制网络停止训练。
系统中神经元模块、误差计算模块、权值更新模块按照BP网络算法规则可调用加、乘、乘累加等功能模块,权值存储模块可调用RAM模块。激励函数模块和自适应训练模块关乎系统资源占用及训练过程的实现,是本文BP神经网络FPGA设计的重点。
1.1 激励函数模块设计
激励函数模块是影响整个神经网络资源利用的主要因素之一,在保证误差足够小的前提下,激励函数模块资源占用越小越好。
式中含有指数运算,较难在FPGA 中直接实现。利用Sigmoid函数具有对称性以及较好的线性区域和非线性区域分界的特点,本文提出一种资源占用小、精度高的基于对称性分段拟合的激励函数硬件实现的方法。
考虑到Sigmoid函数的对称性,只需完成[x>0]的区域硬件实现,根据对称性即可求出[x0]区域,根据Sigmoid函数线性区域和非线性区域分界良好的特点,分别采用线性拟合和非线性拟合的方法分段逼近。具体而言,如图2所示,将整个激励函数模块分为预处理模块、函数逼近模块以及最终输出模块三个子模块。
1.1.1 预处理模块
激励函数的输入[x]为16位定点数,最高位为符号位,中间五位为整数部分,后十位为小数部分。当[x]输入到激励函数模块时,首先进行预处理。截取二进制输入[x]的最高位判断[x>0]或者[x0]时,[x=x,]将[x]输入到后续处理模块,若判断出[x
1.1.2 函数逼近模块
基于对输入[x]的预处理,此子模块只需要对[x>0]的情况做线性拟合和非线性拟合。分段逼近函数如表1所示。
1.1.3 最终输出模块
最终输出模块由预处理模块输出的控制信号控制。若[x>0,]则控制信号控制最终输出模块直接输出函数逼近模块中[x]对应的输出[fx;]若[x
1.1.4 激励函数模块分析
按照上述设计方法完成激励函数模块的设计后,对激励函数模块进行功能仿真和误差分析。从-8~8以0.001为间隔生成测试数据输入到激励函数模块,得到的ModelSim仿真结果如图3所示,其各区间绝对误差如表2所示。从中可以看出,各区间的误差值均很小且误差分布较为平均,体现出良好的逼近效果。
1.2 自适应训练模块设计
网络训练是神经网络功能实现的基础。神经网络随着训练的进行,权值逐渐改变,误差逐渐减小,但如果网络训练不能适时结束,造成过度训练,则网络性能会变差。然而对网络训练的控制在硬件上并不易设计,故很多工作未讨论这一点或简单的以固定周期来完成训练。本文提出了一种基于可容忍误差值的自适应网络训练硬件设计方法,可有效的自动控制神经网络训练过程。
分析神经网络的训练过程,每一次输入样本值都会在本次训练完成时得到一个误差值,当误差在可以容忍的范围内可以认为网络已经训练完成。认为在给定的可容忍误差值的情况下,如果连续两次整个样本集输入得到的误差绝对值都要比给定的可容忍误差值要小,则该神经网络训练已经达到最优。根据这个思想,提出利用有限状态机实现自适应网络训练。
如图4所示,有限状态机的状态数是样本集中样本数的两倍,状态机初始为零状态。当某一次训练得到的误差绝对值小于可容忍误差值时,状态机进入第一个状态。若紧邻的下一次训练得到的误差绝对值也小于可容忍误差值,状态机进入下一个状态,否则状态机状态回到第0个状态。当状态机跳转到最后一个状态时,网络训练完成,此时输出控制信号控制权值存储模块停止权值更新,提示信号提示训练完成。该模块的分析需要结合网络中的其他模块,故测试结果在下一节中给出。
2 验证和分析
2.1 验证平台
根据上述方法,设计了一个1?3?1三层BP神经网络验证其性能。验证平台为Altera公司的EP2C70F896C6。
以[y=cosx]函数为学习对象,从[0~2π]之间以[0.062 5π]为间隔选取33个样本组成样本集,随机选取其中25个作为训练样本,剩下8个作为测试样本。神经网络的初始权值和阈值的选取具有一定的随机性,根据网络需要逼近的函数数值大小,输入层到隐含层的初始权值矩阵[W1=[2.5,0.5,-0.3],]隐含层到输出层的初始权值矩阵[W2=[0.35,0.4,0.3],]隐含层阈值选为[0.2,0.3,0.4],输出层阈值选为[0.3]。隐含层的学习率设为0.4,输出层的学习率设为0.3,容忍误差设为0.01。
2.2 结果分析
ModelSim仿真得到的结果如图5所示,从图5中可以看出该BP神经网络的训练是自适应的。当网络训练到最优时,产生一个控制信号和一个提示信号以及网络训练的次数,此时权值存储器的值不再变化,训练完成。
25个训练样本集训练的平均误差为0.003,分析8个测试样本集的误差,如表3所示。从表3中可以看出,其误差与训练数据的误差大体相当且均很小。计算测试样本的平均相对误差为0.6%,小于1%,说明该方法实现的基于FPGA的BP神经网络精度较高。
将该网络下载至Altera公司EP2C70F896C6的FPGA中,其最高时钟频率为82.3 MHz,可见该方法具有运行速度快的优点。将该神经网络资源占用情况与已有相关工作的资源占用情况作对比,如表4所示。虽然其中各设计的规模和平台有所差异(如1 Slice≈4 LEs),但仍可估算出即便添加了自适应训练模块,本设计对资源的占用依然较低。
从表5中可以看到,当学习对象不同时,网络训练的次数也不同,实现了训练过程的自适应。由此亦可推至,若采用传统的预设固定次数的方式完成训练,则对于不同学习对象难免会造成训练不充分或过度训练的情况,从而影响网络的性能。因此,该表也进一步证明了该设计自适应训练的优越性。
3 结 论
本文以典型的BP神经网络为例,提出了一种自适应训练的神经网络FPGA设计方法。通过对Sigmoid激励函数基于对称性做分段拟合减少了资源占用,使用基于可容忍误差完成了网络训练自适应。该方法设计的神经网络具备训练可控、资源占用低、精度高的优点。此方法不仅适合于 BP网络,也可推广至采用Sigmoid函数及需要训练控制的其他类型的神经网络。
注:本文通讯作者为常胜。
参考文献
[1] 蒋宗礼.人工神经网络导论[M].北京:高等教育出版社,2001:15?16.
[2] 薛维琴,李莉华,戴明.基于FPGA的人工神经网络系统的实现方法[J].电子设计工程,2010,18(9):151?154.
[3] 李利歌,阎保定,侯忠.基于FPGA的神经网络硬件可重构实现[J].河南科技大学学报(自然科学版),2009,30(1):37?40.
[4] 张海燕,李欣,田书峰.基于BP神经网络的仿真线设计及其FPGA实现[J].电子与信息学报,2007,29(5):1267?1270.
[5] VALLS J, KUHLMANN M, PARHI K K. Evaluation of CORDIC algorithms for FPGA design [J]. Journal of VLSI signal processing, 2002, 32(3): 207?222.