神经网络遗传算法范文
时间：2024-03-29 16:55:22
导语：如何才能写好一篇神经网络遗传算法，这就需要搜集整理更多的资料和文献，欢迎阅读由公文云整理的十篇范文，供你借鉴。
篇1
关键词： 遗传算法；神经网络算法；电力变压器故障；收敛速度；收敛精度；BP神经网络；IGA-BP算法；权值和阀值；动量因子；编码
中图分类号：TP39 文献标识码：A 文章编号：1671－7597（2012）0220180－01
1 介绍
神经网络是一个复杂的网络系统，它通过模拟人脑的神经工作过程来处置信息，可以实现并行处理和非线性变换。该网络有很强的自学能力，自适应能力，良好的容错性与联想记忆和同时处理等功能。在所有种类的神经网络算法中，BP算法是一种典型的算法，并且他解决了多层次前馈型神经网络的训练问题，并已得到广泛应用。但是，传统的BP神经网络算法很容易陷入激增并且只是局部最优，而且其收敛速度慢。相反，用遗传算法来寻找全局最优的能力是很强的。遗传算法是从自然进化论中发展而来的，它是一类有效的并行全局搜索算法。它有很好的鲁棒性，并已成功应用于解决全局优化问题。如果神经网络是按照优化和遗传算法设计的，该算法不仅易于实现全局最优，而且很容易提高神经网络的性能。许多学者在这方面都有很不错的成果。
然而，大多数现有的神经网络设计方法优化的目标是在结构，初始权重和阀值方面，而忽视训练比率和动量因子。事实上，当设计一个神经网络时，初始权重和阀值是随机产生的，而训练比率和动量因子以及网络的结构通常是由人们的经验获得的。这些因素都影响了网络的训练速度和神经网络的直接处理能力。只有全面的优化这些参数，才能使得网络整体性能得以改善。因此，本文提出基于高性能遗传算法的彻底进化神经网络的BP算法。该算法可用于建立诊断电力变压器和电源变压器的模型，而该模型是基于神经网络的。
2 遗传算法和它的改进
遗传算法是一种随机全局搜索算法，他通过模拟自然进化和自然选择过程中的遗留生物来解决复杂问题。在遗传算法中，问题空间由代码空间来替换，性能评价的标准是合适的函数，进化的基础是代码个数，由许多不同基因个体的代码来确定选择和遗传机制。一个重复的过程由该方法来形成。许多不同的个体是通过不断演变的基因和代码位链的一些重要基因的随机组合产生的，由此不断地最优化和逐步实现问题的最终解决。考虑到遗传算法的低收敛速度和低精度等的局限，本文提出了一些改进的遗传算法。
2.1 选择算法的改进
通过竞争性遗传算法在两代之间选择出优良个体，基因个体分为男性和女性。排列方式决定了所有男性和所有父代女性及其下一代。然后选择前者的N/2的男性优秀个体分别与女性个体结合形成新的人口规模N。将这n个个体放入配对区，他们将分别互相配对。这样，不仅可以保证交叉操作的个体的有效配对，而且可以保留每个优秀个体的特征，可以淘汰不好的个体。因此将不会失去好的基因和特征。他将有利于尽快找到一种全局最优的算法。
2.2 增加一种帮助操作
为了加强算法的能力，以跳出局部最优并提高收敛速度，一种用来改善遗传算法的帮助操作被提出，通过帮助的可能性来增加帮助的个体。帮助操作位于选择操作之后，在匹配操作之前。它的程序如下：
1：i=1；
2：定义一个实数r，使得0≤r≤1，如果r≤Ph，执行3，否则跳转到6
3：j=1；
4：如果 =0，则令 =1；但是如果由于执行该操作产生 个体的自适应性，则保持 =0；
5：j++，如果j＞n，执行6，否则跳转到4；
6：i++，如果i＞n，执行7，否则跳转到2；
7：停止。
其中，Ph表示帮助可能性，表示的是i个体，表示i个体的j位，n表示编码无性别长度，N代表群体大小。
2.3 匹配方法改进
在本文的算法中，相同性别的个体不进行。即雄性只能与雌性。而且，为了获得个体们较好的排列顺序，用这样的算法操作来实现，即按照依次优劣排序的雌体与用同样排序的雄体进行。这样有利与遗传算法加快寻找全局最优的速度，增强了全局收敛性。
为了避免近亲繁殖，不同性别的个体还需要检查它们的区别，如果两个个体是相同的或者区别他们相对应的二进制码值为一，他们不能进行而且必须将它们进行修正，比如，最高码值的个体与最低码值的个体必须修正为最高码值和最高码值的个体的。因此，可以保证远血缘个体之间的，从而提高遗传算法的效率。
3 基于改进遗传算法的BP神经网络的彻底进化（IGA-BP算法）
3.1 BP神经网络算法的规则
从结构的角度来看，BP神经网络属于前馈型神经网络，它由输入层，输出层和一些隐层组成，相邻层之间由节点连接，而同一层不需要节点连接。典型的BP神经网络是由输入层，输出层和隐层这三层组成的，这是最常用的BP神经网络。
在BP神经网络训练的过程中，用到的是误差反向传播。它的简称是BP算法。BP算法是一种辅助训练算法，他实际上是一种通过梯度下降法来找到最优解的静态算法。权值w（n）仅仅是随时间梯度下降的方法来进行修正的，而并不是考前们的经验获得。由于在训练的过程的频繁冲击或陷入局部最小，因此收敛速度很慢，为了避免这一点，我们增加了一个动量因子。这个方法也就是增加一个与原来变量和目前变量以及权值和阀值相匹配的数据项，新的权值和阀值是通过反向传播来产生的。新增加的权值和阀值的动量因子由以下方式来进行调节：
其中k表示训练时间，表示训练率，mc表示动量因子，和mc由个人经验来确定。
3.2 IGA-BP的基本思想
首先，改进的遗传算法是用来全面解决和设计结构，初始权值和阀值，
训练率和神经网络的动量因子的，并且在解决空间问题的过程中，更好的寻找到空间。因此BP算法是在小范围内寻找到最优解。
3.3 编码方法
所有神经网络的结构，权值和阀值，训练率以及动量因子都需要被认作是一系列染色体，通过二进制来将其编码。每个个体的编码都包含六个部分，第一部分时权值编码，第二部分是阀值的二进制码，第三部分是节点之间连接状况的编码，第四部分是训练率的编码，第五部分是动量因子的编码，第六部分是个体性别的编码，其值为0或1，表1表示个体编码的结构：
假设权值，阀值，训练率以及动量因子的参数值之间的关系可有以下式子来表示：
其中，bin表示N位特征字符；表示权值，阀值，训练率动量因子的变化范围：
表示网络的实际输出，表示网络的理想输出，表示实际输出与理想输出之间的误差。
参考文献：
[1]Rumehart D E, Hintion G E, Willams R J. Leaming Intemal representations by error propagation in parallel distributed processing [M]. Gambridgef :MIT Press,1986: 318-362.
[2]Yao X,Liu Y.Anew evolutionary system for evolving artificial networks[J].IEEE Transactions on Neural Networks,1997,8(3):694-713.
[3]Sietsma J, Dow R J F, Creating artificial neural networks that generalize[J].Neural Networks,1991,4 (1):67-79.
[4]Ash T.Dynamic node creation in back propagation networks[J].
Connection Science, 1989,1(4):365-375.
[5]梁化楼、戴贵亮，人工神经网络与遗传算法的结合：进展及展望[J].电子学报，1995，23（10）：194-200.
[6]陈志军，基于改进型遗传算法的前馈神经网络优化设计[J].计算机工程，2002（4）：120-121.
篇2
[关键词] 小生境遗传算法 神经网络 股票 预测
一、引言
股票和股票市场对国家企业的经济发展起到了积极的作用，如可以为投资者开拓投资渠道，增强投资的流动性和灵活性等。但股票价格的形成机制是颇为复杂的，股票价格既受到多种因素，诸如:政治，经济，市场因素的影响，亦受技术和投资者行为因素的影响，个别因素的波动作用都可能会影响到股票价格的剧烈波动。因此，股票价格和各影响因素之间很难直接建立明确的函数关系表达式。针对这一情况，将可有效处理非线性问题的神经网络引入到股票价格的预测中来，但神经网络收敛慢,易陷入局部极小点，出现振荡，鲁棒性差。所以有的学者用遗传算法(ga)来优化神经网络，这种神经网络可能获得个别的甚至局部的最优解,即ga早熟现象。本文引进能较有效地保持种群多样性的小生境遗传算法(nga),采用nga优化与用ga优化的bp网络权值进行对比,证实了nga的判别准确性和寻优能力。
二、小生境遗传算法优化的神经网络
1.bp神经网络
反向传播(bp)算法又称为误差逆传播校正方法，它是1974年p.werbos(哈佛大学)提出的。133229.CoMbp算法用来训练多层前馈神经网络,属于监督学习算法。bp网络具有结构清晰，易实现，计算功能强大等特点。因而是目前最常见，使用最广泛的一种神经网络。但是在实际应用中，传统的bp算法存在以下问题:收敛速度慢;若加快收敛速度易产生振荡；存在局部极小和平台问题;泛化能力差;隐节点数和初始值的选取缺乏理论指导;未考虑样本选择对系统学习的影响等。所以很多学者提出许多改进的方法，用小生境遗传算法优化神经网络权值的神经网络来预测股票价格。
2.小生境遗传算法
小生境遗传算法(iche genetical gorihm)的基本思想是:首先比较任意两个个体间的距离与给定值的大小，若该距离小于给定值，则比较其适应值大小。对适应值较小的个体施加一个较强的惩罚，极大地降低其适应值。也就是说，在距离l内将只有一个优良个体，从而既维护了群体的多样性，又使得各个体之间保持一定的距离，并使得个体能够在整个约束空间中分散开来。
3.神经网络连接权的优化
用小生境遗传算法可以优化神经网络连接权，神经网络结构，学习规则等，这里我们对神经网络的连接权进行优化，具体步骤如下：
（1）随机产生一组权值分布，采用某种编码方案对该组中的每个权值(或阈值)进行编码，进而构造出一个码串(每个码串代表网络的一种权值分布)，在网络结构和学习规则已确定的前提下,该码串就对应一个权值和阈值取特定值的一个神经网络。
（2)对所产生的神经网络计算它的误差函数，从而确定其适应度函数值，误差越大,则适应度越小。
（3)选择若干适应度函数值最大的个体,直接遗传给下一代。
（4)利用交叉和变异等遗传操作算子对当前一代群体进行处理，产生下一代群体。
（5)重复（2）（3）（4），使初始确定的一组权值分布得到不断地进化,直到训练目标得到满足为止。
这种由小生境遗传算法训练神经网络的方法也可以称做混和训练法。将基于小生境遗传算法的遗传进化方法和基于梯度下降的反传训练相结合,这种训练方法吸取两种方法的各自特点，所以收敛速度快。
三、股票价格预测仿真
根据经验选取输入预测日前四天开盘价、收盘价归一化后做为作为输入量，输出为第五天收盘价归一化数值。所以，本文采用神经网络结构为(8,5,1),即网络的输入层6个节点,隐含层9个节点,输出层1个节点。本文选择了“xdg 新梅（600732）”从2006年3月14日到2006年7月1日数据进行了仿真。利用matlab6.5编程，取70组训练样本和30组测试样本。如图（1）表示用遗传算法和小生境遗传算法对神经网络的权值进行优化时，误差曲线变化;从图中可以看出，小生境遗传算法收敛速度要快;图（2）表示股票预测值和实际值比较，从图中可以看出，遗传算法和小生境遗传算法对神经网络的权值的模型进行股票价格的预测，都能预测出股票走向趋势，但是，后者的预测精度显然要比前者高。
四、结束语
股票市场的不确定因素太多，股票的价格更是多种因素影响的集合体，是典型的非线性动力学问题。股票价格的中长期准确预测很难。本文建立了用小生境遗传算来优化神经网络模型来预测股票价格，结果表明，这种方法比单用遗传算法优化的神经网络收敛速度快，预测精度高。对于股票价格预测具有较好的应用价值。
参考文献:
[1]龙建成李小平:基于神经网络的股票市场趋势预测[j].西安电子科技大学学报(自然科学版.2005.3（32）:460-463
[2]王波张凤玲:神经网络与时间序列模型在股票预测中的比较[j].第27卷第6期武汉理工大学学报·信息与管理工程版.2005.9（27）:69-72
篇3
关键词：模糊神经网络；BFGS算法；混合遗传算法；收敛性
中图分类号：TP312 文献标识码：A 文章编号：16727800（2013）002005203
0 引言
对于模糊系统的识别应用，尤其是对模糊神经网络系统的识别问题一直困扰着许多研究学者。现有方法识别结果也很不令人满意，识别效率低下、耗时、可靠性差。例如，近年来用来识别模糊神经网络的方法主要包括传统BP算法和GA等。传统BP算法虽然具有较快的收敛速度，但不能避免陷入局部极小值的情况，得到非最优解且计算量大；利用GA能够得到较简洁的模糊神经网络结构，但其识别率较差、收敛速度慢。
考虑到基本遗传算法全局收敛性强而局部搜索性差，而一些经典优化算法的局部收敛性强、计算精度高，不少学者相继尝试将经典优化算法引入遗传算法，并取得了较好的效果。在如今各个领域广泛应用模糊神经网络理论与技术的大背景下，笔者提出一种精度高、识别率好的新方法――基于BFGS （BroydenFletcherGoldfarbShanno）的混合遗传算法的识别方法，并且通过仿真结果证明了其对模糊神经网络识别应用的高效性和准确性。
1 模糊神经网络概念及理论
1.1 模糊集与隶属度
定义1 设U为论域，一个定义在U上的模糊集合由隶属函数μf：U＼[0，1＼]来表征，这里的μf（u）表示u∈U在模糊集合K上的隶属程度。
定义2 设A和B是U上的两个模糊集合，则对所有的u∈U，A和B的交集是定义在U上的一个模糊集合，其隶属函数定义如下：μA∩B（u）=min{μA（u），μB（u）}
（1） A和B是并集，是定义在U上的一个模糊集合，其隶属函数定义如下：μA∪B（u）=max{μA（u），μB（u）}
（2） 对所有的u∈U，A的补集A是定义在U上的一个模糊集合，其隶属函数定义如下：μA=1-μA（u）
（3） 定义3 输入论域URn上的模糊集合与输出论域VR上的模糊集合，按照这个规则形式：R（l）：if is fl1 ，…，xn is fln then y is yl对应起来的规则构成为模糊“if-then”规则。其中fli和yl均为模糊集合。x=（x1，x2，…，xn）T∈U ，y∈V，x和y分别为输入和输出语言变量，l=1，2，…，M。其中，yl为系统根据此条规则得到的输出。
1.2 模糊神经网络结构理论分析
模糊神经网络是一种特殊的四层前馈网络，通过对非线性基函数的非线性组合实现输入到输出的映射关系。它的网络结构如图1所示。
从图1中可以清楚地看出，第一层为输入层；第二层为隶属度生成层，其作用为产生每个输入变量对所属的模糊子集的隶属度，并且一般在隶属度生成层中的隶属度函数使用高斯型函数exp-x-αβ2；第三层为推理层；第四层为输出层。图1中的ω表示第二层节点与第三次节点之间的链接关系，可以用一个矩阵来表示。这样我们可以将图1模糊神经网络系统输入与输出关系表示为：y=∑Mi=1yi∏Nj=1μij（xj）∑Mi=1∏Nj=1μij（xj）
（4） 如果现在要对这一系统进行识别，首先必须识别出此系统的前提参数α、β，结构参数ω和结论参数yi，其中的ω元素取值为0和1，分别表示节点相连和不相连。现阶段对于这类模糊神经网络的识别方法一般是基于BP算法和GA优化算法。但这两种算法都存在计算耗时、收敛速度慢、识别精度低等问题。因此，考虑使用一种改进的遗传算法来进行系统模式识别，即基于BFGS的混合遗传算法。
2 基于BFGS的混合遗传算法
在经典最优化方法中，若综合考察收敛速度、计算量、适用范围等算法性能，拟牛顿法是最出色的。在拟牛顿法中，又以DFP算法和BFGS算法最为著名。
BFGS算法计算步骤为：
（1）给定初始点x0，精度ξ，取H0=I，k=0；
（2）计算梯度gk-1=f（xk-1），若gk-1
Δxk-1（Δxk-1）T（Δxk-1）TΔgk-1 求出Hk-1，令pk-1=-Hk-1gk-1，由一维搜索求步长tk-1；
（3）令xk=xk-1+tk-1pk-1，k=k+1，转（2）。
BFGS公式不仅计算精度高，而且具有很好的数值稳定性。
本文提出将BFGS算法融入遗传算法，取长补短。基于BFGS的混合遗传算法（GA/BFGS）的流程如下：
（1）选取合适的群体大小Psiz、个体编码长度l、进化代数T、交叉概率Pc、变异概率Pm等参数，随机生成M个个体作为初始群体P（t），t=1；
（2）解码并进行选择（selection）运算；
（3）交叉（crossover）运算；
（4）变异（mutation）运算，产生新一代群体P（t+1）；
（5）按下列方式确定是否跳转BFGS算法：①计算目标函数的梯度及范数f（xt-1）和f（xt-1）；若目标函数为离散型，则用差商替代之；②若梯度或差商范数小于预先设定的阈值ξ，则转（6），否则转（2）；
（6）用BFGS算法进行优化；
（7）输出最优解和最优值。
基于BFGS的混合遗传算法的流程如图2所示。
3 BFGS混合遗传算法在模糊神经网络识别中的实现3.1 参数范围的确定
确定待编码参数的变化范围是使用遗传算法程序中的关键一步，有利于参数的编码和解码。对于模糊神经网络机构中的每一个输入变量xi，可以用如下方法确定其所属模糊子集的隶属函数参数的变化范围。现在就输入x1，来确定对应参数变化范围，由于其模糊划分数为M，可以首先对下列公式的隶属函数参数赋初值：α1＼[1＼]=x1min+|x1max- x1min|/2M
（5）
α1＼[i+1＼]=α1＼[i＼]+|x1max- x1min|/M
（6）
φ1（i）=（α1（i+1）- α1（i））/2
（7）
β1＼[i＼]=|α1（i）-φ1（i）|/ln2
（8）
β1（M）=|α1（M）-φ1（M-1）|/ln2
（9） 其中i=1，2，…，M-1。
由此，可以确定α1＼[i＼]的变化范围为：
＼[xmin，α1（1）+φ1（1）＼]；＼[α1（2）-φ1（2），α1（2）+φ1（2）＼]；…；
＼[α1（M-1）-φ1（M-1），α1（M-1）+φ1（M-1）＼]；＼[α1（M）-φ1（M），xmax＼]
β1＼[i＼]≥0变化范围为：＼[0，λ・β1（1）＼]；＼[0， ・λβ2（2）＼]；…；＼[0，・λβ1（M）＼]
其中，λ>1用来控制β1＼[i＼]的变化范围。同理，可以确定其它输入参数的变化范围。
下面再对结论参数yi的变化范围进行控制：yi∈＼[ε・ymin，ε・ymax＼]其中，ε>1用来控制yi的变化范围。
3.2 编码方案的确定
我们按图3所示的方案进行二进制编码，αi（j）、βi（j）和yi都采用k位，其结构参数W采用N・MN位。由于αi（j）、βi（j）和yi均采用了k位二进制编码，则它共有2k种状态。具体编码流程见图3。
又由于在前面我们已经确定了αi（j）、βi（j）和yi的变化范围，所以对于编码所处的第t（t=0，1，2， …，2k-1）种情形，它们所对应的值为：αi（j）|t=αi（j）-βi（j）+t・φi（j）2k-1
（10）
βi（j） |t=t・λβi（j）2k
（11）
yi|t=ε・ymin+t・ε・（ymax- ymin）2k
（12） 有了上面一系列的编码解码方案，下面就可以进行算法实现部分。
3.3 算法实现
Step1 初始化运算
设置进化代数计数器t0，设置最大进化代数为T（足够大），设置初始种群规模Psiz=200，并随机生成各个体作为初始群体P（t）。
Step2 选择运算
先将每个个体解码成对应的网络参数，并定义每个个体的适应度函数：Fi=f-∑lk=1|Y（k）-yi（k）|2
（13） 其中，Y（k）为对应于第k个样本的期望值；yi（k）为第i个个体对应网络在输入为第k个样本时的网络实际输出值；f为适当定义的足够大的正数，这样就可以得到每个个体的适应度函数值Fi，然后将每个个体以概率pi=Fi∑Psizi=1Fi进行选择复制。
Step3 交叉运算
将交叉算子作用于选择群体。即将选择群体中的每个个体两两配对，并按照事先确定的交叉概率Pc选择交叉点进行交叉操作。
Step4 变异运算
将变异算子作用于交叉后的群体。即按照事先确定的变异概率Pm随机选择（（MN+2・N・M）・k+N・MN）・Psiz・Pm位进行突变，这样就产生了新一代群体。
Step5 判定条件
若f（xt-1）
Step6 BFGS运算
用BFGS算法进行优化，最后输出最优解。
4 仿真分析
这里取一个经典的识别系统：y=（1+x0.51+x-12+x-1.53）2
（15） 我们规定输入x1，x2，x3的取值区间均为＼[1，8＼]，在此区间内产生130个数据对，其中65个用于训练数据对，65个用于测试数据对，并取每个变量在其论域上划分两个模糊子集。规定交叉概率Pc=0.96，变异概率Pm=0.004。αi（j）、βi（j）和yi采用了8位二进制编码，这样每个个体的编码长度就为184。进化1 000代后得到的系统参数和识别测试数据精度见表1。
从图4中可以很清楚地看出，在模糊神经网络的识别应用中，刚开始算法由于受到训练数据的干扰，识别效果都不是很理想。但GA/BFGS比GA识别速度快，且随着进化代数递增，GA/BFGS识别精度更趋于实际测试数据最优值65。这表明GA/BFGS在继承了传统遗传算法全局收敛性强这一优点的基础上，局部收敛性和收敛速度都得到了较好的提升，这主要得益于BFGS算法的加入。
5 结语
为了提高模糊神经网络的识别率和精确度，本文利用BFGS和GA混合的算法进行识别应用与仿真。从仿真结果来看，其识别效果较好，且混合算法对模糊神经网络具有一定的辨识能力。与其它识别算法相比，基于BFGS的混合遗传算法具有收敛速度快、识别精度高等特点，是一种应用于模糊神经网络识别的有效方法。
参考文献：
＼[1＼] M.M. Gupta and G.K. Knopf， Fuzzy neural network approach to control systems[C]. Uncertainty Modeling and Analysis，1990.
＼[2＼] T. Yamakawa. Pattern recognition hardware system employing a fuzzy neuron[C]. Fuzzy Logic，1990.
篇4
摘 要 遗传算法具有很强的全局搜索能力，但是容易造成未成熟的收敛，而径向基函数RBF神经网络的优势在于采用全局收敛的线性优化算法，唯一最佳逼近点唯一，二者结合的应用能弥补各自的缺陷。两种方法结合应用到核电厂安全管理评价领域，建立基于遗传算法和RBF神经网络的核电厂安全管理评价模型，对核电厂安全管理存在的风险进行评价，有助于核电厂安全管理人员及时发现风险，采取应对措施，对于降低核电厂安全管理风险，确保人民群众生命财产安全和社会环境安全都具有极其重要的现实意义。
关键词 遗传算法 神经网络 核电厂 安全管理评价
核电厂的安全管理评价是对核电厂的安全管理现状进行的评价分析。科学合理准确的评价可以对核电厂的日常安全管理提供指导，为科学的开展安全管理提升提供参考。
利用遗传算法对RBF神经网络进行优化，保证了并行处理规模较大信息的能力，发挥了概括、联想、类比、推理等综合处理数据的能力。因此常被用来处理复杂问题，并做出科学的预测。建立基于遗传算法和RBF神经网络的核电厂安全管理评价模型，既确保了对大规模数据的处理能力，又提升了安全管理评价的科学化水平，对于准确掌握核电厂安全管理现状，提升核电厂日常管理水平，有效保障企业员工的生命安全、国家财产安全和生态环境安全具有重要意义。
一、遗传算法和RBF神经网路原理
遗传算法于1975年，由美国的J.Holland教授提出。该随机化搜索方法借鉴了自然进化法则，即优胜劣汰、适者生存的遗传机制。该方法直接对结构对象进行操作；选用概率化的寻优方法，自动获取和指导优化的搜索范围。但该方法在实际应用中也存在部分局限性：因借鉴了优胜劣汰、适者生存的遗传机制，所以如果出现优势个体（局部最优解）时，就造成了过早收敛现象，也就无法搜索产生全局最优解；其次在经过多次重组演化后，容易丢失上一代的的基因片段，即同样造成无法得到全局最优值；再次传统的遗传算法通过杂交变异的手段，确定搜索空间，导致相似模式的数据种群占据优势，同样无法产生全局最优解。
RBF神经网络是一种前馈式神经网络，网络结构分为三部分：输入层、隐含层、输出层。它依据输入层少数的神经元（基础数据），利用隐含层（高效径向基函数），决定神经网络的输出层（预测数据）。隐含层（高效径向基函数），实际是通过利用高斯函数，执行固定的非线性操作指令，即将输入层（基础数据）映射到一个新的空间，通过输出层节点线性加权组合，输出形成结果。
输出函数为：
为隐含层神经元的输出， 为权值，二者的乘积累加和即为RBF神经网络的输出。输入层、隐含层相互连接，其中隐含层为一系列同一类型的径向基函数（高斯函数）[3]。RBF神经网络由高斯函数表示为：
其中，Ci代表了基函数的中心， 代表了函数的宽度参数。从上述公式中可以看出：高斯函数的径向范围与 函数的宽度参数成反比。在实际计算中，函数宽度参数 的确定一般采用自适应梯度下降法确定，而确定Ci 、 、w的取值也就确定了为隐含层神经元的输出 。
二、对RBF神经网路原理的优化
依据生物神经网络的机理建立基于RBF神经网络安全管理评价模型，通过在不同网络传递环节选取恰当的算法对模型进行优化改进，以此得到安全管理评价的优化模型。但是在应用过程中RBF神经网络关键函数基函数中心值、网络权值等难以得到最优解，因此选择遗传算法，利用其优势对神经网络模型进行优化完善。
（一）最优基函数中心值的确定
应用遗传算法进行数据编码。将学习样本进行编号：1，2，3，……，N，进而从样本中随机选择M个数据为一组中心矢量作为种群中的一个个体进行编码。如下所示，以第i个染色体为例，神经网络的m应度函数 为期望输出 和实际输出 之差的绝对值累加和的倒数：
从上一代中任意选取两个母体进行交叉以此获得两个子个体，再将两个子个体以一定的概率进行变异，染色体其他位的编号值用1，2，3，……，N，中任意值以一定的变异概率替换。将母体与子体进行比较从中选择优势个体即完成一次进化。以此方式循环迭代，直到个体达到给定最大代数或满足给定的精度，此时个体则为最优基函数中心值。
（二）最优权值w的确定
权值的优化是一个长期复杂的过程，实数编码值能够较好地反应现实情况，用一个数码代表一个染色体，一个染色体则代表一个X值；群体初始化，根据遗传算法的搜索范围将权值以 分布随机确定（-0.8，0.4，0.65，0.5）；选取适应度函数，将输出样本的平方作为适应度函数：
根据遗传操作原理，采用染色体交叉变异，选择交叉的概率Pn、变异的概率Pm。
U11=（-0.8，0.4，0.65，0.5），U21=（0.3，0.7，0.6，-0.8），交叉：U21=（-0.8，0.4，0.6，0.5）变异：U22=（-0.8，0.4，0.5，0.5）
三、安全管理评价模型的建立
依据核电厂安全管理评价指标，建立基于遗传算法和RBF神经网络的核电厂安全管理评价模型。其实现流程如图所示：
四、结语
本文建立基于遗传算法和RBF神经网络的核电厂安全管理评价模型，对核电厂安全管理存在的风险进行评价，有助于核电厂安全管理人员及时发现风险，采取应对措施，切实降低了核电厂安全管理风险，并为核电厂科学管理，安全管理提升提供参考和技术支持。
参考文献：
[1] 郭赞.基于遗传算法和RBF神经网络的铀尾矿库安全预警模型[J].绿色科技，2015.3：243-245.
[2] 魏艳强.基于RBF神经网络的公路货运量预测方法研究[J].天津理工大学学报，2008.2（1）：17-20.
[3] 徐杰.基于遗传算法的RBF神经网络优化及应用[J].信息技术，2011（5）：165-168.
篇5
Abstract： The artificial neural network has a strong nonlinear mapping ability， has been applied to various fields such as pattern recognition， intelligent control， image processing and time series etc.， in this paper， the heuristic improvement of BP algorithm was proposed aimed at the deficiencies of BP algorithms， and a common type of improvement was introduced aimed at the main drawback of the genetic algorithm through analysis and research on genetic neural network model and its algorithm.
关键词： BP算法；神经网络；遗传算法；改进
Key words： BP algorithm；neural network；genetic algorithm；improvement
中图分类号：TP39 文献标识码：A 文章编号：1006-4311（2012）34-0209-02
1 BP神经网络
1.1 BP神经网络概述 在神经网络模式识别系统中，应用最广泛的要算是BP网络，它是基于误差反向传播算法的一种具有非线性连续转移函数的多层前馈网络。由于多层前馈网络的训练经常采用误差反向传播算法，人们常把多层前馈网络直接称为BP网络。
BP算法可以小结为以下三个步骤：
①通过网络输入反向传播：
a0=p
am+1=fm+1（Wm+1am+bm+1），m=0，1，…，M-1
a=aM
②通过网络将敏感性反向传播：
sm=Fm（nm）（Wm+1）Tsm+1，m=M-1，…，2，1
③使用近似均方误差的BP算法更新权值和偏置值：
Wm（k+1）=Wm（k）-αsm（am-1）T
bm（k+1）=bm（k）-αsm
1.2 BP神经网络存在的问题 尽管BP网络有很多显著的优点，但也存在着一定的局限性。其主要问题如下：
①随着训练样本维数的增大，使收敛速度缓慢，从而降低学习效率。
②从数学角度上看BP算法是一种梯度最速下降法，这就可能出现局部极小值的问题，而得不到全局最优。
③网络中隐节点个数的选取缺乏理论指导，尚无明确的定义。
由于BP神经网络存在局部性，因此利用BP网络进行模式识别时，所得网络模型的参数容易陷入局部极小，因此需要对BP神经网络容易陷入局部极小的缺陷进行改进。
2 遗传算法
2.1 遗传算法概述 遗传算法（Genetic Algorithm——GA）正是以达尔文的自然进化论与遗传变异理论为基础的求解复杂全局优化问题的仿生型算法。该算法摒弃了传统的搜索方式，模拟自然界生物进化的过程，采用人工进化的方式对目标函数空间进行随机导向优化搜索。遗传算法求解问题的基本思想是：从问题的解出发的，将问题的一些可行解进行编码，这些已编码的解即被当做种群中的个体，每个个体实际上是染色体带有特征的实体；个体对环境适应能力的评价函数就是问题的目标函数；模拟遗传学中的杂交、变异、复制来设计遗传算子，用优胜劣汰的自然选择法则来指导学习和确定搜索方向；对由个体组成的中却进行演化，利用遗传算子来产生具有更高平均适应值和更好个体的种群，经过若干代后，选出适应能力最好的个体，它就是问题的最优解或满意解[1]。
2.2 遗传算法的缺陷及改进 遗传算法作为一种通用性好、鲁棒性强的新型优化搜索算法，为求解很多困难的问题打开了局面，但是在实际应用中，存在着：①早熟问题；②局部搜索能力差；③控制参数难以确定缺陷。
针对上述问题，目前已经提出的一些改进方法，概括起来主要有如下几种类型：
①改进遗传算法的使用技术或者组成成分，如选用适合问题特性的编码技术、优化控制参数等。
②采用混合遗传算法，即融合一些优化方法来提高遗传算法运行效率。如将遗传算法和模拟退火算法、爬山法等方法结合的混合遗传算法。
③采用非标准的遗传操作算子，如记忆算子、顶端增强算子等。
④采用动态自适应技术，在遗传过程中自适应的调整控制参数和编码精度，在保持种群多样性的同时保证遗传算法的收敛。
⑤采用并行遗传算法。
3 BP算法与遗传算法的结合
BP神经网络的学习是基于梯度下降法的，由于该算法搜索速度缓慢以及对初始值的依赖，导致存在局部最小值问题。而遗传算法作为一种具有较强全局搜索能力的算法，其搜索能够遍及整个寻优空间，因此容易接近全局最优解；且遗传算法有很强的鲁棒性，不要求目标函数连续可微，甚至不要求目标函数具有显函数形式，只要求问题可以计算[2]。因此将擅长全局搜索的遗传算法和具有很强局部寻优能力的BP算法结合起来，可以避免局部极小值问题并提高收敛速度，很快获得全局最优解。本文利用改进的遗传算法对BP神经网络同时进行权值和阈值的同步学习优化，提高算法的收敛速度和收敛精度，构造了一个能够获得待求问题满意解的三层GA-BP神经网络。
3.1 GA-BP神经网络的模型 GA-BP神经网络的基本构造思想就是先通过遗传算法在解空间中搜索到一个较优的网络形式，再利用BP算法在这个较优的解空间内定位最优解或满意解[3]；具体地说就是先通过遗传算法对最佳的网络权值和阈值做快速的全局性搜索，当群体收敛至全局最优解附近区域时，以群体中的最优个体作为BP算法的初始点，利用BP算法进行进一步的局部搜索，同步学习网络的权值和阈值。当几代内遗传算法进化的目标函数不再减小或目标函数小于预设值时，表示两种算法需要进行切换。由于在实际应用中，求得的网络目标误差函数往往为人们预先设定的一个满意值，因此利用这种GA-BP顺序寻优的方法是切实可行的。
3.2 BP算法与GA-BP算法的仿真比较 利用传统的BP算法及本文提出的GA-BP算法分别对两种算法的时间收敛曲线进行对比研究，考虑故障诊断问题。应用样本训练后的节点连接权值，向网络输入待诊断的样本征兆参数，计算得出网络的实际输出值，根据输出值的大小，从而确定故障的类别。
BP算法与GA-BP算法的训练误差曲线如图1和图2所示。
GA-BP算法训练后的总误差为0.000417。通过两个实验时间训练曲线可以得出，基于GA-BP算法的神经网络能够有效地实现故障预测数据的训练，具有较快的学习速度及一定适用性。
4 总结
本文针对BP算法训练多层前馈网络模式识别系统的缺陷，提出了结合遗传算法的BP改进算法——GA-BP算法，并建立了对应的模式识别系统模型。然后利用该模型对实际的问题进行了模式分类训练和测试，测试结果表明GA-BP算法有效克服了网络训练时容易陷入局部极小值，导致网络训练失败的不足。
参考文献：
[1]杨南达，李世平.遗传算法研究[J].兵工自动化，2008，27（9）：60～62.
篇6
【关键词】工程估算;神经网络;遗传算法
一、引言
工程项目建设前期，详细的项目信息尚未明确，工程造价具有较大模糊性。由于人工神经网络具有准确性高、非线性处理能力强等优点，已被许多学者应用到工程估算领域。但传统的BP神经网络收敛速度慢、易陷入局部极小，而采用遗传神经网络建立的工程估算模型，则可以利用遗传算法全局快速寻优的优势，有效解决上述问题。
二、模型介绍
1、 BP神经网络
人工神经网络是人工智能研究的一种方法，具有较强的非线性映射能力。其拓扑结构具有多层感知器结构，包括输入、输出层和若干个隐层。网络输入信息先通过输入层节点，向前传播到隐层节点，经过计算节点的激活函数后，将各个计算节点的输出信息传播到输出节点，最后得到最终输出结果。
所谓BP算法，即反向误差传递法，主要分为向前传播阶段和向后传播阶段。在向前传播阶段中，信息从输入层经过逐层的变换，传送到输出层。而后向传播阶段即根据期望输出计算反向误差，对权值进行修正，如果误差小于给定值或迭代次数超过设定值结束学习。BP神经网络具有优化计算能力，它可以在已知的约束条件下，寻找一组参数组合，使该组合确定的目标函数达到最小。但BP神经网路寻优的过程受初始点的选择影响，初始点如果靠近局部最优点而非全局最优点，就无法得到正确的结果，这也是其无法得到全局最优解的一个原因[1]。
2 、遗传算法
遗传算法（GA）是借鉴生物界自然选择和群体进化机制形成的一种全局寻优算法。在GA中， 将问题空间中的决策变量通过一定编码方法表示成遗传空间的一个个体，它是一个基因型串结构数据;同时，将目标函数值转换成适应值，用以评价个体的优劣，并作为遗传操作的依据。遗传操作主要包括三个算子：选择、交叉和变异。选择算子用来实施适者生存的原则，即把当前群体中的个体按与适应值成比例的概率复制到新的群体中， 构成池;交叉算子是从池中的个体随机配对， 然后将两两配对的个体按特定方式相互交换部分基因;变异是对个体的某些基因值按某一较小概率进行改变。从产生新个体的能力方面来说， 交叉算子是产生新个体的主要方法， 它决定了GA的全局搜索能力，而变异算子只是产生新个体的辅助方法， 但也必不可少， 因为它决定了GA的局部搜索能力。交叉和变异相配合，共同完成对搜索空间的全局和局部搜索[2]。
3 遗传神经算法
考虑到GA的全局搜索能力，采用GA对BP神经网络的初始权值和阈值进行优化。算法基本步骤如下[3]：
1）设定种群规模。随机生成设定规模的个体的初始种群，给定一个数据选定范围， 采用线性插值函数生成种群中个体的一个实数向量作为GA的一个染色体;
2）确定个体的评价函数。给定一个BP神经网络进化参数，将步骤（1）中得到的染色体对BP 神经网络权值和阈值进行赋值，输入训练样本进行神经网络训练，达到设定的精度得到网络训练输出值，以训练误差平方和作为种群中个体的适应值;
3）选择操作。基于适应值比例的选择策略对每一代种群中的染色体进行选择，选择概率为适应值与所有适应值之和的比值;
4）交叉操作。对群体进行随机配对，并随机设置交叉点位置，相互交换配对染色体之间的部分基因;
5）变异操作。随机产生变异点位置，依照某一概率将变异点的原有基因值取反;
6）将GA得到的最优个体分解为BP神经网络的权值和阈值，BP 神经网络预测模型经训练后， 输出预测值。
三、应用实例
为验证本算法在工程估算领域的有效性，特选取上海市建筑建材业市场管理总站的十个建筑项目的工程特征信息及造价指标进行分析。工程特征选取的是影响造价指标的七个关键因素，造价指标选取单方造价。具体数据如下表。
表一工程特征及造价指标表
地点
结构类型
建筑面积（m2）
建筑高度（m）
抗震烈度
建设年份
单方造价（元/m2）
1
1
7141
22.3
7
2009
4988.4
3
2
8580
39.2
6
2010
3115.3
2
2
2748
16.3
7
2010
2385.4
3
2
7675
22.8
7
2011
2750.5
1
1
18070
51.0
7
2007
2880.5
2
2
30489
53.7
7
2008
3773.0
1
1
65697
99.6
7
2008
2934.2
1
3
49900
76.7
7
2009
7396.4
3
1
51428
65.1
7
2010
3014.6
1
3
110577
208.0
7
2010
8124.8
其中地点分三类：内环（1）、外环（2）、外环外（3）;结构类型分三类：框剪（1）、框架（2）、钢框架-钢筋混凝土核心筒（3）。
10个项目样本中选7个作为学习样本，3个作为预测检验样本。采用Matlab软件分别构建一般神经网络和遗传神经网络模型，测试样本进行预测的结果如下：
表2 造价指标预测结果与误差分析
检验样本
实际值
BP神经网络
遗传神经网络
预测值
相对误差%
预测值
相对误差%
1
7396.4
8563.5
15.8
7920.0
7.1
2
3014.6
3353.2
11.2
3289.6
9.1
3
8124.8
7146.6
-12.0
7561.7
-7.0
平均相对误差
13.0%
7.7%
通过实验结果可以发现一般神经网络和遗传神经网络两个模型均能满足项目估算阶段20%的准确率要求，但相较而言，遗传神经网络模型预测精度要高于一般神经网络模型。此外，通过对比收敛过程（收敛过程图略）发现，后者收敛速度更快。因此遗传神经网络无论从全局搜索能力和收敛速度上都优于BP神经网络，更能满足工程估算指标预测的实际需要。
四、结论
针对BP神经网络在局部极小缺陷和收敛速度慢的问题，采用遗传算法进行改进，通过GA优化神经网络权值和阈值，实现BP神经网络的全局快速寻优，弥补了神经网络固有的缺陷。经两模型预测结果进行对比，验证了遗传神经网络具有更好的非线性拟合能力和更准确的预测能力。
参考文献：
[1]任谢楠.基于遗传算法的BP神经网络的优化研究及MATLAB仿真[D].天津师范大学，2014.
篇7
关键词：BP神经网络；Adaboost算法；遗传算法
中图分类号：F832.332文献标识码：A文章编号：1008-2670(2012)02-0012-08
收稿日期：2011-12-11
基金项目：国家社科基金资助项目“企业金融衍生业务风险测度及管控研究”（10BGJ054）。
作者简介：宿玉海(1964-)，男，山东潍坊人，经济学博士，山东财经大学金融学院教授，研究方向：国际金融；彭雷(1986-)，男，山东潍坊人，山东财经大学金融学院硕士研究生，研究方向：国际金融；郭胜川（1990-），男，山东安丘人，山东大学数学学院学生。
一、引言
商业银行的信用风险管理一直是人们关注的焦点，在引入工程方法进行信用风险的度量后，BP神经网络信用风险模型以其较强的逼近非线性函数的优势从众多方法中脱颖而出，其对于历史数据的模拟仿真和预测能力也显示出了独特的优势。但是，BP神经网络信用模型在处理较为复杂的财务数据时，对于数据指标在模型中获得的权值没有一个明确的标准，而是特别依赖于对于历史数据指标的选择，使得模型对于新样本的考察缺乏一个有效的动态权值变动，这就造成了模型在使用过程中的困难。
随着BP神经网络信用风险管理模型应用的增多，许多学者逐渐认识到BP神经网络信用风险模型在处理财务数据时存在的问题，采取一系列的措施对BP神经网络信用风险模型进行了改进，特别是对于权值设定的改进做了大量的工作。Back等［1］建议将遗传算法与神经网络结合起来协同工作，但没有实际讨论引入遗传算法后带来的实际效果；Piramuthu等［2］采用符号特征样本的技术处理输入数据取得了较为明显的效果，但是符号特征样本技术则存在较为主观的人为因素影响。国内学者在引进神经网络以后，也为神经网络模型的优化进行了卓有成效的努力。如许佳娜、西宝［3］采用层次分析法对神经网络模型的改进，以及郭英见、吴冲［4］采用DS证据理论将神经网络和SVM的输出结果进行的融合，都在一定程度上增强了神经网络模型的判别准确率，但他们在神经网络的权值修改上仍然没有找到很好的设定规则。
可以看出，许多学者在神经网络良好的泛化能力和模式识别能力上达成了共识，但对于神经网络中占有重要地位的连接权值的修正，没有给出一个较为恰当的标准。本文在探讨改进这一问题时，将遗传算法与Adaboost算法分别引入到BP神经网络信用风险模型中，通过两种模型对于相同的训练样本和预测样本的考察分析，比较两种方法的优劣，从而为BP神经网络信用风险模型的改进提供一定的参考。
本文结构安排如下：第一部分为引言；第二部分介绍BP神经网络信用风险模型并评价其缺陷；第三部分使用Adaboost算法以及遗传算法对BP神经网络信用风险模型进行算法寻优；第四部分则通过Matlab的模拟进行实证分析并比较实证结果；第五部分根据实证分析的结果得出相应的结论并探讨商业银行在应用过程中应注意的问题。
二、现有BP神经网络信用风险模型介绍
篇8
关键词: 隧道; 遗传算法; BP网络; 施工监控; 监测
中图分类号: TU7文献标识码: A文章编号: 1009-8631(2010)03-0079-02
智能计算理论也称为软计算(Soft Computing),是新发展起来的一门十分活跃和具有挑战性的领域,其主要研究对象可以归纳为:神经网络、遗传算法、模糊逻辑、概率理论、混沌理论等。软计算与传统的“硬计算”有本质的不同,其目的在于适应现实世界普遍的不精确性,其指导原则是开拓对不精确性、不确定性和部分真实性的容忍,以达到可处理性、鲁棒性、低成本性求解,土木工程面对的是工程岩土体,具有很大的随机性、模糊性、信息不完整,因而土木工程特别是特长隧道的许多问题通常具有复杂性、动态性和不可重复的高度非线性特点,问题涉及的变量多,且有噪声,传统分析方法常常面临着困难,而智能计算在处理这些问题方面具有优势。
一、BP神经网络模型及遗传算法[1, 2]
BP神经网络作为智能计算的一个重要组成部分,神经网络具有很强的非线性映射和自适应训练功能,特别是BP 网络近年来广泛应用于预测评估、模式识别等领域并取得良好效果。
BP网络模型处理信息的基本原理是:输入Xi通过隐层节点作用于输出节点,经过非线形映射,产生输出Yk,网络训练样本包括输入向量X和期望输出量t,网络输出值Y与期望输出值t之间的偏差,通过调整输入节点与隐层节点的联接强度取值Wij和隐层节点与输出节点之间的联接强度Tjk以及阈值,使误差沿梯度方向下降,经过反复训练,确定与最小误差相对应的网络参数(权值和阈值),训练即停止。经过训练的神经网络即能对类似样本的输入信息,自行处理输出误差最小的经过非线形映射的信息。当隐层神经元足够多时,这种结构可以保证网络以任意精度逼近任意的非线性函数。
遗传算法(genetic algorithm)是一种模拟自然进化过程搜索最优解的方法,具有群体寻优的增强式学习能力及全局性、并行性、快速性和自适应性。遗传算法的出现使神经网络的训练有了一个崭新的面貌,目标函数既不要求连续,也不要求可导,仅要求该问题可计算,而且它的搜索遍及整个解空间,容易得到全局最优解。可利用遗传算法优化神经网络的拓扑结构。
(一)BP神经网络模型的确定
1. 输入和输出神经元的确定。可利用多种方法对神经网络的输入参数进行分析,确定无相关性或相关性较弱的输入参数(节点),使之尽可能得少,以降低网络复杂度,减少网络训练时间。
2. 隐层单元的数量对网络影响较大,选择隐含层的单元数是神经网络设计最困难的部分之一。若隐层单元数过少,则网络的泛化能力较差;若隐层单元数过多,又使得训练时间增加,训练误差也不一定最佳。隐层单元数的选取目前尚无公认的理论来指导,一般采用试算法和经验性的公式来确定。最佳层隐节点数L可参考下面经验公式计算[1],本文用遗传算法来优化BP神经网络结构。
其中m为输入节点数;n为输出节点数;c介于1～10的常数。Berk和Hajela建议[3]:隐含层单元数应在(k+i)/2与k+i之间随机选取。其中k为输入单元个数;i为输出单元个数。
3. 选择训练样本,训练神经网络。
对系统的输入输出数据进行归一化处理,作为训练样本,训练网络系统。训练样本应尽可能地反映各种状态。神经网络的训练过程,即根据训练样本,对网络的联接权值和误差进行反复修正的过程。
4. 确定传递函数,一般选择非线形S型函数等。
二、应用实例
工程概况:横山特长隧道位于陕北黄土高原梁峁区,沟壑纵横、地形起伏、冲沟发育。隧道起迄里程为DK333+265～DK344+713,全线长11448m,设计为双线隧道。隧道最大埋深为283.68m,主洞开挖面积最大177.4m2,最小120.53m2,隧道通过的围岩主要为新黄土、老黄土、泥岩、砂岩以及砂泥岩互层。
工程地质特点,目前主要以泥岩、砂岩以及砂泥岩互层为主,层理较发育,基岩裂隙水,部分段落渗水呈泉眼股状流出、拱部滴水呈线。洞内砂岩呈黄褐色薄～厚层状与泥岩不等厚互层,细粒砂状结构,泥质胶结;泥岩呈灰黑色,泥质结构,含煤线或薄煤层,自稳能力差,强度较低,遇水易软化,薄层泥岩或薄层砂岩出现在洞室起拱线以上时容易产生掉顶、滑层、剥落、塌方等现象。
从以上可以看出,横山隧道地质情况复杂。在开挖之前的原始土体处于平衡稳定的弹性阶段。由于开挖成洞后围岩原有各质点间的应力平衡状态,受到扰动破坏,应力轨迹发生变化,产生相对位移与调整。岩性软弱、地质构造发育、岩性风化及地下水作用,使隧道开挖后,原有的应力场平衡状态遭到破坏,引发应力重分布;若再迭加其它不利因素,例如不利结构面组合、膨胀、崩解等物理化学作用,将出现塌方。所以必须强化施工过程中的监测。围岩变形时间序列数据中蕴含着系统演化的信息。在施工条件、施工方法不变的情况下,利用神经网络较强的非线性映射能力,对隧道实测位移变形值直接建模,以获得高度复杂和非线性的内在变形规律。本文采用上述遗传算法来优化神经网络,称为遗传神经网络,利用MATLAB7自带的神经网络工具箱和英国Sheffield大学的遗传算法工具箱,结合横山特长隧道施工的实例进行研究。
(一)顶拱下沉的遗传神经网络预测步骤
1. 样本的处理
样本的处理,一般隧道施工顶拱下沉变形有这样的特点:前期部分位移值变化较大,后期位移值变化较小。据此,笔者将数据转换到(0.1,0.9)区间。
1. 训练及测试样本
本文所采用数据为2007年10月11日至10月30日时间段,DK333+610断面,开挖的顶拱下沉位移监测数据,开挖时即埋设监测点进行监测。监测期内施工稳步进行,循环周期稳定,位移预测受意外因素干扰少,有利于直接以实测位移建模的可靠性。本文用前15天的相对位移值作为训练样本,见表一,用后四天的监测值作为测试样本,见表二。
(二)预测结果及误差分析
从测试样本的结果来看,其误差比较小,是相当成功的,最大的误差仅为1.15%,这在工厂上已经是相当不错,但这只是一个断面的拱顶沉降的预测。
三、结语
本文利用遗传算法的全局搜索特性,对变形预测的神经网络结构进行最优搜索,从而获得具有最优预测效果的遗传神经网络。采用遗传神经网络对隧洞施工顶拱变形的动态过程进行预测,解决了在常规采用的回归曲线预测法效果误差较大的问题,解决了在神经网络构建中根据经验公式和试算法确定神经网络结构和学习参数的困难,从而减少结构选择的盲目性。从以上数据表明遗传神经网络具有更佳的预测效果,对于围岩变形监测中异常情况可提前预报,提高预测的准确性,从而为变更设计、调整支护参数、调整施工工艺赢得宝贵的时间。
不足之处及后续要进行的工作,隧道是个三维空间结构,目前的施工监测的断面还属于二维空间的范畴,尚有许多工作要做;另外隧道地质情况复杂,各个断面上的地质条件有许多的差异,智能计算或神经网络的解决方案还有许多不足之处,尚需不然改进完善。
参考文献:
[1] 飞思科技产品研发中心.神经网络理论与MATLAB7实现[M].北京:电子工业出版社,2005.
篇9
关键词：生物滴滤塔 BP神经网络辨识 Levenberg-Marquardt算法 遗传进化训练
中图分类号：TP 文献标识码：A 文章编号：1007-9416（2013）08-0050-02
1 引言
污水处理设施排放出含有恶臭污染物的有害废气，是造成大气恶臭的主要挥发源之一，与传统的理化法相比，生物处理技术净化效率高，无二次污染，投资及运行成本低。
为了提高净化效率，需要建立对象的数学模型来分析各参数对净化效率的影响，文献1结合气-液两相流理论建立了生物滴滤塔的机理模型。本文利用生物滴滤塔装置降解低有机废气（以甲苯为例）的数据，建立对象的BP神经网络模型。并针对BP网络存在的问题，引入了Levenberg-Marquardt（LM）算法及遗传进化算法进行改进，实验表明此神经网络可以很好的模拟生物滴滤塔处理低浓度有机废气过程。
2 生物滴滤塔废气处理过程的神经网络模型
神经网络的基本单位是神经元，作用函数为，则每个神经元的输入输出关系为：
式中，是第k层第j个神经元的输出，是第k-1层第i个神经元连接到第k层第j个神经元的权值，为第k层第j个神经元的阈值，N为每层神经元的个数。
误差与信号反向，从后向前传播，在反向传播中修改神经元的阈值和权值。若采用BP算法训练网络，其迭代公式可表示为：
其中，代表当前的权值和阈值，代表迭代产生的下一次权值和阈值，η为学习速率，为当前误差函数的梯度。
对于生物滴滤塔来说，影响废气降解效率的主要因素为：培养液（循环液）流量、进口废气流量、pH值，把这3个影响因子作为输入，出口废气降解率作为输出，因此生物滴滤塔装置可以看成一个三输入单输出的非线性动态系统，网络模型结构如图1。
输入层3个节点，输出层1个节点，多次实验确定的节点数为9个时训练效果最佳。隐层的作用函数取：；输出层的作用函数取：。输入样本分别为：进口废气流量（Qg（m3/h）），甲苯浓度为：（800mg/m3）、培养液流量（QL（L/h））、塔内pH值；输出样本是甲苯降解效率。参数数据样本都是在实验稳态时测得。输入输出结果进行归一处理后，都处于[-1，1]范围，为保障网络的稳定性，学习速率取为0.05，期望误差为0.001，训练结果如图1。
由上图看出，常规BP算法，训练速度较慢，远大于期望的0.001，这样的速度没有实用价值。其改进算法分为两类，第一类是基于最优化理论的训练算法，Levenberg-MarquardtBP（LMBP）算法就是其中成功的改进算法，第二类启发性学习算法，包括弹性BP训练法，可变学习速率的梯度下降法等。
3 BP网络的优化训练算法
遗传算法通过模拟自然环境中的进化和遗传过称，形成一种全局自适应优化概率搜索算法。利用遗传算法优化BP网络的初始权重，可以在大范围内进行权重取值，提高峰值的映度。
遗传算法中最优解是模仿生物的进化过程，通过染色体之间的变异和交叉完成。染色体组成种群，遗传算子作用在种群，从而获得新一代种群。算法优化对象是染色体，变异、交叉、选择是遗传算法中常用的的法则2。
（1）变异：对种群中的个体，以一定变异概率将某个或某些基因值修改为等位基因。
（2）交叉：将种群内的个体搭配成对，以某个交叉概率交换它们的染色体。
（3）选择：根据个体的适应度，按一定规则，从第t代种群中选择个体遗传到下一代。
基于遗传算法的神经网络优化训练分成两个步骤：
（1）采用遗传算法优化BP网络初始权值，遗传算法训练BP网络的流程如图3。
（2）把（1）中得的权值作为初始权值，利用前面的LMBP算法修改网络权值。
4 实验仿真结果
用实验所得的数据对网络模型训练的结果如图4，图中将期望误差从0.001降到0.0001时，BP算法在设定迭代步数内达不到期望性能。如果训练初始点选取合适，LMBP算法能可以很快找到全局最优解，一旦初始点选不好，会使网络陷入局部极小点。引入遗传算法可以很好的解决此问题，使收敛率达到100%，对学习速率又不会有太大影响。
用实验所得的稳态数据做输入样本，塔内pH保持定为7，进气口废气流量为0.8m3/h，废气浓度为800mg/m3，培养液流量变化范围20L/h～70L/h，三种训练算法得到的网络输出如图5所示。
5 结语
LMBP算法收敛速度快，但容易陷入局部极小点。遗传算法能够使网络训练时跳出局部极小，通过用遗传算法对神经网络优化，既保证学习的速率，又能避免陷入局部极小点。实验结果表明GA-MBP算法收敛能力强，效果好。利用实验数据样本验证此算法得到的网络模型，与期望实验数据的比较发现，在生物膜滴滤塔废气处理过程中，采用神经网络模型比采用数学公式描述的数学模型仿真结果更好。
参考文献
[1]廖强，陈蓉，朱峋.生物膜滴滤床降解低浓度有机废气的理论模型[J].中国科学，2003.5，33（5）：435-442.
[2]喻宗全，喻晗.神经网络控制[M].西安：西安电子科技大学出版社，2009.1.
[3]吕柏权，李天铎.一种具有全局最优的神经网络BP算法[J].清华大学学报（自然科学版），1997，37（2）：32-34.
[4]Fei Han，Qing Hua Ling，De Shuang Huang. Modified constrained learning algorithms incorporating additional functional constraints into neural networks [J].Information Sciences， 2008（178）： 907–919.
篇10
关键词:数据挖掘；机械学习；学习算法；应用探讨
信息管理技术在各大企业中数据管理技术也被广泛利用,数据管理技术的广泛运用有利于企业内部职能部门之间的沟通联络。但是在使用的过程中还是有些不足之处,数据信息越来越多,这就会使数据分析具有一定的复杂性。
1完善GA-BP神经网络模型
本文就在传统的遗传算法的基础上提出了一种新的改进型遗传优化BP神经网络模型。这种神经网络模型对传统的这种神经网络模型在遗传算法的染色体结构和遗传算子两个方面进行了相关的优化,然后在进行BP神经网络结构参数改进的时候,采用了自适应交叉和变异概率,下面就对改进的过程进行了简要的分析说明。(1)设计染色体结构。控制基因和参数基因是上文所描述的新型染色体基因结构的两个表现形式,这种神经网络模型对传统的遗传算法的染色体结构和遗传算子进行了优化,从而对对BP神经网络结构参数进行改进。控制基因对BP神经网络结构参数的改进主要是对BP神经网络的隐含层节点数优化。另一种结构参数基因对BP神经网络的连接权值和阈值进行优化[2]。(2)对适应度函数进行设计,具体过程如下:在上述函数中,训练样本个数用n表示;训练数据的均方根误差用∫rmse表示,误差一般在0～1之间。(3)选择算子。从提出的被改进的遗传算法上来看,在进行型遗传优化BP神经网络算法在实现算子选取改进以常规适应值比例算法的时候经常采用最优个体保留方法,这样做会引发局部最小值等问题。(4)交叉、变异算子。采用单点交叉和基本变异算子是上文中提出的控制基因是改进型遗传优化BP神经网络算法的上层所采用的。下层参数基因所采用的是整体算数交叉和非一致变异算子。(5)自适应交叉、变异概率。上文中提出的改进型遗传优化BP神经网络算法的方式,在进行优化的时候可以对设计自适应交叉、变异概率,以此对遗传优化BP神经网络神经算法的机构和初始权重进行平衡优化。对设计分析的简要过如下,自适应交叉概率可以表示为∫avr表示种群的平均适应值,∫min表示种群的最小适应值,k1,k2通常在1.0上。上文中提出的改进型遗传优化BP神经网络算法的过程的主要几个步骤可以分为以下几点:(1)对相关的数据进行及时的统一优化处理。训练样本数据和测试样本数据是数据优化处理之后可分为的种类。(2)在对改进型遗传算法模型的基本参数进行设计的时候,可以用G来表示最大化代数,在设定的时候要考虑隐含层节点数对种群的规模N的有关规定。(3)在对种群上层个体进行优化的时候采用采用二进制编码,种群下层种群个体进行优化采用实数编码。(4)在确定BP神经网络结构参数的时候,可以采用对种群各个个体解码的形式进行。(5)对种群中适很好的个体,采用遗传操作的形式。(6)获得新的子群,可以对种群中的遗传个体使用自适应概率进行交叉、变异操作。(7)对BP神经网络结构隐含层节点、权值以及阈值等结构参数进行优化改进,进行不断的创新的过程就是对上下层的子群个体解码的优化。(8)进行(5)循环的要求有两个,就是在迭代步数达到了设定的最大值执行(5)循环,在最大个体适应度值满足要求的时候,也要进行(5)循环过程。(9)在确定最佳的BP神经网络隐含层节点数、阈值和连接权值等参数的时候,采用对适应值最佳的个体进行解码的形式。
2机械学习算法实例
下面就举出有关的例子对上文所提出的优化过程进行简要分析,下文所采用的实例是煤矿空压机的故障诊断系统,然后对改进型遗传优化BP神经网络算法进行有效的探索研究。(1)首先应该做好相应的准备工作,阅读相关的空压机的说明书,例如使用说明书和故障说明书等。在使用空压机的时候,还应该对使用过程中的经验进行积累,在使用结束后再对相关经验进行分析总结,空压机的故障类型以及故障是怎么来的,在进行数据整理的时候都要进行分析研究,及时的发现问题所在。煤矿空压机的故障诊断系统就是本文所采用的实例。通过相应的实验数据分析,煤矿空压机呈现出5种工作状态,用符号Y1-Y5表示,以此作为神经网络故障诊断模型的输出。Y1-Y5所表示的内容如下:Y1表示煤矿空压机正常的工作状态;Y2表示煤矿空压机冷却水系统出现故障的工作状态;Y3表示煤矿空压机体统出现故障的工作状态;Y4表示煤矿空压机轴承出现故障的工作状态;Y5表示煤矿空压机电路系统出现故障的工作状态。如果出现以上故障,根据相关的经验以及故障的了解,故障的表现形式可以分为10种,用符号X1-X10表示,即为神经网络故障诊断模型的输入。X1-X10分别表示:X1表示煤矿空压机排气量过低;X2表示空压机排气压力不足;X3表示空压机排气温度超限;X4表示空压机冷却水温度超限;X5表示空压机冷却水压力不足;X6表示空压机主机转速低限;X7表示空压机振动超限;X8表示空压机系统油温超限;X9表示空压机油压力不足;X10表示轴承温度超限。(2)空压机经过数据挖掘之后的故障诊断分析。通过对空压机可能出现的故障进行分析,为了看出新的神经网络的良好的性能,采用传统的遗传神经网络算法建立了煤矿空压机故障针对系统,在进行网络训练的时候应该采用相同的训练数据样本,在测试的时候也应该采用相同的测试数据样本。通过相应的实验可以看出,在经过569次迭代后改进型GA-BP神经网络算法就使得误差达到了设定范围内,但是如果采用传统的神经网络算法就没有那么好的效果,只有在进行2779次迭代才使得误差满足要求。由此可以看出,优化改进后的BP神经网络算法在各个方面上都有很好的效果,特别是网络的训练速度、收敛速度和收敛精度方面。改进型GA-BP神经网络算法在个方面都有比传统的算法要好。为了能够更加明显的看出效果,下面采用100组数据进行研究分析。从测试的结果可以看出,87.5%是传统的P神经网络的诊断正确率,诊断时间为564s,输出值存在一定的不稳定性,而上文中所提到的优化改进后的GA-BP神经网络的诊断正确率为98.2%,诊断时间为246s,输出值相对稳定,从这数据可以看出,改进后的效果明显比传统的BP神经网络算法要好的多。改进后的BP神经网络算法的错误率比较低,检测的准确率和速度都有提高,工作性能也有所提高。
3结语
在社会的不断发展进步的过程中,数据挖掘技术也在不断的创新,在社会中的运用也越来越广泛,发展速度也越来越快。本文就在传统的遗传算法的基础上提出了一种新的改进型遗传优化BP神经网络模型。这种神经网络模型对传统的神经网络模型在遗传算法的染色体结构和遗传算子两个方面进行了相关的优化,然后在进行BP神经网络结构参数改进的时候,采用了自适应交叉和变异概率,这样有利于各种数据的处理。
作者:冯琬婷 单位:辽宁省大连市辽宁师范大学
参考文献
