神经网络反向传播原理范文
时间:2023-10-31 17:59:54
导语:如何才能写好一篇神经网络反向传播原理,这就需要搜集整理更多的资料和文献,欢迎阅读由公文云整理的十篇范文,供你借鉴。

篇1
[关键词]有机碳含量评价 神经网络
中图分类号:TP183 文献标识码:A 文章编号:1009-914X(2015)45-0356-01
1 BP神经网络基本原理
BP神经网络,即误差反传误差反向传播算法的学习过程,由信息的正向传播和误差的反向传播两个过程组成。输入层各神经元负责接收来自外界的输入信息,并传递给中间层各神经元;中间层是内部信息处理层,负责信息变换,根据信息变化能力的需求,中间层可以设计为单隐层或者多隐层结构;最后一个隐层传递到输出层各神经元的信息,经进一步处理后,完成一次学习的正向传播处理过程,由输出层向外界输出信息处理结果。当实际输出与期望输出不符时,进入误差的反向传播阶段。误差通过输出层,按误差梯度下降的方式修正各层权值,向隐层、输入层逐层反传。周而复始的信息正向传播和误差反向传播过程,是各层权值不断调整的过程,也是神经网络学习训练的过程,此过程一直进行到网络输出的误差减少到可以接受的程度,或者预先设定的学习次数为止。
2 BP神经网络工作机理
2.1 正向传播
图中,表示神经元的输入,表示输入层与隐含层之间权值,为隐含层与输出层之间的权值,f()为传递函数,为第k个神经元输出。假设BP神经网络输入层有n个节点,隐含层有q个节点,输出层m个节点。
隐含层第k个神经元的输入:
经过传递函数f()后,则隐含层第k个神经元的输出:
其中f()为单调递增且有界,所以一定有最大值。
输出层第j个神经元输出:
2.2 反向传播
输入P个学习样本,通过传入网络后,输出,第P个样本误差:
式中:期望
全局误差E:
输出层权值的变化,通过调整,使得全局误差E最小,得出输出层神经元权值调整公式:
隐含层神经元的调整公式:
3 应用实例
选择AC,DEN,CNL,GR,PE,RD作为输入曲线。XX井的53个点的岩心数据,从中选出30个点作为训练样本,23个点作为预测,构建网络,对全井段处理。结果对比(如图3-1),发现神经网络计算的TOC比传统的法计算的TOC效果好。其中TOC_NN为神经网络预测TOC,TOC_DaltalogR_AC为法计算的TOC。
4 结论
BP神经网络预测TOC克服了常规解释模型的缺陷,不用选择解释参数,计算结果与解释人员经验无关,预测结果精度有较大幅度的提高。利用多种测井解释数据及岩心分析资料作为网络训练样本,通过网络的训练、学习,建立了BP网络TOC模型,并利用该模型预测该地区新井的TOC值,实验证明用该模型进行TOC预测是可行的。
参考文献
[1]杨斌.神经网络及其在石油测井中的应用[M].北京:石油工业出版,2005:111-115.
[2]罗利,姚声贤.神经网络及模式识别技术在测井解释中的应用[J].测井技术,2002.
篇2
关键词:BP神经网络;计算机实验室管理;评价指标分析
中图分类号:TP183 文献标识码:A 文章编号:1674-7712 (2013) 04-0088-01
一、BP神经网络
从本质上讲,BP神经网络算法是以网络误差平方和为目标函数,运用梯度法求目标函数达到最小值的算法。纠错原则是BP算法最为基本的一个原理,将网络输出的误差进行反向传播,运用梯度下降法,对网络的连接权值进行调整和修改,使其误差最小。在学习过程中,BP算法可以划分为两个阶段,一是前向计算,一是误差反向传播。在这里我们主要通过具体的来分析,假设一个两层的 BP神经网络,其输入为p,输入神经元有r个,隐含层内神经元有s1个,激活函数为F1,输出层内有神经元s2个,对应的激活函数为F2,输出为A,目标矢量为T,那么信息在进行正向传递时,具体的情况如下:
二、模型设计
其次是模型设计。BP神经网络的建立,在确定了相关指标体系以后,就需要将确定相关的结点数,如输入结点数、隐含结点数、输出结点数、每一层的结点数等,在起初建立时,需要根据初始网络参数,适当地调整网络结构,通过网络训练,使得整个学习过程更加稳定,与此同时,对于指定的误差进行调整,并且规定最大值,并且利用相关的测试数据来进行BP神经网络的优化处理,确定其达到设计的准确性与规范性,那么一个BP神经网络模型就建立起来了。第三是模型确立。对于模型的确立主要体现在三个方面,这里作简单分析,一是输入输出神经元个数确立,通常情况下,实验室管理指标主要有13个二级指标和4个一级指标,其中,这13个指标就是输入神经元的个数,同时将输出的神经元作业评价的结果,由于评价的结果只有一个,那么输出神经元的个数也只有1个。二是隐含神经元个数确立。
三、仿真分析
根据以上分析我们知道,BP神经网络算法是以网络误差平方和为目标函数,运用梯度法求目标函数达到最小值的算法。为此,对于仿真分析,需要根据纠错原则,确定网络输出的误差的反向传播,并且结合梯度下降法,优化网络的连接权值,调整和修改误差值,通过Matlab软件编程,构造BP神经网络,确定指标体系后,确定相关的结点数,设置权值,nntool中input的value设置,根据初始网络参数,调整网络结构,并指定的误差进行调整,利用相关的测试数据来进行BP神经网络的优化处理,确定其达到设计的准确性与规范性。
四、总结
总而言之,BP神经网络评价模型的建立,不仅可以促进实验室管理的规范化,而且有利于提高实验室日常管理水平,因此,要对其模型建立进行具体分析,优化其结构和和功能,最大限度发挥其价值和作用。
参考文献:
[1]李俊青,陈鹤年,严丽丽,季文天.基于BP神经网络的计算机实验室管理评价指标[J].实验室研究与探索,2011(04):71-73.
篇3
【关键词】BP神经网络;计算原理;煤矿生产;安全性;评价系统;应用;分析
在煤矿开采生产中,对于煤矿安全的评价主要是结合煤矿安全生产的相关控制原理以及要求标准,在煤矿开采生产中存在的风险和不稳定因素进行分析判断,以对于煤矿开采生产中不安全情况以及事故发生的可能性以及影响程度,同时进行相应的安全控制与解决措施的提供,以保证煤矿开采生产的安全与顺利实施。结合当前国内对于煤矿安全评价的研究状况,由于研究起步相对比较晚,因此还停留在理论研究上,对于实践研究的内容相对较少。此外,在进行煤矿开采生产的安全评价中,随着煤矿开采生产环境的变化,进行其安全评价应用的理论方法之间也会存在有一定的区别,其相关评价标准之间也有一定的不同,但是,结合煤矿安全评价的实际,其安全评价应用标准主要可以分为四种类型,即相关性安全评价标准以及类推评价标准、惯性评价标准、量变到质变的安全评价标准等。下文将在对于BP神经网络计算方法的原理分析基础上,结合煤矿安全评价的相关指标体系,对于基于BP神经网络的煤矿安全评价体系的设计实现进行分析研究。
一、BP神经网络法的计算原理分析
在实际计算应用中,BP神经网络属于一种前馈式的神经网络结构,在各种计算评价中应用相对比较广泛。通常情况下,比较典型的BP神经网络架构主要包括输入层以及隐含层、输出层三个结构层次,如下图1所示,为BP神经网络的结构示意图。
BP神经网络算法在实际计算应用中是一种自主学习与反馈的计算形式,它主要是借助梯度搜索技术对于输入层输入的样本进行搜索后,通过自主学习,以迭代计算方式对于输出值进行计算,同时通过与估计值方差之间的对比,以实现输出调整,满足实际的计算评价需求。值得注意的是,BP神经网络计算方法在自主学习的计算过程中,输入信号的传递是自上向下传递实现的,在计算过程中,如果计算得到的输出值和期望值之间的误差比较大时,就会以反向传播的方式,沿计算传递路线进行返回调整,以对于计算误差进行控制和减小。
二、基于BP神经网络法的煤矿安全评价系统分析
应用BP神经网络计算方法进行煤矿安全评价系统设计构建中,首先要结合煤矿开采生产中,对于煤矿安全产生影响的指标因素,在进行煤矿安全评价指标体系构建基础上,实现基于BP神经网络的煤矿安全评价系统设计。
1、煤矿安全评价指标体系的构建
以煤矿开采生产中的矿井通风安全评价为例,在进行该项安全评价指标体系的构建中,首先需要明白矿井通风系统安全评价指标体系反映煤矿通风系统的基本情况、主要特征和系统潜在危险状态。因此,根据矿井通风系统的安全性和经济性要求,煤矿安全评价指标体系被划分为4个一级指标和19个二级指标,如下图1所示。在根据上述指标因素对于煤矿的矿井通风安全进行评价中,需要用分级量化法把定性指标转换为定量指标,同时将每个指标划分为5级,分别表示安全、比较安全、一般安全、不安全和非常不安全,每一级都有一个数值和取值标准与之对应,安全评价过程中可以根据对象的具体情况确定相应的评价值。
2、基于BP神经网络法的煤矿安全评价系统
根据上述BP神经网络的结构与计算原理,应用BP神经网络法进行计算评价时,其具体计算步骤如下。
首先,设置初始权系W(0)为较小的随机非零值;其次给定输入输出样本对,计算网络的输出,其具体计算过程如下,设P组输入、输出样本为(1),则在第P组样本输入输出为(2),
在上示输出计算中,Iip表示的是第P组样本输入节点i的第j个输入;然后再进行BP神经网络目标函数的计算,假设Ep为第P组样本输入时的网络目标函数,则其计算公式如下(3)所示,
(3)
根据计算结果进行安全评价判断,如果,其中,ε表示预先指定的误差,并且ε>0,则算法结束。否则需要继续进行反向传播计算,也就是从BP神经网络的输出层按照梯度下降计算方式进行反向计算,并对于每层的权值进行调整。如下式(4)所示,为神经元j到神经元 i的联接权调整计算公式。 (4)
在上式中,η表示的是学习算子,为常值。
根据上述BP神经网络计算方法的安全评价计算步骤,结合上述建立的煤矿开采生产中矿井通风安全评价指标体系,就可以采用Matlab7.6.0编制BP人工神经网络程序,同时使用BP算法对BP神经网络进行训练和结果分析,然后用待预测样本对预测结果进行校验,以实现对于煤矿矿井通风的安全评价。在应用BP神经网络算法进行煤矿通风安全评价系统构建中,整理和分析煤矿通风系统原始数据,获得80个输入输出样本进行训练和预测,并用两个样本校验预测结果。进行样本校验中,通过调用BP神经网络算法的训练网络,进行训练参数设置情况下,对于训练步数以及训练时间进行设定,以进行计算训练。根据最终计算训练结果可以实现对于煤矿矿井通风的安全评价。
篇4
关键词:BP神经网络;非线性函数;拟合;收敛
中图分类号:TP18文献标识码:A文章编号:1009-3044(2012)27-6579-05
Nonlinear Function Approximation Based on BP Neural Network
ZHANG Bao-kun1, ZHANG Bao-yi2
(1.China Nuclear Control System Engineering Co.,Ltd, Beijing 100076, China; 2. Shenzhen Speedy-Tech Electronics Co., Ltd, Shenzhen 518004, China)
Abstract: This paper introduces the features and algorithm theorem of BP neural network, and deduces the update rules of the network weight based on a given BP neural network. According to several problems of BP neural network, suggestions are pro? vided for these problems. Applicability of BP neural network for nonlinear function approximation is verified by simulations, and the accuracy can be guaranteed.
Key words: BP neural network; nonlinear function; approximation; convergence
BP(Back Propagation)神经网络是1986年由Rumelhart和McCelland提出的,它是一种误差按反向传播的多层前馈网络,是目前应用最广泛的神经网络模型之一。BP神经网络具有非常强的非线性映射能力,能以任意精度逼近任意连续函数,因此在人工智能的许多领域都得到了广泛的应用。
通常,BP算法是通过一些学习规则来调整神经元之间的连接权值,在学习过程中,学习规则以及网络的拓扑结构不变。然而一个神经网络的信息处理功能不仅取决于神经元之间的连接强度,而且与网络的拓扑结构(神经元的连接方式)、神经元的输入输出特性和神经元的阈值有关,因而神经网络模型要加强自身的适应和学习能力,应该知道如何合理地自组织网络的拓扑结构,知道改变神经元的激活特性以及在必要时调整网络的学习参数等。[1]图1多层神经网络结构
图1中给出的多层神经网络输入层有n个神经元,隐含层有l个神经元,输出层有m个神经元。其中wij是输入层第i个神经元和隐含层第j个神经元之间的连接权值,wjk是隐含层第j个神经元和输出层第k个神经元之间的连接权值。对于输入层神经元,其作用函数取线性函数,即神经元的输出等于输入。隐含层和输出层神经元的输入分别是上一层神经元输出的加权和,且每个神
在以下仿真实例中,BP网络为有监督学习,训练输入样本为input=[1 2 3 4 5 6 7 8 9 10 11 12 13 14],输出样本output=[1 2 3 6 11 16 19 24 25 29 32 33 36 42],隐含层节点数为6,网络最大训练次数为1000次,学习率为0.005,输入层到隐含层的初始权值W1以及隐含层到输出层的初始权值均为-0.1至0.1范围内的随机数,仿真结果如下两图所示:图3 BP神经网络拟合误差曲线
图2中的虚线为BP网络对测试数据的拟合曲线。实验结果表明,BP神经网络能有效拟合非线性函数,若增加隐含层节点数则能进一步提高拟合精度,但是会加大计算量,影响训练速度。
本文首先介绍了BP神经网络的原理以及网络权值的修正规则,然后通过编程实现BP神经网络,并将之应用到非线性函数的拟合。实验结果表明,BP神经网络能很好的拟合非线性函数,参数的选择对网络的性能影响很大。
[1]何伟,谭骏珊,王楚正,等.BP神经网络的改进算法及应用[J].信息与电脑,2009(10):34-36.
[2]程森林,师超超.BP神经网络模型预测控制算法的仿真研究[J].计算机系统应用,2011,20(8):100-103.
[3]周永进,蔡惠华,尹逊震,等.改进的BP网络及其在数据预测中的应用[J].微计算机信息,2007,23(27):150-151.
[4]夏玫.BP神经网络泛化能力改进研究[D].太原科技大学,2009.
[5]王爽,张鹰,吕瑞霞.BP神经网络的算法改进及应用[J].电脑知识与技术,2009,15(4):933-935.
篇5
关键词:中药水提液;膜污染;BP神经网络;隐含层神经元;遗传算法
DOI:10.3969/j.issn.1005-5304.2017.04.023
中图分类号:R2-05;R284.2 文献标识码:A 文章编号:1005-5304(2017)04-0092-05
Study on Forecasting Ceramic Membrane Fouling in TCM Extracts Based on Improved BP Neural Network DOU Peng-wei, WANG Zhen, SHE Kan-kan, FAN Wen-ling (Institute of Information Technology, Nanjing University of Chinese Medicine, Nanjing 210023, China)
Abstract: Objective To prevent and treat of ceramic membrane purification of membrane fouling process of TCM extracts; To explore new methods of forecasting membrane fouling degree. Methods BP neural network model was improved. Methods to fast determine the optimal number of neurons in the hidden layer and fast algorithm for optimizing the weight and threshold of BP neural network were studied. Data of 207 groups of TCM extracts were under network training and prediction. Results Compared with the models of multiple regression analysis, basic BP neural network and RBF neural network, the error of the improved BP neural network model was less than that of the BP neural network model, and the mean square error was only 0.005 7. In addition, the improved BP neural network model performance was more stable. In the 20 random running experiments, the goal of the success rate achieved up to 95%. Conclusion The improved model has a good network performance, the fitting effect and prediction ability, and can forecast the fouling degree of membrane stably and accurately.
Key words: TCM extracts; membrane fouling; BP neural network; hidden layer neuron; genetic algorithm
中药水提液的纯化技术是中药制剂前处理中应用最多的工艺方法之一。陶瓷膜因具有耐高温、化学性质稳定、抗污染性强、机械强度高等优点[1],被广泛应用于中药水提液的纯化过程。然而,膜污染是制约陶瓷膜精制中药的关键问题。
膜污染是指由于被过滤液中的微粒、胶体离子、溶质分子与膜存在物理化学作用而引起的各种粒子在膜表面或膜孔内吸附或沉积,造成膜孔堵塞或变小并使膜的透过流量与分离特性产生不可逆变化的一种现象[2]。中药水提液组成复杂,是一种含有悬浮的固体微粒、胶体粒子和完全溶解溶质分子的复杂混悬体,在分离过滤操作时膜极易被污染,造成膜通量锐减[3-4]。目前,中药水提液陶瓷膜膜污染机理尚不明确,过滤过程缺乏系统性理论指导及有效的膜污染控制手段。
中药水提液陶瓷膜膜污染是多种复杂因素综合作用的结果,具有较强的不确定性,难以采用特定函数模型描述。要实现对膜污染的准确预测,需要建立合理实用的预测模型。BP神经网络是近年被广泛应用的一种模拟人脑神经系统结构和功能的人工智能方法,是一种解决非线性、不确定性问题的数学模型,具有连续传递函数的多层前馈人工神经网络,训练方式为误差反向传播算法,并以均方误差最小化为目标不断调整网络的权值和阈值,最终能高精度地拟合数据[5]。BP神经网络具有较强的学习和适应能力,适合针对中药水提液复杂系统建模,在处理具有非线性特点的中药水提液陶瓷膜膜污染预测问题方面,比一般的线性、非线性模型更有优势。
1 BP神经网络
1.1 拓扑结构
BP神经网络是按误差逆传播算法训练的多层前馈网络,通过训练样本来学习和存贮大量输入-输出模式映射关系,无需事先揭示及描述映射关系的数学方程。学习规则采用最速下降法,通过误差反向传播不断调整网络的权值和阈值,使网络的整体误差最小[6-8]。
BP神经网络的拓扑结构包括输入层、隐含层和输出层,其中可包含1个或多个隐含层。各层次的神经元之间形成全互连接,同层神经元之间无反馈连接,见图1。
1.2 基本原理及其缺陷
BP神网络由信号的正向传播和误差的逆向传播2部分组成[9]。设输入层神经元为P=[p1,p2,…pi],隐含层神经元为S=[s1,s2,…sk],输出层神经元为A=[a1,a2,…,aj], 表示输入层第i个神经元与隐含层第k个神经元之间的连接权值, 表示隐含层第k个神经元与输出层第j个神经元之间的连接权值;隐含层的激励函数为f1,输出层的激励函数为f2, 表示隐含层中各神经元的阈值, 表示输出层中各神经元的阈值。
1.2.1 信息的正向传递 输入层各神经元与隐含层各神经元之间以相应的权重连接,隐含层的第1个神经元 ,从输入层的每个神经元处得到输出值,加权求和 ,加上阈值 ,通过激励函数f1,得到该神经元的输出值为 。
输出层第1个神经元a1接收隐含层每个神经元输出值,并加权求和得 ,加上阈值 ,通过激励函数f2,得到输出层该神经元的输出值为 。
1.2.2 误差的反向传播 N个数据样本进入输入层正向传播,经过隐含层各神经元处理,传向输出层,得到实际输出值A,将实际输出值A与期望输出值T进行误差分析,比较并计算实际输出与期望输出的均方误差 。
如果MSE未达到精度要求ε,则进入反向传播过程,把均方误差信号MSE以梯度形式,按原来正向传递的通路逐层进行反向传播,并将误差信号MSE分摊给各层的所有神经元,从而获得各层神经元的误差信号MSEj(j=1,2,3),将此误差信号MSEj作为修正各连接权值和阈值的依据,并对其修改。
重复进行网络信息的正向传递和网络误差的反向传播过程,直至均方误差MSE达到精度要求或者训练达到最大迭代次数。
BP神经网络在实际应用中存在一些缺陷[10],其中在中药分析领域有2个较明显的缺陷:第一,BP神经网络的建模过程必须构造一定的隐含层结构,但尚无合适的方法确定隐含层的神经元数,而隐含层神经元数过少或过多都会造成模型预测结果不准确;第二,BP神经网络的初始权值和阈值是随机产生的,权值和阈值的取值情况又决定着数据拟合的效果,因此该模型具有不稳定性。
2 改进的BP神经网络模型
2.1 隐含层神经元数
利用区间估算方法快速确定BP神经网络隐含层神经元数。具有单隐层的BP神经网络模型能够映射所有连续函数,在不约束隐含层神经元数的情况下,单隐层的BP神经网络模型能够实现任意的非线性映射[11]。因此,本研究选用单隐层模型。
隐含层神经元数的确定是BP神经网络模型中非常关键和复杂的问题,目前尚无标准方法来确定最佳隐含层神经元数。如果隐含层神经元数过少,会使得BP神经网络性能不佳,不能产生足够的连接权组合来满足网络对样本的学习需求;如果隐含层神经元数过多,极易陷入局部最小值,达不到最优点,出现过拟合现象[12]。许多学者通过试凑法[13-15]归纳出了确定隐含层神经元数目的一些经验性公式,如 、 、 ,其中k为隐含层神经元数目,n为输入层神经元数目,m为输出层神经元数目,a为常数(一般a∈[1,10])。
实践表明,最佳隐含层神经元数常介于 和 之间,因此本研究采用区间估算来快速确定BP神经网络隐含层神经元数的方法。具体步骤:①构建一个单隐层的BP神经网络结构,网络输入层神经元数目为n,输出层神经元数目为m,初始隐含层神经元数目 ;②初始化BP神经网络,通过权值直接确定法[16]设置网络各层的连接权值、阈值,并设置精度要求ε;③网络训练,计算均方误差MSE;④若 ,隐含层增加1个神经元数目,返回步骤③,否则停止运算;⑤比较不同隐含层神经元数下的网络均方误差,选择最小均方误差所对应的隐含层神经元数作为最佳隐含层神经元数。
2.2 初始权值和阈值
针对BP神经网络存在的“网络初始权值和阈值随机性”问题,本研究采用遗传算法来优化BP神经网络的初始权值和阈值。遗传算法[17-18]是模拟达尔文的遗传选择和自然淘汰的生物进化过程的计算模型,是一种通过模拟自然进化过程搜索最优解的方法。遗传算法从1组随机产生的初始解(称为群体)开始搜索过程。群体中的每个个体都是问题的1个解,称为染色体;染色体在后续迭代中不断进化,生成下一代染色体。染色体的优劣通过适应度函数衡量。根据适应度的大小从上一代和后代中选择一定数量的个体作为下一代群体继续进化,直至发现最好的染色体,即问题的最优解。
遗传算法的目标是寻找所有进化代中能够使网络均方误差最小的网络权重,但由于遗传算法只能朝着使适应度函数值增大的方向进行,所以本研究采用均方误差的倒数作为适应度函数。当该适应度函数取得最大值时,BP神经网络获得最佳权值和阈值。计算公式: 。式中 表示第i条染色体的适应度值;MSEi表示根据第i条染色体确定的BP神经网络权值和阈值时预测值A与期望值T的均方误差。
利用遗传算法进行BP神经网络模型权值和阈值快速寻优的具体步骤:①通过编码方式生成初始种群;②设置适应度函数;③计算群体中所有个体的适应值;④选择适应度高的个体执行遗传操作;⑤若达到终止条件,则返回最佳个体,即BP神经网络的初始权值和阈值;若未达到终止条件,则以指定的最大遗传步数为终止计算准则。基于遗传算法的BP神经网络流程图见图2。
3 中药水提液陶瓷膜膜污染预测实验
3.1 实验数据
3.1.1 参数体系 根据膜科学原理和经验规律,中药水提液中的共性高分子、物理化学性质和阻力分布等情况会对膜过程产生影响,是引起膜污染的重要因素。考虑到实际测量的可行性,选择测定5种高分子物质(固含含量、果胶含量、淀粉含量、蛋白含量和鞣质含量)、6种物化性质(pH值、电导率、盐度、浊度、黏度、密度)及3种阻力分布特征量(膜自身阻力、浓差极化阻力和表面沉积阻力),建立中药水提液膜过程参数体系。
3.1.2 数据样本 根据中药水提液膜过程参数体系,通过实验测定了207组中药水提液数据,其中145组数据(70%)作为训练集,62组数据(30%)作为测试集。
本实验目的为通过对中药水提液的共性高分子含量、物化性质和阻力分布特征量的分析来预测膜污染度,因此输入向量为固含含量等14个属性值,输出向量为膜污染度,见表1。
3.1.3 数据归一化 由于输入向量的数量级相差较大,直接将原始数据输入BP神经网络进行网络训练将使网络性能和收敛性较差,因此需要对输入向量进行归一化处理,把数据限定在区间[0,1]。而输出向量的数值符合该区间,故无需进行归一化处理。数据归一化处理公式:X=(X0-Xmin)/(Xmax-Xmin)。其中X为归一化后的数值,X0为归一化前的原始数据,Xmax和Xmin分别为该属性原始数据的最大值和最小值。
3.2 预测模型
3.2.1 网络结构设计 根据BP神经网络原理,构建单隐层的网络模型。由于输入向量有14个属性元素,输出向量是1个属性元素,故设置网络输入层的神经元数为14,网络输出层的神经元数为1。采用“2.1”项网络隐含层神经元数的快速确定方法,估算出隐含层神经元数目区间为3~13。为了确定最佳隐含层神经元数目,设计对比实验比较不同神经元数目的网络误差,实验伪代码见图3,其中P、T、S、O分别为训练输入值、训练目标值、预测输入值和预测目标值。实验结果见表2。
表2表明,在其他条件相同的情况下,模型的隐含层神经元数目设置为9时,网络均方误差最小,模型的预测效果最佳,即最佳网络结构为14∶9∶1。
根据遗传算法原理设计优化模型。遗传算法的编码采用实数编码,编码串由4个部分组成:输入层与隐含层的连接权值、隐含层与输出层的连接权值、隐含层阈值和输出层阈值。设定种群初始规模为50,最大遗传代数为100,交叉操作采用单点交叉,变异操作采用均匀变异,交叉因子为0.6,变异因子为0.3。
3.2.2 预测结果分析 根据BP神经网络训练特点,设置网络结构的训练参数:BP神经网络的隐含层神经元激励函数采用S型正切函数,输出层神经元激励函数采用S型对数函数。应用模型进行网络训练和测试,具体预测结果见表3。
实验均方误差仅为0.005 7,表明基于改进BP神经网络的中药水提液陶瓷膜膜污染预测模型能够有效地对膜污染度进行预测。也证明中药水提液中的共性高分子、物理化学性质和阻力分布特征确实是影响膜污染的重要因素。
为分析模型的精度,将本研究实验结果与近年来中药水提液膜污染数据建模相关文献[19-21]进行对比,见表4。结果表明,与多元回归分析、基本BP神经网络和RBF神经网络比较,改进BP神经网络具有更好的泛化能力,拟合效果和预测精度均有较大提高。
3.2.3 模型性能评价 由于BP神经网络的初始权值和阈值是随机产生的,网络模型性能与其相关,也是随机变化的,因此为了对模型进行评价,令基本BP神经网络模型和改进模型均随机运行20次,分别考察达到预设目标的情况。设定平均相对误差为10%,即均方误差MSE为0.01,进行对比分析,见表5。
表5表明,改进的BP神经网络稳定性更佳,说明改进算法实现了结构、权值和阈值的同步优化,避免了BP神经网络初始化的随机性和盲目性,提高了计算精度和效率。
4 小结
本研究表明,基于改进BP神经网络的中药水提液陶瓷膜膜污染预测模型能够适应中药水提液陶瓷膜纯化过程中采集到的多维、非线性数据,能够稳定准确地预测膜污染度,为中药水提液陶瓷膜膜污染的预测和防治提供了有效方法。
参考文献:
[1] SISKENS C A M. Fundamental of inorganic membrane science and technology[M]. Holland:Elsevier Science B V,1996:619-639.
[2] 刘忠洲,续曙光,李锁定.微滤超滤过程中的膜污染与清洗[J].水处理技术,1997(4):3-9.
[3] 樊文玲,郭立玮,林瑛.不同预处理方法对陶瓷膜澄清中药水提液过程的影响研究[J].中成药,2008,30(11):1709-1710.
[4] 贺立中.药液超滤过程中的膜污染及其防治[J].膜科学与技术,2000, 20(5):49-54.
[5] 刘春艳,凌建春,寇林元,等.GA-BP神经网络与BP神经网络性能比较[J].中国卫生统计,2013,30(2):173-176.
[6] HOLLAND J H. Adaptation in natural and artificial systems:an introductory analysis with applications to biology,control, and artificial intelligence[M]. Cambridge:MIT Press,1992:89.
[7] 王元章,谴夯,周笛青,等.基于BP神经网络的光伏阵列故障诊断研究[J].电力系统保护与控制,2013(16):108-114.
[8] 张国翊,胡铮.改进BP神经网络模型及其稳定性分析[J].中南大学学报:自然科学版,2011,42(1):115-124.
[9] 郝晓弘,段晓燕,李恒杰.基于BP神经网络的迭代学习初始控制策略研究[J].计算机应用,2009,29(4):1025-1027,1031.
[10] 夏玫,陈立潮,王新波.一种提高BP神经网络泛化能力的改进算法[J].计算机技术与发展,2009,19(9):62-64,68.
[11] CHEN T, CHEN H, LIU R W. Approximation capability in C(Rn) by multilayer feedforward networks and related problems[J].IEEE Transactions on Neural Network,1995,6(1):25-30
[12] 范佳妮,王振雷,钱锋.BP人工神经网络隐层结构设计的研究进展[J].控制工程,2005,12(S1):109-113.
[13] 沈花玉,王兆霞,高成耀,等.BP神经网络隐含层单元数的确定[J].天津理工大学学报,2008,24(5):13-15.
[14] 褚辉,赖惠成.一种改进的BP神经网络算法及其应用[J].计算机仿真,2007,24(4):75-77.
[15] 张庆庆,贺兴时.BP神经网络结点数选取的改进方法及其应用[J].西安工程大学学报,2008,22(4):502-505.
[16] 张雨浓,李巍,蔡炳煌,等.切比雪夫正交基神经网络的权值直接确定法[J].计算机仿真,2009,26(1):157-161.
[17] 范青武,王普,高学金.一种基于有向交叉的遗传算法[J].控制与决策,2009,24(4):542-546.
[18] 庄健,杨清宇,杜海峰,等.一种高效的复杂系统遗传算法[J].软件学报,2010,21(11):2790-2801.
[19] 洪弘.数据挖掘技术在中药水提液膜分离中的应用研究[D].南京:南京中医药大学,2012.
篇6
【关键词】GPS;高程异常;BP神经网络;拟合模型
Research on the Models of GPS Height Fitting Based on BP Neural Network
Li Yongquan
【Abstract】International and domestic multifarious control nets in use of GPS’s positioning techniques are only to solve the horizontal coordinates, but the height still follow to use the geometric leveling.Therefore, The basic theory of neural network and algorithm of BP are described, Discuss the problem of GPS height fitting based on BP neural network by trials. BP neural network is a kind of nonlinear mapping for its inputs and outputs,BP neural network is a high precise method for translating height.
【Key words】GPS;height anomaly;back propagation neural networks; fitting models
1. 引言
GPS平面定位的精度目前已经可以达到毫米级,但相对于平面定位精度,GPS在高程方面的定位精度较低。 神经网络是一种高度自适应的非线性动力系统,神经网络的数学理论本质上是非线性数学理论,通过BP神经网络学习可以得到输入和输出之间的高度非线性映射,因此,使用神经网络可以建立起输入和输出之间的非线性关系。BP神经网络本身也是一种高精度的高程转换方法。
2. 神经网络的模型及BP算法
2.1 神经网络的模型
(1)生物神经元模型。神经元模型是基于生物神经元的特点提出的,人脑由大量的生物神经元组成,神经元之间互相有连接,从而构成一个庞大而复杂的神经元网络。神经元是大脑处理信息的基本单元,结构如图1。神经元由细胞体、树突和轴突三部分组成,其中突触是神经元之间的连接。细胞体是由很多分子形成的综合体,内部含有细胞核、细胞质和细胞膜。细胞体的作用是接受和处理信息。树突是细胞体向外延伸的纤维体,是接受从其他神经元传入信息的入口。轴突是神经元的信息通道,是细胞体向外延伸最长、最粗的树枝纤维体,也叫神经纤维。(2)神经元模型。神经元一般表现为一个多输入(多个树突和细胞体与其他多个神经元轴突末梢突触连接)、单输出(每个神经元只有一个轴突作为输出通道)的非线性器件,通用的结构模型如图2所示。
(3)神经网络模型。神经网络的神经元之间的互连模式有前向网络、有反馈的前向网络、层内有相互结合的前向网络和相互结合型网络四种。
前向网络神经元分层排列,组成输入层、中间层(隐含层)和输出层。每一层的神经元只接受来自前一层神经元的输入,后面的层对前面的层没有信号反馈。输入模式经过各层次的顺序传播,最后在输出层上得到输出。目前对前向网络得出的一致的结论是:甚至是单中间层网络,只要隐节点数目足够多,前向网络就可以通过训练学习样本,以任意精度逼近(或表达)期望目标。
2.2 神经网络BP算法
(1)BP(Back Propagation)网络模型结构。BP网络的结构如图4所示,BP网络具有三层或三层以上神经元的神经网络,包括输入层、中间层(隐层)和输出层。上下层之间实现全连接,而每层神经元之间没有连接。当一对学习样本提供给网络后,神经元的激活值从输入层经各中间层向输出层传播,在输出层的各神经元获得网络的输入响应。接下来,按照减少目标输出和实际输出之间的方向,从输出层反向经过各中间层回到输入层,从而逐层修正各连接权值,这种算法称为“误差反向传播算法”,即BP算法。
(2)BP算法的数学描述。BP算法基本原理是利用输出后的误差来估计输出层的直接前导层的误差,再用这个误差估计更前一层的误差,如此一层一层的反传下去,就获得了所有其他各层的误差估计。
BP网络学习规则的指导思想是:对网络权值和阈值的修正要沿着表现函数下降最快的方向――负梯度方向。
xk+1=xk-akgk(1)
其中xk是当前的权值和阈值矩阵,gk是当前表现函数的梯度,ak是学习速率。
三层BP网络,输入节点xi,中间层节点yi,输出节点zl。输入节点与中间层节点间的网络权值为wji,中间层节点与输出节点间的网络权值为vlj。当输出节点的期望值为tl时,模型计算公式如下。
中间层节点的输出:
yi=f(∑iwjixi-θj)=f(netj)(2)
输出节点的计算输出:
zl=f(∑jvljyj-θl)=f(netl)(3)
3. BP神经网络用于GPS高程拟合
3.1 山区高程异常拟合实例:以本溪GPS和水准资料作为样本来源,进行BP高程异常拟合。
通过山区高程异常拟合实例,对数据分析可以得到如下结论,学习样本数与测试样本数之比在1/4之间时网络稳定性较好。高程拟合的精度与学习样本数量有关,学习样本数越多,拟合精度就越高。
3.2 平原地区高程异常拟合实例:以某市D级GPS部分数据进行实验研究
通过平原地区高程异常拟合实例,对数据分析可以得到如下结论,学习样本数与测试样本数之比在 1/3 之间时网络稳定性较好。学习样本数对测试对象的精度也有着重要的影响,一般随着学习样本数的增多,中误差会有所改善。这主要是更多的学习样本就更能表述出所研究问题的一些基本特征,进而仿真的效果就能更好。
4. 结束语
重点研究基于BP神经网络的GPS高程异常拟合算法,详细介绍了人工神经网络基本理论,重点讨论了基于BP神经网络的GPS高程拟合,包括BP神经网络的基本原理、主要特点。分析了神经网络的BP算法,包括其数学模型、网络结构。构造了基于BP神经网络的GPS高程拟合模型,结合具体工程数据进行了神经网络性能分析。
参考文献
[1] 国家测绘局测绘发展研究中心.测绘发展研究动态[R].北京:国家测绘局,2008,8:1-7
[2] 李征航、黄劲松.GPS测量与数据处理[M].武汉:武汉大学出版社,2005,277-278
[3] 曹先革.基于人工神经网络的GPS高程异常拟合方法研究[D],北京:中国地质大学,2008
[4] 徐绍铨.GPS高程拟合系统的研究[J],武汉:武汉测绘科技大学学报,1999,24(4),11-15
[5] 阎平凡.人工神经网络与模拟进化计算[M],北京:清华大学出版社,2000,5-6
[6] 徐丽娜.神经网络控制[M].哈尔滨:哈尔滨工业大学出版社,1999,1-40
篇7
(西藏职业技术学院,拉萨 850000)
(Tibet Vocational Technical Collage,Lhasa 850000,China)
摘要: 在政府投资项目推行代建制的过程中,必须正确认识代建制模式下的风险管理工作的重要性,认清风险的来源,有效评估工程项目风险严重程度和整体风险水平是决策项目上马的先决条件。本文在阐述代建制项目进行风险评价的重要性基础上,结合政府投资代建项目的特征和国内工程的实践进行归纳总结,建立了共性的风险评价指标体系,提出了基于误差反向传播算法的BP神经网络评价模型,并通过算例验证了该模型的可行性,为实际工程项目进行风险预测、应对、规避提供决策支持,从而提高了政府投资项目的整体效益。
Abstract: In the process of government investment project implementing agency construction, we must understand correctly the importance of risk management under agency construction and recognize the risk source,so as to assess the severity of project risk and the overall level of risk effectively which is an essential prerequisite of decision-making project. On the basis of expounding the importance of project under agency construction carrying on risk assessment,combined with the characteristic of project under agency construction and the generalization of domestic engineering practice,this paper set up common risk evaluation index system,put forward the BP neural network evaluation model based on error back propagation. Besides this paper uses the BP neural network evaluation model in the really construction to draw a conclusion that the model is feasible and hope the model can provide the decision support for risk prediction、risk response and risk aversion in the really construction,so as to improve the whole efficiency of the government investment project.
关键词 : BP;神经网络;代建制;风险评价
Key words: BP;neural network;gent-construction;risk assessment
中图分类号:F283 文献标识码:A 文章编号:1006-4311(2015)19-0030-03
作者简介:谢亮(1982-),男,四川德阳人,讲师,工程师,一级建造师,造价工程师,硕士研究生,研究方向为工程管理。
0 引言
政府投资项目实行代建制,可以有效加强政府对投资项目的管理,规范投资建设秩序,建立投资责任约束机制,通过市场运作,选择有经验、讲信誉的专业化管理队伍,用法律和经济手段确立投资者和建设者之间的相互关系,有效保证资金的使用效益和施工质量。因此,本文在项目实行代建制的前提下,运用基于误差反向传播算法的BP神经网络评价代建制项目风险,通过建立代建制项目一般风险指标为引例,论证该方法在项目风险评价上的可行性、可操作性,为实际工程项目规避风险,降低工程成本提供理论依据,从而提高政府投资项目的社会效益和经济效益。
1 代建制项目风险评价的重要性
政府投资项目代建制作为有效的工程项目管理模式,推进代建制的实施必然要重视投资项目的风险管理,尤其是对投资项目的风险评价。风险评价是政府投资代建项目风险管理的关键步骤,是对一个项目整体风险水平做出合理评价的过程。在对投资项目风险因素进行识别之后,投资决策者在进行风险因素识别以后就需要分析其投资机会的潜在价值,判断项目在整个生命周期遇到的不确定性风险带来损失的程度,决策项目是否上马[1]。
因此,需要对项目面临的风险做出科学评价,并以此为依据制定相应风险应对规避措施,减少或降低项目在实施过程中带来的损失。由此可见,风险评价在项目中的重要性是不言而喻的。
2 建立误差方向传播神经网络评价模型
任何一个项目在实施过程中都具有不确定性,代建制作为政府投资项目建设推行的一种模式,具有打包式的形式,项目在实施过程中存在许多偶然事件。通过整理相关文献,目前关于代建制项目的风险评价研究较少,部分学者从理论上进行了研究,提出了不同的观点,Nigel John Smith, Min An等人[2],引入因子指数来组织和评估这些因素,并将其整合纳入风险评估的决策过程中。该文献提出了一种全新的风险评估方法,以应对建设行业复杂环境中的风险。同时根据模糊推理技术,提出了一种处理在施工过程中产生的不确定性和主观性的有效工具。Stephen Ward, Chris Chapman认为[3],目前所有项目风险管理的实施过程,都忽视了关于项目不确定性管理。该文献讨论了引起这种观点的原因,并坚决主张把注意力集中于不确定性上而不是风险,才能够提高项目的风险管理。同时提出了一种如何将项目风险管理的过程改进成便于应用不确定性管理观点的方法。孙少楠等人,研究了基于群组AHP代建制项目风险评价,认为利用群组层次分析的方法,来确定代建制项目风险层次结构中风险指标权重,从而来确定风险指标评价等级[4]。因此,本文在改进前人研究的基础上,通过误差反向传播算法建立BP评价模型,并以工程实例的形式来验证模型的科学性和合理性,从而为代建制模式下工程项目风险评价提供应用价值。
2.1 人工神经网络概述
人工神经网络(Artificial Neural Network)是模仿生物神经网络功能的一种经验模型,由大量与自然神经细胞类似的人工神经元互联而成的网络。其工作机理是根据输入的信息建立神经元,输入和输出之间的变换关系具有非线性特点,通过输入一定量的样本数据按照学习规则或自组织进行不断修正,把问题的特征反映在神经元之间相互联系的权值中,使输出结果和实际值之间差距不断缩小。所以,神经网络的输出层就是将给出解决问题的结果[5]。
2.2 BP神经网络算法流程
基于误差反向传播(Error back propagation, 简称BP)的神经网络是一种多层次反馈型网络,使用有导师的学习算法。而基于人工神经网络的多指标综合评价方法通过神经网络的自学习、自适应能力和强容错性,建立更加接近人类思维模式的定性与定量相结合的综合评价模型。
在本文采用基于BP算法来构造神经网络模型,选用典型的三层BP神经网络前馈型层次结构网络,由输入层,隐含层和输出层三部分组成。其中同层次神经元之间无关联,异层次神经元之间前向连接。在三层BP神经网络中,输入层含n个节点,代表神经网络的n个输入;输出层含l个节点,代表神经网络的l种输出;隐含层的节点数目m,可根据需要设置,具体相关函数参见文献[6-7]。
本文应用Matlab 7.0进行BP算法步骤如下:
2.3 建立评价指标体系
本文结合政府投资代建项目的特征,旨在建立一般意义上的风险评价指标体系,根据全面性、可比性、可操作性等指标设计原则,并考虑到模型的实际运用,建立了基本所有项目通用的、系统的、科学合理的代建制项目风险评价指标体系。对于一个具体的项目而言,风险因素的增加、删减并不影响本模型的应用,评价指标体系如图1所示。
2.4 基于BP神经网络模型建立
由于目前针对代建项目风险管理的工程实例和历史数据较少,为了获得本文模型实证所需的样本数据,经过大量相关文献数据的收集整理,共收集到了6个实施代建制的项目风险数据,将实际数据进行了处理,处理后的样本数据见表1所示。
实际应用表明,合理确定网络层数与各层的神经元数,是成功应用BP神经网络模型的关键之一。一个三层的神经网络可以完成任意n维到m维的映射,即具有一个隐含层的神经网络能够以任意精度表示任何连续函数。因此,本模型设置一层隐含层,建模如下:
①输入节点:根据风险评价指标体系,将政治风险,经济风险,自然风险,决策风险,管理风险共5个作为BP模型的输入节点;②输出节点:输出节点对应评价结果,在本文建立的模型中,由于最终的结果是一个评价数值,即综合评价分数,代表不同的风险程度,因此选择1个输出节点;③隐节点:根据最佳隐节点计算公式,本模型隐节点数选择范围在3-12之间,利用表1样本数据进行训练,训练函数采用Traingdx函数,训练结果见表2所示。
误差水平和训练速度是考虑网络性能的两个重要指标。根据表2可知,隐含层节点数为11的BP网络对评价函数的逼近效果最好,误差最小,训练次数为115次。因此,本模型中隐含层的节点数目应该选择为11。因此,本文建立的BP神经网络模型为5×11×1的三层网络模型。
④训练函数:采用不同的训练函数对网络收敛速度和训练次数有影响,通过对traingdx、trainlm和traingd三个训练函数进行分析,trainlm学习算法具有收敛速度很快特点,训练结果、误差曲线分别如图2、图3所示。
可以看出,训练次数为6时,网络的逼近误差为7.42×10-5。六组样本数据的误差在区间(-0.016,0)内。因此,本文的评价模型决定采用trainlm对网络进行训练。
综上所述,最终确定风险评价神经网络模型的BP网络结构见表3所示。
3 应用算例
本文以西藏会展中心为项目背景,通过训练好的模型对该项目在实施过程中的进行风险评价,为项目制定风险应对措施提供科学依据,也提供了一种风险评价思路。
3.1 模型训练
通过运用6个样本输入和输出值对建立的BP神经网络进行学习训练,EMSE=7.42×10-5,总体误差满足要求,训练样本结果见表4所示。
3.2 西藏会展中心项目风险评价
将西藏会展中心项目原始数据经处理后的项目风险数据作为样本输入数据见表5所示,输入到训练误差满足要求的模型中,得到表6的输出结果,即风险评价等级。
根据表6输出的数据结果可以得出,模型训练比较稳定,期望输出0.6947,即为评价项目的风险等级,该项目评定结果为中风险。
4 结论
本文通过建立政府投资代建项目的风险评价指标体系,运用误差反向传播算法,建立代建制项目风险评价模型,通过对获得的实例工程风险评价样本数据,带入评价模型中进行自学习、训练,使得模型的自适应满足评价要求,最后以工程实例对该模型进了风险评价验证,论证了该模型的可行性和可操作性,通过该模型在工程实例中的应用,为工程规避风险,制定风险应对措施提供了科学指导,为企业减少了不可预见费用的支出,提高了政府投资项目的社会效益和经济效益,证明该模型在政府投资代建项目风险评价及控制中值得应用。
参考文献:
[1]Akintola S Akintoye, Malcolm J MacLeod. Risk analysis and management in construction. International Journal of Project Management, 1997, 15(1):31-38.
[2]Nigel John Smith, Min An. Application of a fuzzy based decision making methodology to construction project risk assessment[J]. International Journal of Project Management, 2007,25:589-600.
[3]Stephen Ward,Chris Chapman. Transforming project risk management into project uncertainty management[J]. International Journal of Project Management,2003,21:97-105.
[4]孙少楠,王爱领.基于群组AHP代建制项目风险评价[J].统计与决策,2009,1:172-173.
[5]张颖,刘艳秋.软计算方法.[M].北京:科学出版社,2002:66.
[6]袁曾任.人工神经网络原理及其应用[M].北京:清华大学出版社,1999:36-42.
篇8
(天津理工大学管理学院,天津 300384)
(School of Management,Tianjin University of Technology,Tianjin 300384,China)
摘要: 本文采用了一种将证据理论与BP神经网络相结合的信息融合算法,该方法集中了两种算法的优势使得计算结果更加准确,为众多商业银行带来切实的利益。
Abstract: This paper uses the information fusion algorithm by the combination of evidence theory and BP neural network, this approach focuses the advantages of the two algorithms to make the results more accurate and bring tangible benefits for many commercial banks.
关键词 : 物流金融;信用风险;BP网络;证据理论
Key words: logistic finance;credit risk;BP network;evidence theory
中图分类号:F252 文献标识码:A
文章编号:1006-4311(2015)06-0016-02
0 引言
中小企业作为中国经济快速发展的生力军,贷款难一直是制约其快速进步的最主要的因素。近年来物流业大发展也使得以运输、仓储为主的传统经营不再能满足其对利益的追逐。另外,物流金融作为商业银行的重要创新,成为其在激烈的同行业竞争中取胜的必然选择。综上,物流金融势必成为中小企业、物流企业、商业银行多方关注,谋求共赢的一种发展趋势。
最早的物流金融概念是由浙江大学的邹小芃和唐元琦于2004年提出。他们认为物流金融就是面向物流运营的全过程,应用各种金融产品,实施物流、资金流、信息流的有效整合,有效地组织和调剂供应链运作过程中的货币资金的运动[1]。作为一种委托关系,信用是其健康运作的基础,信用风险则成为商业银行所面临的首要风险。由于物流金融业务的特殊性,其表现出与传统信贷相比更为复杂的信用风险,传统意义的信用风险评价指标体系和评价模型将会失灵,建立一整套科学进步、基于物流金融融资模式的信用风险评价体系就显得尤为重要。
本文通过将信用风险的输入数据按物流金融业务特征进行重新开发分类,建立BP网络组。根据网络组的输出,得出对于各类信用度的基本概率分配函数,最后利用DS证据理论融合。将其应用于商业银行对物流金融的信用评估中,从而实现风险的最终决策,提高了风险度量的准确度,使得商业银行在新兴的物流金融业务下的操作风险有效监控得到提升。
1 商业银行物流金融信用风险体系指标
根据物流金融的运作特点,可将其风险来源归纳为来自融资企业、抵押物以及第三方物流企业三大方面。借鉴Altman,Haldeman和Narayanan(1977)提出的第二代“ZETA计分模型”中企业信用评价指标体系[3],将来自融资企业的风险细化为中小企业营运能力w1、盈利能力w2、偿债能力w3、及信用记录w4四大方面的十个具体指标,分别为w11持续经营、w12资产回报率、w13存货周转率、w21连续盈利、w22税后利润率、w23销售利润率、w31稳定存货、w32资产负债率、w33速冻比率、w41履约率。我国现阶段的物流金融业务主要集中于基于权利质押以及基于存货质押两种,因此质押物本身的质量也直接关系其风险大小。指标包括:所有权w51、市场性质w61、保险率w71三方面。作为重要参与方的物流企业为实现其对质押物的有效监管,企业规模w81及企业信誉w91也即成为影响物流金融风险的重要指标。
2 基于BP神经网络和证据理论的评价方法
2.1 BP 神经网络的基本原理
BP神经网络,是由Rumelhart 和 McCelland 等人(1986)提出的。其基本思想是,学习过程由信号的正向传播与误差的反向传播两个过程组成。正向传播时,输入样本从输入层通过隐含层传向输出层。若输出层的实际输出与期望输出不符,则转入误差的反向传播阶段,并将误差分摊给各层的所有单元。正向传播与误差反向传播周而复始,一直到网络输出的误差减少到可接受的程度,或预先设定的次数为止。
2.2 证据理论的基本原理
2.3 信用风险评估算法
为了保证神经网络的收敛和稳定性,本论文中将15个指标分为四组,建立4个神经网络NN1,NN2,NN3和NN4。神经网络的输出设计为(0.1,0.1,0.9)T、(0.1,0.9,0.1)T、(0.9,0.1,0.1)T,表示的信用风险级别分别为高风险、中度风险、低风险,记为A1,A2,A3。将输出归一化,得到向量(a′i1,a′i2,a′i3)T,记作V′i。令mi(Ai)=a′il,i∈{1,2,3,4},l∈{1,2,3},表示由NNi 得到的对信用风险级别Ai的基本信任度,即针对事件Ai的证据。之后,再将4个证据利用DS证据理论融合。就可以对信用风险进行评估,最初最终决策。
3 应用实例
本次数据采集共发出问卷200份,收回135份,有效问卷92份。将前91组数据分别训练神经网络。再将余下1个样本输入训练好的神经网络,归一化处理输出结果即得该证据对该命题的基本概率分配,而后利用DS证据理论将其融合得到最终优化结果。
由表2可知,中度风险类型O2的概率随着融合次数增多逐渐趋向于1,而其余两种风险类型则趋近于0,与表1中结果相比大大地提高了结果的准确性。
4 结论
本文所提出的基于神经网络和DS证据理论的物流金融信用风险评价模型,其优势表现为:此两种算法的结合,不仅克服了单一神经网络达到高精度需要迭代次数过多而造成实时性差的缺点,而且通过大量标准样本对神经网络的训练,使得DS证据理论对系统的决策更加准确。
参考文献:
[1]邹小芃,唐元琦.物流金融浅析[J].浙江金融,2004(5):80-83.
篇9
【 关键词 】 网络安全评价;神经网络;实践应用
1 引言
随着我国网络技术的不断发展,信息划时代已经到来,信息技术遍布于各个领域中,并且在不同领域中有很好的应用。互联网的使用在我国比较多,在改变人们生活方式的同时,也在很大程度上提高了人们的生活质量。
在此前提下,网络安全已经成为人们关注的焦点问题,需要网络研究人员采用神经网络对网络安全进行必要的评价和监控,挖掘出网络问题的不同因素。选用不同的方法来顺利实施安全评价,在很大程度要保证评价的科学性和真实性,由此神经网络技术的应用能够保证网络安全评价的客观性。
2 计算机网络安全评价原理
在计算机网络安全评价中,安全评价有很大的发展空间和效果,评价对象呈现出一个多元化趋势,不单单是对系统的评价。系统的组成要素并不单一,建立有自身的目标范围,由此可以说明网络的建设也是通过这种方法进行。系统虽然是人们开发的产物,但是在很大程度上系统之间也有很大差异,有关研究者需要在差异的前提下实现对内涵的了解,对其中出现的一些信息和数据进行必要的掌握和明确。在网络进行安全评价中,其中的关联性对研究对象来说起到了决定性的作用,主要分析了研究对象的变动情况。安全评价原理中最为重要的就是惯性原理,它是安全评价中尤为重要的一个组成部分,惯性原理以角度的变化对研究对象进行研究,在研究的过程中会产生很大的不间断性,根据这种不间断性可以对研究对象未来的发展方向进行明确,给予清晰的定位。网络安全评估原理还可以用质变和量变之间的关系来实现。
3 神经网络在计算机网络安全评价的应用
3.1 计算机网络安全
计算机网络安全的维护主要是存储中的不同数据,采用多种不同的方法对数据进行实时性的保护,一般情况下可以分为物理和逻辑两种不同的保护措施;在对网络安全进行分析时,需要在最大程度上确保数据不受风险影响,以完好的状态进行存储,使数据能够持续不断应用到实践中。
3.2 计算机网络安全评价体系
计算机网络安全评价体系能够在很大程度上对网络中的安全问题实施全方位的评价,在对安全评价体系建立的过程中,应在最大程度上对现实情况进行研究和考量,评价是实施必须要符合评价标准,在此基础上还需要对影响因素进行必要的选择来确保选项的全面性,只有这样可以使评价系统在网络安全评价中发挥一定的作用,对不同的影响因素明确之后才可以进行评价指标的确定。在对网络进行安全评价时,对指标的要求比较高,需要进行不同级别的划分。
4 计算机网络安全评价模型构建
4.1 BP神经网络机理
BP神经网络中的BP算法的传播是通过信号来完成,并且对传播方向进行有效的分析和判断,信号进行正向传播,数据需要从输入层传导到隐匿层,在传导的过程中应对数据进行必要的分层管理,然后通过输出层输出。如果数据传导和现实情况有明显差异时,可以断定数据处理在整个传递的过程中出现了某些问题,对于出现的问题必须寻找根源并对其进行解决。在此前提下,如果信号进行反向传播,能够在很大程度上使数据起到关键性的作用。在此过程中,使异常数据进行必要的传导,把差异平均分给各层面,在采取同一方法,把数据偏差降低到最低,想要把偏差降到最小需要对数据进行不断重复传导才能符合要求。
4.2 计算机网络安全评价模型设计
(1)输入层。BP神经网络的构建需要有不同的原则进行支撑,这就需要神经节点和评价指标相互对应,在由评价内容来分层限制评价指标,指标个数在很大程度上影响着节点数,也就是说指标数必须要和节点数相同。
(2)隐匿层。隐匿层中应用最为广泛的就是单隐匿层,在设计网络时需要确定节点数,因为节点数和网络功能有必然的联系,但是不能说节点数越高作用越大,如果某些层面的节点数增多会给网络造成不必要的问题,当然,节点数也要保持一定的数量,如果过少会大大影响容错性能。在进行网络设计时,应使实际状况和主观判断相互结合,对不同环节进行数字的表达。
4.3 计算机网络安全评价
计算机网络安全评价模型,对网络安全评价的具体步骤分为几个方面:(1)构建计算机网络安全评价体系;(2)使用粒子群优化算法优化BP神经系统,克服BP神经网络自身局限性。
优化方法:(1)将BP网络的目标向量、传递函数和结构等初始化;(2)对粒子群的初始速度、初始位置、动量系数、迭代次数、参数维数和规模等进行设置;(3)利用粒子群训练集训练BP神经网络,评价适应度值;(4)将每个粒子的历史,最好的适应度值与当前适应度值相比较,如果当前适应度值比历史最好的适应度值优,则将粒子当前适应度值保存,作为个体粒子历史最好的适应度值;(5)计算粒子的惯性权值。
(6)各个粒子速度和位置进行更新,每个粒子与粒子群之间的系统适应度值误差,应当分别记录;(7)对系统适应度值误差进行判断,当误差超过允许的最大迭代次数,或达到已经设定好的误差限值,结束训练。粒子的全局历史,最优位置就是BP神经网络的最优阈值和最佳权值。利用优化后的BP神经网络模型,对计算机网络安全进行评价。
5 结束语
由此可以看出,随着信息化时代的到来,网络运用越来越广泛,网络安全问题也是人们需要克服的一大难题,所以在对网络进行网络评价时应采用神经网络这一科学手段,降低网络的风险,加快网络的更好发展。
参考文献
[1] 李忠武,陈丽清.计算机网络安全评价中神经网络的应用研究[J]. 现代电子技术,2014,10:80-82.
[2] 郑刚.计算机网络安全评价中神经网络的应用研究[J].网络安全技术与应用,2014,09:55+57.
[3] 耿仲华.计算机网络安全评价中对于神经网络的应用探究[J].网络安全技术与应用,2014,09:87-88.
[4] 武仁杰.神经网络在计算机网络安全评价中的应用研究[J].计算机仿真,2011,11:126-129.
作者简介:
篇10
关键词:人工神经网络;概算;BP
中图分类号:TP183文献标识码: A
一、人工神经网络应用于建设项目概算的重要意义
(一)人工神经网络
人工神经网络就是由许多神经元互连在一起所组成的神经结构,把神经元之间相互作用的关系进行数学模型化就可以得到神经网络模型。人工神经网络是一种非常复杂的非线性的动态分析系统。它模拟人脑的神经功能分层由单个神经元非线性地、复杂地组合成一个网络系统。当某一问题的求解过程可描述为若干个有一定内在联系,又无法用解析法表达其内在关系的各个输入因子与输出因子的关系时,将输入、输出因子作为样本进入神经元网络结构,网络系统会对各个输入、输出因子的因果关系作一番认识和学习,建立起各神经元之间的连接强度(即权值)阀值。这样学习后生成的人工神经元网络系统,仿佛具有了人脑解决这一问题的技能。当输入一组新的参数它可以给出这个领域专家认为应该输出的数值。
(二)建设项目概算应用神经网络的必要性
电网建设工程造价是组成电网的各分项工程的价格总和,而各分项工程的价格则取决于其工程量的大小和单价的高低。以往工程造价的计算是由造价编制人员算出各分项工程量,分别乘以其单价。由于组成电网的分项工程数量多,工程量的计算非常繁琐,计算时间占造价计算总时间的90%以上,所以计算结果容易出现误差。这表明造价计算的重点和难点在于工程量的计算。
一个有丰富经验的造价师,根据工程类型、特征及其相关情况,参照以往经验和工程数据资料,就能大致概算出造价,而无需进行大量繁杂计算,而且经验越丰富,资料积累越多,格算的造价就越准确,模仿这种大脑思维模式,正是人工神经网络所擅长的。神经网络模型通用性、适应性强,它不但不排斥新样本,相反它会随着样本数的不断增加而提高自身的概括能力和预测能力,这正好满足了建立造价信息系统的要求--动态地、自适应地从众多已完工程中提取有用信息,进行预测并辅助决策,由于电网工程的单件性,一般不存在两个完全一样的工程,但许多工程之间存在着某种程度的相似性,造价估计分析的基本原理就是建立在电网工程的相似性基础上,对于某个欲估工程,首先从分析电网类型和工程特征入手,再从数目众多的同类已竣工的工程中找出与预估项目最相似的若干个工程,然后利用这些相似电网项目的造价资料作为原始数据进行推理,最后得到拟建电网的造价及其他有关数据。
二、BP网络
(一)BP网络算法
神经网络在目前已有几十种不同的模型,在人们提出的几十种神经网络模型中,人们较多用的是Hopfield网络、BP网络、Kohonen网络和ART(白适应共振理论)网络。其中BP网络是反向传播(BackPropagation)网络,它是一种多层前向网络,采用最小均方差学习方式,这是一种最广泛应用的网络。
BP算法的学习过程是由正向传播和反向传播两个过程组成。在正传播过程中,输入信息从输入层经隐含层逐层传递、处理,每一层神经元的状态只影响下一层神经元的状态。如果在输出层不能得到期望输出,则转入反向传播过程,将误差信号沿原来的连接通路返回,通过修改各层间连结权的值,逐次地向输入层传播,再经过正向传播过程,两个过程的反复运用使得误差不断减小至满足要求。其模型可以表示为:
单隐层BP网络有三部分组成:输入层,输入向量:
X=(x1x2,...,x1,...,xn)T
隐含层:
输出层:
期望输出向量为:
d=(d1,d2,...,dk...,dl)T
输入层到隐含层之间的权值矩阵用V表示:V=(v1,v2,...,vj,vm)T
隐含层到输出层之间的权值矩阵用W表示:W=(w1,w2,...,wk,...,wl)T
转移函数采用tansig函数:
F(n)=2/(1+exp(-2*))-1
准则函数(误差):
权值的调整量:�
;
反向传播计算公式,可得如下权系数学习规律:
(二)BP神经网络的利弊分析及相关建议
BP算法样本训练失败的可能性较大,原因有以下几点:
(1)从数学角度看,BP算法为一种局部搜索的优化方法,但它要解决的问题是求解复杂非线性函数的全局极值,因此,算法很有可能陷入局部极值,使训练失败;
(2)网络的逼近、推广能力完全取决于学习样本的典型性。而对学习样本的选取并组成训练集则是相当困难的问题。
(3)难以解决应用问题的实例规模和网络规模间的矛盾。实例规模与网络规模总是存在着很大差异,网络容量也是有着自己的局限性,当实例规模超出网络容量时,BP算法会失败。
基于前文所给出的BP网络技术存在的利弊现象,结合工程造价实际情况,个人认为,其弊端的解决方法可以概括为以下几点:
(1)由于BP网络技术在执行较为复杂的目标函数时会出现“崩溃”现象,即算法低效,函数图象错乱、超过网络容量等等。所以造价人员在选择需要用BP算法概算的工程时应该注意工程的复杂性,对于那些过于庞大、复杂的工程不宜采用BP算法,以免出现系统错乱。对于较为简单、较为精简的工程则可用BP算法进行工程造价的概算。同时,也应注意实例造价概算工程的规模与网络实际承载规模的大小,对于网络承载范围之内的,才宜采用BP算法。
(2)样本数据的采集非常重要。BP算法的网络预测能力是与训练能力呈正比的。因此,首先需要确定分解项目,分解项目应选择那些最能体现一个工程特征并且最能决定这个工程造价的关键因素,这样才能正确定位这个工程的造价。其次,选择的已建工程一定是要与待估工程有着较高的相似度。此处,可以进行相似度估测,查看已建工程每个分项的隶属度与待估工程隶属度的差异,差异过大的样本应予以舍去。
(3)针对BP算法的“过拟合”现象,造价中需要注意的是选择的样本数量不宜过大。以防BP算法网络学习了细节却丢失了最重要的骨架――样本内部的规律,从而不能得出满意的结果。
三、基于人工神经网络的送电线路工程造价概算
(一)送电线路工程造价估算模型建立
送电线路工程的造价受多个因素的相互影响,考虑下列因素作为影响着工程价格的主要因素,把它们列为神经网络的输入单元,如图l所示。设在某一电压等级下的送电线路,考虑某种地形、气象条件、架线回路、杆塔类型等基本因素的影响,把实际工程项目投资划分为工地运输、土石方工程、基础工程、杆塔工程、架线工程、附件工程等6个部分。根据测算出的每公里建筑安装费用,再加上其它费用与资金成本,得出每公里的单位静态投资造价,将这些指标作为神经网络的输出单元。
图1 图2
(二)工神经网络模型的建立和设计
BP网络模型结构的选择主要涉及到输入层、输出层、隐含层神经元数目的确定、学习算法的确定等。
1、神经元数目的确立
输人层:由上面送电线路工程概算体系结构的分析,按影响因素层次,可得到13项主要指标,也即是下面的输入神经元。
输出层:输出节点对应于评价结果,在笔者建立的模型中,产生了7个相关指标,分别代表着本体工程的6项投资金额和单位投资金额,因此选择7个输出神经元节点。
隐含层:隐含层神经元单元数的选择与输入输出单元的多少都有直接关系。
在实际操作中,可参考下面经验公式(1)确定。
n1=(1)
其中,m为输出神经元数;拓为输入神经元数;a为1~10间的常数,形成的人工神经网络示意图见图2。
2、输入输出向量
(1)输入向量
1)地形因秦
送电线路地形可能由5种地形组合而成,所讨论的某地区基本是丘陵和山地组成,因此选择它们作为2个输入神经元,以所占线路的百分比表示。
2)线型因素
主要包括导线和地线型号的选择,参考限额设计指标与实际采用的导线型号,对于110 kV线路,有LGJ―150/20、LGJ―185/25、LGJ一240/35、LGJ一300/35四种类型,依次选择上述导线类型,将对应量化值为1、2、3和4。在地线型号选择中,选取GJ一35、GJ一50,对于量化值为1和2,导线和地线型号量化值作为2个输入神经元。
3)平均档距
反映相邻杆塔问的距离作为1个输入神经元。
4)杆塔数目
铁塔数目和水泥杆数目对于造价影响重大,选择铁塔数和水泥杆数为2个输入神经元。
5)运距
它包括人力运距和汽车运距两部分,作为2个输入神经元。
6)土石方量
1个输入神经元。
7)金具
它包括挂线金具和拉线金具两部分,作为2个输入神经元。
8)绝缘子
1个输入神经元。
(2)输出向量
工地运输、土石方工程、基础工程、杆塔工程、架线工程、附件工程、单位静态投资。
参考文献