反向传播神经网络基本原理十篇

反向传播神经网络基本原理篇1

[关键词]人工神经网络；旅游物流；需求预测

[DOI]1013939/jcnkizgsc201538051

1引言

旅游物流对广西地区经济的发展至关重要，准确把握、预测旅游物流需求有助于有关部门制定合理的旅游物流规划、促进国民经济可持续发展、提高居民生活水平。国内学者通过一定的方法和模型确定了影响旅游物流能力的关键要素，为旅游物流需求的预测提供了一定的理论基础，而在物流需求预测方面也提出了很多如时间序列模型、灰色预测、回归分析等具有创新性和实践意义的方法。由于旅游物流具有的独特性和负责性使得这些模型及分析方法在前提条件、适用范围和侧重点的选取方面具有一定的困难，因此在实际应用中各有利弊。人工神经网络可以将定量或定性的信息等势的分布贮存于网络内的各神经元，有很强的鲁棒性和容错性，通过建立基于人工神经网络的预测模型，利用Braincell软件进行计算以期达到精确预测旅游物流需求的目的。

2旅游物流的需求界定

经过多年的发展，关于旅游物流需求的定义至今仍没有一个令各方满意的结论。物流服务贯穿了整个旅游活动过程中，旅游物流可以看作为了使旅游消费者获得更好地满足感和旅游体验，与旅游相关的主体提供让旅游消费者更为畅通流动的旅游服务，与此相应的旅游物流的能力指提供的旅游服务内容以及相关主体使用物流设施对旅游物流活动进行计划、组织、协调和控制的能力，到旅游物流的具体环节，可以从涉及旅游者的吃、住、行、购、游、娱等方面界定旅游相关主体运用物流设施为游客提供旅游服务的能力。文中对旅游物流需求的预测可以从往年的旅游物流能力方面进行预测，通过准确的预测旅游物流需求可以较好地规划未来年份旅游业发展方向，对物流设施和设备进行准确的投入，减少资源的浪费及设施投入不足的状况。

旅游物流能力是指旅游服务主体向旅游消费者从“吃、住、行、购、游、娱”6个方面提供服务的能力，旅游物流需求可根据这6方面来选取指标，但是旅游物流需求预测的准确性不仅受到旅游物流的独特性的制约，还受到一些客观性条件的影响。如物流统计制度不健全，目前，我国仍没有建立系统全面的物流统计制度，更没有涉及旅游物流领域；物流统计没有涉及物流活动的全过程；物流统计指标过于单一。此外，国内只有基本的货物运输量和货物周转量统计，其他与物流相关的指标没有公开的统计资料，也没有权威的统计方法和基础数据，致使物流需求预测不能通过直接指标来衡量需求规模的大小。

3基于神经网络的旅游物流需求预测模型的建立

神经网络具有非线性、曲线拟合能力、学习能力和抗干扰能力，是一种通用的非线性函数逼近工具。通过对BP神经网络的训练，特别适用于构造非线性预测函数，而且精度可达到预定的要求。

31预测领域中的BP神经网络模型简介

BP神经网络通过正向输入，反向传播误差不断迭代的学习过程，直到误差减到可以接受的程度。一般包括输入层、隐含层和输出层的单隐含层网络就能以任意精度表示并揭示任何连续函数所蕴含的非线性关系。其中：

（1）工作信号正向传播。输入信号从输入层经过隐含层，传向输出层，在输出端产生输出信号，这是工作信号的正向传播。在信号的正向传播过程中网络的权值是固定不变的，上一层神经元的只影响下一层神经元的状态，即正向影响。如果在输出层不能得到期望的输出，则转入误差信号反向传播。

（2）误差信号反向传播。网络的实际的输出与所期望的输出之间差值即为误差信号，误差信号由输出端开始逐层向前传播，即误差信号的反向传播。在误差信号反向传播中，神经网络的权值根据误差的反馈进行调节。通过不断地对权值的修正，使实际输出更加接近期望输出。

（3）预测神经网络流程。通过了解工作信号与误差信号的传播方向，可以清楚地了解预测神经网络的工作流程。预测开始时神经网络读入样本、权值，通过计算输入层的输入得出结果传递到输出层，在输出层进行计算，最后在计算输出值与期望值的误差。若误差小于确定值则计算结束，若误差大于确定值则继续回到前两层进行权值调整，把调整后的权值重新输入到模型中，直到误差小于设定的确定值。

本文应用Braincell神经网络软件来实现神经网络的计算与分析。

32BrainCell软件及实现

321BrainCell 神经网络基本原理

BrainCell 神经网络采用误差反向传播学习算法，算法从两个方面（信号的前向传播和误差的反向传播）反复进行迭代学习，与神经网络预测模式基本原理相同。

322BrainCell 神经网络实现步骤

（1）数据的预处理和后处理。为方便的计算减少误差，保证数据同一量纲，需要将数据归一化为区域[0，1]之间数据。在实际的预测模型中当数据接近0或1的时候训练效果会明显下降。因此，为了避免数据落入最大饱和区，保持数据的原有特征，根据经验将数据规范到[015，085]来进行修正。模型中采用反归一化处理输出数据。

（2）网络层数目的确定。由Kolmogorov定理可知，含有一个神经元隐含层的三层神经网络可以从任意精度逼近一个从输入到输出的映射关系，因此在Braincell神经网络中采用含有单隐层的三层神经网络[2]。

（3）网络节点的确定。输入层节点的多少与评价指标个数是相对应的。

（4）网络训练。假设训练样例是形式（x，y），其中x为输入向量，y为输出值。N为输入节点数，M为输出层节点数。从单位i到单位j的输入表示xij，单位i 到单位j的权值表示Wij。一是创建具有N 个输入单位，M 个输出单位的BrainCell 神经网络；二是用随机数（0 或1）初始化某些数字变量网络权值Wij；三是对于第k个训练样例（a，b），把入跟着网络前向传播，并计算网络中每个单元x的输出Qx，使误差沿着反向传播；四是对于每个输出单元u，计算它的误差项；五是对于每个隐含单元h，计算它的误差项；六是利用误差项更新调整每个网络权值；七是重复三到六点，直到完成指定的迭代次数或者是其误差值达到可接受的范围。

33神经网络的旅游物流需求预测模型的建立

331模型中数据指标确定

目前我国仍没有健全的物流统计制度，因此实际工作中收集旅游物流需求数据十分困难。这里采用间接指标法――利用与旅游物流需求相关的经济指标来建立旅游物流需求的经济指标体系，通过数学的方法进行总结与推导，确定旅游物流需求模型。

旅游物流需求是一种派生需求，这种需求的大小与其本身发展有着密切的关系。从宏观层面上考虑主要有内外两部分因素：旅游业自身发展的状况及外部环境的影响。从微观层面来说，旅游业自身发展的状况是旅游物流需求的关键因素。旅游业产值越高，旅游物流需求增长随之增加，反之亦然。由此，本文选取旅游总收入和接待人数作为预测旅游物流需求的指标。其次，影响旅游物流的其他关键因素就是旅游行业本身所投入的设施、人员、公路铁路旅客周转量等因素。根据旅游物流能力的理解从“吃、住、行、购、游、娱”等方面进行指标的选取，如“吃、住”方面使用餐饮住宿从业人数、星级饭店数目衡量；“行”使用公路、铁路旅客的周转量来衡量等；“游”则使用旅行社从业人数等方面来衡量。这些因素都对行业的产值有较大的影响。因此，在模型中可将这些相关经济指标作为旅游物流需求规模的影响因素。由此可选择如下输入层指标：星级饭店数X1、接待入境旅游者平均每人消费额X2、餐饮住宿业从业人数X3、旅行社从业人数X4、铁路旅客周转量X5、公路旅客周转量X6、旅游部门游船年末实有船数X7，旅游部门旅游客车年末实有数X8，共有8个。而把旅游业的年收入Y1与年接待入境旅游者人数Y2作为物流需求预测的目标。

332数据来源

本文选取的数据资料来源于广西壮族自治区历年统计年鉴、中国统计年鉴、中国旅游年鉴，如表1所示。根据样本数据选取原则，将2005年和2012年的数据作为网络测试样本，最后用训练好的神经网络预测2014―2016年的物流需求规模。

333广西旅游物流需求的BP人工神经网络模型

（1）样本数据的归一化处理。选取X1，X2，X3，X4，X5，X6，X7，X8作为广西旅游物流需求预测BP人工神经网络模型的输入，Y1，Y2为BP网络的输出。根据BP 的本身特点，对输入层数据进行归一化时，采用如下公式：y=log[JB（（]x[JB））]/10。对输出层数据则使用归反一化处理，公式如下：P=log[JB（（]tT[JB））]/10。

（2）网络节点的确定。根据构建好的评价指标体系，可以确定输入层的节点数为8，输出层的指标数为2。

（3）网络训练。以traindx作为训练函数，利用matlab计算。可知在最大训练次数为200次，目标误差为001，学习率设置为003，误差曲线收敛于目标001，进过45次迭代后，网络达到目标要求，训练误差图见下图。

训练误差图

通过设置的数据，使用Braincell软件对数据进行训练，选取全部数据作为样本数据组，2010―2013年的样本作为将预测样本，输入模型可得2010―2013年的预测值见表2。

据表3可以看出，预测效果较好，一般来说，对于经济指标的预测，误差能够控制在3%以内就算比较准确。因此，基于与旅游物流相关的其他经济数据来建立BP神经网络模型预测旅游物流需求有一定的实用价值。

4结论

根据人工神经网络理论建立的旅游物流需求预测模型，通过Braincell神经网络的自学习特征，运用traindx函数进行训练，在训练过程中对权值进行不断修正，误差比率控制合适的在范围内，使网络的实际输出向量逐渐地接近期望的输出值。最后把仿真的预测结果与真实量进行初步比较分析，得出的结果能够证明使用神经网络模型对旅游物流的预测精度较高。因此可以得出以下的结论：用BP神经网络建立模型，可以准确地把与旅游物流相关的经济数据与目标本身的需求量进行结合，可得到较为精准的旅游物流需求预测值。由此可以推断，人工神经网络作为高度的非线性体系，能够对经济系统中个变量之间的非线性关系进行高精度的预测，将其运用在物流领域中的应用具有更加广阔的发展潜力。

参考文献：

[1]王新利，赵琨基于神经网络的农产品物流需求预测研究[J].农业技术经济，2010（2）：64-66

[2]秦立公，韦金荣等基于BrainCell 的B2B 电子商务供应链协同绩效评价体系[J].中国集体经济，2014（15）：112-113

[3]张圣楠，郭文义，等基于MATLAB的BP神经网络的设计与训练[J].内蒙古科技与经济，2005（17）：96-98

[4]熊勋人工神经网络在环境质量评价和预测中的应用研究[D].武汉：华中科技大学，2009

[5]白平，陈菊红基于旅游物流能力的西部旅游发展研究[J].新疆大学学报，2013（41）：16-17

[6]秦立公，王东，等旅游景区物流能力优化研究[J].现代商业，2010（24）：47

反向传播神经网络基本原理篇2

（江苏科技大学电子信息学院，江苏镇江212003）

摘要：在实际交通环境中，由于运动模糊、背景干扰、天气条件以及拍摄视角等因素，所采集的交通标志的图像质量往往不高，这就对交通标志自动识别的准确性、鲁棒性和实时性提出了很高的要求。针对这一情况，提出一种基于深层卷积神经网络的交通标志识别方法。该方法采用深层卷积神经网络的有监督学习模型，直接将采集的交通标志图像经二值化后作为输入，通过卷积和池采样的多层处理，来模拟人脑感知视觉信号的层次结构，自动地提取交通标志图像的特征，最后再利用一个全连接的网络实现交通标志的识别。实验结果表明，该方法利用卷积神经网络的深度学习能力，自动地提取交通标志的特征，避免了传统的人工特征提取，有效地提高了交通标志识别的效率，具有良好的泛化能力和适应范围。

关键词 ：交通标志；识别；卷积神经网络；深度学习

中图分类号：TN911.73?34；TP391.41 文献标识码：A 文章编号：1004?373X（2015）13?0101?06

收稿日期：2015?01?09

基金项目：国家自然科学基金面上项目（61371114）

0 引言

随着智能汽车的发展，道路交通标志的自动识别[1?3]作为智能汽车的基本技术之一，受到人们的高度关注。道路交通标志识别主要包括两个基本环节：首先是交通标志的检测，包括交通标志的定位、提取及必要的预处理；其次是交通标志的识别，包括交通标志的特征提取和分类。

如今，交通标志的识别方法大多数都采用人工智能技术，主要有下述两类形式[4]。一种是采用“人工特征+机器学习”的识别方法，如基于浅层神经网络、支持向量机的特征识别等。在这种方法中，主要依靠先验知识，人工设计特征，机器学习模型仅负责特征的分类或识别，因此特征设计的好坏直接影响到整个系统性能的性能，而要发现一个好的特征，则依赖于研究人员对待解决的问题的深入理解。另一种形式是近几年发展起来的深度学习模型[5]，如基于限制波尔兹曼机和基于自编码器的深度学习模型以及卷积神经网络等。在这种方法中，无需构造任何的人工特征，而是直接将图像的像素作为输入，通过构建含有多个隐层的机器学习模型，模拟人脑认知的多层结构，逐层地进行信息特征抽取，最终形成更具推广性和表达力的特征，从而提升识别的准确性。

卷积神经网络作为深度学习模型之一，是一种多层的监督学习神经网络，它利用一系列的卷积层、池化层以及一个全连接输出层构建一个多层的网络，来模仿人脑感知视觉信号的逐层处理机制，以实现视觉特征信号的自动提取与识别。本文将深层卷积神经网络应用于道路交通标志的识别，通过构建一个由二维卷积和池化处理交替组成的6层网络来逐层地提取交通标志图像的特征，所形成的特征矢量由一个全连接输出层来实现特征的分类和识别。实验中将加入高斯噪声、经过位移、缩放和旋转处理的交通标志图像以及实际道路采集交通标志图像分别构成训练集和测试集，实验结果表明，本文所采用的方法具有良好的识别率和鲁棒性。

1 卷积神经网络的基本结构及原理

1.1 深度学习

神经科学研究表明，哺乳动物大脑皮层对信号的处理没有一个显示的过程[5]，而是通过信号在大脑皮层复杂的层次结构中的递进传播，逐层地对信号进行提取和表述，最终达到感知世界的目的。这些研究成果促进了深度学习这一新兴研究领域的迅速发展。

深度学习[4，6?7]的目的就是试图模仿人脑感知视觉信号的机制，通过构建含有多个隐层的多层网络来逐层地对信号特征进行新的提取和空间变换，以自动学习到更加有效的特征表述，最终实现视觉功能。目前深度学习已成功地应用到语音识别、图像识别和语言处理等领域。在不同学习框架下构建的深度学习结构是不同的，如卷积神经网络就是一种深度的监督学习下的机器学习模型。

1.2 卷积神经网络的基本结构及原理

卷积神经网络受视觉系统的结构启发而产生，第一个卷积神经网络计算模型是在Fukushima 的神经认知机中提出的[8]，基于神经元之间的局部连接和分层组织图像转换，将有相同参数的神经元应用于前一层神经网络的不同位置，得到一种平移不变神经网络结构形式。后来，LeCun 等人在该思想的基础上，用误差梯度设计并训练卷积神经网络[9?10]，在一些模式识别任务上得到优越的性能。

卷积神经网络本质上是一种有监督的深度学习算法，无需事先知道输入与输出之间精确的数学表达式，只要用已知的模式对卷积神经网络加以训练，就可以学习到输入与输出之间的一种多层的非线性关系，这是非深度学习算法不能做到的。卷积神经网络的基本结构是由一系列的卷积和池化层以及一个全连接的输出层组成，可以采用梯度下降法极小化误差函数对网络中的权值和阈值参数逐层反向调节，以得到网络权值和阈值的最优解，并可以通过增加迭代次数来提高网络训练的精度。

1.2.1 前向传播

在卷积神经网络的前向传播中，输入的原始图像经过逐层的卷积和池化处理后，提取出若干特征子图并转换成一维特征矢量，最后由全连接的输出层进行分类识别。

在卷积层中，每个卷积层都可以表示为对前一层输入图像的二维卷积和非线性激励函数，其表达式可用式（1）表示：

式中：Yj 表示输出层中第j 个输出；Y l + 1i 是前一层（l + 1层）

的输出特征（全连接的特征向量）；n 是输出特征向量的长度；Wij 表示输出层的权值，连接输入i 和输出j ；bj表示输出层第j 个输出的阈值；f (?) 是输出层的非线性

1.2.2 反向传播

在反向传播过程中，卷积神经网络的训练方法采用类似于BP神经网络的梯度最速下降法，即按极小化误差的方法反向传播调整权值和阈值。网络反向传播回来的误差是每个神经元的基的灵敏度[12]，也就是误差对基的变化率，即导数。下面将分别求出输出层、池采样层和卷积层的神经元的灵敏度。

（1）输出层的灵敏度

对于误差函数式（6）来说，输出层神经元的灵敏度可表示为：

在前向传播过程中，得到网络的实际输出，进而求出实际输出与目标输出之间的误差；在反向传播过程中，利用误差反向传播，采用式（17）~式（20）来调整网络的权值和阈值，极小化误差；这样，前向传播和反向传播两个过程反复交替，直到达到收敛的要求为止。

2 深层卷积神经网络的交通标志识别方法

2.1 应用原理

交通标志是一种人为设计的具有特殊颜色（如红、黄、白、蓝、黑等）和特殊形状或图形的公共标志。我国的交通标志主要有警告、禁令、指示和指路等类型，一般采用颜色来区分不同的类型，用形状或图形来标示具体的信息。从交通标志设计的角度来看，属于不同类型（不同颜色）的交通标志在形状或图形上有较大的差异；属于相同类型（相同颜色）的标志中同类的指示信息标志在形状或图形上比较接近，如警告标志中的平面交叉路口标志等。因此，从机器视觉的角度来分析，同类型中同类指示信息的标志之间会比不同类型的标志之间更易引起识别错误。换句话说，相比于颜色，形状或图形是正确识别交通标志的关键因素。

因此，在应用卷积神经网络识别交通标志时，从提高算法效率和降低错误率综合考虑，将交通标志转换为灰度图像并作二值化处理后作为卷积神经网络的输入图像信息。图2给出了应用卷积神经网络识别交通标志的原理图。该网络采用了6层交替的卷积层和池采样层来逐层提取交通标志的特征，形成的特征矢量由一个全连接的输出层进行识别。图中：W1i（i=1，2，…，m1），W1（j j=1，2，…，m2），…，W1k（k=1，2，…，m（n?1））分别表示卷积层L1,L3,…,Ln - 1 的卷积核；Input表示输入的交通标志图像；

Pool表示每个池采样层的采样池；map表示逐层提取的特征子图；Y 是最终的全连接输出。

交通标志识别的判别准则为：对于输入交通标志图像Input，网络的输出矢量Y = [y1,y2 ,…,yC ]，有yj = Max{y1，y2 ,…,yC}，则Input ∈ j，即判定输入的交通标志图像Input为第j 类交通标志。

2.2 交通标志识别的基本步骤

深层神经网络识别交通标志主要包括交通标志的训练与识别，所以将交通标志识别归纳为以下4个步骤：（1） 图像预处理：利用公式Gray= 0.299R +0.587G + 0.114B 将彩色交通标志图像转换为灰度图像，再利用邻近插值法将交通标志图像规格化，最后利用最大类间方差将交通标志图像二值化。

（2）网络权值和阈值的初始化：利用随机分布函数将权值W 初始化为-1~1之间的随机数；而将阈值b 初始化为0。

（3）网络的训练：利用经过预处理的交通标志图像构成训练集，对卷积神经网络进行训练，通过网络前向传播和反向传播的反复交替处理，直到满足识别收敛条件或达到要求的训练次数为止。

（4）交通标志的识别：将实际采集的交通标志图像经过预处理后，送入训练好的卷积神经网络中进行交通标志特征的提取，然后通过一个全连接的网络进行特征分类与识别，得到识别结果。

3 实验结果与分析

实验主要选取了我国道路交通标志的警告标志、指示标志和禁令标志三类中较常见的50幅图像。考虑到在实际道路中采集到的交通标志图像会含有噪声和出现几何失真以及背景干扰等现象，因此在构造网络训练集时，除了理想的交通标志以外，还增加了加入高斯噪声、经过位移、旋转和缩放处理和实际采集到的交通标志图像，因此最终的训练样本为72个。其中，加入的高斯噪声为均值为0，方差分别为0.1，0.2，0.3，图像的位移、旋转、缩放的参数分别随机的分布在±10，±5°，0.9~1.1的范围内。图3给出了训练集中的交通标志图像的示例。图4是在实际道路中采集的交通标志图像构成的测试集的示例。

在实验中构造了一个输入为48×48个神经元、输出为50 个神经元的9 层网络。网络的输入是像素为48 × 48 的规格化的交通标志图像，输出对应于上述的50种交通标志的判别结果。网络的激活函数采用S型函数，如式（2）所示，其输出范围限制在0~1之间。

图6是交通标志的训练总误差EN 曲线。在训练开始的1 500次，误差能迅速地下降，在迭代2 000次以后是一个平稳的收敛过程，当迭代到10万次时，总误差EN可以达到0.188 2。

在交通标志的测试实验中，为了全面检验卷积神经网络的识别性能，分别针对理想的交通标志，加入高斯噪声、经过位移、旋转和比例缩放以及采集的交通标志图像进行实验，将以上测试样本分别送入到网络中识别，表2给出了测试实验结果。

综合分析上述实验结果，可以得到以下结论：（1）在卷积神经网络的训练学习过程中，整个网络的误差曲线快速平稳的下降，体现出卷积神经网络的训练学习具有良好的收敛性。

（2）经逐层卷积和池采样所提取的特征具有比例缩放和旋转不变性，因此对于旋转和比例缩放后的交通标志能达到100%的识别率。

（3）与传统的BP网络识别方法[11]相比较，卷积神经网络能够达到更深的学习深度，即在交通标志识别时能够得到更高的所属类别概率（更接近于1），识别效果更好。

（4）卷积神经网络对实际采集的交通标志图像的识别率尚不能达到令人满意的结果，主要原因是实际道路中采集的交通标志图像中存在着较严重的背景干扰，解决的办法是增加实际采集的交通标志训练样本数，通过网络的深度学习，提高网络的识别率和鲁棒性。

4 结论

本文将深层卷积神经网络应用于道路交通标志的识别，利用卷积神经网络的深层结构来模仿人脑感知视觉信号的机制，自动地提取交通标志图像的视觉特征并进行分类识别。实验表明，应用深层卷积神经网络识别交通标志取得了良好的识别效果。

在具体实现中，从我国交通标志的设计特点考虑，本文将经过预处理二值化的图像作为网络的输入，主要是利用了交通标志的形状信息，而基本略去了颜色信息，其优点是在保证识别率的基础上，可以简化网络的结构，降低网络的计算量。在实际道路交通标志识别中，将形状信息和颜色信息相结合，以进一步提高识别率和对道路环境的鲁棒性，是值得进一步研究的内容。

此外，本文的研究没有涉及到道路交通标志的动态检测，这也是今后可以进一步研究的内容。

参考文献

[1] 刘平华，李建民，胡晓林，等.动态场景下的交通标识检测与识别研究进展[J].中国图象图形学报，2013，18（5）：493?503.

[2] SAHA S K，DULAL C M，BHUIYAN A A. Neural networkbased sign recognition [J]. International Journal of ComputerApplication，2012，50（10）：35?41.

[3] STALLKAMP J，SCHLIOSING M，SALMENA J，et al. Man vs.computer：benchmarking machine learning algorithms for traf?fic sign recognition [J]. Neural Network，2012，32（2）：323?332.

[4] 中国计算机学会.深度学习：推进人工智能梦想[EB/OL].[2013?06?10].http：//ccg.org.cn.

[5] 郑胤，陈权崎，章毓晋.深度学习及其在目标和行为识别中的新进展[J].中国图象图形学报，2014，19（2）：175?184.

[6] FUKUSHIMA K. Neocognition：a self ? organizing neural net?work model for a mechanism of pattern recognition unaffectedby shift in position [J]. Biological Cybernetics，1980，36（4）：193?202.

[7] LECUN Y，BOTTOU L，BENGIO Y，et al. Gradient ? basedlearning applied to document recognition [J]. IEEE Journal andMagazines，1989，86（11）：2278?2324.

[8] LECUN Y，BOTTOU L，BENGIO Y，et al. Backpropagationapplied to handwritten zip code recognition [J]. Neural Compu?tation，1989，1（4）：541?551.

[9] CIRESAN D，MEIER U，MAsci J，et al. Multi?column deepneural network for traffic sign classification [J]. Neural Net?works，2012，32（2）：333?338.

[10] NAGI J，DUCATELLE F，CARO D，et al. Max?pooling con?volution neural network for vision?based hand gesture recogni?tion [C]// 2011 IEEE International Conference on Signal andImage Processing Application. Kuala Lumpur：IEEE，2011，342?347.

[11] 杨斐，王坤明，马欣，等.应用BP神经网络分类器识别交通标志[J].计算机工程，2003，29（10）：120?121.

[12] BUVRIE J. Notes on convolutional neural networks [EB/OL].[2006?11?12]. http：//cogprints.org/5869/.

[13] 周开利，康耀红.神经网络模型及其Matlab 仿真设计[M].北京：清华大学出版社，2005.

[14] 孙志军，薛磊，许阳明，等.深度学习研究综述[J].计算机应用研究，2012，29（8）：2806?2810.

[15] 刘建伟，刘媛，罗雄麟.深度学习研究进展[J].计算机应用研究，2014（7）：1921?1930.

反向传播神经网络基本原理篇3

[关键词] BP算法 权值 学习步长 学习样本

BP算法采用广义的δ学习规则，是一种有导师的学习算法。它分两个阶段：正向传播阶段和反向传播阶段。正向传播阶段，将学习样本的输入信息输入前馈网络的输入层，输入层单元接受到输入信号，计算权重合，然后根据神经元的激活函数将信息传到隐含层（1层或2层），同样根据隐含层的输出计算输出层的输出。反向传播阶段，将网络的实际输出与期望输出相比较，如果误差不满足要求，将误差向后传播，即从输出层到输入层逐层求其误差（实际上是等效误差），然后相应地修改权值。

误差反向传播算法简称BP算法，现在成为人工神经网络中最引人注意应用最广泛的算法之一。该算法是一种有教师示教的训练算法，它通过对P个输入输出对(即样本)(X1，Y1)，(X2，Y2)，…，(XP，YP)的学习训练，得到神经元之间的连接权Wij、Wjk和阈值θj、k，使n维空间对m维空间的映射获得成功训练后得到的连接权和阈值，对其它不属于P1=1，2，…，P的X子集进行测试，其结果仍能满足正确的映射。

一、BP网络的学习结构

在神经网络中，对外部环境提供的模式样本进行学习训练，并能存储这种模式，则称为感知器；对外部环境有适用能力，能自动提取外部环境变化特征，则称为认知器。一个有教师的学习系统分成三个部分：输入部、训练部和输出部。

二、BP网络的数学模型

从第一节神经元的讨论可知，神经元是一个多输入单输出的信息处理单元。它对信息处理是非线性的。可把神经元抽象为一个简单的数学模型。

如X1，X2，…，Xn是神经元的输入，即来自前级n个神经元的轴突信息；θi是i神经元的阀值，Wi1，Wi2，…，Win分别是i神经元对X1，X2，…，Xn的权系数，也即突触的传递效率；Yi是i神经元受到输出；f［•］是激发函数，它决定i神经元受到输入X1，X2，…，Xn的共同刺激达到阀值时以何种方式输出。

数学模型表达式为：

是对应第i个样本Xi的实际输出；Yi是对应第i个样本Xi的期望输出。

求令e最小时W：

三、BP算法推导

定义误差函数e为期望输出与实际输出之差和平方和：

其中：Y为期望值，即教师信号；X为实际输出。考察权系数Wij的修改量，与e的负梯度有关。即：

四、BP算法的执行

BP算法执行分两个过程：

(1)正向传播：输入的样本从输入层经过隐单元一层一层进行处理，通过第二层，第三层，第四层之后，传出第五层――输出层；在逐层处理过程中，每一层神经元的状态只对下一层神经元的状态产生影响。在输出层把现行输出和期望输出进行比较，如果现行输出不等于期望输出，则进入反向传播过程。

(2)反向传播：反向传播时，把误差信号按原来正向传播的通路反向传回，并对每一隐层各个神经元的权系数进行修改，以使误差信号趋向最小。

实验结果表明：

(1)如改变精度要求，将影响BP算法的计算次数，当精度提高时，计算量明显加大；当精度降低时，计算量减小。

(2)当改变神经网络的结构时，意味着整个计算过程将变化。

(3)当取不同样本点组时，有的收敛较快，有的计算非常多。

(4)当取不同加速因子时，加速效果不同。有的较快，有的较慢。

(5)BP算法求函数逼近有一定的实用性。

参考文献：

［1］张立明编著.人工神经网络的模型及其应用［M］.上海：复旦大学出版社，1993.42.

［2］黄凤岗，宋克鸥编著.模式识别［M］.哈尔滨：哈尔滨工程大学出版社，1998.65，68，69.

［3］杨万山，陈松乔等.基于BP神经网络的工程图纸图形符号识别［J］.微型电脑应用，2000，2：22-23.

［4］扬葳，韩春成.BP网络接点作用函数的改进及算法在汉字字库学习中的应用［J］.

反向传播神经网络基本原理篇4

关键词：神经网络 特征提取 模式识别

中图分类号：U495 文献标识码：A 文章编号：1674-098X（2017）01（a）-0115-05

随着通信技术的飞速发展，出现了适用于不同背景环境的通信标准，每种标准都有其特定的调制方式和工作频段，为了满足人们实现不同标准间互通的需求，软件无线电技术应运而生。它利用可升级、可替代的软件来完成尽可能多的通信功能硬件模块，将多种类型的信号处理基于一体。为了能够处理不同类型的调制信号，必须首先识别出信号的调制类型，然后才能进行下一步处理。因此，调制信号的自动识别技术，就成了软件无线电技术中的关键。

神经网络具有的信息分布式存储、大规模自适应并行处理和高度的容错性等特点，是用于模式识别的基础。特别是其学习能力和容错性对不确定性模式R别具有独到之处。其中BP网络长期以来一直是神经网络分类器的热点，由于它理论发展成熟，网络结构清晰，因此得到了广泛应用。基于A.K. Nandi和E.E. Azzouz从瞬时频率、瞬时幅度和瞬时相位中提取的特征参数，我们就可以用神经网络对常用的数字调制信号进行自动分类。

1 神经网络

根据T. Koholen的定义：“人工神经网络是由具有适应性的简单单元组成的广泛并行互连的网络，它的组织能够模拟生物神经系统对真实世界物体做出交互反应。”人工神经网络是在现代神经学研究成果的基础上发展起来的模仿人脑信息处理机制的网络系统，它由大量简单的人工神经元广泛连接而成，反映了人脑功能的若干特性，可以完成学习、记忆、识别和推理等功能。

2 数字调制信号特征参数的提取

计算机处理的信号都是对调制信号采样后的采样信号序列，因此设采样序列为（n=0，1，2，…，Ns），采样频率为。对采样序列进行希尔伯特变换，得如下解析表达式：

（1）

采样序列的瞬时幅度：

（2）

瞬时相位：

（3）

由于是按模计算相位序列，当相位的真值超过，按模计算相位序列就会造成相位卷叠。载波频率引起的线性相位分量，是造成相位卷叠的主要因素。因此，必须对进行去相位卷叠。去相位卷叠后的相位序列为，再对进行去线性相位运算，得到真正相位序列。瞬时频率为：

（4）

在上述基础上，提取下面5个特征参数。

（1）是被截取信号片段的零中心归一化瞬时幅度的谱密度的最大值，定义为：

（5）

其中为零中心归一化瞬时幅度在t=i/fs（i=1，2，…，Ns）时刻的值；为采样速率；为每一个信号样本采样点的样本个数。定义如下：

-1 （6）

其中：

， （7）

（2）为非弱信号段中瞬时相位非线性分量的绝对值的标准偏差，定义如下：

（8）

其中为经过零中心化处理后瞬时相位的非线性分量在时刻的值；为判断弱信号段的一个幅度判决门限电平，在门限以下信号对噪声非常敏感，这里取；C为全部取样数据中大于判决门限的样本数据的个数。

（3）为非弱信号段中瞬时相位非线性分量的标准偏差，定义如下：

（9）

（4）为零中心归一化非弱信号段瞬时幅度绝对值的标准偏差，定义如下：

（10）

（5）为零中心归一化非弱信号段瞬时频率绝对值的标准偏差，定义如下：

（11）

其中，，，，rs为数字序列的符号速率。

3 基于BP网络的数字调制信号的自动识别

把BP网络应用于数字调制信号的自动识别，是应用了其简单的结构和非线性映射的本质。将特征参数映射成与其对应的调制信号，是此方法的基本思路。

3.1 调制信号识别的基本原理

由上述得到的5个特征参数区分多种数字调制信号的原理，可用图1简单示意。

用于区分是否包含幅度信息的信号；用于区分是否包含绝对相位信息的信号；用于区分是否包含直接相位信息的信号；用于区分是否包含绝对幅度信息的信号；用于区分是否包含绝对频率信息的信号。

3.2 BP网络

BP网络结构上是一个多层感知器，其基本算法是反向传播算法，反向传播（BP）算法是一种有师学习算法，BP算法的学习过程由正向传播和反向传播两部分组成，在正向传播过程中，输入向量从输入层经过隐含层神经元的处理后，传向输出层，每一层神经元的状态只影响下一层神经元状态。如果在输出层得不到期望输出，则转入反向传播，此时误差信号从输出层向输入层传播并沿途调整各层间连接权值和阈值，以使误差不断减小，直到达到精度要求。

标准的BP算法如下（以单隐层结构为例）。

W和b分别为输入层与隐层神经元之间的权值和阈值；x为输入层的输入；u和v分别为隐层的输入和输出；为输出层的输入；为隐层与输出层之间的权值；y为网络的实际输出；d为网络的期望输出；e为误差。

（1）正向传播过程。

输入层：特征参数向量组x为网络的输入。

隐含层：其输入值u为输入层的加权和（当网络为单隐层时）。

（12）

输出为：

（13）

式中为神经元的激励函数，通常为Sigmoid函数。

（14）

输出层：输出层神经元的激励函数通常为线性函数，所以输出值为输入值的加权和。

（15）

由y和d求出误差e。若e满足要求或达到最大训练次数，则算法结束，网络完成训练，否则进入反向传播过程。

（2）反向传播过程。

首先定义误差函数：

（16）

BP学习算法采用梯度下降法调整权值，每次调整量为：

（17）

式中，η为学习率，0

①对于输出层与隐含层之间的权值修正量：

（18）

其中

②对于隐含层与输入层之间的权值修正量：

（19）

式中，则下一次迭代时：

（20）

（21）

（3）BP网络的设计。

由神经网络理论可知，具有至少一个带偏差的S形隐含层和一个带偏差的线性输出层的网络，能够逼近任意的有理函数。因此该设计采用3层网络结构。

①输入层：输入层神经元的个数就是输入向量的维数。

②隐含层：根据经验公式，隐含层神经元个数M与输入层神经元个数N大致有如下关系：M=2N+1，又考虑到计算精度的问题，因此隐层设计为5。一般说来，隐节点越多，计算精度越高，但是计算时间也会越长。

③输出层：一般说来输出层神经元的个数等于要识别的调制类型的个数，但是还要具体情况具体分析。

结合该次设计实际，网络采用1-5-2结构。

（4）神经网络方法实现自动调制识别的步骤。

在此将该文方法实现的步骤归纳如下。

①由接收到的调制信号求其采样序列，进而得到其复包络。

②由信号的复包络求其瞬时幅度，顺势相位和瞬时频率。

③由信号的瞬时参量求其5个特征参数。

④用信号的特征参数向量组训练网络。

⑤用训练好的网络对调制信号进行自动识别。

（5）MATLAB仿真。

为对用神经网络进行调制信号自动识别的方法进行性能验证，下面对2FSK和2PSK做MATLAB仿真试验：基带信号的码元速率为50 kHz，载波频率为150 kHz，采样速率为1 200 kHz，对于2FSK信号，载波之差为50 kHz。将网络调整到最佳状况，对网络进行了100次的仿真训练，随机抽取了一组数据的收敛均方误差曲线如图2所示。

对训练好的网络进行性能测试。仿真识别实验分别对2FSK和2PSK信号采用SNR=10 dB，15 dB，20 dB和∞ 4组数据进行。在对网络进行了100次仿真识别的基础上得到以下数据，见表1。

由表1可以看出，用标准BP算法训练出来的神经网络，对2PSK信号有着较理想的识别成功率，在信噪比等于10 dB的情况下，依然可以达到99.5%以上的识别成功率。而对2FSK信号的识别成功率就不尽如人意，虽然在信噪比等于20 dB的情况下可以完全识别信号，但在信噪比等于10 dB的情况下，识别率较低。

4 结语

基于神经网络的数字调制信号自动识别的研究虽然初见成果，但是整体上看，它未对更多的调制类型进行测试，而且对某些类型的调制信号识别的效果还不甚理想。在仿真试验中，不可避免地出现了收敛速度慢、存在局部极小值和概率极小的不收敛现象这3个BP网络本质上的缺陷。采用改进的BP算法或者其他神经网络可以改善网络性能和提高R别成功率。

神经网络用于调制识别方法的可行性已初见端倪，与其他方法相比，神经网络具有的信息分布式存储、大规模自适应并行处理和高度的容错性等特点，使其非常适合于调制识别，而且它简单有效，极易用软件或硬件实现，相信神经网络技术能够在软件无线电领域发挥它独特而重要的作用。

参考文献

[1] 黄春琳，邱玲，沈振康.数字调制信号的神经网络识别方法[J].国防科技大学学报，1999（2）：58-61.

[2] 吴惠.数字信号调制方式识别技术研究[D].兰州交通大学，2014.

[3] 飞思科技产品研发中心.神经网络理论与MATLAB7实现[M].电子工业出版社，2005：44-58.

[4] 兰雪梅，朱健，董德存.BP网络的MATLAB实现[J].微型电脑应用，2003（1）：6-8.

[5] 姚亚峰，黄载禄.通信信号调制识别技术[J].通信技术，2003（6）：43-45，52.

[6] 姜莉.利用神经网络实现调制信号的自动识别[J].电子测试，2014（7）：71-73.

[7] 从爽.神经网络、模糊系统及其在运动控制中的应用[M].中国科学技术大学出版社，2002：17-31.

[8] 高隽.人工神经网络原理及其仿真实例[M].机械工业出版社，2003：44-53.

[9] 飞思科技产品研发中心.MATLAB 6.5辅助神经网络分析与设计[M].电子工业出版社，2003：64-69.

[10] 李峻.基于决策理论的软件无线电信号调制样式自动识别[J].大连铁道学院学报，2002（4）：50-54.

[11] 赵知劲，庄婵飞，干立.调制样式BP神经网络分类器[J].现代雷达，2003（10）：22-24.

[12] 林华东，庞伟正.软件无线电中数字调制信号的自动识别[J].应用科技，2004（6）：25-27.

[13] 王康利，谢建菲，赵兰华.基于神经网络的软件无线电信号的调制识别[J].计算机测量与控制，2004，12（9）：877-878.

[14] 姜立芳，刘泊，施莲辉.一种改进的BP算法及其在模式识别中的应用[J].哈尔滨理工大学学报，2003（3）：90-92.

反向传播神经网络基本原理篇5

关键词：BP神经网络；入境旅游；预测

收稿日期：2006-06-07

基金项目：国家自然科学基金项目(40371044)。

作者简介：邓祖涛(1972-)，男，湖北经济学院旅游学院讲师，博士。研究方向：区域发展与旅游规划。陆玉麒（1963-），男，南京师范大学地理科学学院教授，博导。研究方向：空间结构与区域规划研究。

中图分类号F59文献标识码A文章编号1006-575(2006)-04-0049-05

一、BP神经网络原理及预测模型

1.BP神经网络原理

BP（Back-Propagation）神经网络，是人工神经网络中最具代表性和应用广泛的一种，通常由具有多个节点的输入层（input layer）、隐含层（hidden layer）和多个或一个输出节点的输出层（output layer）组成，其学习过程分为信息的正向传播过程和误差的反向传播过程两个阶段。外部输入的信号经输入层、隐含层的神经元逐层处理，向前传播到输出层，给出结果。如果在输出层得不到期望输出，则转入逆向传播过程，将实际值与网络输出之间的误差沿原连接通路返回，通过修改各层神经元的连接权重，减少误差，然后再转入正向传播过程，反复迭代，自到误差小于给定的值为止[1][2]。BP神经网络以3层最为常用，也最为成熟。理论上已证明，一个3层的BP网络能够实现任意的连续映射[3]，可以以任意精度逼近任何给定的连续函数。其拓扑结构如下图所示（见图1）。

2.入境旅游人数神经网络模型的建立

根据我国入境旅游人数的实际情况，建立由一个输入层、一个隐含层、一个输出层构成的三层BP网络模型（见图2）。

（1）网络层节点数的确定

Tourism Science旅游科学BP神经网络在我国入境旅游人数预测中的应用时间序列数据输入层节点数是人为确定的，输入层节点数过多，造成网络学习次数较大；输入层节点数过少，不能反映后续值与前驱值的相关关系。经反复试验最终确定为4个，且输出层节点数为1[4]。隐含层节点数的选择在所有BP网络中目前还没有理论上公认的推导方法。考虑到单隐含层网络的非线性映射能力较弱，为了达到预定的映射关系，隐含层节点宜适量增加，以增加网络的可调参数，最终确定隐含层节点数为6个。

（2）网络函数的确定

传递函数的第一层选用TANSIG函数，第二层则选用PURELIN函数；训练函数采用trainlm函数，仿真网络函数采用simuff函数。目标误差Err定为0.00001，学习率lr定为0.01。

二、样本数据的归一化处理和网络训练

1.样本数据的归一化处理

由于BP神经网络要求输入的数据范围一般在[01]。因此对1986-2005年样本数据进行归取一个比较大的值，保证预测年的数据小于该数值，取一个小于样本数据序列中最小值的值，保证归一化后的数据不太接近于0。

2.训练样本和检验样本的确定

由于历年入境旅游人数是一维时间序列，但BP神经网络要求用多维输入来训练网络，为此，根据上述已确立的网络层节点数以及BP神经网络一般所遵循的原则（即输入层和输出层节点数分别和输入和输出神经元数相等），确定我国入境旅游人数网络模型的输入神经元为4个，输出神经元为1个。具体操作如下：输入神经元P=[p'(t-4)，p'(t-3)，p'(t-2)，p'(t-1)]；输出神经元T=[p'(t)]，其中t=1990年，1991年，…2005年，p'(t)表示t年归一化的入境旅游人数（见表1）。为了检验该网络的精确性和有效性，选择第1组―第11组的数据作为学习样本集，第12组―第16组的数据作为检验样本集，且利用完成训练的神经网络进行模拟。

三、BP模型的实现及几种模型的对比分析

1.网络模拟预测结果分析

采用MATLAB 6.5人工神经网络工具箱，将第1组―第11组学习样本输入网络进行训练学习，训练结果为Epoch 25/120，SSE 1.05994e-005，表明网络能较快的收敛，然后再将第12组－第16组样本代入训练好的网络进行检验，模拟结果表明BP网络可信度高。图3为网络输出值与实际值的比较，图4为BP网络拟合误差曲线图。可以看出，BP神经网络能以较高的精度对原来的数据进行拟合。图3BP网络拟合结果图4BP网络拟合误差曲线图根据训练好的网络，可输入P=[p(2002) p(2003);p(2003) p(2004);p(2004) p(2005);p(2005) p(2006)]，即P=[0.599295 0.551247;0.551247 0.684923;0.684923 0.769231;0.769231 0.810377]，便可得到2006年和2007年入境旅游人数预测值为0.810377和0.874423，经还原，2006年、2007年入境旅游人数分别为12942.70万人和14156.80万人。

2.几种模型模拟结果的比较

借助SPSS软件，对1990-2005年我国入境旅游人数[5][6][7]分别采用Logistic、指数平滑和自回归模型进行模拟和预测[8][9][10]（见表2）。从相对平均误差（AARE）、泰尔（THEIL）不等系数（μ）、误差平方和（SSE）3个角度来比较几种模型的精确度（见表3）。它们分别可以用下列公式求得。

由表3可以看出，BP神经网络的相对平均误差为0.00840，泰尔不等系数为0.000951，误差平方和为1619131.17，比上述几种模型模拟的结果都要小得多，这表明，采用BP神经网络算法进行预测的精确度较其他方法高，能为实际工作提供更准确的信息。

四、结论

1.BP神经网络模型是由输入层、隐含层和输出层组成。一旦网络建立后，只需输入相应的神经元，便可得到输出神经元（即入境旅游人数网络输出值）。所以，BP神经网络的最大优点是操作简单，应用广泛，便于监测。

2.基于MATLAB平台，采用BP神经网络方法对20世纪90年代以来我国入境旅游人数进行了模拟和预测。经比较，证明BP神经网络预测方法具有比Logistic、指数平滑和自回归模型等传统人口预测方法更好的效果。这一方法的运用为旅游学的模拟预测研究提供了一种新的思路，为今后旅游业的可持续发展（包括旅游基础设施的建设和旅游产品的开拓）提供了一种更为科学的预测方法，同时，也对旅游管理部门、政府部门有一定的参考与借鉴作用。

3.尽管BP神经网络在入境旅游人数的预测中效果最好，但也不排除偶然因素对其预测趋势的较大影响。如2003年，受SARS的影响，我国入境旅游人口为9166.21万人，但通过网络模拟的结果却达到了10350.0万人，误差达0.129％。

参考文献

[1]张建民，王涛，王忠礼.智能控制原理及应用[M].北京：冶金工业出版社，2003：90-105.

[2]魏海坤.神经网络结构设计的理论与方法[M].北京：国防工业出版社，2005：25-36.

[3]Kitahara M, Achenbach J D, Guo Q C. Neural network for Crack-depth Determination from Ultrasonic Back-Scattering Data[J]. Review of Progress in Quantitative Evaluation, 1992(11):701-708.

[4]罗荣桂，黄敏镁. 基于BP神经网络的长江流域人口预测研究[J].武汉理工大学学报，2004（10）:91-92.

[5]中国旅游年鉴（1991年-2004年）[M].北京：中国旅游出版社，1991-2004.

[6]2004年中国入境旅游人数首次突破一亿人次[EB/OL]..cn/2005fbh/article.phpid=9281.

[7]2005年中国入境旅游人数达1.2亿人次[EB/OL]./ReadNews.aspNewsID=4510&BigClassID=11&SmallClassID=31.

[8]Hill T, Marquez O' Connor M, Remus W. Artificial Neural network Models for Forecasting and Decision Making[J]. International Journal of Forecasting, 1993(3):5-15.

[9]Carey K. Estimation of Caribbean Tourism Demand: Issues in Measurement and Methodology [J]. Atlantic Economic Journal, 1991(3): 57-80.

反向传播神经网络基本原理篇6

【 关键词 】 神经网络；Matlab；图像压缩

1 引言

BP神经网络归类于前馈型神经网络，原始信息由输入单元输入，经输入单元分配到隐含层的各神经元，除输入层以外，每个神经元的信息是由上一层神经元状态与相对应的连接权值决定的，输出层可以认为是最后一层隐含层。除输出层外，每一个神经元都与下一层的各神经元相连，而同一层的神经元之间没有连接。

BP神经网络主要应用于非线性函数的逼近、数据压缩、模式识别、分类等领域。

在BP神经网络中选择合适的网络层数、各层神经元个数及训练函数就可以实现从输入到输出的非线性映射。其学习过程可分为工作信号的正向传播和误差的反向传播两个过程，传播过程如图1所示。

（1）工作信号的正向传播

信号由输入经过隐含层到输出层，在信号向前传播的过程中，网络的各层权值是固定不变的，每一层神经元的信息只影响下一层的神经元而不会影响同层或者上一层神经元。如果输出层的输出结果与期望值不同就转入误差的反向传播。

（2）误差的反向传播

网络的输出与期望值之间的差值就是误差信号。误差信号由输出层开始逐层向前传播，并且将误差分摊给各层的所有神经元，再由此获得各个层的误差信号，通过修正各神经元之间的连接权值，使误差减小。这个通过信号的正向传播和误差的反向传播来不断修正各神经元之间的连接权值的过程是不断进行的，一直运行到预先设定的训练步数或者达到设定的误差就停止。

2 BP神经网络的应用

2.1 基于BP神经网络函数逼近的实现

2.1.1 BP神经网络的函数逼近能力

BP神经网络是一个输入到输出的高度非线性映射，即F：RnRm，f（x）=Y。对于样本集合：输入xi和yi输出都可认为存在某一映射g使得g（xi）=yi（i=1，2，3...）成立。求出一个映射f，使得在某种意义下，f是g的最佳逼近。

2.1.2基于BP神经网络函数逼近的Matlab实现

设要逼近的非线性函数是：y=5+2e（1-x）cos（2πx），-0.4?x?3.6。建立一个三层网络，设置隐含层神经元个数为20，最小误差为0.01最大训练步数为50。编写Matlab程序，得到误差曲线如图2所示。

由仿真结果图可以得出，经过训练后的曲线和原函数曲线非常接近，由此说明，训练后的神经网络函数逼近效果很好。

2.2 BP神经网络在图像压缩中的应用

图像是最重要的一种信息传递方式，然而，图像数据量大给信息传递带来了困难，当前的硬件技术所能提供的存储资源和网络宽带远不能满足日益增长的图像传递要求。图像作为一种重要的资源，对它进行压缩处理在一定程度上能够减缓它对硬件的要求。

2.2.1 图像冗余

图像数据压缩的根本方法是减小图像冗余，数据图像的冗余主要表现在以下几种形式：空间冗余、时间冗余、结构冗余、视觉冗余、知识冗余等，有了图像的这些冗余信息，就找到了图像压缩的根据。此外，根据大面积着色原理，图像必须在一定面积内存在相同或相近的颜色，图像中相邻像素间存在的相似性产生了图像预测编码。

2.2.2 图像压缩的分类及图像性能指标

图像压缩的实质就是去除多余数据，依据在压缩过程中是否有信息损失，可以将图像压缩分为两种，有损压缩和无损压缩。无损压缩没有信息的损失，解压后可以完全恢复，例如一些文件的压缩都可以完全恢复。有损压缩则不能完全恢复，有一定的信息损失，但不会影响对信息的理解。

目前比较流行的压缩方式有JPEG压缩，基于小波变换的图像压缩算法，分型压缩，矢量量化压缩。依据BP神经网络对非线性能够无限逼近的能力，可以保证在比较高的图像质量下尽可能实现较高的压缩比。

图像性能指标有图像的信噪比及峰值信噪比。

（1）图像的信噪比（SNR）是衡量图像质量高低的重要指标，见公式（5），其中M和N是图像长和宽上的像素点数，f（i，j）和g（i，j）分别是原始图像和重构图像在点（i，j）处的灰度值，信噪比越高说明图像质量越高。

SNR=10log

（1）

（2）峰值信噪比经常用作图像压缩等领域中信号重建质量的测量方法，见公式（6），其中M和N是图像长和宽上的像素点数，f（i，j）和g（i，j）分别是原始图像和重构图像在点（i，j）处的灰度值，其值越大，表示图像失真越小。

PSNR=10log

（2）

2.3 BP神经网络实现图像压缩

由上述可知，BP神经网络可以逼近非线性函数，而图像的各像素点之间是非线性关系，故运用BP神经网络，通过选取合适的网络层数和训练函数就可以实现图像压缩。

2.3.1 网络层数的选择

神经网络设计中，隐含层层数的确定要根据实际应用的需要。虽然隐含层层数多可以降低误差，提高精确度，但是也增加了神经网络的训练时间，而误差完全可以通过改变隐含层神经元个数或者使用合适的训练函数来减小。本文选择三层神经网络，实践证明，三层神经网络可以达到很好的效果。

2.3.2训练函数的选取

针对不同的应用，BP神经网络提供了多种训练方法。不同的训练函数对应结果如表1。

由此可见，traincgp（Polak-Ribiere变换梯度法）有较快的收敛速度，本文选择此训练函数。

2.3.3 基于BP神经网络图像压缩原理及仿真结果

网络结构的确定包括输入层、隐含层和输出层，隐含层的节点数小于输入节点数，输入节点数和输出节点数相同[8]。网络在进行学习时，输入会将网络数据通过隐含层映射到输出作为导师信号，在这个学习的过程中，输入层到隐含层称为网络的编码过程，隐含层到输出层称之为网络的解码过程。

将训练用图像的所有像素点作为压缩网络的输入，为控制网络的规模，对图像进行划分。设训练用图像由N×N个像素点构成，将其划分为M个子图像块，每个子图像块分别由p×p的子像素块构成。为了加快收敛速度，保证性能的稳定性，对图像进行归一化处理。归一化可以使用mapminmax函数进行，但是考虑到图像数据的特殊性，像素点灰度值为整数，且处于0-255之间，因此归一化处理就可以统一将数据除以255。

用Matlab创建一个三层网络，函数如下：

net=newff（minmax（P），[32 ，64]，{'tansig'，'logsig'}，'traindx'，'learngd'，'mse'）。

其中，应用的激活函数为tansig和logsig，采用trainoss训练函数网络初始权值和阈值均取随机数，然后开始训练网络，最小误差设置为0.001，最大训练步数设为10000。运行结果如下，Matlab程序流程图如图5所示，仿真结果如图7所示。

TRAINOSS-srchbac， Epoch 16997/20000， MSE 0.000998813/0.001， Gradient 0.00206669/1e-006

TRAINOSS， Performance goal met.

PSNR = 29.9979

SNR = 22.8039

由运行结果可得，图像压缩后峰值信噪比是29.997，信噪比是22.8039，误差已经达到要求。

训练网络误差曲线如图3所示。

由误差曲线可得，在训练步数达到1000左右的时候，误差下降趋势趋于平缓，因此选择训练步数为1000，然后改变隐含层神经元个数，比较不同的压缩比情况下的误差、信噪比及峰值信噪比，不同压缩比下的结果如表2。

由表可得，随着压缩比的增大，信噪比和峰值信噪比减小，误差增大。

2.4 BP网络的局限性

在实际应用中，BP神经网络存在的几个问题：（1）误差下降慢，训练次数多，影响收敛时间；（2）隐含层神经元个数是靠经验得来的，没有可靠的理论依据；（3）没有考虑到测试样本或者训练样本对算法的影响。

参考文献

[1] 钟珞，饶文碧，邹承明.人工神经网络及其融合应用技术[M].北京：科学出版社，2007： 23-27.

[2] 高隽.人工神经网络原理及仿真实例[M].北京：机械工业出版社，2007：2-78.

[3] 倪志伟，李锋刚，毛雪岷.智能管理技术与方法[M].北京：科学出版社，2007：12-33.

[4] Andrea Goldsmith. Wireless Communications[M]. Cambrigde University Press，2005：1-5.

[5] Martin T. Hagan，Howard B. Demuth，Mark H. Beale.神经网络设计[M].北京：机械工业出版社出版社，2002：3-17.

[6] 张立明.人工神经网络的模型及其应用[M].上海：复旦大学出版社，1993：7-99.

[7] 徐丽娜.神经网络控制[M].北京：电子工业出版社，2003：10-80.

[8] 钱海军.基于BP神经网络的图像压缩的Matlab实现[J].电脑开发与应用， 2011，24（12）：77-79.

[9] 刘春艳.基于遗传算法―BP神经网络的主汽温控制系统的研究[D].太原：太原理工大学硕士研究生学位论文，2006.

基金项目：

山东省教育科学“十二五”规划课题，课题编号：2011GG256。

反向传播神经网络基本原理篇7

关键词：神经网络；上证综合指数；Clementine；股价

中图分类号：F830.9 文献标识码：A 文章编号：1001-828X（2013）05-0-01

证券市场是一个资源重新配置的市场，在我们国家经济建设中起着非常重要的作用，和我们广大人们群众的生活息息相关。股价预测有着很大的应用价值，具有动态性、强非线性等特点。人工神经网络是一种模拟人脑神经网络结构，通过对研究对象的不断学习、训练，从而实现预测模型的方法。在股价预测方面，人工神经网络方法可以通过股票历史数据进行学习，从而找出股票价格的规律，实现对股票价格的准确预测。

一、神经网络模型简介

1.神经网络基本概念

神经网络模型是一种数学模型，它试图模拟人类大脑的功能。它由大量的人工神经元通过适当的方式互连构成，是一个非线性的自适应系统，用于智能决策和推断。

2.BP神经网络

目前神经网络有很多种，BP神经网络模型是用的比较多的一种模型。BP神经网络是一种基于有监督的学习、使用非线性的可导函数作为传递函数的前馈神经网络，由信息的正向传播和误差的反向传播两个过程组成，包括一个输入层、一个输出层以及一个或者多个隐层。输入层收到输入信号，传递给中间隐层各神经元，由最后一个隐层神经元传递到输出层各神经元的信息，经过进一步处理，完成一次正向传播处理过程，由输出层向外界输出信息处理结果。当实际输出与期望输出不相符时，进入误差的反向传播过程。误差通过输出层，按照误差梯度下降的方式修正各层权值，向隐层、输入层逐层反传。周而复始的信息正向传播和误差反向传播过程，一直进行到网络输出的误差减少到可以接受的程度。BP神经网络模型包括其输入模型、输出模型、作用函数模型、误差计算模型和自学习模型。

二、神经网络模型在股票分析预测中的应用

1.初始数据选取

本文拟以A股市场上证综合指数为研究对象，选取2012年1月4日至2013年4月17日期间每个工作日的上证综合指数的相关数据，利用Clementine软件的BP神经网络方法进行建模，对上证综合指数的走势进行分析和预测。在建模过程中，选取的变量为：开盘价、最高价、最低价、成交量、收盘价。

2.BP神经网络建模

3.分析与结论

下图为通过神经网络模型得到的次日收盘价格与次日预测结果之间的拟合图，从图中可以看出，尽管预测结果与真实值之间的变化趋势基本一致，但还是有一定的预测误差，这是因为股票价格不仅跟成交价和成交量有关系，还受政策因素、市场供应关系、季节因素、突发事件等影响。根据价量关系，对短期预测效果比较有效，如果希望对股票进行长期有效的分析，我们还需要考虑很多因素，包括宏观因素、上市公司财务状况及内部其他因素等。

参考文献：

[1]史忠植.神经网络[M].北京：高等教育出版社，2009：48-65.

[2]薛薇，陈欢歌.基于Clementine的数据挖掘[M].北京：中国人民大学出版社，2012：1-132；275-305.

[3]元昌安.数据挖掘原理与SPSS Clementine 应用宝典[M].北京：电子工业出版社，2009：234-257；550-555.

[4]杨富勇.神经网络模型在股票投资中的应用[J].计算技术与自动化.2010，29：108-112.

[5]范明，孟小峰，译.Han J， Kamber M.数据挖掘：概念与技术[M].北京：机械工业出版社，2012.

[6]张娴.数据挖掘技术及其在金融领域的应用[J].金融教学与研究，2003，6（04）：15-18.

反向传播神经网络基本原理篇8

【关键词】吨煤单耗 因素 BP神经网络 MATLAB仿真

1 引言

吨煤单耗是煤炭加工企业组织生产考核指标中的一项非常重要考核内容，它指的是输送或破碎环节中每输送或破碎一吨煤所消耗的电量。吨煤单耗与系统的运行时间、煤炭输送量、原煤破碎量、线路损耗、系统故障时间以及电量结算日期等因素有着密切的关系。据统计，几年前国内多数煤炭加工企业对吨煤单耗的计算并未形成一种相对精确的预测模型。我们知道影响吨煤单耗的因素很多，而且这些因素之间并不是简单的线性函数关系，基于此种现状本文将影响吨煤单耗计算的主要因素作为BP神经网络的输入，利用MATAB仿真软件对网络进行自学习式训练，通过多次训练建立了可靠的BP神经网络吨煤单耗预测模型，并将2011年、2012年部分实际生产数据与预测数据进行了对比验证，分析结果表明该模型预测的吨煤单耗能够满足指导生产实践、控制成本的要求。

2 BP神经网络预测模型的建立

2.1 BP神经网络的基本原理

在人工神经网络发展历史中，很长一段时间里没有找到隐层的连接权值调整问题的有效算法。直到误差反向传播算法（BP算法）的提出，成功地解决了求解非线性连续函数的多层前馈神经网络权重调整问题。BP （Back Propagation）神经网络，即误差反传算法的学习过程是由信息的正向传播和误差的反向传播两个过程组成。当实际输出与期望输出不符时，进入误差的反向传播阶段。误差通过输出层，按误差梯度下降的方式修正各层权值，向隐层、输入层逐层反传。周而复始的信息正向传播和误差反向传播过程，是各层权值不断调整的过程，也是神经网络学习训练的过程，此过程一直进行到网络输出的误差减少到可以接受的程度，或者预先设定的学习次数为止。本文就是利用其具有较强的非线性映射特性，来预测吨煤单耗的。

2.2 BP神经网络结构参数的设计

BP神经网络作为一种多层的前馈网络，根据Kolmogorov定理，对于任意给定的一个连续函数，都可以用一个三层的前馈网络以任意精度逼近，其输入层隐含层各节点之间，隐含层和输出层各节点之间用可调节的权值进行连接。本模型将选取一个三层的BP神经网络，从输入层到隐含层和从隐含层到输出层的激励函数（反映下层输入对上层节点刺激脉冲强度的函数）分别采用S型函数和线性函数。

2.3 各层神经元个数及参数的确定

2.3.1 网络输入层神经元个数的确定

在BP神经网络模型的设计中，输入和输出节点的多少是由具体问题来决定的。在吨煤单耗计算过程中，输入层神经元应选取对吨煤单耗计算有重要影响的几个因素：系统运行时间（h）、产量（t）、用电量（KW・h）、流程的效率（t/h）这样本模型的输入层共计有4个节点。

2.3.2 网络输出层和隐含层神经元个数的确定

输出层选取吨煤单耗、流程效率作为输出层神经元。

2.4 数据处理与训练样本的选择

由于BP神经网络的泛化能力更多地体现在内插功能上，对于外部数据的泛化能力很差，所以训练样本的选取对于能否通过训练得到合理、精确的模型来说是至关重要的。因此本模型选取了2010年，2011年两年内具有典型性的21组数据经过神经网络数据处理后，20组作为神经网络的训练样本，另外1组作为测试样本。本文中BP神经网络的激励函数为Sigmoid函数，这就要求网络的输入输出量均应在[-1，1]之间。对于连续值变量，我们需要进行归一化处理。本文所选的22组数据经归一处理后如表1所示（为公司数据保密此表只列出了归一处理后的相应数据）：

3 BP神经网络训练及预测分析

本模型采用MATLAB神经网络.m文件格式调用BP神经网络算法traingdm函数对20组归一化后的数据进行BP网络训练，学习速率设置为0.04，训练次数设置为10000次，目标误差10-3。

4 结论

综上所述，本模型能够较好的实现基于实际生产数据来预测吨煤单耗以及流程效率的功能，同时数据也表明用BP神经网络实现这一功能切实可行。通过此模型的建立我们可以通过控制流程的效率来控制吨煤单耗，从而控制实际吨煤单耗在考核指标以内，保证公司能够顺利完成全年的生产考核指标。

参考文献

[1]著作：飞思科技产品研发中心.神经网络理论与MATLAB7实现[M].北京：电子工业出版社，2006（99）.

作者简介

李忠飞（1981-），内蒙古自治区通辽市奈曼旗人。研究生学历。现为内蒙古霍林河露天煤业股份有限公司煤炭加工公司维修一部工程师、控制理论与控制工程专业电修队队长。

反向传播神经网络基本原理篇9

关键词：BP神经网络，房地产价格评估，研究方向

一、BP神经网络定义

1.概念：BP（Back Propagation）网络是1986年由Rumelhart和McCelland为首的科学家小组提出，是一种按误差逆传播算法训练的多层前馈网络，是目前应用最广泛的神经网络模型之一。BP网络能学习和存贮大量的输入-输出模式映射关系，而无需事前揭示描述这种映射关系的数学方程。它的学习规则是使用最速下降法，通过反向传播来不断调整网络的权值和阈值，使网络的误差平方和最小。BP神经网络模型拓扑结构包括输入层（input）、隐层（hide layer）和输出层（output layer）。

二、BP神经网络研究方向

1.人工神经网络应用系统。在网络模型与算法研究的基础上，利用人工神经网络组成实际的应用系统。如完成模式识别或者某种信号处理的功能，制成机器人和构建专家系统等。

2.网络模型与算法研究。这也可以叫做技术模型研究，包括网络学习算法研究。基于理论模型研究构作神经网络模型，以实现准备制作硬件或者计算机模拟目的，

3.生物原型研究。从生物科学如病理学、心理学、生理学和脑科学等方面研究神经网络、神将细胞和系统的生物原型结构及其功能机理。

4.建立理论模型。在生物原型研究的基础之上，建立神经网络和神经元理论模型，主要包括只是模型、数学模型、物理化学模型和概念模型等。

三、BP神经网络结构与算法

1.结构：BP神经网络模型拓扑结构包括输入层、隐层和输出层，信息的录入从输入层开始，通过隐层再到输出层。其中，输入层及输出层的神经元个数分别为输入信号和输出信号的维数，隐层及其神经元个数要根据具体的实际情况来确定。每一个神经元的激活函数都是双曲正切函数或可微的Sigmoid 函数的一种。

2.算法：BP神经网络算法是一种有教师的学习算法，属于A学习规则，即通过实际输出Yp1与Tp1 的误差来不断修正连接权和阐值，直至达到最大训练次数或者满足一定的允许误差。（1）信号正向传播：即输入信号依次通过输入层、隐层和输出层，并在终端产生输出信号。网络权值在信号传递过程当中是不变的。加入最终在输出层没有得到预期的输出结果，则会自动转入误差信号反向传播。（2）误差信号反向传播：误差信号即是实际输出和期望输出之间的差值，它的反向传播即信号自输出端依次往回传播，在此过程中，误差反馈调节网络权值变动，通过对权值的不断修正使网络实际输出与期望输出值更加接近。当达到最大训练次数或者满足允许误差时训练结束，相反则转入信号正向传播。

四、神经网络的房地产估价模型

针对住宅、商铺、别墅等不同类型的房地产，因为影响其价格的各种因素大不相同，所以应该分别构建不同的模型来进行估价，但是每一种模型所采用的神经网络模型却是可以一样的。房地产估价的神经网络模型主要由输入模块、测试模块、输出模块、数据库模块、评估模块和学习模块组成。

1.输入模块。主要负责当地产特征描述、交易情况、坐落位置和交易日期等影响其价格的资料信息，这些数据本身是固定不变得，但其影响因素是不确定的，对模型和整个评价结果起着重要的作用。在实际的应用过程中，一定要仔细分析房地产的具体情况和其价格影响因素，为模型的成功创建和数据的准确性打好基础。一般情况下，为了提高网络收敛速度，适应神经网络数据处理要求，尽量获得较为准备的数据值，要对输入和输出向量进行归一化预处理。

2.测试模块。在实际运用评估模型之前，一般都要对模型的泛化能力进行测试。泛化能力即经训练后的网络对未在训练中集中出现的样本做出正确反应的能力。一般来说，正确训练的网络即使对训练样本存有一点误差，但依然能够对没有出现过的输入做出正确的反应。如果用训练样本以外具有典型意义的数据构成测试样本集测试网络得出的结果是符合预期的，那么可以表明该估价模型是比较成功的，具有很强的推广应用能力。

3.输出模块。包括神经网络的输出数据，即神经网络计算值输出，并将其转化成实际估价结果，供用户参考使用。

4. 数据库模块。这部分模块主要是对已交易的房地产案例信息，如交易情况、交易时间、特征描述、影响因素和评估价格等信息的存储与处理。此模块要具有基本的数据信息转换功能，能够将一些定性描述通过相应的处理转换成定量描述，并赋予相应的分值。待估房地产也可以通过此模块的转换功能进行相应的数据转换。

5.学习模块。神经网络学习是利用某种算法对网络权值与闭值进行不断的调整，目的是通过对有限案例的归纳总结找某种隐藏的客观规律。BP神经网络的学习既可以通过Visual Basic， C 语言等来实现，也可以通过MATLAB 提供的神经网络工具箱实现。

6.评估模块。在输入模块输入待估项目基本特征因素，然后利用通过测试的学习模块运行结果，采用某种计算方法得出待估房地产估价。

五、BP神经网络模型的房地产估价流程

神经网络地房地产价格评估的过程主要包括数据准备、神经网络设计、学习样本输入、网络学习和评估计算等部分，具体分析如下：

1.数据信息准备。分析总结影响房地产价格的各种因素，然后收集整理各种房地产交易信息，找出能够量化的直接影响因素并进行具体的量化。

2.神经网络设计。这部分设计主要包括网络参数的设定和网络拓扑结构的设计。网络学习与结构参数主要包括网络层数、网络权值、网络输入输出层参数、隐层单元个数、网络最大期望误差等等。其中，输入和输出层参数包括神经元维数和每个神经元所代表的具体物理量。

3.学习样本输入。学习样本的各数据资料信息都要转化成量化值，并使其标准化成系统识别的具体数值。学西样本可以采用收集整理到的市场交易案例或者已有的历史数据信息。

4.网络训练。也叫网络学习，就是对网络权值和闭值进行不断调整的过程。利用已经输入的学习样本信息进行训练，在网络最大训练次数和最大期望误差范围以内，检查误差是否达到精度要求，如果达标则保存训练结果即权值闽值矩阵，不达标则继续调整学习参数与网络结构。

5.估价计算。输入各种影响待估房地产价格因素的量化值，运用已经设定好的网络模型和学习结果，进行评估以得到相应价格。

结语 BP神经网络估价使用范围非常广泛，只要在房地产市场上能够找出类似的交易案例，就可以使用此方法。基于BP神经网络的房地产几个评估模型，可以利用神经网络自身极强的学习能力，从已有交易案例中找出房地产成交价格与其影响因素之间的客观规律，从而提高评估工作效率，为房经营、发展和管理提供更好的服务。

参考文献：

[1]韩力群.人工神经网络理论、设计及应用〔M].北京：化学工业出版社，2002.

[2]王洪元，史国栋.人工神经网络技术及其应用[MJ.北京：中国石化出版，2005.

反向传播神经网络基本原理篇10

【关键词】图像分割；细胞特征；人工神经网络

据统计，在各种癌症中，子宫颈癌对妇女的威胁仅次于乳腺癌。全世界每年因子宫颈癌死亡的人数为30万，确诊和发现早期症状者各为45万。虽然确诊病人的年龄一般都在35岁以上，但存在这种疾病诱因的妇女却往往远在这一年龄以下。如果及时得到诊断，早期子宫颈癌是可以治愈的。因此借助于现代先进的计算机技术结合病理专家的实践经验，开发出计算机辅助细胞学诊断系统，才是解决这一问题的关键所在。

本文从图像识别领域出发，应用人工神经网络模型对子宫颈癌细胞图像诊断进行探索。首先，对获取的子宫颈癌图像进行灰度转换。由原来的24位彩色图像转化为灰度图像。在对灰度图像进行分割，主要采取基于门限阈值化的分割方法。分别对细胞，细胞核进行了分割。分割后转化成为二值图像，采用八向链码算法对包括周长，面积似圆度，矩形度，核浆比等15个主要形态学参数进行测量。在取得了大量的数据样本后进行人工神经网络的训练。

人工神经网络是在对人脑神经网络的基本认识的基础上，从信息处理的角度对人脑神经网络进行抽象，用数理方法建立起来的某种简化模型[1]。通过模仿脑神经系统的组织结构以及某些活动机理，人工神经网络可以呈现出人脑的许多特征，并具有人脑的一些基本功能[2]。1988年，Rinehart等人提出了用于前向神经网络学习训练的误差逆传播算法（Back propagation，简称BP算法），成功解决了多层网络中隐含层神经元连接权值的学习问题[3]。BP算法是由教师指导的，适合于多层神经网络的学习训练，是建立在梯度下降算法基础上的。主要思想是把学习过程分为两个阶段：第一阶段（信号正向传播过程），输入信号通过输入层经隐含层逐层处理并计算每个节点的实际输出值；第二阶段（误差修正反向传播过程），若在输出层未得到期望的输出值，则逐层递归地计算实际输出与期望输出之间的误差，并已据此误差来修正权值。在学习过程中，对于每一个输入样本逐次修正权值向量，若有n个样本，那么一次学习过程中修正n次权值。

但是BP算法也存在一定的缺陷，如多解问题、学习算法的收敛速度慢以及网络的隐含节点个数的选取尚缺少统一而完整的理论指导。为了优化BP算法，我们采用加入动向量的方法对BP算法进行改进。基于BP算法的神经网络，在学习过程中，需要不断地改变权值，而权值是和权值误差导数成正比的。通常梯度下降方法的学习速率是一个常数，学习速率越大，权值的改变越大。所以要不断地修改学习速率，使它包含有一个动向量，在每次加权调节量上加上一项正比例与前次加权变化量的值（即本次权值的修改表达式中引入前次的权值修改量）。设计模型时，人工神经网络的输入输出变量是两个重要的参数。输入变量的选择有两个基本原则：其一必须选择对输出影响大并且能够检测或提取的变量，其二要求各个输入变量之间互不相关或相关性很小。我们将细胞的形态学特征值作为人工神经网络的输入变量。输出变量代表系统要实现的功能目标，这里以TBS分类法为依据，确定了人工神经网络的三个输出变量NORMAL（正常细胞），LSIL（低度鳞状上皮内病变），HSIL（高度鳞状上皮内病变）[4]。在人工神经网络的输入、输出确定后，就可以得到网络的结构图，从而对测得的细胞特征值进行分类。

本文中所设计的神经网络分类器，输入层15个节点、隐含层30个节点、输出层2个节点。细胞样本共161例，使用87例细胞样本数据对人工神经网络的权值进行训练。当误差小于规定值后，再用剩余的74例数据样本对人工神经网络进行测试。主要采取的算法是增加动量的BP算法。经实验，应用人工神经网络模型识别每张图片每个细胞，选出128个最有可能的异常细胞图。通过大量实验对比训练样本识别率最高达96.6%，测试样本识别率最高达87.8%，总体样本识别率最高达92.5%。

由实验可以看出增加动量的BP算法（BP标准算法）的学习次数适中，分类基本准确。增加学习速率可以加快收敛的速度，但同时也看到由于学习速率过大，而导致系统的不稳定，引起震荡。所以在增加学习不长的同时，动向量不能够过大，否则会引起震荡，影响分类的准确率。使用增加动量的BP算法对子宫颈癌细胞的识别效果比较理想，这在医学研究以及临床诊断方面具有一定的现实意义及比较广阔的应用背景。

参考文献

[1]何苗.径向基人工神经网络在宫颈细胞图像识别中的应用[J].中国医科大学学报，2006，35（1）.

[2]刑仁杰.计算机图像处理[M].浙江：浙江大学出版社，1990：32-67.

[3]时淑舫.计算机辅助细胞检测方法在宫颈细胞学检查中的应用价值[J].临床和实验医学杂志，2003，2（2）.