神经网络特征十篇

时间:2024-04-01 18:16:28

神经网络特征

神经网络特征篇1

关键词:客户;神经网络;属性约简;数据挖掘。

中图分类号:TP183文献标识码:A文章编号:1009-3044(2011)11-2640-02

1 特征属性约简的意义

在数据挖掘中,我们要面对海量的原始数据,在这些数据中,并不是所有的信息都是有用的,如何在其中找到最关键最有用的属性,从而提高模型的效率和准确率,是我们研究的一个重点。把源表的信息原封不动的汇总起来没有太大意义,必须关注用户某些关键指标的波动情况。如在电信用户的挖掘中我们要关注:用户本月话费与往月话费相比是上升还是下降了,幅度有多大?用户通话时长怎样变化?当月的短信费用占总体费用的比例是多少等等。这些衍生的分析信息是数据挖掘不可缺少的输入变量,那么与用户有关的特征就变得更多了。大致有如下几个方面:客户个人属性(包括客户ID、性别、年龄、职业、是否离网、收入等),客户合同属性(包括入网时长、付费类型、入网渠道、资费标识、消费限额等级等),客户缴费属性(包括缴费方式、欠费次数、当月金额、当月欠费金额、连续三个月平均消费额、最近三个月消费情况等),客户通话及短信属性(包括通话时长、通话次数、长途次数比例、拨打客服电话次数等等)。

客户属性如此之多,而且很多属性还需要进一步细化,因此将所有属性都应用于挖掘模型中是不现实的。属性约简是数据挖掘的一个关键步骤,在数据收集阶段,很难确切知道哪些属性是相关的,哪些属性是不重要的,所有的属性都被认为是有用的,全部存在数据库。实际上,数据库中的属性并不是同等重要,有些甚至是冗余的,而且对于特定的数据挖掘任务,用户往往只对属性的某个子集感兴趣。因此要对众多属性进行约简,即在尽量保持数据库分类能力不变的条件下,删除那些不相关或不重要的属性。本文就是利用神经网络的属性约简方法对客户属性进行有效的选择,提高挖掘的效率。

2 BP神经网络

神经网络(Neural Network,NN),亦称人工神经网络(Artificial Neural Network,ANN),是由大量处理单元(即神经元)互联而成的网络,是对人脑的抽象、简化和模拟,反映人脑的基本特性。神经网络从人脑的生理结构来研究人的智能行为,从而模拟人脑信息处理的功能。BP神经网络即误差反向传播(Error Back Proporgation)网络因为其逼近能力好和成熟的训练方法而成为应用最广泛的神经网络之一。它是一种多层前馈神经网络,由输入层、输出层和隐含层组成,其神经元激励函数是S型函数,输出量为0到1之间的连续量,可实现从输入到输出的非线性映射。BP算法是用于前馈多层网络的学习算法,它含有输入层、输出层以及处于输入输出层之间的中间层。在中间层(也称为隐层)的神经元也称隐单元。输入输出之间的关系会受隐层状态的影响,当改变隐层的权系数时,整个多层神经网络的性能也会改变。设有一个m层的神经网络,Xi为输入层样本,Uik为第k层的i神经元输入总和, Xik为输出; Wij为从第k-1层的第j个神经元到第k层的第i个神经元的权系数,f为各个神经元激发函数,则各变量关系可用下面数学式表示:

人工神经网络具有以下特点:

1) 具有高速信息处理的能力;

2) 神经网络的知识存储容量大;

3) 具有很强的不确定性信息;

4) 具有很强的健壮性;

5) 一种具有高度非线性的系统。

BP神经网络适合模拟直感思维,它具有的并行处理、自适应性、容错性和强大的学习能力等特性,都是决策树所需要的;决策树则适用于模拟逻辑思维,它具有的易于分析推理、较强的知识表达能力、导出的规则容易理解等能与神经网络互补。通过神经网络不断的学习调整形成的网络结构,可以去掉冗余信息,从而简化数据的属性维度。客户流失模型的构造如下所示,它包括神经网络特征简约部分以决策树算法对流失客户的划分部分。

在图1中,神经网络部分包括:学习规则的选取、神经网络结构的确定、各种参数的选择,将提取的客户数据作为原始数据输入神经网络,逐步调整客户数据各属性权值大小进行学习。按属性对分类的相关度进行简约。

3 BP网络的学习过程及算法

BP网络是应用较为广泛的神经网络,它采用有教师的学习规则,算法核心是一边向后传播误差,一边修正误差来不断调节权值,采用两趟传播对每个学习过程进行计算,以实现或逼近得到期望输出。输入信号经过输入层和隐含层,在输出端产生输出信号称为工作信号正向传播。网络权值在信号向前传递中保持不变,各层神经元状态只影响其下一层神经元状态。当不能在输出层得到期望输出时,则转入误差信号的反向传播。网络实际输出与期望输出之间差值即为误差信号,误差信号反向传播是误差信号由输出端逐层向前传播。在反向传播中,由误差反馈进行调整网络权值,通过不断修正权值使网络实际输出更接近期望输出。

BP网络算法如下:

1) 初始化权值为一系列小随机数:

2) 给定X1 X2…Xn为输入向量,Y1 Y2…Yn为目标输出;

3) 从第一个隐含层开始计算各层各单元的净输入值:即

其中Ojk为输出到j单元上的k单元的输出值;N为与j单元相连的输出单元数; Wjk为j单元与k单元之间的连接权值;

4) 由净输入值和激活函数得出激活值ajaj=fj(Sj)

5) 由激活值aj计算出输出值OjOj= G(aj)(3 -2 4)

其中G为输出函数,中间层的G(aj)= aj:输出层的G则需根据输入输出模式具体确定;

6) 由输出层反向逐层计算连接权的修正值Wij

7) 重复步骤(3)至(6)直到实际输出与期望输出的均方差最小时停止。

4 神经网络训练

本文的属性约简以电信客户数据为样本,采用三层的BP网络结构,输入层根据样本情况将客户属性个数设置为39,隐含层节点为14个,系统中的客户主要分为流失和非流失两类,因此将学习速率设为0.01,输出层节点个数设为2。本文使用的训练数据为某公司某年九月份的约4万条客户样本记录,其中样本的70%作为训练集,30%作为检验集。

在BP神经网络训练过程中,BP网络训练结果的评价标准采用误差平方和(SSE)与最大迭代次数。当SSE

将样本数据中的69个相关属性送入神经网络模型进行学习,得到如下图所示的各属性流失相关度,对客户属性按照相关度大小进行排序,结合行业专家的意见和数据分析的结果,采用消费金额、客户在网时长等39个属性作为模型的输入,进行客户挖掘建模。

模型在应用中还需及时更新,因为模型的训练是基于一个时间段内的数据进行的。模型往往代表了这段时间内用户的消费习惯和消费结构。因此用模型预测时,其时效性是明显的。当环境发生变化,用户的行为发生改变时,模型也就需要及时更新,使用新的数据进行训练,不断进行修正和完善以保证其有效性,随着训练样本的增大,模型在准确率方面还将有进一步提高。

参考文献:

[1] 吴尚智.基于粗糙集的一种属性值约简算法及其应用[J].计算机应用与软件,2009(2).

[2] 王美玲,王念平,李晓.BP神经网络算法的改进及应用[J].计算机工程与应用,2009(45).

神经网络特征篇2

【关键词】雷达三维目标回波;均值滤波器;神经网络

【Abstract】The paper focuses on the research and application of neural network for feature extraction from the radar echo data, proposed a method of combining the mean filter and Kohonen neural network to resolve it. Simulation results show that the proposed method in the paper is feasible, the results is more stable and more accurate, apparently has an advantage over the ordinary self-organization neural network. To validate this method by applied to two groups of real radar data set. Result show that the proposed method is practical with ninety percent accuracy.

【Key words】Three dimensional radar echo; Mean filter; Kohonen neural network

0 引言

由于军事领域的需求推动,雷达技术有了较大的提升。其主要技术是利用目标对电磁波的散射特性来发现并测定目标的空间位置[1],而传统的雷达回波只能以二维的形式展现,不能很好的对回波的细节进行研究。Matlab具有强大的图像、图形处理能力,可以更好的展现雷达回波数据和图像的细节情况[2],在雷达目标回波技术中,准确识别各类信号是关键所在。而目标识别作为当前研究的热点,关键是提取回波信号的特征信号,也就是说必须除去回波的噪声。

本文在均值滤波的方法和自组织神经网络的结合下,研究了三维雷达回波的特征抽取和分类[3]所以利用神经网络技术对雷达回波信号进行分类和抽取,对雷达准确识别各类信号有很重要的实际意义[4]。

1 Kohonen网络和均值滤波器的原理及算法

1.1 Kohonen自组织映射网络原理及算法

Kohonen自组织映射网络,是由全互连接的神经元阵列组成的神经网络[5]。该网络由输入层和输出层构成。输入层通过权向量将外界信息汇集到输出层各神经元,其形式与BP网相同,节点数对应于一个r维的输入矢量x=[x1,…,xr],其中r为输入数据的维数。输出层也是竞争层,它最典型的结构是二维形式,假定共有m*n个节点,每个节点分别对应一个r维权矢量m=[m1,…,mr]。该网络采用的是Kohonen算法,算法的主要过程为:

(1)初始化网络、学习速率lr、邻域半径r0,随机初始化输入层节点与竞争层节点的连接权值Wij(i=1,…,n;j=1,…,m)。

(2)输入训练样本X,计算样本与每个输出节点之间的距离dj(本文选用欧氏距离),找出距离最小的对应节点,则该节点称为获胜节点v,距离计算为:

(3)确定获胜神经元v的邻域

Nv(j)=(jfind(norm(posj,posv)

式子中的posv posj分别为神经元v和j的位置;r为领域半径。

(4)根据权值学习规则修正权值,权值的改变量为

d?棕=lr*a2*(x′-?棕)

其中lr为学习速率,函数a2由输出a、神经元之间距离d和自定义的学习邻域大小r决定:

a2(i,q)=1, 如果a(i,q)=10.5, 如果a(j,q)=1且D(i,j)0, 其他≤r

(5)重新输入,重复以上(2)-(4)步骤直至训练结束

1.2 均值滤波器原理

实际采录数据信号中常常有各种干扰噪声,这些噪声会对数据的分析造成很大的影响,所以本文根据回波数据所展示的三维图,引入了一种空间域滤波方法,均值滤波器。均值滤波器的基本原理是把图像中一点的值用包含该点的一个邻域中各点值的均值代替。这种滤波可以用来减弱实际采样数据中的各种干扰。

这个邻域一般被称为窗口,是一个滑动的二维窗口,在应用窗口时其尺寸一般从小逐渐增大,直到达到要求的滤波效果。均值滤波器对异常值敏感度较低,因此它可以在不减小图像对比度的情况下减小异常值的影响。

2 Kohonen网络和均值滤波器结合设计

本文用均值滤波器和自组织竞争神经网络结合设计了一种雷达回波信号提取的方法,在进行均值滤波前需要先把数据由原来的矩阵形式转化为一维的形式。主要步骤如下:

(1)数据预处理。将数据中的实部虚部转化为模的形式。

(2)均值滤波。将上述数据用均值滤波器进行滤波。

(3)将(2)中滤波后的模矩阵首尾相连排成一维的矩阵,把对应的实部虚部同样的分别排成一维矩阵。将这三个一维矩阵合并为一个三行或者三列的矩阵,并做归一化处理。

(4)Kohonen自组织映射网络分类。把处理好的矩阵通过自组织竞争神经网络进行分类,选出其中平均值最高的一组作为目标值(大目标识别)。

(5)结果分析。把选出的分类结果数据还原成矩阵形式,只选用模的矩阵。对比原始数据中目标信号元素个数S,找出准确覆盖元素个数Y和无效的元素个数N。定义有效信息率?琢和冗余信息率?茁函数:

(6)实验操作。首先,采用一组仿真数据进行无滤波的Kohonen网络分类;下一步,按上述方法进行一次滤波后的Kohonen网络分类,查看?琢和?茁的结果是否有较大的提升。根据结果表现的理想程度决定是否进行实际数据实验验证。

3 仿真实验

模拟雷达实际数据的实部与虚部的模矩阵作为三维图的高度,三维图的另外两维均使用单位坐标系(实际信号和此方法一致)。随机生成一个111*111的矩阵作为草坪信号的模,人为添加四个较大的目标作为车辆信号的模。按照流程设计,首先用单一的Kohonen网络进行分类,筛选出其中模最大的一组数据图像,其中包含人工输入的目标信号。

下一步,在进行自组织神经网络信号提取之前加入均值滤波器进行滤波,再进行Kohonen网络分类,同样选用其中模最大的一组数据。这两次运行可以得出表1所示结果。

表1 仿真实验滤波前后的分类结果对比

从表1中可以看出,滤波后的有效信息率比滤波前高了约4倍,冗余信息率减少约50%,经过均值滤波的分类结果明显比单一的自组织分类结果显示出的目标更明确,噪声显然减少。

以上结果非常理想,考虑到仿真实验的人为性因素,下面用实地采录的两组数据来验证方法的可行性。

4 三维回波实际信号提取验证实验

采用两组实际数据测试。第一组数据目标为四个实验人员,雷达回波信号数据为111*121的虚数矩阵;第二组数据将四个实验人员去掉,目标为车辆,雷达回波信号数据为96*121的虚数矩阵。

按照流程设计,首先进行单一的自组织竞争神经网络分类,其分类结果可以看出,单一的进行Kohonen网络分类所选出的结果已经把大部分的非目标除去,剩下的图像中明显还含有小部分噪声,会对识别结果造成一定的干扰。

下一步,进行滤波后的Kohonen神经网络分类。结合第一次的运行结果和原始图像做对比,第二次的运行结果更为精简和明确,图像中基本不存在小型的信号凸起干扰。

根据之前定义的?琢和?茁来对图像的数据进行分析,结果如表2所示。数据和图像均显示这两次试验中,经过滤波处理的数据均比未出理过的数据所分类呈现出来的结果更精准,基本把噪声全部去掉,该方法具有很稳定的适用性和很好的提取效果。

表2 两组实际数据滤波前后的分类结果对比

5 结论

本文将均值滤波与神经网络相结合用于雷达三维回波信号的特征抽取,充分发挥了这两种方法的优势,通过仿真实验和对实测数据的提取,证明该方法是切实可行的。通过该方法所抽取的特征有效率信息率提高约3到4倍,冗余信息率减小约1倍,且具有良好的稳定性和很高的分类精度,其性能较传统的自组织神经网络分类器有很大提升。

【参考文献】

[1]孟祥青.雷达目标回波信号特性分析及仿真[D].河海大学,2007.

[2]刘焕乾,胡燕,刘宝丰.基于Matlab实现的雷达回波三维显示[C]//中国气象学会大气探测与仪器委员会、中国气象学会雷达气象学委员会、中国气象局气象探测中心.第26届中国气象学会年会第三届气象综合探测技术研讨会分会场论文集.中国气象学会大气探测与仪器委员会、中国气象学会雷达气象学委员会、中国气象局气象探测中心,2009:5.

[3]查品德.毫米波雷达回波去噪与特征提取研究[D].哈尔滨工程大学,2005.

[4]刘璇.基于无源雷达的动目标回波仿真与定位研究[D].大连理工大学,2013.

神经网络特征篇3

关键词 数字识别;图像预处理;特征提取;神经网络

引言

目前,识别技术已经广泛地应用到了各个领域中。为了达到对一幅图像中的数字进行识别的目的,我们要对图像进行一些处理,这些处理工作的好坏直接决定了识别的质量,这些处理技术依次为图像的读取、对读取的图像进行灰度变换、按照量化指标对灰度变换后的图像进行二值化、然后对二值化后的图像中的字符信息进行切分等。在进行完上述预处理工作后进行特征提取,再输入到已经训练好的BP网络进行识别。

1 识别的流程

识别的流程按照引言中的步骤进行,主要分为两大部分,第一部分为图像的预处理、第二部分为通过神经网络进行印刷体数字的识别。预处理部分的流程:图像输入-灰度变换-图像二值化-紧缩重排-归一化调整-图像分割-特征提取。神经网络数字识别的具体流程:样本训练-字符特征输入-识别并给出结果。

2 基于神经网络的特征提取算法概述

图像在经过了前期的预处理后,由原来杂乱无章的字符变为了整齐排列的、大小相同的一列字符,在这里图像归一化后的宽度为8像素,高度为16像素,这样就大大方便了对字符特征的提取。我们把提取的特征存储在特征向量里,然后把特征向量输入到神经网络中,这样就可以对字符进行识别了。由以上的论述我们可以得出结论,特征提取的算法是整个识别过程的关键,它的好坏直接决定了识别的成败。对图像中的字符进行特征提取的算法有很多,下面对几种重要的分别进行介绍。

2.1骨架特征提取法

由于图像的来源不同,这就使得图像的线条所使用的像素不同,在图像上表现出来就是线条的粗细的不同,这样就使得它们的差别很大。如果我们将不同的图像统一到相同的像素水平,那么它们的差别也就不那么明显了。我们使用骨架特征提取算法,就会使得识别具有一定的适应广度和宽度。

2.2逐像素特征提取法

这种图像的特征提取算法是最为常用的方法,它的特点是能够保留图像中的全部特征信息,不过这种特征提取算法对图像的噪声较为敏感,对原始图像的质量要求较高,它采用逐行扫描的办法,对图像进行扫描,为整个图像建立一个以图像中的像素个数相同的特征向量矩阵。矩阵值为0或1,图像中的黑色像素记为1,白色像素记为0。

2.3垂直方向数据统计特征提取法

此算法是对逐像素提取算法的改进,他使得特征向量矩阵的维数降低,便于后期的识别。该算法首先对图像进行水平扫描,在这一过程中,统计没一列的黑色像素数,然后进行对图像进行垂直扫描,并记录每一行上的黑色像素数,对于一个字符宽度和长度为W和H的字符,他的特征向量的维数就为W+H。

2.4特征点提取法

这一特征提取算法首先对字符进行分割,利用实现设定的四条线将字符分为八个部分,分别统计每个部分中黑色像素的数目,可以得到八个特征。然后统计水平和垂直两个方向上,穿过四条线的黑色像素数,得到四个特征,最后将整个图像中黑色像素的数目作为一个特征,一共得到十三个特征。该方法具有很强的适应性,但是由于特征点较少,使得在样本的训练过程中很难收敛。

可以看出,识别算法各有特点,根据实践需要,本识别算法中的特征提取算法采用逐像素特征提取法。原因是这种算法的执行效率高,方法简单容易实现,且对于神经网络来说有很快的收敛性,具有较好的训练效果。

3 BP网络进行数字识别算法设计

BP网中中各层中的节点数是设计BP网络最基本的一点,对于神经网络的输入层而言,其节点数为经过图像预处理里后特征向量的维数。可以直接利用每个点的像素值作为特征,这里特征提取采用逐像素提取法,归一化后图像的宽度为8,高度为16,因此对于输入样本来说,每一个样本都会由128个特征,因此神经网络的输入层的特征数为128。

对于神经网络内部隐藏层的节点数来说,其节点数没有特别的规定,总的来说,隐藏层的神经元的数目与神经网络的精度成正比,与训练时间成反比。如果神经网络的神经元设置的过多,会对识别率造成较大影响,使得识别率大幅下降。因此在这里根据多年的实践经验在神经网络的隐藏层选取10神经单元。 对于输出层而言,要根据设定的输出标准来确定输入层的节点数。在本算法中采用8421的编码进行编码。对于0-9这十个数字,分别对应十个8421码,例如,0的8421码为(0,0,0,0),1的8421码为(0,0,0,1),依次类推,因此神经元的数目选定为4,就可以表示这十个数字,然而,因为神经元的激励函数(传输函数)是S型函数,期望输出只能是大于0小于1的数,而不能是1或者0,因此用0.1来代表0,0.9代表1,否则算法将不能收敛。

神经网络搭建好后,要对神经网络进行训练,也就是确定神经网络中各个参数的权值。本程序的训练样为图片。首先将图片进行预处理,然后提取特征,将特征值输入到神经网络中进行训练。在这里使用10个字符的图片进行训练,在图片里包含了ARIAL字体0-9十个数字。

通过50个相关训练样本进行训练后,BP网络对于数字字体的识别率能够达到百分之九十以上。训练好的神经网络就可以对数数据进行识别了。

4结论

本文以VC为平台,运用人工神经网络的思想(主要采用BP神经网络),实现了对印刷体数字识别。系统实现分为图像预处理和神经网络识别两大模块。首先,扫描进入电脑的图像需保存为256色位图或者是256级灰度图像。首先对图像进行预处理,然后进行特征提取,再输入BP网络进行识别。BP神经网络进行字符识别的过程主要包括网络的训练、数据的读取、字符的判定、结果的输出等。本系统通过对样本数据进行学习和训练,形成了具有良好识别能力的网络,对印刷体数字进行识别检测,达到了一定的准确度,满足了设计要求。

参考文献

神经网络特征篇4

关键词:神经网络;智能设计;特征编码;智能推理;基于知识的工程(KBE)

中图分类号:TP391文献标识码:A文章编号:1009-3044(2011)16-3917-03

Research and Implementation of Intelligent Design System Based on Artificial Neural Network

WU Zheng

(The CAD Research Center of Tongji University, Shanghai 200092)

Abstract:Axisymmetric part of the design for the introduction of the concept of the feature encoded file, its characteristic features in a coded form to be expressed. In order to achieve intelligent process state model output, the use of artificial neural networks for automatic reasoning capabilities. Through the intelligent reasoning system to remove the experience of design continued exploration and improvement, will be part of the feature modeling input, the system can automatically determine the parts of the process, then automate production. The intelligent system can help developers and designers to quickly produce design example, so developers can focus more on product innovation activities of enterprises to improve product design and R & D has important practical significance.

Key words: neural network; intelligent design; feature coding; intelligent reasoning; KBE

产品工艺设计是产品开发的首要环节,也是关系到产品设计成功与否的核心问题。提高工艺设计集成化、系统化和智能化程度,实现经验设计向科学设计的飞跃是研究人员多年追求的目标。而智能设计作为现阶段的热点技术,吸引了越来越多的专家和学者的目光。[1]伴随着计算机软硬件的成熟,以及图形图像学、CAD、人工智能设计技术和工艺模式理论的发展,显著的提高了设计的质量和效率,大大缩短了设计周期和工时,形成了工艺设计的的新领域,对我国智能设计和计算机辅助设计的发展起到了极其重要的推动作用。[2]

1 人工神经网络智能设计系统模型的表达

1.1 智能设计系统的体系结构

该智能设计系统主要的结构模块如图1所示。本文将该智能设计系统主要划分为以下几个模块,特征造型器主要将零件的特征进行录入,数据会同用户的输入数据共同进入特征编码器;特征编码器相当于一个接口,将形式数据转化为模式映射器能够识别的规范化数据(即特征编码文件),在模式映射器内部,通过神经网络对数据的处理,同时结合已有的经验知识库、材料库、规则设计库、工艺特征库、映射规则和标准库的数据交互,将数据输出到数值公式计算模块。数值公式计算模块主要是在具体的场景中将约束条件进行量化,结合具体的设计要求将工艺设计顺序进行调整。最后将结果反馈到用户界面,实现智能设计。

1.2 KBE思想和本系统的有机结合

在工程实践中,人们发现专家知识一般来源于该领域内专家的经验和积累,具有很大程度的不确定性和模糊性,这对于知识的交流和继承带来了很大的困难。欧洲面向KBE应用的方法和软件工具研究联盟提出了KBE的概念,KBE是计算机辅助工程领域的一个进步,它是一种将面向对象方法(Object Oriented Methods)、AI和CAD技术三者集成的工程方法,能够提供设计过程客户化、变量化和自动化的解决方案[3-4]。,我们认为:KBE是通过知识驱动和繁衍,对工程问题和任务提供最佳解决方案的计算机集成处理技术,是AI和CAx技术的有机融合。[5-6]

KBE系统的要点主要是知识的表示、知识建模、知识推理和知识的繁衍。本系统主要通过特征造型器进行知识的表示,进而在特征编码器中对所得知识建模,形成了特征编码文件。模式映射器利用人工神经网络对于特征编码文件进行不断的映射,实现了知识推理;同时模式映射器将学习所得的知识存储在相应的知识库中,进行知识繁衍。将经验知识和隐形知识转化为显式知识,实现了智能系统的关键一步。我们将KBE的思想结合到本文所开发的系统中来。

2 零件的工艺特征及特征的编码

2.1 特征的确定和数字化表达

首先我们需要确定零件的特征,进而将零件的特征数字化。本文根据以下原则确立零件的特征:

1)现实性。零件的特征是客观存在的,不因人的主观意志的转移而改变该特征。2)可测量性。相比于传统的经验化设计模式,能够准确的测量和量化零件特征是智能设计的重要要求。3)唯一性。作为零件信息的重要载体,特征的无歧义性是需要重点考虑的原则,不能同时将一个特征收录到两个属性中,进而造成建模中零件属性的混乱。

本文主要针对轴对称的零件工艺模式,我们将主要研究零件的以下特征:冲孔、翻边、正向拉深、反向拉深、带孔小阶梯成形法等。

考虑到神经网络我们采用的是S型参数,所以我们将特征编码确定为0到1之间的数,本文共确定了10种特征形状。如表1所示。

通过确定特征参数,进而可以构建特征造型器,特征造型器以零件的实体特征为基础,结合零件的几何信息和拓扑信息,将参数化设计思想和特征编码思想统一,用尺寸驱动的方法来定义特征,便于计算机对于零件特征的识别和处理。

2.2 面向对象的特征建模语言

由于在实际设计征的复杂性和多样性,而面向对象的语言具有数据的封装性、数据与操作的集成性、对象重载、现实世界对象的数据和行为的全面抽象、对象数据的继承性等等许多的优点,目前已成为设计领域广泛采用的设计手段,应用在特征设计领域,可将特征的对象数据类型抽象出来。

特征对象首先具有本身的特征尺寸和属性,考虑到具体的应用,这些尺寸要能够实现参数化,除此之外,还具有公差、材料、技术设计要求等信息;特征的操作类型主要分为两种:一种是成型过程,即所谓的造型映射,另一种操作是特征在零件上的形成位置即有关位置的变动操作。在这两种操作中,造型映射与工艺设计的过程联系紧密,而特征位置操作则与产品的设计过程相关。下面主要是该特征对象的基类型的原型定义。

class Feature

{Stringfeature ;//零件对象的三维实体名。

StringName;//零件特征名。

Stringmaterial;//特征的材料。

intfeature_parametre; //特征尺寸的参数。

intfeature_num.;// 特征类型的编号。

intfeature_code;// 特征的编码。

intpt1,pt2,pt3;//特征基点的坐标。

int angle1,angle2,angle3;//特征在三维空间中与X, Y, Z轴的夹角。

Public:

virtualvoidmodel();//构造三维实体特征。

virtualvoidlocate();//确定特征的空间位置。

voidmove (ap_solid *sol, ap_real tx, ap_real ty, ap_real tz);//将特征移动{tx,ty,tz}。

voidrotate (ap_solid *sol, ap_real rx, ap_real ry, ap_real rz);//将特征旋转。

void chang_feature_para (int class_name, ap_solid *sol, ads_point pt, ap_direc ang, feature_parametre, void model); //该特征的几何尺寸的参数化修改操作。

voidcal_area(); // 特征面积的计算。

voidcal_circl();//特征周长的计算。

}

通过实例化语言,我们能够对零件的特征进行描述,进而便于计算机识别和处理。特征编码的构造加入到零件基类中,具体零件的定义将继承特征编码的操作,并能够进行适当的重载。

3 特征编码器和特征编码文件

将特征数字化表示后,本系统主要通过特征编码器将特征组成特征编码文件,使后续的人工神经网络能够对文件进行处理。有了特征编码,我们能够让机器识别特征;但是为了保存特征的其他信息,如冲孔工艺中孔的直径,翻边的高度等等,我们引入了特征参数的概念。特征参数即为了更明确的定义特征的几何、物理属性,跟随在特征编码后面的一系列数值。图3表示了部分特征编码所对应的特征参数。

我们将特征编码和特征参数组成特征编码文件,输入到模式映射器中。特征编码文件的格式为:每一行表示切仅表示一个特征,其中第一个数字为特征编码,特征参数在特征编码之后给出。图4显示了一个特征编码文件的实例。

4 智能设计系统中工艺模式的生成、映射以及神经网络的构造

4.1 工艺模式映射的过程

我们将零件的特征编码文件输入人工神经网络后,人工神经网络进行反向推理,将零件的成型信息反向输出,同时结合知识库、材料库等已有的信息,输出结果。

工艺模式用于指导工艺计算模块的工作,而经过特征造型之后的零件信息只有特征编码文件。因此,人工神经网络的任务就是根据零件的特征编码组信息,推导出生成零件的各个中间成形形状的特征编码组,以及各个中间形状在零件成形过程中的排列顺序。

因为对于神经网络来讲,得到的是设计者输入的零件模式信息,输出是零件成形的各个中间状态(特征编码表示),这就决定了工艺模式在神经网络中的映射过程是一个“逆顺序”的过程,这一过程又可以描述为“反推导”过程,即:将零件的特征编码组(零件模式)输入到经过训练的神经网络中,由其输出该零件成形的各个过程的中间形状的特征编码(中间形状模式)。我们以计算机的视角来看待零件的分解,即:零件->特征->特征编码文件->人工神经网络。在人工神经网络中,特征编码文件被反编译,特征结构后得出特征形成的顺序,进而输出,即:人工神经网络->特征反编译->特征工艺序列->特征编码组->特征->零件。由此可见,人工神经网络是用于处理工艺模式的主要工具,在前面的特征造型器、特征编码器中生成的零件的工艺模式,以及特征编码组等概念,都是为了便于神经网络的处理而建立的。

最后,由这些“中间形状模式”、“零件模式”等特征编码组信息及其排列顺序,组成该零件成形的“工艺模式”信息文件。这一过程,就是以零件模式作为输入、以经过训练。

4.2 神经网络的比较及选择

人工神经网络用于工艺模式映射的工作主要是以下几个:1)是针对输入的零件模式经过映射后输出该零件成形的中间形状;2)生成按照工艺成形的过程而排列的零件成形中间形状的排列顺序;3)进行反向学习,从输入的特征编码文件中提取零件成型顺序,存储到知识库中。[7]

神经网络主要由以下几类:1)分解映射结构;2)集中映射结构;3)前向网络;4)集中反馈式网络。[8]

我们选择的是集中反馈式的神经网络,相比于其他类型的网络,反馈式结构的优点是:统一的网络便于训练模式的组织和映射工作的开展;输入单元和输出单元的数目相同,可以形成对称的网络结构,使得网络的稳定性和收敛性有了保障;工艺模式的成形顺序性问题不占用网络的实际结构形式,顺序性问题转化为反馈映射的顺序问题,映射的顺序代表成形的顺序;网络在结构上将保证各个单步成形映射的准确性,从而提高网络的训练质量。[9]

表2给出了神经网络训练的相关内容,由于神经网络中节点和隐层数目的不同会极大的影响神经网络的性能,本文主要对各个不同的网络进行了比较,得出了一个最优的网络(即网络7)。

5 实例模型

本文在研究的基础上开发了一个应用实例,该实例主要是设计者将零件的特征编码和特征参数输入系统后,经过神经网络的智能推理,将输出反馈到设计平台上。

系统首先进行特征编码的输入,以确定零件的特征造型;然后输入每一个特征编码对应的特征参数,图5显示了拉深工序对应的特征参数的录入。特征参数录入完成后可以选择继续添加特征或者生成特征编码文件。图6为一个以记事本方式打开的特征编码文件。将特征编码文件输入人工神经网络,对应的输出为特征造型顺序文件(Y.SFM),数值公式计算模块处理该文件,最后给出智能设计工艺流程(图7)。

图5特征参数录入 图6特征编码文件图7 智能设计系统给出的零件成型顺序及计算结果

6 结论

本文提出了轴对称零件成型工艺的产品建模方法,然后给出了面向对象的建模语言,能够量化表示零件的特征,在将零件的特征编码文件通过神经网络映射和输出的同时,运用KBE系统的自学习理念,将习得的知识存储。实践表明,通过人工神经网络和工艺智能设计系统的应用,能够解决实际的零件设计成型问题。

参考文献:

[1] 高伟.工艺设计信息系统中的知识发现技术研究[D].成都:四川大学,2005:22-23.

[2] 罗小宾.机械产品图像识别技术及其在反求设计中的应用研究[D].成都:四川大学,2004:15-16.

[3] The Knowledge Engineering and Management Centre at Coventry University,UK,[EB/OL].kbe.cov.ar.uk.

[4] MOKA-Methodology & soft-ware tools-- Knowledge based engineering Applications[M].ESPRIT proposal EP25418,1997.

[5] Peng Ying-hong,Zhao Zhen,Ruen Xue-yu.Application of KBE technology in Die & Mold Design[J].International Conference on Die end Mold Technology, Beijing,2000,90-86.

[6] Peng Ying-hong,Zhao Zhen,Ruen Xue.KBE technology in Engineering Design[J].International Conference on Engineering end Technological Sciences 2000, Beijing,2000:94-100

[7] 刘振凯.智能CAD人工神经网络专家系统的模型和结构[J].中国机械工程,1997(2).

[8] 肖人彬.智能设计:概念、发展与实践[J].中国机械工程,1997,8(2):61-64.

神经网络特征篇5

【关键词】深度学习 卷积神经网络 权值共享 下采样 R-CNN Fast-R-CNN

1 绪论

随着电子信息技术的快速发展,芯片的设计与生产进入了纳米时代,计算机的计算能力与计算速度得到了空前的提高,但是人们的需求是无限的,要求计算机能更加任性化的服务于我们的生活,这也就要求计算机本身能像人一样识别与感知周围的环境,并对复杂的环境做出正确的判断。而图片信息是我们周围环境最直观的,最容易获取的信息,要求计算机能对为的环境做出识别与判断也就要求计算机能够智能的识别图像信息。深度学习是机器学习中的一个新的研究领域。通过深度学习的方法构建深度网络来抽取目标特征进而识别周围的环境。卷积神经网络对图像的处理具有平移,旋转,扭曲不变的优良特性。在处理图像是更加快捷和便利。卷积神经网络使得计算机在感知识别周围环境的能力有了巨大的提升,使得计算机更加智能。卷积神经网络拥有强大的特征提取能力,使得其在图像分类识别,目标跟踪等领域有着强大的运用。

1.1 国内外研究现状

1986年,Rumelhart和Mc Celland提出BP算法。BP算法反向传导神经网络输出误差进行训练神经网络。通过BP算法,神经网络能够从大量训练数据中的学习到相关统计信息,学习到的数据统计信息能够反映关于输入-输出数据模型的函数映射关系。

自2006年以来,Geoffery Hinton教授提出深度信念网络。从此深度学习在学术界持续升温。深度学习不仅改变着传统的机器学习方法,也影响着我们对人类感知的理解,迄今已在语音识别和图像理解等应用领域引起了突破性的变革。各种相关的算法和模型都取得了重要的突破,使得深度学习在图像分类,语音识别,自然语言处理等领域有广泛的运用。

2013年百度成立百度深度学习研究院以来我国的人工智能领域取得了长足的进步。在人工智能专家吴恩达的带领下,百度陆续推出一系列人工智能产品,无人驾驶技术,DuerOS语音交互计算平台,人脸识别技术,美乐医等优秀产品。此外Imagenet图像识别大赛中也诞生了一系列经典的神经网络结构,VGG,Fast-R-CNN,SPP-net等等,可以说人工智能技术在近几年得到了空前的发展。

2 深度学习概述

深度学习是机器学习的一个新方向,通过学习样本数据内在规律和深层特征深度,深度学习神经网络能够像人一样有分析和学的能力,尤其在文字处理,图像识别,语音等领域更加突出。能够自主学习一些新的东西。目前深度学习使用的典型技术是通过特征表达和分类器来进行目标识别等任务的。并在语音识别、图像处理、机器翻译等领域取得很多成果。

深度学习不同于以往的浅层学习,浅层学习模型值包含一个隐藏层,或者不存在隐藏层,深度学习则是由很多隐藏层组成的,上一层的输出作为下一层的输入,实验对输入信息进行分级表达。目前深度学习框架主要包含三种深度学习框架,如图1、2、3所示。

3 卷积神经网络

卷积神经网络的结构层次比传统的神经网络复杂,卷积神经网络包含大量的隐藏层,相邻的卷积核或者下采样核采用局部感受野全链接,神经元权值共享的规则,因此卷积神经网络训练参数的数量远比传统神经网络少,卷积神经网络在训练和前向测试的复杂度大幅度降低,同时也减少了神经网络训练参数过拟合的几率。卷积神经网络主要有两部分,分别是卷积核和下采样核。卷积核主要对上一层的图像进行卷积运算,提取图像特征,下采样核则是对上层的数据进行将为处理,减少神经网络的复杂度。

卷积神经网络中每一个神经元的输入与前一层的局部感受野相连,提取局部感受野的特征,比如图像的轮廓,颜色等特征,而这些特征不仅包括传统人类能理解的特征,也包括神经网络自身能够识别的特征,卷积核全职共享,因此这些特征提取与图像的位置无关。

图4是经典的LeNet5卷积神经网络架构,LeNet5架构中卷积核和下采样核交替出现,下采样核及时的将卷积核生成的特征向量进行降维,减少神经网络的运算量。LeNet5算法在1962年幼Hubel等人提出,在识别手写数字mnist中有极高的准确率。

4 R-CNN、Fast-R-CNN对比分析

卷积神经网络在对图像进行识别具有平移,旋转,扭曲不变的优良特性,并且能够实现高准确率识别图像,但是在现实生活运用中往往需要神经网络标记出目标的相对位置,这是传统卷积神经网络不具备的功能。因此在前人传统卷积神经网路基础上对卷积神经网络进行改进,产生了具有对图像中目标进行识别和定位的卷积神经网络R-CNN,Fast-R-CNN等改良算法。

4.1 R-CNN

R-CNN为Region Convoluntional Neural Network的缩写即对图像进行局部区域的卷积处理,其核心思想主要是利用候选区图像对物体探测中位置信息进行精确处理和利用监督式预训练和区域特殊化的微调方法,代替了传统的非监督式预训练和监督式微调。

在CNN中,全连接层输入是固定大小的,因此R-CNN用计算机视觉算法将每一张图片分割成1000-2000张的候选区图片后,要将这些候选区图片进行变换,生成固定大小的候选图片,在训练提取特征时一般采用经过预训练的模型参数进行finetuning,榱嗽黾友盗费本,模型在也将生成的候选框以及标定的标签作为训练样本进行训练。R-CNN采用SVMs分类器对特征向量进行分类,在训练SVMs时将候选框经过卷积神经网络提取的特征和SVM标定结果输入到SVMs分类器训练分类器模型。而在测试时将图像全部候选框经过卷积神经网络提取的特征输入到SVMs分类器中,得到每一类的评分结果。但是R-CNN在处理一张图片是要处理需要对一张图片1000-2000个候选区图像进行前向运算,保存所有后选取图片的特征值,要求计算硬件有大量的存储空间,同时处理每一张图片的时间也会增加。由于训练集庞大,本文采用hard negative mining method方法提高存储的利用率。

R-CNN的体现出了极大的优势,其中MAP也可以大幅度提高,但是正如本文上述,R-CNN计算的时间成本很大,达不到实时的计算效果,R-CNN在对候选区进行处理时会使得图像失真,部分信息丢失。

4.2 Fast-R-CNN

Fast-R-CNN则是再次改进的一种基于卷积神经网络目标跟踪定位算法。相比于R-CNN,Fast-R-CNN从单输入变为双输入,在全连接层后有了两个输出,引入了Rol层。

Fast-R-CNN在运行的时候同样会生成大量的候选区,同时将原始的图片用卷积神经网络进行特征提取,将原始图片提取的特征与生成的候选区坐标送入Rol层为每一个候选区生成一个固定大小的特征向量。最后将Rol生成的特征向量全连接层产生最终的LOSS。Fast-R-CNN中的LOSS采用多LOSS模式,SoftMax LOSS用于计算K+1分类的损失,K为第K个目标,1为背景;Regression LOSS计算候选区的四个角的坐标。

Fast-R-CNN在MAP上有了大幅度的提升,速度也得到了提升,但是在计算候选区是仍存在瓶颈,这也是限制Fast-R-CNN速度的因素。

5 实验测试

对于本文提出的卷积神经网络识别图像定位图像目标算法R-CNN,Fast-R-CNN,在本章给出实验结果。实验平台为基于Linux系统的debian8下运行caffe进行训练,采用显卡K620进行实验。

训练模型初始化参数在是服从高斯随机分布,R-CNN采用的网络结构如图7所示,Fast-R-CNN的网络结构如图8所示。

本次实现的训练样本为录制实验室视频数据,将视频数据转换成帧图片,对每张图片数据进行裁剪,裁剪后图像大小在256*256,共有500张,再将裁剪后的图片进行旋转,平移,扭曲,镜像,加噪声等处理,最后生成144万张样本图片,其中136.8万张图片作为训练样本,7.2万张作为测试样本。

6 总结

在目标识别定位领域,卷积神经网络具有强大的图像处理能力,对图像的识别定位具有很高度平移,旋转,扭曲不变形的优良性能。卷积神经网络架构R-CNN和Fast-R-CNN都有强大的图像处理能力。Fast-R-CNN在识别准确率上比R-CNN高。R-CNN算法复杂,对一张图片需要进行1000-2000次的卷积运算,特征重复提取。因此在训练和前向测试时,R-CNN用的时间长,不能很好的适用于处理实时图片数据,尤其视频数据。R-CNN在对每个候选区进行特征提取之后需要将提取的特征向量存入内存,降低训练测试时间的同时也需要耗费大量内存。因此从各方面分析可知,Fast-R-CNN性能优于R-CNN。

参考文献

[1]谢宝剑.基于卷积神经网络图像分类方法研究[D].合肥工业大学,2015.

[2]郑胤,陈权崎,章毓晋.深度学习及其在目标和行为识别中的新进展[J].中国图象图形学报,2014(02):175-184.

[3]陈先昌.基于卷积神经网络的深度学习算法与运用研究[D].杭州:浙江工商大学,2006(04):603-617.

[4]李彦冬,郝宗波,雷航等.卷积神经网络研究综述[J].计算机应用,2016.

[5]Gibson.J J.The perception of the Visual World[J].Cambridge,England,1950.

[6]HORN B,SCHUNCK P.Determining optical flow[J].Artificial Intelligence, 1981,17:185-203.

[7]R.Girshick,J.Donahue,T. Darrell,and J.Malik,“Rich feature hierarchies for accurate object detection and semantic segmentation,”in CVPR,2014

[8]Ross Girshick,Wicrosoft Research. Fast R-CNN,.

[9]R.Girshick.Fast R-CNN. arXiv:1504.08083,2015.

神经网络特征篇6

【关键词】美尔倒谱特征;BP神经网络;说话人识别

1.引言

说话人识别技术是一项根据语音波形中反映说话人生理和行为特征的语音参数,自动识别说话人身份的技术。说话人识别技术的核心是通过预先录入说话人声音的样本,提取说话人的语音特征并保存在数据库中,应用时将待验证的声音与数据库中的特征进行匹配,从而决定说话人的身份。

说话人特征主要有美尔倒谱系数(MFCC),线性预测系数(LPC),线性预测倒谱系数等(LPCC),识别模型主要有矢量量化技术(VQ),动态时间规整模型(DTW),隐马尔科夫模型(HMM),和人工神经网络(ANN)。它们用于语音识别的不同场合,各有所长。NN就是模仿人脑工作方式而设计的一种机器,可以用软件在计算机上仿真;NN能够通过学习,获取知识并解决问题。BP算法成为目前应用最为广泛的神经网络学习算法BP网络在函数逼近、模式识别、数据压缩等领域有着广泛的应用。

2.MFCC特征提取

人的听觉系统是一个特殊的非线性系统,他对不同频率信号的响应基本上是一个对数关系,美尔倒谱系数应够充分利用人耳这种感知的特性。实验发现,在1000Hz以下,感知能力与频率成线性关系,但在1000Hz以上时,主观心理感知能力与频率成对数关系,Mel频率和普通频率的对应关系是:

MFCC参数的提取分为预处理(采样/量化、数字滤波、预加重处理、加窗)和特征提取(包含求倒谱),流程图如图1所示。

图1 MFCC特征提取流程

其算法流程为:

(1)首先确定每一帧语音采样序列的点数,本文取N=256点。对每帧序列进行预加重处理后再经过离散FFT变换,取模的平方得到离散功率谱。

(2)计算通过M个带通滤波器后所得的功率值,即计算和在各离散频率点上乘积之和,得到M个参数:

(3)计算自然对数,得到:

(4)对离散余弦变换,得到。

(5)舍去代表直流成分,取作为MFCC参数,本文中K=16。

语音的信息大多集中在低频部分,而高频部分容易受到环境噪声的干扰。MFCC参数强调语音的低频信息,从而突出了有利于识别的信息,屏蔽了噪声的干扰。

3.BP神经网络的建立和训练

设计一个三层BP神经网络,如图2所示。其中Input表示网络的输入,网络输入的个数是语音帧的MFCC特征向量(输入向量)P,本文MFCC特征取16,P的维数为40*16。Layer是输入层到隐含层和隐含层到输出层各神经元的权值矢量,表示输入与神经元间的连接强度;第一层(隐含层)神经元的数目设计为37;第二层(输出层)神经元的个数根据待识别说话人数设计。

图2 识别神经网络的结构

对设计好的网络进行识别时,要考虑到以下几点:(1)使网络具有较强的泛化能力,应对说话人语音帧进行过零率检测,将MFCC特征进行归一化;(2)对同一人的不同发声语音段进行训练,提高神经网络的识别能力;(3)对噪声的稳健训练,为了提高神经网络抑制噪声的能力,应采用理想样本数据和含有不同程度噪声的样本数据同时对网络进行训练。

设置网络的性能函数和主要训练参数:网络训练目标误差为0.1,训练步数为5000;显示训练结果的间隔步数为50。图3是某次训练的训练误差变化曲线,由图3可知,该次训练中,当网络训练到520步时,网络性能达标,即目标误差达到0.1,训练停止,此时网络的权值和阈值调节到了最佳状态。分别用同一说话人的含有不同程度噪声的训练样本对网络进行训练,每次训练网络都有很好的收敛性。

图3 训练误差变化曲线

对训练好的网络进行仿真识别,将测试语音段输入,即可得出结果。表1是网络经过多次训练识别,对3说话人3位输出,8说话人8位输出,8说话人3输出说话人进行识别的仿真结果。

表1 Matlab识别仿真结果

说话人数 输出层神经元个数 识别率

3说话人 3 99.75%

8说话人 8 95%

8说话人 3 85%

4.结论

(1)MFCC特征提取和BP神经网络相结合,是可以实现说话人识别的。

(2)降低训练样本维数的措施,对训练样本进行主元分析,可以有效地降低训练样本的维数。

(3)随着说话人数量的增多,识别效果有一定的下降。识别人数相同,输出层神经元个数也影响识别效果。

(4)由于说话人的语音样本不充足和样本录制时噪音干扰,对识别效果有一定影响。

参考文献:

[1]徐波.语音识别技术与应用的发展趋势[J].中国计算机协会通讯,2008,2:54-57.

[2]张军英.说话人识别的现代方法与技术[M].西安:西北大学出版社,1994.

神经网络特征篇7

关键词:竞争型神经网络;分类;训练误差;特征向量

文本分类数是据挖掘的一个重要研究领域,国内外的众多学者已经进行了比较深入的研究,取得了不少研究成果。常见的文本分类技术有最小距离方法、朴素贝叶斯方法、KNN方法、支持向量机方法(SVM)、模糊c均值(FCM)算法和等,现在有很多学者把神经网络的方法应用到分类算法中,在这些分类算法中,神经网络的文本分类更具有优越的性能。袁飞云利用SOINN自动产生聚类数目和保留数据拓扑结构的两项能力,寻找更有效的单词和设计更有效的编码方式,提出了基于自组织增量神经网络(SOINN)的码书产生方法;申明金利用自组织特征映射神经网络(SOM)以无监督方式进行网络训练,具有自组织功能的特点,利用自组织特征映射神经网络对不同产地金银花进行分类;彭俊等将不同空气质量等级下的各空气指标作为原型模式,通过输入样本模式,利用竞争网络的竞争特点得到胜者,以此得出空气质量等级;郝晓丽等通过筛选基于轮廓系数的优秀样木群,来寻找最佳初始聚类中心,并将该改进算法用于构造径向基函数神经网络分类器和快速有效地确定隐含层节点径向基函数中心及函数的宽度,从而提高了分类精度;孙进进利用神经网络技术中的自组织映射SOM)网络对我国主要机场进行聚类分析评价,得出我国主要机场分为8层的主要结论;刘艳杰在非监督的自组织映射神经网络的基础上进行了一定的改进,构建了有监督的神经网络分类模型;李杨将神经网络与群体智能算法、云计算相结合的方法,实现对不同规模农业数据集的分类,提出基于神经网络分类器的设计与优化方法。而竞争型神经网络的自组织、自适应学习能力,进一步拓宽了神经网络在模式分类和识别方面的应用。竞争型神经网络依靠神经元之间的兴奋、协调、抑制或竞争的作用来进行信息处理,可在训练中无监督自组织学习,通过学习提取数据中的重要特征或内在规律,进而实现分类分析的功能。

1竞争型神经网络的描述

1.1竞争型网络的结构

竞争学习网络的结构如图1所示,该网络具有R维输入和s个输出,由前馈层和竞争层组成。图中的llndlstll模块表示对输入矢量P和神经元权值矢量w之间的距离取负。该网络的输出层是竞争层,图中的模块c表示竞争传递函数,其输出矢量由竞争层各神经元的输出组成,这些输出指明了原型模式与输入向量的相互关系。竞争过后只有一个神经元有非零输出,获胜的神经元指明输入属于哪类(每个原型向量代表一个类)。

1.2竞争型神经网络的原理

竞争型神经网络在结构上,既不同于阶层型的各层神经元间非单向连接,也不同于全连接型。它有层次界限,一般是由输入层和竞争层构成的两层网络。两层之间各神经元实现双向全连接,没有隐含层,有时竞争层各神经元之间还存在横向连接。在学习方法上,不是以网络的误差或能量函数的单调递减作为算法准则。而是依靠神经元之间的兴奋、协调、抑制、竞争的作用来进行信息处理,指导网络的学习与工作。

网络在刚开始建立的时候,输入层和输出层之间的连接权值已经开始了,如果与竞争层某一神经元对应的矢量子类别属于线性层某个神经元所对应的目标类别,则这两个神经元的连接权值为1,否则二者的连接权值为0,这样的权值矩阵就实现了子类别到目标类别的合并。在建立竞争型网络时,每类数据占数据总数的百分比是已知的,这也是竞争层神经元归并到线性层的各个输出时所依据的比例。

1.3存在的问题

竞争型神经网络按Kohonen学习规则对获胜神经元的权值进行调整,通过输入向量进行神经元权值的调整,因此在模式识别的应用中是很有用的。通过学习,那些最靠近输入向量的神经元权值向量得到修正,使之更靠近输入向量,其结果是获胜的神经元在下一次相似的输入向量出现时,获胜的可能性更大;而对于那些与输入向量相差很远的神经元权值向量,获胜的可能性将变得很小。这样,当经过越来越多的训练样本学习后,每一个网络层中的神经元权值向量很快被调整为最接近某一类输入向量的值。最终的结果是,如果神经元的数量足够多,则具有相似输入向量的各类模式作为输入向量时,其对应的神经元输出为1;而对于其他模式的输入向量,其对应的神经元输出为0。所以,竞争型神经网络具有对输入向量进行学习分类的能力。

例子:以竞争型神经网络为工具,对下面的数据进行分类:

运用Matlab编程实现,发现网络的训练误差能达到要求,最后也能实现很好的分类效果。运行结果如图2所示。

有运行结果可以看到,训练误差达到要求,分类结果也很合理。

但是在实际应用过程中,我们发现,当对于训练数据的数据特征十分明显的时候,本文设计的网络模型可以对训练的数据进行合理有效的分类,但是,当训练数据的特征不太明显区分的时候,本文设计的训练模型的分类效果就不是太有优势,所得到的分类结果就不能达到我们预期的效果。

我们利用竞争型神经网络对数据样本进行分类,其中参数设置为学习效率0.1,网络竞争层有4个神经元,运用Matlab编程实现,发现结果如下:

例子:我们利用本文设计的网络分类模型进行对数据分类处理:进行分类处理数据的样本数据如下所示:

通过运行学习发现训练误差较大,分类结果也达不到要求。

2改进的方法

2.1问题分析

通过比较分析我们发现,上面的数据样本没有明显的分类特征,所以,以竞争型神经网络进行分类,其输入向量仅仅依靠数据本身的固有的特征时不够的,但我们可以把数据样本看作是二维数据,假设同符号的特征值为1,不同符号的特征值为2,于是一个新的训练样本就确定了,即成为三维数据模型。

2.2改进的算法

第一步:给定数据集X=[X1,X2……,Xi),对网络进行初始化,随机给定网络竞争层与输入层间的初始权向量wj(=wj[w1j w2j…wnj];j=1,2,…,m xp;wijE(0,1));给定输出层与竞争层间的连接权值wjo=1/m,o=1,2,…P (P表示第二隐层和输出层的连接权矢量)。

第二步:创建竞争型神经网络,首先根据给定的问题确定训练样本的输入向量,当学习模式样本本身杂乱无章,没有明显的分类特征,网络对输入模式的响应呈现震荡的现象,不足以区分各类模式时,在创建网络之前,提取训练样本的特征值,设置输入样本的特征向量,然后再创建网络模型,并根据模式分类数确定神经元的数目,最后任取一输入模式Ak。

第三步:计算竞争层各神经元的输入值si:

第四步:对本文建立的网络进行训练学习,网络训练最大次数的初始值设置为230,当训练误差大于预期的设定值的时候,可以尝试增加训练的最大次数,按“胜者为王”(Winner Takes All)原则,将训练网络中获得最接近预期值的神经元作为胜者,输出状态设置为1,没有获胜的神经元的输出状态设置为0。如果有两个以上神经元的sj相同,取左边的为获胜单元。

第五步:获胜神经元连接权修正如下:

第六步:另选一学习模式,返回步骤3,直至所有学习模式提供一遍。

第七步:如果不满足要求,则返回到最初的训练状态,反复训练直至训练网络中神经元获得最接近预期值,最终的训练结束。

第八步:根据测试样本利用Matlab编写程序进行仿真实验。

通过实例训练,我们发现本算法和改进前的算法相比,改进后的算法训练误差却大大降低,已经达到了训练的精度要求,同时也很好地实现了分类要求。

神经网络特征篇8

关键词:神经网络 入侵检测;自动变速率;随机优化算子

中图分类号:TP18 文献标识码:A 文章编号:1009-3044(2014)03-0614-03

随着互联网应用的发展,更现显了网络安全的重要性。入侵检测技术在安全防护中是一种主动防护技术,能及时地检测各种恶意入侵,并在网络系统受到危害时进行响应,因此在为安全防御体系中入侵检测系统占有重要的地位。但是在现实的应用中,入侵检测系统没有充分发挥其作用。这是因为,不断变化的入侵方式要求入侵检测模型必须具有分析大量数据的能力。无论这些数据是不完全的,是非结构化的,或者是含有噪音的。而且,有些攻击是由处于不同网络位置上的多个攻击者协作进行的,这就要求入侵检测模型又必须具备处理来自非线性数据源的大量数据的能力。神经网络具有联想记忆能力、自学习能力和模糊运算的能力。因此将神经网络应用入侵检测中,它不仅可以识别出曾见过的入侵,还可以识别出未曾见过的入侵。该文首先介绍了一种改进的神经网络算法,然后分析了该算法在入侵检测中的应用,并给出试验仿真结果。

1 BP神经网络与入侵检测

1.1 BP神经网络的特点与不足

BP神经网络是神经网络模型中应用最广泛一种。它基于成熟的BP算法,主要有以下几个特点:1)它能够实现自组织、自学习,根据给定的输入输出样本自动调整它的网络参数来模拟输入输出之间的非线性关系。2)在存储上采用分布式存储,所有的信息分布存储在每一个神经元中。3)它还可以实现并行处理,下一层的每个神经元可以根据接收到的上一层信息同时独立地计算。这些特点使其很适合应用于入侵检测技术,满足入侵检测的适应性、可靠性、安全性和高效性的要求。

但是传统的BP算法也存在着以下几个方面的不足:1)局部极小;2)学习算法收敛速度慢;3)隐含层节点选取缺乏理论;4)加入新的样本会影响已经学完的样本;5)每次输入样本特征的数目必须确定且相同。

1.2 入侵检测技术

通过对系统数据的分析,当发现有非授权的网络访问和攻击行为时,采取报警、切断入侵线路等措施来维护网络安全,这被就是入侵检测技术。采用此技术设计的系统称为入侵检测系统。根据采用的技术来说入侵检测系统应具有以下几个特性:1)监视用户及系统活动;2) 分析用户及系统活动;3) 异常行为模式分析;4) 识别已知的进攻活动模式并反映报警;5) 系统构造和弱点的审计,操作系统的审计跟踪管理;6) 评估重要的系统和数据文件的完整性,并识别用户违反安全策略的行为。

目前最常用的攻击手段有:拒绝服务、探测、非授权访问和非授权获得超级用户权限攻击。而且这些攻击手段在实际中还有很大的变异,因此给入侵检测带来了一定的难度。BP神经网络的自组织自学习能力,使得经过训练后的BP神经网络对以前观察到的入侵检测行为模式进行归纳总结,除了可以识别出已经观察到的攻击,还可以识别出由已知攻击变异出的新的攻击,甚至是全新的攻击。

2.3 改进的神经网络算法

人工神经网络在模式识别、非线性处理、信号检测等领域应用非常多,这是由于人工神经网络具有的良好的自适应和自组织性,高度的非线性特性以及大规模并行处理和分布式信息存储能力的特性。BP神经网络算法实质上是非线性优化问题的梯度算法,该算法在收敛性问题上存在限制与不足。即该算法学习的结果不能保证一定收敛到均方误差的全局最小点,也有可能落入局部极小点,使算法不收敛,导致陷入错误的工作模式。因此本文选择了改进的神经网络,改进主要有以下几点:

2)自动变速率学习法

传统的BP算法是以梯度为基础,采用LMS学习问题的最陡下降法,学习步长是一个固定不变的较小值,不利于网络的收敛。因此,选择了基于梯度方向来自动调节学习速率的方法。利用梯度确定学习的方向,由速率决定在梯度方向上学习的步长。因此,如果相邻两次的梯度方向相同则说明在该方向是有利收敛的方向,如果相邻两次的梯度方向相反则说明此处存在不稳定。因此,可以利用两次相对梯度变化来确定学习步长,当两次梯度方向相同时则增大学习步长,加快在该方向上的学习速度;而如果两次梯度方向相反那么减小学习步长,加快整个网络的收敛速度。这种方法的自适应速率调节公式如下:

2)引入遗忘因子

本文所采用的自适应变速率学习法是依据相邻两次梯度变化来确定学习步长的算法,但单纯的学习速率的变化还不能即完全地既保证收敛速度,又不至于引起振荡。因此考虑变相的学习速率的学习。即在权值的调节量上再加一项正比于前几次加权的量。权值调节量为:

我们将[τ]称为遗忘因子。遗忘因子项的引入就是对学习过程中等效的对学习速率进行微调的效果。遗忘因子起到了缓冲平滑的作用,使得调节向着底部的平均方向变化。

3)随机优化算子

虽然采用自动变速率学习法,并引入遗忘因子的神经网络算法可以对学习速率进行微调,但是仍存在着BP神经网络的限制与不足因此引入随机优化算子。也就是当网络的权值误差迭代一定的次数后,仍没有明显的收敛,或者系统误差函数的梯度连续几次发生改变,这说明网络进入了一个比较疲乏的状态,需要借助外界的推动力来激活网络。当发现上述的两种情况时,就产生与权值维数相同的随机数,并将随机数与权值直接相加,然后判断系统误差的变化。如果误差没有降低,那么就再继续产生随机数来修改权值,直到误差减少,再从新的权值开始继续BP算法。随机优化算子可以令搜索方向随机变化,从而摆脱局部极小点。

4)改进算法与传统算法比较

以200个训练样本为例,分别采用改进的BP神经网络和经典BP神经网络的方法进行学习、训练。两种算法的误差收敛对比曲线如图1所示。

3 采用改进算法的入侵检测仿真实验

入侵检测系统进行测试和评估需要标准的、可重现的并包含入侵的大量数据。本仿真实验选取DARPA数据集网络连接数据集作为实验数据。然后,对这些数据选三组特征值进行实验,并给出实验结果。

3.1 数据源的选取

该实验的数据采用DARPA 1988入侵检测评估数据库的数据。该数据有大量的连接数据记录。每个一记录代表一次网络连接,且每个记录均有41个特征值,其中各个特征的含义不同,大致可分为三类:1)表示网络连接内容特征;2)表示网络连接基本特征;3)表示网络连接流量特征。

模拟的入侵主要有以下四种类型:DOS 、 R2L、U2R、Probing,考虑到设计的实用性分别对三类特征值用神经网络分别进行训练和识别。实验选取了13000组数据进行仿真实验,其中3000组用于训练神经网络,10000组用于系统测试。

3.2 仿真实验结果

对三类特征组的训练集数据应用改进神经网络分别训练出三个神经网络,表示网络连接内容特征的神经网络,表示网络连接基本特征的神经网络以及表示网络连接流量的特征的神经网络在训练成功时的迭代步数分别为7056,386,3030。然后再对测试集数据进行测试,结果如下:

1)表示网络连接内容特征组,利用改进神经网络进行检测识别,结果如表1所示。

2)表示网络连接基本特征组,利用改进神经网络进行检测识别,结果如表2所示。

3)网络连接流量特征组,利用改进神经网络进行检测识别,结果如表3所示:

从表中数据可以看出对常见的四种攻击,不同的特征分组在改进神经网络的作用下检测各有优势。

4 结论

论文采用自动变速率学习法,利用遗忘因子进行微调,同时引入随机优化算子对BP神经网络进行了改进。改进神经网络的收敛速度比经典BP神经网络更快,同时稳定性也较好。并将该算法应用于入侵检测实验,实验结果显示改进后的算法具有较好的识别攻击的能力。

参考文献:

[1] 肖道举,毛辉.BP神经网络在入侵检测中的应用[J].华中科技大学学报,2003(5).

[2] 汪洁.基于神经网路的入侵检测系统的设计与实现[J].计算机应用与软件,2013(5).

神经网络特征篇9

    关键词:BP神经网络、土地利用变化监测

    研究背景和意义

    土地利用变化研究是全球环境变化研究的一个重要方面,同时也是从自然和社会经济两方面综合研究全球和区域环境变化的突破口之一。选择较小空间范围的典型地区进行区域综合性和空间差异性研究,是深入分析土地利用/土地覆盖时空变化规律、及其驱动机制的有效手段,开展这方面的研究不仅可以为地方经济发展提供决策支持,而且对丰富全球土地利用变化研究具有重要意义。

    1.土地利用变化监测的概念

    传统意义上土地利用变化监测是指通过两个不同时相间的遥感影像(航片或卫片)进行的变化监测。考虑变化监测方法的新特点,我们认为,土地利用变化监测是指:以土地变更调查的数据、图件与多源遥感数据为基础,运用遥感图像处理与识别技术,从遥感图像上提取变化信息,从而达到对耕地及建设用地等土地利用变化情况的定期监测的目的。

    2.影像的光谱特征

    2.1 影像光谱统计特征

    通常是以地物在多光谱图像上的亮度体现出来的,即不同的地物在同一波段图像上表现的亮度一般互不相同;同时,不同的地物在多个波段图像上亮度的呈现规律也不同,这就构成了我们在图像上区分不同地物的物理依据。光谱特征的基本统计量包括灰度的均值、中值、众数、值域、反差等,反映了与位置无关的不同灰度值出现情况。

    2.2  影像的纹理特征库

    纹理反映的是亮度(灰度)的空间变化情况[1],有三个主要标志:某种局部的序列性在比该序列更大的区域内不断重复;序列由基本部分非随机排列组合的;各部分大致都是均匀的统一体,在纹理区域内的任何地方都有大致相同的结构尺寸。这个序列的基本部分通常称为纹理基元。因此可以认为纹理是由基元按某种确定性的规律或统计性的规律排列组成的,前者称确定性纹理(如人工纹理),后者称随机纹理(或自然纹理)。对纹理的描述可通过纹理的粗细度、平滑性、颗粒性、随机性、方向性、直线性、周期性、重复性等这些定性或定量的概念特征来表征。

    3.BP神经网络工作原理

    人工神经网络是受生物神经网络的启发构造而成的,虽然没有人脑那么复杂,但它反映了人脑功能的许多基本特征,是一个高度复杂的非线性动力学系统。人工神经网络是由大量的、简单的处理单元——神经元,广泛互相连接而形成的复杂系统,它可以看成是由许多非线性计算元素(神经元)组成的数学模型,并行操作,大量的连接通过不同的权值互连。

    3.1 神经元

    构成 BP 网络的神经元与一般的人工神经网络中定义的神经元一样,由图3-1可以看出,它相当于一个多输入单输出的非线性阈值器件。按照 BP 算法的要求,这些神经元所用的激活函数必须是处处可导的。一般地,多数设计者都使用 s 形函数。对一个神经元来说,取它的网络输入 ,其中,为该神经元所接受的输入,即分别是它们对应的联接权。

    图 3-1 神经元模型

    该神经元的输出为:………………………………(3-1)

    3.2 BP神经网络的拓扑结构

    BP算法是前馈多层网络结构,含有输入层、输出层以及处于输入输出层之间的中间层,由于它们和外界没有直接的联系,故也称为隐层,中间层有单层或多层,一般为单层。在隐层中的神经元也称隐单元层。

    一般地,设BP网络的输入样本集为(X,Y) X为输入向量,Y为X对应的理想输出向量,输入样本X通过输入层经隐层处理计算得到BP网络的实际输出O。若在输出层未能得到期望的输出值,则逐层递归地计算实际输出与期望输出之差值,并根据此差调节权值W。由此可见,隐层虽然和外界不连接。但是,它们的状态则影响输入输出之间的关系。这就是说,改变隐层的权系数,可以改变整个多层神经网络的性能。相邻层次的神经元之间用连接权系数相互连接,而各层内的神经元之间没有连接,显然,输入向量、输出向量的维数是由问题所直接决定的,然而,网络隐藏层的层数和各个隐藏层神经元的个数则是与问题相关的。目前的研究结果还难以给出它们与问题的类型及其规模之间的函数关系。

    4.BP神经网络的遥感影像分类

    4.1  BP神经网络模型构造

    BP神经网络模型的构造主要包括三方面内容:

    a. 网络拓扑结构的设计,包括隐层数目的确定、隐层神经元的数目和激励函数的选择。

    b. 网络主要参数的确定,包括初始权值、学习速率、学习次数等的确定。

    c. 训练样本的组织。包括样本的选择和预处理。

    4.2  BP神经网络训练

    人工神经网络的训练过程是根据样本集对神经元之间的联接权进行调整的过程,这种“训练”实质上是网络的学习过程,一般根据事先定义好的“学习规则”,按照提供的特定作业的学习实例,不断调整各节点的连接权重,进而得到样本的输入输出的非线性关系。

    BP 算法主要包含 4 步,这 4 步共分为两个阶段:

    a. 向前传播阶段

    (1) 从样本集中取一个样本 ,将其输入网络;

    (2) 计算相应的实际输出。

    在此阶段,信息从输入层经过隐单元一层一层进行处理,传送到输出层。这个过程也是网络在完成训练后正常运行时执行的过程。在此过程中,网络执行的是下列运算:

    …………………(4-1)

    b. 向后传播阶段

    (1) 计算实际输出与相应的理想输出的差;

    (2) 把极小化误差按原来正向传播的通路反向传回,反复修改(迭代)各节点的权重和阈值,逐步减小误差,直到达到预先设定的要求,完成BP网络的训练、输入与输出映射的确立。

    这两个阶段的工作一般应受到精度要求的控制,在这里,取作为网络关于第p个样本的误差测度。而将网络关于整个样本集的误差测度定义为:。

    4.3  BP神经网络的遥感影像分类实验

    本文根据研究区影像的光谱特征,以及纹理特征组合分别进行BP神经网络分类实验。简单的说,本次实验的目的就是如何在将遥感影像的三个波段的光谱特征与直方图的特征组合得到分类效果更好的多元特征。分类效果的优劣可以通过两种方法判断,一个是人工目视判断,这种方法对两种分类结果相差较大的图形比较有效;另一种方法是首先用人工判读的方法把目标图像分类,然后用混淆矩阵(confusion matrix)来表示分类结果的精度[2]。

    图中白色表示灌溉水田,黑色表示农村居民地,浅灰色表示滩涂,深灰色表示其它类。实验过程中我们把由土地利用现状图作为计算机分类精度的参考数据。实验中分别利用影像的光谱特征、纹理特征以及两特征结合三种方案应用BP神经网络进行分类实验。图4-1、图4-2分别表示原始遥感影像、土地利用现状图得到的参考图像,表4-1是各方案所用特征、BP神经网络模型的结构设计及收敛速度与分类精度,图4-3是各方案的分类结果。

    图 4-1原始遥感影像                图 4-2参考图像

    表 4-1分类方案设计表

    (a) 方案一 (b) 方案二     (c) 方案三

    图 4- 3分类结果

    4.4  分类实验小结

    a. 方案一利用光谱特征进行分类,对滩涂的分类效果较好,而农村居民地和其他类光谱特征近似,错分面积较大。

    b. 方案二利用纹理特征进行分类,基于窗口的搜索,大大提高了运算速度,农村居民地和其他类的错分情况明显改善,但对于一些地块交界处的纹理特征与滩涂相似,故影响了分类精度。

    c. 方案三辅以纹理特征的光谱特征分类,很好利用了BP神经网络的自我调节能力和对多源数据的推理能力,有效地提高了分类精度,但由于输入数据类型复杂,在设计网络模型的过程中反复调整了多次,收敛速度比起前两种网络模型相对很慢,在训练阶段花费了大量的时间。

    5.结论

神经网络特征篇10

关键词 歼击机;操纵面;故障;诊断;排除

中图分类号V2 文献标识码A 文章编号 1674—6708(2012)76—0139—02

随着科技的发展和经济实力的增强,我国的航空航天技术也得到了有益的发展,随着计算机技术以及控制科学在航空航天领域上的使用,相关系统规模逐渐加大,分析以及有关系统的复杂程度也逐渐增加,系统中所产生的细小故障如果不能得到有效的检测和及时的排除,那么则可能在系统的运行过程中导致整个控制系统的崩溃和实效,甚至带来灾难性的后果。有数据表明,20%的战斗机飞行损失是由于系统的故障所导致的,而一般的战斗机结构上的损坏和功能丧失是形成事故的最为基本的原因,由此要提高系统的安全性以及可靠性,防止故障的产生,是航空航天领域需要研究的重要内容和课题。

1 歼击机操纵面故障概述

歼击机操纵面故障指的是在歼击机的舵面所引发的缺损或卡死现象,由于舵面的故障而导致歼击机未按照正常的运行状态进行实际的运行和操作。当前,歼击机无法有效防范操纵面故障,在很大程度上导致了灾难事故的产生,由此成为了航空领域中的研究热点。

就目前而言,歼击机的操纵面故障有两种诊断方式,一种基于模型的诊断方法,而另一种则是不依赖于模型的诊断方式。基于模型的诊断方法由于在一定程度上存在建模误差以及空间环境的急剧变化等多种原因,由此导致了歼击机故障诊断的精度不够,产生误报现象;不依赖于模型的诊断方法并不需要建立模型,由此也避免了由于模型的误差而带来的问题,诊断的精度与基于模型的诊断方法相比较高,实用性较好,神经网络故障的诊断方式是不依赖于模型诊断方式中应用最为广泛的,然而神经网络方式无法判断冗余知识以及有用知识,不能简化信息空间维数,由此在输入较大的信息维数时将导致网络结构复杂,同时也需要花费较长的时间。

2 灰色关联度分析方法

2.1 简述

灰色关联度的分析方式是一种基于模型的故障诊断方法。以灰色系统理论为基础所提出的分析方式,也就是根据事物以及各要素之间的相似程度或者相异的程度,实现对事物或者各影响要素之间的关联程度进行分析和衡量,灰色关联度是灰色系统分析以及处理随机量的一种方式,明确了不同研究对象的关联程度,实际哈桑也是实现了从数据到数据之间的映射的方式。若是使用特征参数曲线表现出来,那么曲线空间位置的相似性和形状的相似性也就是对象关联程度的度量。

2.2 构造故障识别标准模式

实用性故障识别系统的构建是以完善的样本空间为基础的,完善的样本空间便于典型故障特征向量的提取,由此提高了故障识别的准确率和效率。通过完整的样本空间可尽量得出典型故障以及其征兆向量,并提供了量化数值;尽量完善的设置了样本体系,建立了适度置评征兆向量以及故障向量是否存在以及其存在的程度。

通过以上分析了解到,以灰度系统理论为基础所构建的故障识别模型包括系统准确运行以及在故障情形下的歼击机数据,为了提供更多的故障样本,应尽量对多种故障的类型和现场所观测的数据进行搜集,并且收集有代表性的故障数据,为故障识别标准模型的构建奠定良好的基础。

3 基于粗糙神经网络歼击机操纵面故障诊断

3.1 粗集神经网络故障诊断系统结构

从歼击机故障诊断方式的类型而言,基于神经网络的诊断方式是不依赖于模型的诊断方式,同时也是使用较为广泛的诊断方式之一。一般情形下,粗糙神经网络歼击机操纵面故障诊断系统的结构如图1所示。

如图1所示,基于粗糙神经网络歼击机操纵面故障诊断系统通过三个部分构成,第一部分是通过粗集的方式实现数据输入以及处理,同时提取出数据中的模式特征;而第二部分是一般的多层前馈神经网络,实现了多种模式的分类,最后,是多个神经网络的辨识,是基于分类结构实现对故障程度进行辨识。

3.2 粗集神经网络的训练步骤

基于粗集神经网络的歼击机操纵面故障诊断可依据几个步骤进行训练:

1)对样本集进行划分,一部分用于实现网络的训练,而另一部分则用于测试;

2)提取出训练集的故障特征,该提取方式是基于粗集特征的,最终求取的决策表属性约简;3)通过计算,得出一个或者几个属性约简对照表进行简化,将不属于约简中的属性删掉,而后再删除决策表中的相同行;4)以训练集为基础,在简化程序过后,建立神经网络;5)训练简化后的神经网络,同时通过测试集实现了对网络性能的测试;6)重复多个步骤,直到网络性能无法得到再度提高为止。

3.3 以粗集方法为基础提取特征

以粗集方法为基础进行特征的提取是从原本的N个特征中寻找出M个特征,保证所寻找出来的M个特征对对象的分类能力与原有的N个特征一致。特征的提取能加快学习的速度,减少分类所造成的影响,提高分类的质量,简化甚至解决复杂问题。在粗集中的提取特征也可转化为求取约简的过程。实际上也就是在N 个条件属性中提取出M 个条件属性,同时,所提取出来的这M个条件属性与原本的N个条件属性特征一致。粗集中的条件属性对应的是神经网络诊断系统当中的分类特征。

在训练好了网络之后,则可使用粗集发方式对所需要分析的数据集提取特征。而后将故障特征输入到神经网络的分类器以及神经网络的辨识器当中,实现了故障的基本定位以及故障的隔离以及故障的辨识。神经网络的诊断方式能实现分类问题的分割模式空间,由此对歼击机中所产生的不同类型的操纵面故障进行处理,并实现故障的分类。可通过前馈神经网络进行故障分类,实现了从输入到输出的映射,就几何意义上而言,也就是根据稀疏的给定数据以及样本点实现对连续超曲面的恢复,并在给定点处的曲面值应与样本值匹配。

参考文献

[1]许洁,胡寿松,申忠宇.歼击机操纵面故障的灰色识别法[J].南京理工大学学报:自然科学版,2005(S1) .

[2]赵熙临,刘辉.粗糙集理论在故障诊断中的问题分析[J].计算机技术与发展,2008(1).

[3]胡寿松,徐德友,刘亚.基于粗集模型的歼击机损伤故障检测[J].控制理论与应用,2003(6) .