神经网络概念范文

导语：如何才能写好一篇神经网络概念，这就需要搜集整理更多的资料和文献，欢迎阅读由公文云整理的十篇范文，供你借鉴。

篇1

关键词：神经网络 计算机安全 入侵检测

中图分类号：TP393.08 文献标识码：A 文章编号：1674-098X（2012）12（c）-00-01

自从1960年Widrow等提出自适应线形神经元用于信号处理中的自适应滤波、预测和模型识别以来，神经网络技术便被用来解决现实生活中的问题。而在McCulloch等基于模仿人脑结构和功能建立起一种人工智能的信息处理系统后，人工神经网络在土木工程、农业、经济管理及企业管理等不同领域中被广泛应用[1-2]。该文介绍了神经网络的概念及特点，并分析神经网络在计算机安全尤其是在网络入侵检测中的应用。

1 神经网络的概念及特点

1.1 神经网络的概念

神经网络是一个并行、分布处理结构，是由神经元及称为联接的无向讯号通道互连而成。人工神经网络（Artificial Neural Network，ANN）指的则是模仿生理神经网络的结构和功能而设计的一种信息处理系统，即由多个非常简单的处理单元彼此按某种方式相互连接而形成的信息处理网络[3]。

1.2 神经网络的特点

在人工神经网络中，由于网络中的每一个单元都是独立的信息处理单元，因此其计算可独立进行，而整个网络系统却是并行计算的。这不同于传统的计算机的串行运算。由于神经网络是一个大规模互联的复杂网络系统，因而是大规模的并行处理，这在一定程度上提高了系统的处理速度，同时也为实时处理提供了重要条件。人工神经网络与人脑类似，具有学习的功能。通常只要给出所需的数据、实例，由网络去学习，而学习获得的知识都分布储存在整个网络的用权系数表示的连接线上。不同网络因学习方法及内容不同，可得到不同的功能和不同的应用。因而有可能解决传统人工智能目前最感困难的机器学习中知识获取、知识表示等问题。此外神经网络还对于输入数据的失真具有相当的弹性。

1.3 常用的神经网络算法

常用的神经网络算法包括ARTMAP模型、ART模型、概率模型PNN、模糊模型ART、模糊多层感知器、Kohonen特征映射网络、反馈多层感知器模型等[4-5]。其中，ART模型和Kohonen特征映射网络、模糊模型ART属于无监督训练算法，而反馈多层感知器模型是受限反馈，ARTMAP模型、ART模型属于反馈的网络拓扑

结构。

2 神经网络在网络入侵检测中的应用

2.1 神经网络应用于网络入侵检测的优势

由于神经网络对于数据训练获得预测能力的过程是通过完全抽象计算实现的，而不强调对于数据分布的假设前提，因此在建立神经网络模型过程中没有必要向神经网络解释知识的具体细节。同时，神经网络在网络入侵检测中，可以通过数据运算而形成异常的判别值，这样可以对于当前是否受到攻击行为影响做出判断，从而实现对检测对象是否存在异常情况的检测[6-8]。

2.2 神经网络在网络入侵检测中的应用

神经网络在网络安全尤其是入侵检测方面已有了相当的研究[9]。有研究者将组织聚类神经网络应用于计算机安全研究中，其采用了自适应谐振学习法进行数据的前期训练，对于无显著意义的平均误差减少时，采用遗传算法继续在前期基础上进行数据数据以得到最佳的权值。国内也在神经网络应用于网络入侵检测上做了大量工作。王勇等研究者在参考MIT Lincoln有关网络入侵检测方法基础上，提出了基于Linux主机的网络入侵检测方案，实现了对于多种网络攻击的特征进行抽取及检测的目的[10]。

神经网络在网络入侵检测中有广泛的应用空间[11-12]，今后应该扩大训练数据的数量和范围，并扩大操作系统的研究空间，通过模拟真实的计算机网络环境，将神经网络技术真正应用于计算机安全尤其是入侵检测工作中。

参考文献

[1] 李季，蒲彪.人工神经网络在食品微生物发酵中的应用[J].食品研究与开发，2009，30（4）：171-174.

[2] 李聪超，周铁军.人工神经网络在农业中的应用[J].农业网络信息，2008（1）：35-38.

[3] 李丽霞，张敏，郜艳晖，等.人工神经网络在医学研究中的应用[J].数理医药学杂志，2009，22（1）：80-82.

[4] 高隽.人工神经网络原理及仿真实例[M].北京：机械工业出版社，2003：44-73.

[5] 杨行峻，郑君里.人工神经网络与盲信号处理[M].北京：清华大学出版社，2003：23-105.

[6] 程丽丽.基于模糊神经网络的入侵检测设计模型[D].哈尔滨：哈尔滨理工大学，2005.

[7] 周开利，康耀红.神经网络模型及其MATLAB仿真程序设计[M].北京：清华大学出版社，2005.

[8] 李家春，李之堂.神经模糊入侵检测系统的研究[J].计算机工程与应用，2001，23（17）：37-39，

[9] 王勇，杨辉华.一种基于进化神经网络的入侵检测实验系统[J].华东理工大学学报（自然科学版），2005（6）：362-366

[10] 乔瑞.基于优化自组织聚类神经网络的入侵检测方法研究[J].计算机与现代化，2005（1）：77-79.

篇2

关键词：网格；资源调度；人工神经网络；BP算法

中图分类号：TP183

Grid resources schedule model based on the BP algorithm

ZHOU Fei-fei，HU Yan-xia

Ministry of Education’s major laboratory of Lanzhou Jiaotong University, Lanzhou,730070

ZhengZhou Urban and Rural Planning Bureau ,Zhengzhou,45000

Abstract: The grid is the main direction of high-performance. The major factor affects the grid functional and the performance is grid resource management and scheduling. Because of the complexity of the grid, its resource management compared with traditional distributed networks becomes more complex. The efficient grid resources management algorithms are hot and difficult of grid study. The neural network has intelligence and can get the best results in complex circumstances. this paper uses BP algorithm to solve the problem of grid resource scheduling. And introduced the concept of grid, back propagation algorithm, and proposed grid scheduling of resources result based on the BP algorithm.

Keywords：grid; resource scheduling；artificial neural network；Back propagation algorithm;

0 引言

网格作为新一代的互联网，是今后高性能计算的主要方向，而有效的资源调度直接影响到网格的功能和性能，因此，对网格资源调度问题的研究具有重要的理论意义和巨大的实践价值。人工神经网络是一种模拟动物神经网络行为特征，进行分布式并行信息处理的算法数学模型，善于在复杂环境下，快速获得满足多种约束条件问题的最优化答案，把神经网络的思想引入到网格的资源调度当中，将二者有效结合，能够更好的解决网格的资源调度问题。

1 网格的基本概念

网格又被称为“下一代互联网”，用于集成或共享在地理上分布的各种资源(包括计算机系统、存储系统、通信系统、文件、数据库、程序等)，使之成为一个逻辑整体，实现资源在网络中的全面共享。

目前，网格技术已经在科学计算领域得到了广泛的应用，很好的解决了分布式超级计算、高吞吐率计算、数据密集型计算等问题。可以预见，随着共享的资源越来越丰富，网格的应用领域将得到更大的拓展。

2 网格中的资源调度

网格中的资源指所有能够通过网格远程使用的实体，包括：计算机软件(比如操作系统、数据库管理系统、应用软件、数据等)，计算机硬件(比如CPU、内存、硬盘、光盘感器、磁带等)，设备和仪器(比如通信介质、天文望远镜、显微镜、传感器、PDA、仪器仪表等)等物理资源以及人类资源(人的知识与能力)。【1】

由于网格是一个开放、动态的互联网并行环境,用户可以从网格的任何地方向网格平台提交应用,而且由于网格所固有的分布性、动态性、异构性以及自治性等特征,使得网格资源、可能随时发生改变。因此，网格资源管理系统是网格的核心组成部分，也是网格的重要研究方向。

2.1 网格资源调度策略

传统的分布式系统中资源管理的主要任务是将多个用户提交的程序调度到一个计算集群中以最大化系统的利用率。即将一个复杂的程序中的多个子程序调度到并行的计算机中以提高计算效率，减少运行时间。

而在网格中，由于网格系统的分布性、异构性和动态性，网格资源管理必须为用户提供可靠的、一致的以及廉价的资源，而不用考虑资源访问点的物理位置。[2]

我们使用有层的层次模型实现资源调度算法。此模型类似于网络的五层沙漏模型。在逻辑上分为三层：用户层、资源管理层及网格资源层。

用户层是网格资源的使用者。各种应用均在这一层实现，该层的需求即网格系统提供的服务，是网格所要达到的目标。在本层中，用户或应用系统通过面向服务的视图向下层中的各种发送用户请求，描述自愿选择、任务进程创建和任务控制等。

资源管理层是本模型的核心层。由各种组成，是网格资源管理的执行者。能够发现、收集和存储不同领域的资源信息；接收用户请求，并按分配策略将所需要的资源分配给用户。

网格资源层是网格系统中的硬件基础，包括各种资源，它是网格资源管理的对象。其基本功能就是控制区域内的资源，向上提供访问这些资源的接口。

由以上分析可以看出，网格资源调度的实质，就是将多个相互独立的任务由各种分配到可用资源上，使得资源得到充分利用并且任务的完成时间最小。

调度算法的目标是将所有的独立的应用任务通过调度到可获得的计算资源中去，从可利用的资源中选取最佳的资源，并尽量减少由于网格的动态性而对网格整体性能的影响。不好的资源调度算法，将会增加任务的执行时间并降低整个网格系统的吞吐量。因此，一个好的源调度算法，需要具有高效性和一定的智能性，使网格用户能够获得所需要的资源，并且确保网格用户不会过量使用资源。

由于神经网络能够模拟人脑的思维模式，具有很好的自适应性和学习能力，能够实现难以用数字计算和技术实现的最优信号处理算法。因此，很适合网格资源调度算法。

3 BP神经网络原理

神经网络是一种模拟动物神经网络行为特征，进行分布式并行信息处理的算法数学模型。这种网络能根据系统的复杂程度，通过调整内部大量节点之间相互连接的关系，从而达到处理信息的目的。

3.1 神经网络的概念

国际著名的神经网络专家Hecht-Nielson给神经网络的定义是：“神经网络是一个以有向图为拓扑结构的动态系统，它通过对连续或断续式的输入作为状态响应而进行信息处理”。【3】

神经网络系统是由大量的，同时也是很简单的处理单元（称为神经元），通过广泛地互相连接而形成的复杂网络系统。虽然每个神经元的结构和功能十分简单，但由大量神经元构成的网络系统的行为却是丰富多彩和十分复杂的。

神经网络适合于解决实际问题，它不仅可以广泛应用于模式识别、信号处理、知识工程、专家系统、优化组合、机器人控制等工程领域，也可以广泛应用于医学、商业、金融和文学领域。随着神经网络理论本身以及相关理论、相关技术的不断发展，神经网络的应用定将更加深入。[4]

3.2 BP神经网络的概念

BP (Back Propagation)神经网络是1986年由Rumelhart和McCelland为首的科学家小组提出，全称为基于误差反向传播算法的人工神经网络。BP神经网络是目前研究最多、应用最广泛的神经网络模型。

BP神经网络能学习和存贮大量的输入-输出模式映射关系，而无需事前揭示描述这种映射关系的数学方程。它使用自适应学习算法，通过反向传播不断调整网络的权值和阈值，使网络的误差平方和最小。

BP神经网络模型拓扑结构包括输入层（input）、隐含层(hide layer)和输出层(output layer)。

通过图可看出，层与层之间的神经元采用全互连的连接方式，通过相应的权系数相互联系，隐含层内的神经元之间没有连接。因此BP网络可以看成是从输入到输出的一种高度非线性映射，映射中保持拓扑不变性，如果隐含层中神经元数目足够多，则BP网络就能模拟任何有理函数。由于BP网络可在多个连续的输入和一个或多个连续的输出之间建立非线性映射这一特性，它常被用于智能预测。从而，我们使用BP神经网络模拟网格资源调度过程。

3.2.1 BP神经网络的工作过程

BP神经网络由信息的正向传播和误差的反向传播两个过程组成：

信息的正向传播过程：

输入层各神经元负责接收来自外界的输入信息，并传递给隐含层各神经元；隐含层负责信息变换，根据信息变化能力的需求，传递到输出层。各神经元的信息，经进一步处理后，完成一次学习的正向传播处理过程；输出层向外界输出信息处理结果。

误差的反向传播过程：

当实际输出与期望输出不符时，进入误差的反向传播阶段。误差通过输出层，按误差梯度下降的方式修正各层权值，向隐含、输入层逐层反传。

周而复始的信息正向传播和误差反向传播过程，是各层权值不断调整的过程，也是神经网络学习训练的过程，此过程一直进行到网络输出的误差减少到可以接受的程度，或者达到预先设定的学习次数为止。[5]

4 使用BP神经网络的网格资源调度模型

由于BP神经网络算法响应时间较快，适合大规模分布式的网格资源调度。为了能够最大效率的调用网格资源，我们结合BP神经网络算法思想，提出了基于BP网络的网格资源调度模型。

模型流程如下：

(1)将用户提交的任务请求(包含任务的任务量、通信量、任务提交时间、时间限度等参数)加入到网格中的任务队列排队。任务队列可以根据不同用户的不同需求(用户等级、任务时间相应要求等)对进入队列的任务进行排序。

(2) 调度系统中的计时器，每隔一定时间就从任务队列中取出待处理的任务，并从监视器中获得当前系统资源分配列表。

(3) 根据待处理任务及系统资源，使用BP算法产生一个最优化的任务分配表。

(4) 执行任务分配表中的任务。如果任务顺利完成，则将任务占有的资源释，如果任务失败，则释放该任务所占有的系统资源，并将失败的任务插入到任务队列中，以待下次调度。

(5) 当不能从任务队列中获得任务时，表明所有任务都已经完成。

5总结

在网格环境中，资源调度是一项非常复杂且极具挑战性的工作。计算资源调度的好坏，效率的高低直接关系到网格系统的性能。相对别的网格计算资源调度算法与模型，本文提出使用BP算法的分层资源调度模型。

该模型由调度主程序负责全局资源调度，监控程序监控每个资源任务的完成情况，这种方法在能保证任务完成的前提下，灵活地对网格资源进行配置，充分发挥网格中各节点计算机的计算能力。

参考文献：

1崔飞.基于市场的网格资源调度算法研究[J].中国科技论文在线

2都至辉，陈渝，刘鹏. 网格计算.[M]. 清华大学出版社, 2002

3党建武，王阳萍，赵庶旭. 神经网络理论.[M]. 兰州大学出版社，2005,9

篇3

决策支持系统经过二十多年的发展，形成了如图l所示公认的体系结构。它把模型并入信息系统软件中，依靠管理信息系统和运筹学这两个基础逐步发展起来。它为解决非结构化决策问题提供了相应的有用信息，给各级管理决策人员的工作带来了便利。从图1可以看出决策支持系统体系结构可划分为三级，即语言系统(LS)级、问题处理系统(PPS)级和知识系统fKS)级。其中问题处理系统级包括推理机系统(RS)、模型库管理系统(MBMS)、知识库管理系统(KBMS)及数据库管理系统(DBMS)。知识系统级包括模型库(MB)、知识库(KB)及数据库(DBo九十年代中期，兴起了三个辅助决策技术：数据仓库(DW)、联机分析处理(0LAP)和数据挖掘(DM)。联机分析处理是以客户，服务器的方式完成多维数据分析。数据仓库是根据决策主题的需要汇集大量的数据库，通过综合和分析得到辅助决策的信息。数据挖掘顾名思义，是为了获得有用的数据，在大量的数据库中进行筛选。人工智能技术建立一个智能的DSS人机界面，可进行图、文、声、像、形等多模式交互，人机交互此时变得更为自然和谐，人们能沉浸其中，进行合作式、目标向导式的交互方法。从目前情况来看，财务决策支持系统的研究还处于初级发展阶段，财务数据的保密性、特殊性决定了财务决策不能全部公开化、透明化，但随着中央及国务院相关部门财务预决算数据的公开，财务决策系统及其支持系统和过程也将随之公开，这就要求决策者充分利用财务知识和决策支持系统的知识“聪明”决策、合理决策、科学决策、规范决策。

2财务管理神经网络智能决策支持系统总体研究框架

2．1神经网络运行机制神经网络的着眼点是采纳生物体中神经细胞网络中某些可利用的部分，来弥补计算机的不足之处，而不是单单用物理的器件去完整地复制。第一，神经网络中的链接的结构和链接权都可以通过学习而得到，具有十分强大的学习功能；第二，神经网络所记忆的信息是一种分布式的储存方式，大多储存在神经元之间的权中；第三，神经网络部分的或局部的神经元被破坏后，仍可以继续进行其他活动，不影响全局的活动，因此说，神经网络的这种特性被称作容错性；第四，神经网络是由大量简单的神经元组成的，每个神经元虽然结构简单，但是它们组合到一起并行活动时，却能爆发出较快较强的速度来。我们可以利用神经网络的上述特点，将之应用于模式识别、自动控制、优化计算和联想记忆、军事应用以及决策支持系统中。

2.2财务管理神经网络集成智能财务DSS的必然性在企业经营管理、政府机构财务活动中，人们时常面临着财务决策。人们往往需要根据有关的理论及经验制定出一系列的衡量标准。这种评价是一个非常复杂的非结构化决策过程，一般都是由内行专家根据一定的专业理论凭经验和直觉在收集大量不完全、不确定信息基础上建立起多级指标体系。但在这种指标体系中，各种指标之间的关系很难明确，而且还受评价者的效用标准和主观偏好所左右。因此，很难在指标体系和评价目标间建立起准确的定量或定性模型。因此，我们需要采用一种可处理不确定性、不完全性信息的评价方法以支持决策。自然，利用人工神经网络构造系统模式来支持这类评价决策问题是目前财务管理智能决策支持系统的一种发展趋势和必然趋势圈。

2．3财务管理神经网络集成智能DSS系统框架神经网络智能决策支持系统主要以知识、数据和模型为主体，结合神经网络进行推理与数据开采。图2给出了神经网络智能决策支持系统研究框架『2I。研究中有两个重点，即神经网络推理系统和神经网络数据开采系统。

2．3．1神经网络数据开采系统神经网络数据开采时利用神经网络技术协助从数据中抽取模式。数据开采有五项基本任务：相关分析、聚类、概念描述、偏差监测、预测。常用的前馈式神经网络，如BP网络，可用于进行概念描述及预测。对向传播(CounterPropagation，简称CP)神经网路可用来进行统计分析和聚类。CP网络是美国神经计算专家RobertHecht—Nielsen提出的一种新型特征映射网络，其网络结构分输入、竞争、输出三层。该网络吸取了无教师示教型网络分类录活、算法简练的优点，又采纳了有教师示教型网络分类精细、准确的好处，使两者有机地结合起来。由竞争层至输出层，网络按基本竞争型网络学习规则得到各输出神经元的实际输出值，并按有教师示教的误差校正方法调整由竞争层至输出层的链接权。经过这样反复地学习，可以将任意输入模式映射为输出模式。

2.3.2财务管理神经网络推理系统财务管理神经网络推理系统主要利用神经网络的并行处理机制来解决传统推理方法中存在的“组合爆炸”、“无穷递归”，等问题。在神经网络系统中，计算与存储时完全合二为一的，即信息的存储体现在神经元互连的分布上，并以大规模并行方式处理。流动的过程就是从部分信息找到全部信息的过程，这就是联想记忆的基本原理。若视动力系统的稳定吸引子为系统计算能量函数的极小点，系统最终会流向期望的最小点，计算也就在运动过程中悄悄地完成了。因而，可用双向联想记忆(BAM)网络或CP网络实现并行推理。CP网络具有特殊的联想推理映射功能。将输入学习模式和期望输出模式取为同一模式，且将之分为x和Y两部分。网络通过提供的样本对进行充分的学习后，就可用来进行模式问的联想推理。

3财务管理神经网络智能DSS研究展望

当前世界上最热门的研究课题，是模仿人类的思维方式来解决实际问题。专家系统和人工神经网络是比较常用的技术，但由于自身的局限性，它们都侧重于人类思维方式的某一方面。平时解决简单的问题的时候还好，但真遇到解决复杂的问题的时候，它就显得力不从心了，所以，这个时候我们可以将两种技术结合起来解决，除了它们要自身不断发展和完善外，还要注重两者的协调配合，神经网络DSS未来的发展趋势就是依靠这两种技术不断结合，从而能帮助我们解决更多的实际问题。

3．1财务管理神经网络支持专家系统常见的财务管理神经网络支持专家系统主要包括几个方面：知识维护、知识表示、知识获取、推理等，我们针对各个步骤展开讨论。

3．1．1知识维护。如果知识是通过人工神经网络来获取的，我们就可以同样利用人工神经网络，来让维护工作变得更加方便快捷，维护可以通过人工神经网络来自动完成，我们需要做的只是重新运行网络模块，或者重新训练网络模块，又或是增加新的网络模块。

3．1.2推理。一般的专家系统只是求解专门性问题，应用的领域非常狭窄，同时由于控制策略不灵活，推理方法简单，容易出现一些这样或那样的问题，推理效率低、速度慢。人-T-~$经网络可以解决这一问题，从根本上提升工作效率，提高工作速度，它可以拓展知识空间，不只局限在狭窄的领域。

3．1．3知识表示。很多专家知识事实上很难用规则表示出来，但在现实工作中，我们大部分财务管理专家却都采取这种方式，无论是直接的还是间接的。其它的知识表示方法也存在着同样的问题。为了解决这一问题，我们可以采用人工神经网络系统来将知识提供给专家系统，这样做就可以避免这一问题，当专家系统需要相应知识时，就不需要用规则来表示知识，直接调用人工神经网络就可以了。

3．1．4知识获取。人工神经网络可以帮专家系统来获取知识，知识获取是通过人机对话的形式进行的。首先，专家系统向专家提出问题，人工神经网路则负责对这些信息进行收集、处理，在人工神经网络的联结权值中已经具有通用的知识，所以这一步骤会很方便，之后再产生相应的数据结果。接着，专家系统在对这些数据进行进一步的分析。在这一过程中，专家系统只运用很少的规则就可以获得相关的知识，大大提高了工作效率。

3.2财务管理专家系统支持神经网络财务管理专家主要通过三种方式来对神经网络提供必要的支持：第一，提供相应的必要的解释；第二，进行预处理：第三，联合应用。

3.2.1解释。作为专家系统的人工神经网络，它做不到同其他专家系统那样，具体详细地跟踪问题求解的过程，以获得答案的原因，它只能依靠增加一个小型的专家来解决这一问题，以获得答案的原因，这个专家系统可以反向推理，从结果到初始输入，系统提供具体的解决方法。在这种模式中，经过训练的人工神经网络来解决问题。当用户要求解释的时候，就可以通过网络输入一个并行的专家系统。

篇4

关键词：神经网络；智能；计算；应用研究

中图分类号：TP393文献标识码：A文章编号：1009-3044(2008)20-30326-02

Application of Neural Network Forefront

LI Bing-fu1,2

(1.Zhanjiang Normal College, Zhanjiang 524048, China; 2.Chongqing University, Master of the Computer College, Chongqing 400030, China)

Abstract: The rise of neural networks, has been on the cognitive and intellectual nature of the computer industry and basic research has produced an unprecedented excitement and great role. Therefore, in all fields has greatly applied research.

Key words: Neural Networks; Intelligent; Computing; Applied Research

1 引言

神经网络是一门模仿人类神经中枢――大脑构造与功能的智能科学，利用物理器件来模拟生物神经网络的某些结构和功能，即由许多功能简单的神经元互联起来，形成一种能够模拟人的学习、决策和识别等功能的网络系统。他具有快速反映能力，便于对事物进行适时控制与处理；善于在复杂的环境下，充分逼近任意非线形系统，快速获得满足多种约束条件问题的最优化答案；具有高度的鲁棒性和容错能力等优越性能。

神经网络的崛起，已对认知和智力的本质的基础研究乃至计算机产业都产生了空前的刺激和极大的推动作用。因此在各个领域都有很大的应用研究。

2 神经网络（ANN）的研究内容

1) 理论研究：ANN模型及其学习算法，试图从数学上描述ANN的动力学过程，建立相应的ANN模型，在该模型的基础上，对于给定的学习样本，找出一种能以较快的速度和较高的精度调整神经元间互连权值，使系统达到稳定状态，满足学习要求的算法；2) 实现技术的研究：探讨利用电子、光学、生物等技术实现神经计算机的途径；3) 应用的研究：探讨如何应用ANN解决实际问题，如模式识别、故障检测、智能机器人等。

3 神经网络在各领域的应用研究

3.1 智能机器领域的应用研究

智能机器领域的应用研究主要是进一步研究调节多层感知器的算法，使建立的模型和学习算法成为适应性神经网络的有力工具，构建多层感知器与自组织特征图级联想的复合网络，是增强网络解决实际问题能力的一个有效途径。重视联结的可编程性问题和通用性问题的研究，从而促进智能科学的发展。通过不断探索人类智能的本质以及联结机制，并用人工系统复现或部分复现，制造各种智能机器，可使人类有更多的时间和机会从事更为复杂、更富创造性的工作。

智能的产生和变化经过了漫长的进化过程，我们对智能处理的新方法的灵感主要来自神经科学，例如学习、记忆实质上是突触的功能，人类大脑的前额叶高度发育，它几乎占了30%大脑的表面积，在其附近形成了人类才出现的语言运动区，它与智能发育密切相关，使神经系统的发育同环境的关系更加密切，脑的可塑性很大，能主动适应环境还能主动改造环境，人类向制造智能工具方向迈进正是这种主动性的反映。脑的可塑期越长，经验对脑的影响就越大，而人类的认知过程很大程度上不仅受经验主义的影响，而且还接受理性主义的模型和解释。因此，对于智能和机器的关系，应该从进化的角度，把智能活动看成动态发展的过程，并合理的发挥经验的作用。同时还应该从环境与社会约束以及历史文化约束的角度加深对它的理解与分析。

神经网络是由大量处理单元组成的非线性、自适应、自组织系统，它是在现代神经科学研究成果的基础上提出的，试图模拟神经网络加工、记忆信息的方式，设计一种新的机器，使之具有人脑风格的信息处理能力。智能理论所面对的课题来自“环境－问题－目的”，有极大的诱惑力与压力，它的发展方向就将是，把基于联结主义的神经网络理论、基于符号主义的人工智能专家系统理论和基于进化论的人工生命这三大研究领域，在共同追求的总目标下，自发而有机的结合起来。在21世纪初，智能的机器实现问题的研究将有新的进展和突破。

3.2 神经计算和进化计算的应用研究

计算和算法是人类自古以来十分重视的研究领域，本世纪30年代，符号逻辑方面的研究非常活跃。例如Church、Kleene、Godel、Post、Turing等数学家都给出了可计算性算法的精确数学定义，对后来的计算和算法的发展影响很大。50年代数学家Markov发展了Post系统。80年代以后，神经网络理论在计算理论方面取得了引人注目的成果，形成了神经计算和进化计算新概念，激起了许多理论家的强烈兴趣，大规模平行计算是对基于Turing机的离散符号理论的根本性的冲击，但90年代人们更多的是批评的接受它，并将两者结合起来，近年来，神经计算和进化计算领域很活跃，有新的发展动向，在从系统层次向细胞层次转化里，正在建立数学理论基础。随着人们不断探索新的计算和算法，将推动计算理论向计算智能化方向发展，在21世纪人类将全面进入信息社会，对信息的获取、处理和传输问题；对网络路由优化问题；对数据安全和保密问题等等将有新的要求，这些将成为社会运行的首要任务，因此，神经计算和进化计算与高速信息网络理论联系将更加密切，并在计算机网络领域中发挥巨大的作用，建立具有计算复杂性、网络容错性和坚韧性的计算理论。

基于人类的思维方式的转变：线性思维转到非线性思维。神经元、神经网络都具有非线性、非局域性、非定常性、非凸性和混沌等特性，故此在计算智能的层次上进行非线性动力系统、 混沌神经网络以及对神经网络的数理研究。从而进一步研究自适应性子波、非线性神经场的兴奋模式、神经集团的宏观力学等。因为，非线性问题的研究是神经网络理论发展的一个最大动力，也是它面临的最大挑战。此外，神经网络与各种控制方法有机结合具有很大发展前景，建模算法和控制系统的稳定性等研究仍为热点问题，而容忍控制、可塑性研究可能成为新的热点问题。开展进化并行算法的稳定性分析及误差估计方面的研究将会促进进化计算的发展。把学习性并行算法与计算复杂性联系起来，分析这些网络模型的计算复杂性以及正确性，从而确定计算是否经济合理。因而关注神经信息处理和脑能量两个方面以及它们的综合分析研究的最新动态，吸收当代脑构象等各种新技术和新方法是十分重要的。

离散符号计算、神经计算和进化计算相互促进或者最终导致这3种计算统一起来，这算得上是我们回避不了的一个重大难题。预计在21世纪初，关于这个领域的研究会产生新的概念和方法。尤其是视觉计算方面会得到充分地发展。我们应当抓住这个机会，力求取得重大意义的理论和应用成果。

3.3 神经网络结构和神经元芯片的应用研究

神经网络结构的研究是神经网络的实现以及成功地实现应用的前提，又是优越的物理前提。它体现了算法和结构的统一，是硬件和软件的混合体，这种硬软混合结构模型可以为意识的作用和基本机制提供解释。未来的研究主要是针对信息处理功能体，将系统、结构、电路、 器件和材料等方面的知识有机结合起来，建构有关的新概念和新技术，如结晶功能体、最子效应功能体、高分子功能体等。在硬件实现上，研究材料的结构和组织，使它具有自然地进行信息处理的能力，如神经元系统、自组织系统等。神经计算机的主要特征是具有并行分布式处理、学习功能，这是一种提高计算性能的有效途径，使计算机的功能向智能化发展，与人的大脑的功能相似，并具有专家的特点，比普通人的反应更敏捷，思考更周密。光学神经计算机具有神经元之间的连接不仅数量巨大而且结合强度可以动态控制，因为光波的传播无交叉失真，传播容量大，并可能实现超高速运算，这是一个重要的发展领域，其基础科学涉及到激光物理学、非线性光学、光紊乱现象分析等，这些与神经网络之间在数学构造上存在着类似性。近年来，人们采用交叉光互连技术，保证了它们之间没有串扰，它有着广阔的发展前景。在技术上主要有超高速、大规模的光连接问题和学习的收敛以及稳定性问题，可望使之得到突破性进展；另一种是采用LSI技术制作硅神经芯片，以及二维VLSI技术用于处理具有局部和规则连接问题。在未来一、二十年里半导体神经网络 芯片仍将是智能计算机硬件的主要载体，而大量的神经元器件，如何实现互不干扰的高密度、高交叉互连，这个问题可望尽早得到解决。此外，生物器件的研究正处于探索之中，研究这种模型的理论根据是当硅集成块和元件间的距离如果接近0.01微米时，电子从邻近元件逸入的概率将很有限，便产生“隧道效应”的现象，它是高集成电路块工作不可靠的原因之一。而生物芯片由于元件是分子大小的，其包装密度可成数量级增加，它的信号传播方式是孤电子，将不会有损耗，并且几乎不产生热。因此，它有更诱人的前景。随着大量神经计算机和神经元芯片应用于高科技领域，给神经网络理论和方法赋予新的内容，同时也会提出一些新的理论课题，这是神经网络迅速发展的一个动力。

4 结束语

近年来，我国“863”计划、攻关计划、“攀登”计划和国家自然科学基金等，都对神经网络的研究给予了资助，吸引了大量的优秀青年人才从事神经网络领域的研究工作，并促进我国能在这个领域取得世界上的领先地位。在21世纪科学技术发展征程中，神经网络理论的发展将与日俱增。

参考文献：

[1] 阎平凡.人工神经网络的容量、学习与计算复杂性[J]. 电子学报,1995,23.

篇5

Abstract: According to ANN theory and method, a BP neural network model for tourism security early warning was built. The result shows that the application of BP neural network in tourism security early warning is feasible. This model possesses strong functions of study, association and fault tolerance, moreover, both its analysis results and process approach the metal process and analysis method of human brain, which greatly improves the accuracy for tourism security early warning.

关键词：人工神经网络；旅游安全；预警系统

Key words: artificial neural network；tourism security；early warning system

中图分类号：TP31 文献标识码：A文章编号：1006-4311（2011）18-0158-01

0引言

旅游业在世界范围内已成为最重要的产业之一，占全球GDP 份额已超过10%，随着人们生活水平的提高和旅游资源的开发利用，旅游业正逐渐成为我国一些地区的“支柱产业”和“新的经济增长点”，但是旅游者在旅游过程中遭遇到各种灾害性事故的频率也有较大幅度的提高，因此旅游安全预警势在必行。人工神经网络方法比传统线性方法具有以下突出的优越性：所有定量或定性的信息都等势分布贮存于网络内的各神经元，故有很强的鲁棒性和容错性；神经网络具有高度的并行结构和并行实现能力，具有高速寻找优化解的能力，能够发挥计算机的高速运算能力，可能很快找到优化解；神经网络模拟人的思维是非线性的，这一特性有助于处理非线性问题；通过对过去的历史数据的学习，训练出一个具有归纳全部数据的特定的神经网络，自学习功能对于预测有特别重要的意义。在神经网络模型中，BP人工神经网络是当前最具代表性和应用最为广泛的一种神经网络，其结构简单，工作状态稳定，易于实现，是通用性和适应性较强的网络，已在多个领域中得到初步的应用[1-2]。因此应用BP神经网络对旅游安全预警系统进行了研究。

1旅游安全预警的神经网络模型

BP网络算法即逆向传播学习算法（back propagation learning algorithm）由输入层、输出层和若干隐层组成。当信号输入时，先传到隐层神经元，经神经元作用函数转换后，再把信号传播到输出神经元，经过处理后输出结果。BP人工神经元网络通过对许多简单神经元作用函数的复合来逼近输入、输出之间的映射，它是一种快速下降的迭代方法，目的是使实际输出和预期样本输出之间的均方差最小化。影响旅游安全预警的主要因素可归纳为旅游地灾害频度、出游设施安全度和旅游地区域安全度3大类。具体分为以下3类10个子因素，包括主客文化冲突潜在指数、居民消费价格指数上涨率、暴发瘟疫性疾病的频率、交通路况安全度、社会治安稳定度、社会实际失业率、地震地质灾害发生频率、水文气象灾害发生频率、旅游设施使用饱和度、政治稳定度。

研究中，将10个子因素作为输入向量，数据来源于文献[2]，一般来说三层神经网络可以逼近任何函数关系，因此本文采用三层网络，在训练前馈网络之前，权重和偏置必须被初始化，初始化权重和偏置的工作用命令init来实现，这个函数接收网络对象并初始化权重和偏置后返回网络对象。隐含层神经元的确定没有统一的方法，这里采用试错法，经过反复训练确定隐含层为7个神经元，输出向量为1个神经元，期望值1、2、3、4分别代表旅游安全的4种状况：优秀、良好、合格和恶劣。目前传统神经网络面临的难题是学习时间较长，特别是大规模神经网络学习时间太长，令人难以忍受；很容易陷入局部极小值，常常收敛于局部最优解。因此采用改进BP算法的神经网络，RPROP是权重和阈值更新值的直接修改，它和以学习速率为基础的算法相反，RPROP引入Resilient（有弹性的）更新值的概念直接修改权步的大小，和最初的反传算法比较，在计算上仅有少量的耗费。

2结果

现有样本数目共40个，利用它们训练神经网络，为了验证模型的有效性，精度检验时每次抽取39个样本，用剩下的1个进行检验，得到该模型的使用精度93.2%；结果说明该模型预测精度较高，可以较好地满足旅游安全预警系统的需要。

3结论

为了满足我国旅游业未来发展的需要，在处理应急旅游安全突发性事件时，需要必要的事前预警和相关的知识储备，运用修正的BP网络建立旅游安全的预警系统，提高了网络的收敛速度和学习训练的效率，一定程度上克服了一般方法的主观性，通过合理地期望输出的选取并以此来划分等级，能够客观地反映旅游安全的真实情况，保证了结果的客观性。综上所述，BP网络用于旅游安全的预警系统构建有很大的优越性，值得进一步探索。

参考文献：

篇6

关键词： 机器学习 人工智能 基本模型

1.引言

“机器学习”是人工智能的重要研究领域之一。机器学习的定义是“系统通过积累经验而改善系统自身的性能”。通俗地说，就是让机器去学习，利用学到的知识来指导下一步的判断。最初研究机器学习，是让计算机具有学习的能力，以实现智能化。因为人们认为具有人工智能的系统首先必须具有学习能力。机器学习的研究始于神经元模型研究，此后又经历了符号概念获取、知识强化学习研究阶段，至今已发展到连接学习和混合型学习研究阶段。

2.机器学习系统的基本模型

根据机器学习的定义，建立如图1所示的机器学习基本模型。

模型中包含学习系统的四个基本组成环节。

环境和知识库是以某种知识表示形式表达的信息的集合，分别代表外界信息来源和系统具有的知识。学习环节和执行环节代表两个过程。学习环节处理环境提供的信息，以便改善知识库中的知识。执行环节是整个机器学习系统的核心。利用知识库中的知识来完成某种任务，并把执行中获得的信息送还给学习环节。

2.1机器学习的分类

很多学者从不同的角度对机器学习进行了分类，这里简单阐述一下继续学习策略的机器学习的种类。按照学习策略的不同，机器学习分为机械学习、归纳学习、基于解释的学习、基于神经网络的学习和基于遗传算法的学习。

2.1.1机械学习

机械学习（Rote Learning）就是“死记硬背式的学习”，靠记忆存储知识，需要时检索已经存下来的知识使用，不需要计算和推理。机械学习的模式如下：需要解决的问题为{y，y，...，yn}，输入已知信息{x，x，...x}后，解决了该问题，于是将记录对{{x，x，...，x}，{y，y，...，y}}存入数据库，以后当遇到问{y，y，...，y}时，检索数据库，即可得到问题{y，y，...，y}的解答是{x，x，...，x}。

能实现机械式学习算法的系统只需具备两种基本技能：记忆与检索。此外，存储的合理安排，信息的合理结合，以及检索最优方向的控制也是系统应该考虑的问题。该算法简单、容易实现、计算快速，但是由于系统不具备归纳推理的功能，对每个不同的问题，即使是类似的问题，也需要知识库中有不同的记录。因此占用大量的存储空间，这是典型的以空间换时间的算法。

2.1.2归纳学习

归纳学习是应用归纳推理进行学习的一种方法。归纳学习的过程是由特殊实例推导出一般情况的过程，这样就使类似的问题可以利用同样的方法求解。归纳学习的过程就是示例空间与规则空间的相互利用与反馈。1974年，Simon和Lea提出了双空间模型，形象地对这一执行过程进行了描述，如图2所示。

归纳学习算法简单，节省存储空间，在一段时间内得到了广泛的应用。在应用过程中，该算法逐渐显现出它的缺点：（1）归纳结论是通过对大量的实例分析得出的，这就要求结论的得出要有大量实例作支撑，而这在许多领域都是无法满足的。（2）归纳结论是由不完全训练集得出的，因而其正确性无法保证，只能使结论以一定概率成立。（3）该算法通过对实例的分析与对比得出结论，对于信息的重要性与相关关系无法辨别。

2.1.3基于解释的学习

基于解释的学习（Explanation-Based Learning）是运用已知相关领域的知识及训练实例，对某个目标概念进行学习，并通过后继的不断练习，得到目标概念的一般化描述。该学习的执行过程如图3所示。

这种方式的学习得到一个领域完善的知识往往是比较困难的，这就对该算法提出了更高的要求。为解决知识不完善领域的问题，有以下两个研究方向[2]：（1）改进该算法使其在不完善的领域理论中依然有效。（2）扩充该领域的知识使其拥有更强的解释能力。通常情况下，第二种改进方法更重要些。

2.1.4基于神经网络的学习

神经网络是由许多类似神经元的节点和它们之间带权的连接组成的复杂网络结构，是为模仿人类大脑的复杂神经结构而建立起来的抽象数据模型，希望相似的拓扑结构可以使机器像人脑一样进行数据的分析、存储与使用。神经网络学习的过程就是不断修正连接权的过程。在网络的使用过程中，对于特定的输入模式，神经网络通过前向计算，产生一个输出模式，并得到节点代表的逻辑概念，通过对输出信号的比较与分析可以得到特定解。在整个过程中，神经元之间具有一定的冗余性，且允许输入模式偏离学习样本，因此神经网络的计算行为具有良好的并行分布、容错和抗噪能力。

神经网络学习算法是一种仿真算法，拥有良好的认识模拟能力和有高度的并行分布式处理能力。但神经网络模型及其参数设置难以确定，需要长时间的试验摸索过程。并且，对于最后得到的神经网络，其反映的知识往往难以让人理解。为解决这些问题，构造神经网络集成并从神经网络或神经网络集成中抽取规则成为当前研究的热点。

2.1.5基于遗传算法的学习

遗传算法以自然进化和遗传学为基础，通过模拟自然界中生物的繁殖与进化过程，使训练结果逐渐优化。与遗传过程类似，在学习过程中，通过选择最好结果并使其组合产生下一代，使“优秀的遗传因子”逐代积累，最后得到最优的解。遗传算法解决了神经网络学习中的一个缺点，它不需要知道原始信息而只需知道学习的目的即可进行，具有很强的并行计算能力和适应能力。此外，遗传算法采取的随机搜索方法提高了该学习算法对全局搜索的能力。遗传算法的缺点主要体现在三个方面：无法确定最终解的全局最优性；无法控制遗传过程中变异的方向；无法有效地确定进化终止条件。基于这三个缺点，有人提出了遗传算法与其他学习算法的结合，优点互补已达到更好的效果。

3.结语

机器学习在过去十几年中取得了飞速的发展，目前已经成为子领域众多、内涵非常丰富的学科领域。“更多、更好地解决实际问题”成为机器学习发展的驱动力。事实上，过去若干年中出现的很多新的研究方向，例如半监督学习、代价敏感学习等，都起源于实际应用中抽象出来的问题，而机器学习的研究进展，也很快就在众多应用领域中发挥作用。机器学习正在逐渐成为基础性、透明化、无处不在的支持技术、服务技术。

参考文献：

[1]周志华.机器学习与数据挖掘[J].

篇7

【关键词】人工神经网络;教育资源;管理系统

【中图分类号】G40-057 【文献标识码】A 【论文编号】1009―8097(2009)07―0120―04

教育资源是信息化教学的基础。随着教育信息化的深层次推进,互联网中的信息资源以指数方式增长,这些资源不仅在内容上多种多样,在表现形式上更是丰富多彩。它对教育领域的冲击与渗透使得网络教育资源的利用受到重视,并随之出现了新型教学模式,如:基于资源的自主探索式学习和协作学习等。然而海量的网络教育资源既为教育带来了强大的服务功能,也为资源的建设与管理带来了新的挑战。教育资源具有数据量大、形式多样、针对性强、教育性强等诸多特点,如何将分散、无序的资源整合起来,使“用户能方便、高效地将其利用于自己的学习和工作之中,并在大范围内实现共享是网络教育资源建设者必须慎重面对的问题。”[1]

一 教育资源管理面临的问题

随着信息资源飞速增长,对教育资源管理的要求也更加苛刻。而网络环境的复杂给教育资源的管理带来许多不确定性。

1 教育资源管理系统在网络过载,受到攻击的情况下很容易崩溃。系统一旦崩溃,所有辛辛苦苦积累起来的资料化为乌有,资源的开发利用和共享无从谈起。目前“教育资源管理系统在输入错误、磁盘故障、网络过载或有意攻击情况下,很容易死机和崩溃。”[2]而鲁棒性(robustness)的大小是在异常和危险情况下系统生存的关键,代表了系统健壮与否。简而言之,系统的鲁棒性有待加强。

2 教育资源管理系统需要连续不断地吸收新的教育资源。向用户提供可靠的信息输出。但是在发生故障时,教育资源管理系统容易停止工作,给用户带来较大的损失。而容错性(Fault Tolerance)是指在故障存在的情况下管理系统不失效,仍然能够正常工作的特性。很明显,管理系统的容错性较差,犹如一个经常断电的供电站,给广大用户带来不必要的烦恼与损失。

3 教育资源的扩张速度极快,对海量教育资源的分类显得越来越困难。原先的人为分类跟不上信息传递的频率,导致很难在较短的时间内找到用户迫切需要的资料,浪费用户的时间,也给教育资源的进一步推广使用带来障碍。

二 人工神经网络的特点

人工智能(Artificial Intelligence)是探讨人类智能的基本机理,研究如何利用各种自动机来模拟人的某些思维过程和智能行为,从而构造智能人工制品的科学。

人类对人工智能的研究可以分成两种方式,对应着两种不同的技术:基于心理角度模拟的传统人工智能技术和基于生理角度模拟的人工神经网络技术。从人脑的生理结构来观察,人脑的每个神经元大约有103~4个树突及相应的突触,一个人的大脑总计约形成1014~15个突触。用神经网络的术语来说,即是人脑具有1014~15个互相连接的存储潜力。虽然每个神经元的运算功能十分简单,且信号传输速率也较低(大约100次/秒),但由于各神经元之间的极度并行互连功能,最终使得一个普通人的大脑在约1秒内就能完成现行计算机至少需要数10亿次处理步骤才能完成的任务。根据人脑的生理特点,人工神经网络(Artificial Neural Networks,ANN)是由大量并行分布的单元广泛互连而成,通过各组成部分非同步化的变换,实现信息的整体处理任务,它的这一结构特点决定着人工神经网络具有高速信息处理的能力。它实质上是一种模仿动物神经网络行为特征,进行分布式并行信息处理的算法数学模型。其“工作原理是通过调整内部大量节点之间相互连接的关系,从而达到处理信息的目的。” [3]所以它具有自学习和自适应的能力,可以通过预先提供的一批相互对应的输入――输出数据,分析掌握两者之间潜在的规律,最终根据这些规律,用新的输入数据来推算输出结果。

人工神经网络中神经元处理单元可表示不同的对象,例如特征、字母、概念,或者一些有意义的抽象模式。网络中处理单元的类型分为三类:输入单元、输出单元和隐单元。输入单元接受外部世界的信号与数据;输出单元实现系统处理结果的输出;隐单元是处在输入和输出单元之间,不能由系统外部观察的单元。神经元间的连接权值反映了单元间的连接强度,“信息的表示和处理体现在网络处理单元的连接关系中。”[4]人工神经网络的本质是通过网络的变换和动力学行为得到一种并行分布式的信息处理功能,并在不同程度和层次上模仿人脑神经系统的信息处理功能。正因为这个重要特征,“人工神经网络采用了与传统人工智能技术完全不同的机理,克服了传统的基于逻辑符号的人工智能在处理直觉、非结构化信息方面的缺陷,具有自适应、自组织和实时学习的特点。”[5]它与专家系统的最大区别是,专家系统属于人类智能的功能模拟,而人工神经网络则偏重走结构模拟的路子。与其它智能系统相比,人工神经网络具有以下特点:

1 学习能力:学习能力是神经网络具有智能的重要表现,即通过训练可抽象出训练样本的主要特征,表现出强大的自适应能力。例如实现图像识别时,只有先把许多不同的图像样板和对应的应识别的结果输入人工神经网络,网络就会通过自学习功能,慢慢学会识别类似的图像。

2 分布式结构:人工神经网络力图“体现大脑的分布式并行计算和非线性等特征,依此而建构的网络是一种具有大量连接的并行分布式处理器。”[6]具有通过学习获取知识并解决问题的能力,且知识是分布存储在与大脑神经元突触相类似的连接的权重中。在传统的串行体系计算机中信息分布在独立的存储单元中,而在神经网络中,信息则分散在神经元的连接上。神经网络的信息分布特性,使之具有强大的容错能力和记忆联想能力。信息的分布存储提供容错功能。由于信息被分布存放在几乎整个网络中,所以,“当其中的某一个点或者某几个点被破坏时,信息仍然可以被存取。系统在受到局部损伤时还可以正常工作。”[5]

3 并行处理:神经网络主要是对人脑的结构模拟。各种神经元在处理信息时是独立完成的,不同神经元之间具有并行性,这种并行处理使得信息处理速度大大加快。信息处理方式由原来冯•诺依曼设计的串行处理变为对信息并行处理。

三 人工神经网络应用于教育技术资源的管理之中

将网络布线由原来的星型布线转向神经网络布线方式。应用神经网络软件,网络采用分布式结构,信息采用统一并行处理的方式处理,从而加强了网络的鲁棒性、容错性。同时发挥神经网络的自学习能力,对待不同的信息资源进行模式分类。神经网络模型考虑采用目前比较成熟的误差反向传播网(BP神经网络)。教育资源分类考虑设计关键词进行训练,同时设立样本训练方法,用BP算法对该网络进行训练。训练结束之后,神经网络就可以作为教育资源分类器来进行使用。

BP(Back propagation反向传播)网络又称误差信号反馈网络,是神经网络中使用最广泛的一类。它是一种有教师的学习网络,能够实现从N维到M维的非线性映射,采用梯度下降法实现快速收敛。BP神经网络采用的是并行网格结构,包括输入层、隐含层和输出层,经作用函数后,再把隐节点的输出信号传递到输出节点,最后给出输出结果。由图1可见各层次的神经元之间形成全互连连接,各层次内的神经元之间没有连接。

该算法的学习过程由信息的前向传播和误差的反向传播组成。在前向传播的过程中,输入信息从输入层经隐含层逐层处理,并传向输出层。第一层神经元的状态只影响下一层神经元的状态。如果在输出层得不到期望的输出结果,则转入反向传播,将误差信号(目标值与网络输出之差)沿原来的连接通道返回,通过修改各层神经元权值,使得误差均方最小。神经网络理论已经证明“BP网络具有强大的非线性映射能力和泛化功能,任一连续函数或映射均可采用三层网络加以实现。”[3]

其BP神经网络模型设计方案如下:输入层、隐含层、输出层。输入层与外界的信息来源渠道紧密相连,称之为接受信息的服务器。隐含层包含若干个存储器,代表若干个知识单元。存储器需要具备输入输出渠道,具备自学习能力,可以接受外界信息,也可以传送信息。输出层由传送信息的服务器组成。输出层接受到隐含层传来的信息之后,根据用户要求传送相关信息。层间联接根据模型设计方案来铺设。神经网络中的每一个节点,无论其在输入层、隐含层、输出层上,每台计算机上必须有相应的神经元器件,以便网络进行自学与联想记忆。BP神经网络管理系统的硬件实现。是将协处理器插入标准计算机中,通过运行神经网络软件包,以实现神经网络的硬件功能,可以使神经网络在任何计算机硬件和软件环境中得到所需要的教育资源处理能力。其设计的模型具有如下特点:

1 教育资源并行分布方式处理:在神经网络中教育资源是分布储存和并行处理的,即神经网络把教育资源分布地存储在神经元之间的连接强度上,而且对教育资源的处理是由网络中神经元集体完成的。在BP神经网络中,教育资源的存储表现为神经元之间分布式的物理联系,它分散地表示和存储于整个网络内的各神经元及其连线上。每个神经元及其连线只表示一部分教育资源,而不是一个完整具体概念。只有通过各神经元的分布式综合效果才能表达出特定的概念和知识。由于人工神经网络中神经元个数众多以及整个网络存储容量的巨大,使得它具有很强的不确定性处理能力。即使输入教育资源不完全、不准确或模糊不清,神经网络仍然能够联想思维持在于记忆中事物的完整图像。只要输入的模式接近于训练样本,系统就能给出正确的推理结论。

2 鲁棒性与容错性比较强:人工神经网络的结构特点和其信息存储的分布式特点,使得它相对于其它的判断识别系统如专家系统等,具有另一个显著的优点健壮性。当一个人的大脑因意外事故受轻微损伤之后,并不会失去原有事物的全部记忆。人工神经网络不会因为个别神经元的损失(网络过载、停电、突发故障)而失去对原有模式的记忆(管理功能)。另外“即使是突发事件,暂时使网络的硬件实现还是软件实现中的某个或某些神经元失效,整个网络仍然能继续工作。”[7]BP神经网络是一种非线性的处理系统。只有当神经元对所有的输入信号的综合处理结果超过某一阈值后才输出一个信号。因此神经网络是一种具有高度非线性的超大规模连续时间动力学系统,可以实现对教育资源不间断、长时间的持续管理。它突破了传统管理系统的局限,标志着教育资源管理能力的较大提升。因而神经网络具有极强的鲁棒性与容错性,有联想记忆抽象概括和自适应能力。

3 具有自学习和自适应能力:神经网络抽象概括和自适应能力称之为自学习能力,自学习是神经网络中最重要的特征。通过学习,网络能够获得教育资源的分类知识,适应环境。在训练时,能从输入、输出的数据中提取出规律性的分类知识,记忆于网络的权值中。并具有泛化能力,即将这组权值应用于一般教育资源分类的能力。另外,BP神经网络的分类能力学习也可以在线进行。

以教育学院教育技术学资源管理为例,输入层由两台高性能的服务器组成,中间设七个知识单元,输出由两台输出服务器组成。隐层的七个神经元分别为计算机软件资源室、课堂教学资源室、“影视创作资源室、计算机教育应用资源室、网络技术资源室、传统教学资源室、传统媒体使用资源室。”[8]模型图如图2所示:

教育技术学资源管理系统一种可编程的动力系统,其存贮、加工和提取教育资源均是可编程的。输入层负责对教育技术学的相关教育资源进行筛选比较,然后根据学习后的分类能力对资源予以分类,将所有的教育技术资源分布式存储在隐层的各神经元中,需要处理时根据用户需要,从各个神经元中取出信息并行处理,输出到输出服务器中,提供给用户。用户可以将用户要求直接给输出处理平台,传递给输出层后,由输出层将用户要求反馈给中间隐层。也可以将要求送给输入处理平台,传递给输入层,进行筛选之后将信息传送给中间隐层。即使系统突然面临网络过载问题,由于存储是分布式的,可以很容易地将信息资源分配下去。即使突然停电,由于相关资源已经存储完毕,损失微乎其微。系统的鲁棒性大大加强。同时如果系统发生突然故障,由于输入渠道有两条,所以可以很轻松地用另一个服务器处理。输出处理时也是如此。因此系统的容错性也得到提高。至于模式分类,则需要较长时间的训练和大量的样本。一旦BP神经网络模型训练完毕,日后教育技术学资源分类就显得十分轻松。只需将关键词输入准确,便可以进入相应的知识单元存储起来。处理信息时,根据用户需要,有不少不同类别的资源需要统筹规划、联合利用,才能得到用户需要的结果。这儿就可以充分发挥神经网络并行处理的特点,有条不紊地对信息加以处理。其总体示意图如图3所示:

四 结语

教育信息化的核心问题是教育资源的应用和管理。神经网络式的教育资源管理系统把教育资源存储、教育资源管理、教育资源分类、教育资源动态升级四大特色功能进行整合,全面突破了“当前基础教育信息化过程中的应用‘瓶颈’。” [9]其最大的特点就是突出了教育资源的管理功能,通过以一个统一管理平台为核心的方式,对各类教育资源进行优化、整合,改善了以往教育资源管理从单一功能角度进行设计,各功能之间不能相互结合,造成资源管理困难和资源互不兼容的问题,实现了教育资源的价值最大化。值得注意的是,由于管理系统采用神经网络的结构特点进行设计,其鲁棒性、容错性和模式分类能力较强,较之传统教育资源管理方式比较起来,不仅提取和输入变得十分简单,而且对大量资源的分类式识别也大大加快,提高了管理效率。分布式存储提高了教育资源的存储容量,而“并行式处理又加大了教育资源的处理速度,同时系统在应付突发事件和网络攻击方面,应变能力大大增强,”[10]其可靠性与可用性也有突破性的提高。同时,在教育资源管理过程中,系统能抓住教育资源应用与管理过程中的关键问题,关注用户的反馈,即时更新教育资源,加强了教育资源的建设,为教育信息化的持续发展提供了有力的保障。

参考文献

[1] 余胜泉,朱凌云.教育资源建设技术规范体系结构与应用模式[J].中国电化教育,2006,(3):58-59.

[2] 穆肃.校本学科教学资源库的设计和实现[J].中国电化教育,2004,(1):56-61.

[3] 周志华著.神经网络及其应用(第1版)[M].北京:清华大学出版社,2004.

[4] 张广莹,徐丽娜,邓正隆.“神经网络控制”CAI课件研制中的几个问题[J].现代教育技术,1997,(2):32-33.

[5] 韩立群著.人工神经网络理论设计及应用(第1版)[M].北京:化学工业出版社,2002.

[6] 陶剑文.一种分布式智能推荐系统的设计[J].计算机工程,2007,(15):207-208.

[7] 王国旗,张辛亥,肖.采用前向多层神经网络预测煤的自然发火期[J].湖南科技大学学报(自科版),2008,(2):20-22.

[8] 茹洪丽.教育技术学课程设置问题探略[J].电化教育研究,2005,(12):38-41.

篇8

【关键词】小波包变换 BP神经网络 EPS转矩传感器 故障诊断

1 引言

EPS是当前世界最发达的转向助力系统，它是电子控制单元（ECU）根据各传感器输出信号决定电动机的转动方向和最佳助力转矩的转向机构。EPS转矩传感器测定方向盘与转向器输出轴之间传递的转矩，并且将其转矩大小转化为电压值信号。

目前已形成了多种转矩传感器故障检测和诊断的方法，比如：故障树法、神经网络观测器以及基于小波分析的方法等等。小波分析是近年来发展起来的一个新的数学分支,非常适合于分析非平稳信号，对于EPS转矩传感器信号，可方便地剔除系统的噪声干扰和检测出故障信号。基于这一点，将信号进行若干次小波包分解，可以得到信号在各个频段上的分量，这样就实现了信号特征的分离。由于这些特征与故障之间是一种非常复杂的非线性关系，而BP神经网络又具有强大的综合分析能力，用构造的传感器的各种故障样本特征向量对BP神经网络进行分类训练，这样就能进行故障诊断。

2 故障诊断流程

信号获取信号消躁采样小波包变换提取各频带能量归一化处理BP神经网络诊断输出。

3 基于小波包预处理的故障特征提取方法

设EPS转矩传感器电压信号为f(x)，令 ψ(x)为小波母函数，则f(x)的二进小波变换为

（1）

其中，离散信号的小波包分解算法为

（2）

其中，ak，bk为小波包分解共轭滤波器系数。

小波包的重构算法为

（3）（4）

当能量较大时，可对特征向量进行归一化处理，令

（5）

（6）

有了信号基于小波包的能量特征向量，就可以利用BP神经网络的非线性和拟合特性进行故障的诊断识别了。

4 BP神经网络

BP神经网络的结构如图1所示，图中的节点是BP神经网络的神经元，它的作用函数为，式中y―神经元的输出，xi―神经元的输入，wi―神经元的连接权值，θ―神经元的阈值，f―神经元的激活函数，由于采用IWPT预处理的小波包分析方法，构建的神经网络为输入层5个神经元，即为故障的能量特征向量维数，输出层为5个神经元（四种故障和正常状态），即为故障的类型数，隐含层为6个神经元，隐层节点函数选用sigmoid函数。

具体的BP网络训练算法可以查阅参考文献。BP网络在设计时，必须规定隐层的数目、每层的节点数、激活函数和输入/输出样本对。这些参数将会影响BP网络的收敛速度和BP网络的有效性。

本文提出的基于IWPT预处理的神经网络故障诊断方法，预处理的目的是为了减少神经网络输入层和隐层节点的个数，从而加快神经网络训练和收敛速度，提高故障诊断的效率。

5 结束语

通过小波包算法对传感器故障信号的分析发现传感器故障几种典型信号在各个频带内的能量分布是不同的，因此可以提取故障信号的子频带能量信号作为特征向量，在提取特征向量的过程中，采用IWPT（不完全小波包变换）预处理方法，使网络的输入层和隐含层节点数目都减少了，能够显著的提高神经网络的学习和收敛速度。将提取的特征向量作为神经网络的输入量，结合样本数据（训练样本和测试样本），利用BP算法对网络进行学习训练，实验表明，训练后的网络能对EPS转矩传感器的典型故障进行有效的诊断。

参考文献

[1] 沈斌,陈敏.电动助力转向传感器故障研究[J].机电一体化,2012(5):59-63.

[2]A.Grossmann and J.Morlet, "Decomposition of hardyfunction into square integrable wavelets of constantshape,"SIAM J.Math.,vol.15, pp.723-736.

[3]Haykin S.Neural Networks A Comprehensive Foundation.Prentice Hall,2001

[4]Y.He,Y.Tan and Y.Sun,Wavelet neural network approach for fault diagnosis of analogue circuits.IEEE Proc.-Circuits Devices Syst.Vol 151(4), pp.379-384

[5]S.Mallat,"Multifrequency channel decompositions of images and wavelet models,"IEEE Trans.ASSP,vol.37, no.12,pp.2091-2110,1989.

篇9

关键词：深度学习；行为识别；神经网络

1 概述

动作行为识别是计算机视觉领域中的一个研究热点，已经广泛应用于智能监控、人机交互、视频检索等领域中[1]。动作行为识别技术是通过对视频或者图像中人体动作行为做出有意义的判断。有效表达图像（视频）中的实际目标和场景内容是最基本，最核心的问题。因此，对于特征的构建和选择得到广泛关注，例如STIP、SIFT、MSER等。但是，能通过无监督方式让机器自动从样本中学习到表征样本的特征，会让人们更好地利用计算机来实现人的视觉功能。而深度学习作为神经网络的延伸和发展，是通过逐层构建一个多层网络来使得机器自动学习到隐含在数据内部的关系，从而让学习到的特征更加准确性。

文章旨在探讨深度学习与机器学习（神经网络）之间的关系，并且介绍深度学习的由来、概念和原理；同时介绍目前深度学习在计算机视觉中的应用。最后提出深度学习目前发展所面临的问题，以及对未来的展望。

2 深度学习

2.1 深度学习概述

深度学习源于人工神经网络的研究，是机器学习的拓展。深度学习是经过组合低层特征来形成更加抽象的属性类别和特征，从中发现原始数据的特征表征[2]。现在用于动作行为识别的技术是通过“动作表征”+“动作分类器”的框架来进行行为识别的。其中“动作表征”是人们手动设计特征获取到的，也就是在目前识别框架内存在一个对动作图像（视频）的预处理过程。

深度学习和浅层学习相对。目前许多学习算法是浅层网络学习方法，具有一定的局限性，例如在样本有限的状况下，表示复杂函数的能力有限制，且对复杂分类问题的泛化能力也会受到一定约束[3]。而深度学习通过学习深层非线性网络结构，达到复杂函数逼近，又能在样本少的情况下学习原始数据的特征。BP算法作为传统神经网络的典型算法，虽然训练多层网络，但仅含几层网络，训练方法很不理想[3]。因为其输入和输出间非线性映射让网络误差函数形成含多个极小点的非线性空间，因而经常收敛到局部最小，且随着网络层数的增加，容易过拟合。而深度学习可以获得分布式表示，通过逐层学习算法来得到原始输入数据的主要变量。通过深度学习的非监督训练完成，同时利用生成性训练避免因函数表达能力过强而出现过拟合情况。

2.2 深度学习原理

传统机器学习仅含单层非线性变换的浅层网络结构，而且浅层模型单一。这对于深度网络来说易造成陷入最优或产生梯度分散等问题。因此，Hinton等人在基于深度置信网（DBNs）的情况下提出非监督贪婪逐层训练算法，随后提出了多层次自动编码器深层结构，这给解决深层网络结构相关的优化难题带来了希望。此外Lecun等人提出的卷积神经网络是第一个多层次结构的学习算法。同时深度学习还出现了许多结构：多层感知机、去噪自动编码器、稀疏编码等。

卷积神经网络是第一个真正采用多层次网络结构，具有鲁棒性的深度学习算法，通过探究数据在空间上的相关性，减少训练参数的数量。而且卷积神经网络（CNN）适应性强，善于发现数据的局部特征。它的权重共享结构降低了网络模型的复杂度，减少了权值的数量，使得卷积神经网络在模式识别中取得了很好的结果。

自动编码器的核心关键是将原始图像（视频）输入信号进行编码，使用编码后的信号来重建原始信号，使得两者之间的重建误差最小。通过将原始信号编码成另一形式，能够有效地提取信号中的主要信息，能够简洁地表达原始图像（视频）的特征。

3 深度学习的应用

3.1 语音识别

从2009年开始，微软研究院语音识别专家通过与Hinton合作，首先将RBM和DBN引入到语音识别声学模型训练中，使得语音识别的错误率相对减低30%，这彻底改变了语音识别原有的技术框架。在国际上，IBM、google等公司都快速进行了DNN语音识别的研究，并且速度飞快。国内方面，阿里巴巴，科大讯飞、百度、中科院自动化所等公司或研究单位，也在进行深度学习在语音识别上的研究。

3.2 视频中的动作行为识别

准确迅速识别视频中人的动作行为对于视频搜索和视频监控具有划时代的意义。最近几年，深度学习技术被应用于视频动作行为识别中。如Ji等人[4]提出多层网络的3D卷积神经网络来学习视频中的时空特征，并通过卷积来实现对整个视频特征的学习，从而代替之前的时空兴趣点检测和特征描述提取。在TRECVID数据库上进行的实验取得了不错效果。

4 结束语

文章对深度学习的主要概念进行了全面阐述，包括其由来、原理、研究进展和相应的应用等。在很多领域中，深度学习都表现了潜在的巨大价值，但深度学习作为浅层学习的延伸，仍处于发展阶段，还有很多问题值得我们深入探讨：

（1）我们需要了解深度学习的样本复杂度，需要多少训练样本才能学习到足够的深度模型。

（2）在推进深度学习的学习理论和计算理论的同时，我们是否可以建立一个通用的深度学习网络模型，作为统一的框架来处理语音、图像和语言。

（3）神经网络具有前馈性连接和反馈性连接，可是我们研究的深度网络中还没有加入反馈连接，这些都给深度学习的研究带来了严峻的挑战。

参考文献

[1]王亮，胡卫明，谭铁牛.人运动的视觉分析综述[J].计算机学报，2002，25（3）：225-237.

[2]余凯，贾磊，陈雨强.深度学习的昨天、今天和明天[J].计算机研究与发展，2013，50（9）：1799-1804.

篇10

【关键词】 图像识别技术 神经网络识别

模式识别研究的目的是用机器来模拟人的各种识别能力―比如说模拟人的视觉与听觉能力，因此图像识别的目的是对文字、图像、图片、景物等模式信息加以处理和识别，以解决计算机与外部环境直接通信这一问题。可以说，图像识别的研究目标是为机器配置视觉“器官”，让机器具有视觉能力，以便直接接受外界的各种视觉信息。

一、图像识别系统

一个图像识别系统可分为四个主要部分：被识图像、图像信息获取、图像预处理、图像特征提取、分类判决。

二、图像识别方法

图像识别的方法很多，可概括为统计（或决策理论）模式识别方法、句法（或结构）模式识别方法、模糊模式识别方法以及神经网络识别方法。重点介绍神经网络识别方法。

2.1神经网络识别方法

2.1.1人工神经网络的组成

人工神经网络（简称ANN）是由大量处理单元经广泛互连而组成的人工网络，用来模拟脑神经系统的结构和功能。而这些处理单元我们把它称作人工神经元。

2.1.2人工神经网络的输出

2.1.3人工神经网络的结构

人工神经网络中，各神经元的不同连接方式就构成了网络的不同连接模型。常见的连接模型有：前向网络、从输入层到输出层有反馈的网络、层内有互联的网络及互联网络。

2.1.4 学习算法

1）感知器模型及其算法

算法思想：首先把连接权和阈值初始化为较小的非零随机数，然后把有n个连接权值的输入送入网络中，经加权运算处理后，得到一个输出，如果输出与所期望的有较大的差别，就对连接权值参数按照某种算法进行自动调整，经过多次反复，直到所得到的输出与所期望的输出间的差别满足要求为止。

2）反向传播模型及其算法

反向传播模型也称B-P模型，是一种用于前向多层的反向传播学习算法。

算法思想是：B-P算法的学习目的是对网络的连接权值进行调整，使得调整后的网络对任一输入都能得到所期望的输出。学习过程包括正向传播和反向传播。正向传播用于对前向网络进行计算，即对某一输入信息，经过网络计算后求出它的输出结果；反向传播用于逐层传递误差，修改神经元之间的连接权值，使网络最终得到的输出能够达到期望的误差要求。

B-P算法的学习过程如下：

第一步：选择一组训练样例，每一个样例由输入信息和期望的输出结果两部分组成；第二步：从训练样例集中取出一样例，把输入信息输入到网络中；第三步：分别计算经神经元处理后的各层节点的输出；第四步：计算网络的实际输出和期望输出的误差；第五步：从输出层反向计算到第一个隐层，并按照某种原则（能使误差向减小方向发展），调整网络中各神经元的权值；第六步：对训练样例集中的每一个样例重复一到五的步骤，直到误差达到要求时为止。

3）Hopfield模型及其学习算法

它是一种反馈型的神经网络，在反馈网络中，网络的输出要反复地作为输入再送入网络中，使得网络具有了动态性，因此网络的状态在不断的改变之中。

算法思想是：

（a） 设置互连权值

其中xis是s类样例的第i个分量，它可以为1或0，样例类别数为m，节点数为n。

（b） 未知类别样本初始化。 Yi（0）=Xi 0≤i≤n-1

其中Yi（t）为节点I在t时刻的输出，当t=0时，Yi（0）就是节点I的初始值，Xi为输入样本的第I个分量。

（c） 迭代直到收敛