电子信息工程 班级: 08级2班 作者:刘铭 指导老师:熊朝松 引
言
随着多媒体和网络技术的飞速发展及广泛应用, 人工神经网络已被广泛运用于各种 领域,而它的预测功能也在不断被人挖掘着。人工神经网络是一种旨在模仿人脑结构及 其功能的信息处理系统。现代计算机构成单元的速度是人脑中神经元速度的几百万倍, 对于那些特征明确,推理或运算规则清楚地可编程问题,可以高速有效地求解,在数值 运算和逻辑运算方面的精确与高速极大地拓展了人脑的能力, 从而在信息处理和控制决 策等方面为人们提供了实现智能化和自动化的先进手段。但由于现有计算机是按照 冯·诺依曼原理,基于程序存取进行工作的,历经半个多世纪的发展,其结构模式与运 行机制仍然没有跳出传统的逻辑运算规则, 因而在很多方面的功能还远不能达到认得智 能水平。随着现代信息科学与技术的飞速发展,这方面的问题日趋尖锐,促使科学和技 术专家们寻找解决问题的新出路。 当人们的思想转向研究大自然造就的精妙的人脑结构 模式和信息处理机制时,推动了脑科学的深入发展以及人工神经网络和闹模型的研究。 随着对生物闹的深入了解,人工神经网络获得长足发展。在经历了漫长的初创期和低潮 期后,人工神经网络终于以其不容忽视的潜力与活力进入了发展高潮。这么多年来,它 的结构与功能逐步改善,运行机制渐趋成熟,应用领域日益扩大,在解决各行各业的难 题中显示出巨大的潜力,取得了丰硕的成果。通过运用人工神经网络建模,可以进行预 测事物的发展,节省了实际要求证结果所需的研究时间。
正是由于人工神经网络是一门新兴的学科,它在理论、模型、算法、应用和时限等 方面都还有很多空白点需要努力探索、研究、开拓和开发。因此,许多国家的政府和企 业都投入了大量的资金, 组织大量的科学和技术专家对人工神经网络的广泛问题立项研 究。从人工神经网络的模拟程序和专用芯片的不断推出、论文的大量发表以及各种应用 的报道可以看到,在这个领域里一个百家争鸣的局面已经形成。 为了能深入认识人工神经网络的预测功能,大量收集和阅读相关资料是非常必要 的。搜集的资料范围主要是大量介绍人工神经网路,以及认识和熟悉了其中重要的
BP网
络。参考的著作有:马锐的《人工神经网络原理》 ,胡守仁、余少波的《神经网络
1
导论》 以及一些相关论文,董军和胡上序的《混沌神经网络研究进展和展望》 ,朱大奇的《人 工神经网络研究现状及其展望》和宋桂荣的《改进 BP算法在故障诊断中的应用》 ,这些 著作在后面的参考文献中将一一列出。
1. 我国人工神经网络研究现状
随着人工神经网络的 20 世纪 80 年代在世界范围内的复苏, 国内也逐步掀起了研究 热潮,1989年10月和 11月分别在北京和广州召开了神经网络及其应用讨论会和第一届 全国型号处理——神经网络学术会议; 1990年2月由国内八个学会 (中国电子学会、 人 工智能学会、自动化学会、通信学会、物理学会、生物物理学会和心理学会)联合在北 京召开“中国神经网络首届学术会议” ,这次大会以“八学会联盟,探只能奥秘为主题, 收到了 300 多篇学术论文”,开创了中国人工神经网络及神经计算机方面科学研究的新 纪元,经过十几年的发展,中国学术界和工程界在人工神经网络的理论研究和应用方面 取得了丰硕成果,学术论文、应用成果和研究人员逐年增加。在国际上, 1987 年,在美 国加洲召开第一届国际神经网络学会,此后每年召开两次国际联合神经网络大会 ( UCNN ),不久,改学会创办了刊物 Journal Neural Networks,另有十几种国际著名的 神经网络学术刊物相继问世。至此,神经网络理论研究在国际学术领域获得了其应有的 地位。
经过多年的发展,目前已有上百种的神经网络模型被提出。这么多年来,它的结构 与功能逐步改善,运行机制渐趋成熟,应用领域日益扩大,在解决各行各业的难题中显 示出巨大的潜力,取得了丰硕的成果 。正是由于人工神经网络是一门新兴
[1]
的学科,它 在理论、模型、算法、应用和时限等方面都还有很多空白点需要努力探索、研究、开拓 和开发。因此,许多国家的政府和企业都投入了大量的资金,组织大量的科学和技术专 家对人工神经网络的广泛问题立项研究。 从人工神经网络的模拟程序和专用芯片的不断 推出、论文的大量发表以及各种应用的报道可以看到,在这个领域里一个百家争鸣的局 面已经形成 。
[2]
2. 人工神经网络的基本原理
人工神经网络是一种应用类似于大脑神经突触联接的结构进行信息处理的数学模 型。在工程与学术界也常直接简称为神经网络或类神经网络。 神经网络是一种运算模型, 由大量的节点和之间相互联接构成。
神经元是人工神经网络的基本处理单元,它一般是一个多输入 / 单输出的非线性元 件。由大量处理单元互联组成的非线性、自适应信息处理系统。它是在现代神
[3]
2
经科学
3
研究成果的基础上提出的,试图通过模拟大脑神经网络处理、记忆信息的方式进行信息
[4]处理
。
人工神经网络是对人类神经系统的一种模拟。尽管人类神经系统规模宏大、结构复 杂、功能神奇,但其最基本的处理单元却只有神经元。人工神经系统的功能实际上是通 过大量神经元的广泛互连,以规模宏伟的并行运算来实现的。人工神经网络的神经元就
是模拟生物的神经元,神经元也和其他类型的细胞一样,包括有细胞膜、细胞质和细胞 核。但是神经细胞的形态比较特殊,具有许多突起,因此又分为细胞体、轴突和树突三
1)细胞体 2)树突 3)轴突 4)突触
图 1 简单神经元网
轴突是由细胞体向外延伸出的所有纤维中最长的一条分枝, 用来向外传递神经元产 生的输出电信号。每个神经元都有一条轴突,其最大长度可达 1m 以上。在轴突的末端 形成了许多很细的分枝,这些分支叫神经末梢。每一条神经末梢可以与其它神经元形成 功能性接触,该接触部位称为突触。所谓功能性接触,是指非永久性的接触,这正是神 经元之间传递信息的奥秘之处。
树突是指由细胞体向外延伸的除轴突以外的其它所有分支。树突的长度一般较短, 但数量很多,它是神经元的输入端,用于接受从其它神经元的突触传来的信号。 2.人工神经网络 BP 网络和 RBF 网络
2.1 BP 网络
BP( Back Propagation)网络是 1986年由 Rumelhart和 McCelland 为首的科
4
学家小
组提出,是一种按误差逆传播算法训练的多层前馈网络 ,是目前应用最广泛的神经网 络模型之一。 BP 神经网络,即误差反传误差反向传播算法的学习过程,由信息的 正向传播和误差的反向传播两个过程组成。
[5]
BP 神经网络模型 BP 网络模型包括其输入输出模型、作用函数模型、误差计
算模型和自学习模型。 BP 算法因其简单、易行、计算量小、并行性强等优点 ,是目前 神经网络训练采用最多也是最成熟的训练算法之一 。
[6]
2.2 RBF 网络
RBF神经网络是一种具有拓扑结构的前向神经网络. 由输入层、 隐含层、输出
层构。 RBF神经网络以径向基函数作为隐层单元的基 , 构成隐含层空间 , 隐含层对输入矢量 进行变换将低维的模式输入数据变换到高维空间内 , 使得在低维空间内的线性不可分 问题在高维空间内线性可分。
RBF网络的学习算法,由两部分组成;无导师学习、有导师学习。 3. 空调故障
空调系统故障模式及故障机制分析 ,如下表所示 :
[7][8]
表示符号 表 1 空调系统故障模式及故障机制分析 故障模式 表示符号 故障原因 房间温度均偏高 y1 y2 y3 y4 y5 y6 x1 1. 冷冻机产冷量不足 2. 喷水堵塞 3. 通过空气处理设备的风量过 大 , 热交换不良 4. 回风量大于送风量 5. 送风量不足 (可能空气过滤 气堵塞 ) 6. 表冷器结霜 ,造成堵塞 7. 室外空气未经加湿处理 8. 系统的实际阻力小于设计阻 力 x2 x3 相对湿度均偏低 系统实测风量大于设计风量 y7 y8 y9 y10 y11 y12 x4 房间气流速度超过允许流速 9. 设计时选用风机容量偏大 10. 送风口速度过大 11. 总送风量过大 12. 送风口的型式不适合 空调系统故障诊断的神经网络模型分为 3 层,分别为输入层、隐含层和输出层。 输入 层节点个数为 4 ,对应于4 个故障现象,输出层节点个数为 12 ,对应于
12 个故障原因。输出 节点值的大小反映了故障出现的可能性。隐含层节点的个数可
参照公式初步选取
5
A M N ,
4. 小结
在理论上. RBF网络和 BP网络一样能以任意精度逼近任何非线性函数。 但由于它们 使用的激励函数不同,其逼近性能也不相同。 Poggio 和 Girosi 已经证明, RBF网络是 连续函数的最佳逼近,而 BP网络不是。 BP网络使用的
Sigmoid 函数具有全局特性,它 在输入值的很大范围内每个节点都对输出值产生
影响, 并且激励函数在输入值的很大范 围内相互重叠,因而相互影响,因此 BP网络训练过程很长。此外,由于 BP算法的固有 特性, BP网络容易陷入局部极小的问题不可能从根本上避免,并且
BP网络隐层节点数
目的确定依赖于经验和试凑,很难得到最优网络。采用局部激励函数的 RBF网络在很大
程度上克服了上述缺点, RBF不仅有良好的泛化能力,而且对于每个输入值,只有很少 几个节点具有非零激励值,因此只需很少部分节点及权值改变。学习速度可以比通常的 BP算法提高上千倍 , 容易适应新数据,其隐层节点的数目也在训练过程中确定,并且其 收敛性也较 BP网络易于保证,因此可以得到最优解
从上面所示的结果来看,主要有一下几方面的不同:
(1)由于学习速率是固定的,因此 BP网络的训练过程较长,当需要处理较复杂的问 题时,需要的时间很长。而 RBF网络的建网过程即是训练过程此外,训练时间较少.精 度也比较高。
(2)在处理同一问题时,通常情况 BP网络所需的神经元个数比 RBF网络要少。
(3)BP网络的输出和初始的权值有关,而 RBF网络的输出与初始的权值无关。
(4)RBP网络隐含层的层数和单元数的选择要凭借经验反复验证,因此网络的冗余 性比较大。 RBF隐层节点的数目也在训练过程中确定。但是要确定径向基函数的分布密 度。
人工神经网络近来越来越受到人们的关注,因为它为解决大复杂度问题提供 了一种相对来说比较有效的简单方法。可以通过神经网络对事物进行预测从而用 简单
[10] [11]
。
6
A M N ,
的方法完成复杂的问题。
5. 研究不足
人工神经网络是一个新兴学科,因此还存在许多问题。其主要表现有:
(1) 受到脑科学研究的限制:由于生理实验的困难性,因此目前人类对思维和
记忆机制的认识还很肤浅,还有很多问题需要解决;
7
(2) 还没有完整成熟的理论体系; (3) 还带有浓厚的策略和经验色彩;
(4) 与传统技术的接口不成熟。 上述问题的存在,制约了人工神经网络研究的
发展。 相信只要能客服这些局限性,人工神经网络的发展将不可限量
参考文献
[1] 朱大奇 . 人工神经网络研究现状及其展望 [N]. 江南大学学报 ,2004:103 ~108. [2] 董军, 胡上序.混沌神经网络研究进展和展望 [J]. 信息与控制 ,1997 (5):360 ~368. [3] 韩力群 .人工神经网络理论、设计及应用 [M]. 北京: 化学工业出版社 ,2002. [4] 马锐 . 人工神经网络原理 [M]. 北京 : 机械工业出版社 .2010. [5] 胡守仁,余少波,戴葵.神经网络导[M]. 长沙:国防科技大学出版社 ,1992.
[6] 胡金滨 ,唐旭清 .人工神经网络的 BP算法及其应用 [J]. 信息技术 ,2004 (4):1 ~4. [7] 余江海 . 一种制冷系统故障诊断方法 [C]. 上海交通大学硕士论文 ,2001.
[8] 中国机械工程学会设备维修分会 , 机械设备维修问答丛书 ,编委会空调制冷设备维修问答 [M]. 北
京: 机械工业出 版社 .1988.
[9] 宋桂荣 .改进BP算法在故障诊断中的应用 [N]. 沈阳工业大学学报 ,2001 (3):252 ~254. [10] 智会强,牛坤,田亮等.BP网络和RBF网络在函数逼近领域内的比较研究 [J]. 科技通报 ,2005 (2). [11] 刘永.张立毅.BP网络与 RFB神经网络的实现及其性能比较 [J]. 电子测量技术研究设计 ,2007 (4) :77~80.
8
因篇幅问题不能全部显示,请点此查看更多更全内容