[word格式] 基于免疫进化算法的小波神经网络的混沌优化设计

[word格式] 基于免疫进化算法的小波神经网络的混沌优化 设计 领导形象设计圆作业设计ao工艺污水处理厂设计附属工程施工组织设计清扫机器人结构设计 基于免疫进化算法的小波神经网络的混沌 优化设计 西安理工大学 JournalofXi’anUniversityofTechnology(2004)Vo1.20No.3259 文章编号:1006—4710(2004)03—0259—04 基于免疫进化算法的小波神经 网络的混沌优化设计 潘永湘,屈省源,林遂芳 (西安理工大学自动化与信息工程学院,陕西西安710048) 摘要:针对进化算法中的”退化”问 题 快递公司问题件快递公司问题件货款处理关于圆的周长面积重点题型关于解方程组的题及答案关于南海问题 和小波神经网络的”维数灾”问题,将免疫算法和进化 算法相结合,在引入混沌机制的基础上,提出了一种基于免疫进化算法的小波神经网络混沌 优化设计 方法 快递客服问题件处理详细方法山木方法pdf计算方法pdf华与华方法下载八字理论方法下载 .该方法既充分发挥了小波神经网络的快速性,又充分利用了免疫算法的全局 性,适应性等特点.仿真结果表明了该算法的有效性. 关键词:免疫进化算法;小波神经网络;优化设计;混沌 中图分类号:TP273文献标识码:A AChaosOptimizeDesignMethodofWaveletsNeuralNetwork BasedonImmuneEvolvingAlgorithm PANYong—xiang,QUSheng—yuan,LINSui—fang (Xi’anUniversityofTechnology,Xi’an710048,China) Abstract:Inthispaper,achaosoptimizedmethodofwaveletsneuralnetworkbasedon immuneevolvingalgorithmispresentedunderthefoundationofintroducingchaosmecha— nismandcombiningtheimmunealgorithmwithevolvingalgorithmaimingatthe”degener— ative’’problemofevolvingalgorithmandthe”dimensionoverrun”problemofwaveletsneu— ralnetworkThismethodbothexertsfullythefastcharacteristicofwaveletsneuralnet— workandmakesgooduseofglobalandadaptivecharacteristicofimmunealgorithm.The resultsofsimulationexperimentindicatethealgorithmseffectiveness. Keywords:immuneevolvingalgorithm;waveletsneuralnetwork;optimizingdesign; chaos 生物学研究表明,生物免疫系统的许多特性,对工程应用中许多复杂 问题的求解起到了重要的启 示和借鉴作用.免疫算法正是受生物免疫系统的启示而设计的一种 全局优化算法[1].虽然以遗传算法 为代表的进化算法以及多层前向神经网络被广泛应用,但实践表明,进化算法存在早熟问题以及退化 现象;而多层前向神经网络存在收敛速度慢,易陷入局部极小问题.研究表明,把小波函数引入神经网 络隐层单元而构成的小波神经网络,具有快速的收敛性和较强的容错能力,从而弥补了多层前向神经 网络的不足.然而,随着小波神经网络输入维数的增加,所需训练的样本数则呈指数增长,小波神经网 络的结构也将变得庞大,出现所谓”维数灾”现象,这同样导致网络的收敛速度大大下降[2].针对上述 问题,作者提出一种基于免疫进化算法的小波神经网络混沌优化设计方法,该方法利用混沌的遍历 性,产生神经网络初始权值集合,从而大大提高了网络的训练性能. 1免疫算法u 1.1免疫算法的特点 免疫算法具有以下特点:?能实现候选个体的多样性;?通过学习记忆能以比较高的速度得 收稿日期:2003—11—28 作者简介:潘永湘(1946一),男,江苏扬州人.西安理工大学教授,研究方向为过程建模,系统优化与智能控制. 26O西安理工大学(2004)第2O卷第3期 到一个全局解;?能高效率地进行并行搜索.本文将网络权值和隐层结点个数视为生物免疫系统的 抗体,将目标与约束条件视为生物免疫系统的抗原,通过对其进行基因交叉,变异等进化操作和基于 浓度的选择调节,使基因不断优化,从而找到最佳抗体,即找到使目标函数最小的最佳权值矢量和最 佳隐层结点数.与进化算法相比,该算法既保留了以往进化算法的搜索特性,克服了进化算法在局部 搜索解空间上效率较差的缺点,又避免了未成熟收敛,并且可以提高搜索速度,保持全局和局部搜索 的能力. 之间的亲和力A.定义为:一 AylJ.一1/(1+ED)(4) 其中ED为两抗体间的Euclidean距离,它的大小表明抗体问的相似程度. (2)抗体和抗原间的亲和力.抗体和抗原问的亲和力AG定义为: AG一(一厂m)/(1一厂mi)(5) 式中,为第i个抗体的适应值;厂mi为所有抗体中对应的最小适应值. 定义3抗体的浓度和选择概率 在免疫系统中,抗体的浓度是用来调节抗体的促进和抑制的.第i个抗体的浓度DEN,定义为: DEN一1/(AG.+,)(6) 式中,,为任意小的正数.抗体选择概率P定义为: ()/(蕊1) 式中,?为抗体的个数.从上式可见,亲和力高的抗体得到促进,浓度高的抗体受到抑制. 2小波神经网络.] 小波神经网络是一种以小波基函数为神经元激励函数的前馈网络.本文选择非正交小波基作为 神经元,网络的构成为单隐层与单输出,它的输出可表示为: Y—S[??(?W一](8) 式中,S(z)为Sigmoid函数;/ta.6()为满足上述条件的Gaussian—derivative函数,即: ():一e—./z(9) 3基于免疫进化算法的小波神经网络的混沌优化训练 在现有文献中,神经网络权值的训练和结构训练都是分开进行的,这就不可避免地影响了网络的 潘永湘等:基于免疫进化算法的小波神经网络的混沌优化设计261 训练效率;此外,神经网络的初始权值集合的确定在现有的文献都是随机选取的,具有很大的随意性. 本文采用的方法是,同时对隐层网络结点个数和网络权值进行编码,并利用混沌的遍历性在给定范围 内产生初始群体.然后对初步设计好的小波神经网络在基于免疫进 化算法下进行训练. 3.1混沌及其优化_4 混沌具有以下一些特点:?随机性,即将它用于优化求解时,能有效避免目标函数陷入局部极值 问题;?遍历性,即有可能通过细化搜索而最终找到最优解;?规律性,即混沌是由确定性的非线性 函数通过迭代产生的,所以它能保证算法的稳定性与可靠性基于以上几点,混沌优化已成为一种新 的优化方法而受到广泛地重视. 对于Logistic映射: t+1一(1一t)(O?to<1)(10) 当一4时可使式(1O)所示的系统处于混沌状态.式中,=0,1,2,…;为控制参量. 不失一般性,优化问题可描述为: max(/.(z.))(口f?z?b.;一1,2,…,1”l;z.=z1,z2,…,z)(11) 则混沌优化的基本算法如下: (1)初始化,即对式(10)中的t分别赋予i个具有微小差异的初值(它的不动点0.25,0.5,0.75 除外),可得到i个轨迹不同的混沌变量t.(志)(志一O),f一f(x’),为当前最优解. (2)用混沌变量进行搜索,即令: 置(忌)一z+cit.(忌)一dj(,d>0)(12) 计算性能指标f(k)一f(x(k)),其中x(k)一z(志),z.(志),…,z(志). (3)若f(k)>厂,则z.一z.(志),f一f(k),如达到给定的迭代次数,则结束,否则转到(2). 3.2基于免疫进化算法的小波神经网络的混沌优化训练 通常,遗传算法优化是采用随机生成的办法获得一个初始种群,然后对该种群进行编码,再对该 编码数据进行遗传操作生成新一代种群,如此循环直到满足结束条件.在本文中,初始种群不再是随 机产生,而是以式(10)为基础,设z(一1,2,…,;一1,2,…,)为个具有微小差异的初值.其 中,是初始抗体的个数,是每个抗体的待编码参数的个数.具体算法描述如下. (1)抗原识别.即输入目标函数和各种约束条件作为免疫算法的抗原. (2)初始化抗体.即对网络权值,小波函数的伸缩平移系数以及隐层结点个数进行实数编码后作 为抗体,然后对其进行混沌优化,具体步骤如下: setpl:将初值z.(一1)代入式(11),设为初始优化值厂(z),并以max(厂(z))为最优值进行 遍历搜索; setp2:寻优过程按混沌优化基本算法进行,并保存所求得的最优值; step3:i—i+1,返回setpl,直到个初值优化完毕. (3)计算亲和力并排序.计算抗原和抗体以及抗体和抗体之间的亲和 力,并且对其进行降序排 列.’ (4)判断结束条件.若满足,则退出,否则执行下一步. (5)记忆细胞分化.即把具有高亲和力的抗体以一定比例存入记忆库. (6)进行进化操作.利用抗体浓度的选择机制,确定抗体的选择概率,对抗体进行选择;进而执行 交叉,变异操作. 按下式计算变异抗体,即: y—y+口?丁()?N(O,1)(口?[O,1])(13) 式中,y为要变异的参数;?(O,1)为 标准 excel标准偏差excel标准偏差函数exl标准差函数国标检验抽样标准表免费下载红头文件格式标准下载 高斯分布;丁()为第t代第个抗体的退火温度,定义为: 丁()一1一/()/(f)(14) 262西安理工大学(2004)第2O卷第3期 式中,()为第t代第个抗体的适应值;(f)为第t代所有抗体的适应值之和. (7)群体更新.即重新计算抗体和抗原以及抗体和抗体之间的亲和力,并排序;用记忆库中亲和 力高的抗体替代亲和力低的抗体,返回(3). 4算法性能的测试 本文用Shaffer’sF6函数来 评价 LEC评价法下载LEC评价法下载评价量规免费下载学院评价表文档下载学院评价表文档下载 该算法的优劣,并与文献[41中的算法进行比较.Shaffer’sF6函 数为: .o.5一 每cc一 此函数有无限个局部极大点,只有一个全局极大值1,全局极大点为(O,O).用本文算法和文献[3]中 的算法分别逼近该函数,迭代20次,比较结果如图I,2所示. 从图1中可以看出,本文所提出的算法比文献[3]中的算法具有较高的收敛速度和精度. 图1每次迭代得到的最佳值曲线图2每次迭代得到的最佳适应值曲线 5结语 针对人工神经网络的学习优化问题,将免疫算法的全局性优化搜索和小波分析的良好局部性能 相结合,利用混沌的遍历性产生初始化群体,提出了一种基于免疫进化算法的小波神经网络权值与结 构同时优化的设计方法.仿真结果表明,该方法不仅继承了小波神经网络的局部快速逼近特性和自学 习能力,而且能有效地避免遗传算法的早熟现象,具有全局性,快速性和精度高的特点. 参考文献: [11王磊,焦李成.免疫算法[J].电子,2000,28(7):74,78. [2]ZhangQ,BenvenisteA.Waveletsnetwork[J].IEEETransNeuralNetwor ks,1992,3(6):889,898. [3]YongyongHe,FuleiChu,BinglinZhong.Ahierarchicalevolutionaryalgo rithmforconstructingandtraining waveletnetworks[J].NeuralComputing&Applications,Springer—Verlag,2002(10):357,366. [4]雷德明.利用混沌搜索全局最优解的一种混合遗传算法[J].系统工程与电子技术,1999,21(12):81~82. (责任编辑陈洁)