【doc】高光谱遥感图像特征提取及分类研究——基于离散余弦变换（DCT）及支撑向量机技术

【doc】高光谱遥感图像特征提取及分类研究——基于离散余弦变换（DCT）及支撑向量机技术 高光谱遥感图像特征提取及分类研究——基于离散余弦变换(DCT)及支撑向量机技 术 第24卷第4期 2006年l0月 佳木斯大学(自然科学版) JournalofJiamusiUniversity(NaturalScienceEdition) Vo1.24No.4 0ct.20o6 文章编号:1008—14o2(2oo6)o4—0468—03 高光谱遥感图像特征提取及分类研究 一一 基于离散余弦变换(DCT)及支撑向量机技术 许将军,赵辉 (电子科学技术大学自动化工程学院.四川成都610054) 摘要:高光谱遥感图像具有波谱连续,维数高的特点.”-3样本较少时,在原始特征空间采用传统 的统计i7,~JI】方法分类达不到理想的效果….经研究发现有两种方法可以解决小样本高维的非线性分类问 题.一是将原始空间通过离散余弦变换(DCT)压缩到低维空间,再用 统计识别方法分类;二是利用支撑向 量机的内积函数,将原始空间映射到高维空间,使其在新的特征空间 线性分类.实验表明,这两种方法比利 用马氏距离判别法直接对原始图像分类有更好的分类效果. 关键词:离散余弦变换(DCT);支撑向量机;高光谱遥感图像 中图分类号:TP75文献标识码:A 在遥感图像分类识别中,目前应用最多的监督 分类方法有平行六面体法,最小距离法,最大似然 法以及马氏距离法等传统的统计识别方法.其中最 大似然法和马氏距离法的分类精度较高j.但是这 些统计识别方法都需要足够多的训练样本,只有在 样本趋于无穷大时其性能才有理论上的保证,这是 不现实的. 高光谱遥感图像维数高.在样本不是很多的情 况下,采用统计识别法分类,无论从计算的复杂程 度还是分类效果来看都是不适宜的.因此,需要用 某种变换将高维空间特征映射到低维空间_’].使其 能在低维空间线性分类.DCI,变换就是一种近似于 K—L变换的正交变换,能有效的除去波段之间的 相关性和信号噪声,将数据能量集中到少数几个波 段,有较高的压缩比3J.本文将该变换用于高光谱 遥感图像的特征提取,再用统计识别的方法对额的 特征向量分类,既可以提高分类速度又可以提高分 类精度;另外,利用某种非线性变换将原始数据特 征映射到更高维的特征空间.电是解决非线性分类 的一个重要方法.SVM由于使用了核函数,在做分 类器设计时,不需要增加多少计算复杂度就可以在 更高维空间线性分类.本文研究了SVM应用于高 光谱图像分类时核函数的参数选取问题.并证明 SVM是一种比统计识别更优的分类方法. 1离散余弦变换(DCT) 1.1高光谱遥感图像离散余弦变换的定义 给定序歹U(凡),凡=0,1,2,…,N一1, ):2)co.()()=?(凡)cos() K=0,1,2,3,…,?一l(1) 式中系数gk:{?2=0L1k0 在高光谱遥感图像中?表示波段数,(凡)是 一 个数据矩阵,代表第n个波段图像所有象索的原 始灰度值,表示经离散余弦变换后第个波段. 1.2DCT变换在高光谱遥感图像特征提取中的 应用 本次实验选取一幅512×512个像素,128个波 段的原始图像(图1)(该图像含有类别,l:海 水,2:植被及农作物,3:建筑和道路以皮侨梁作 为输入图像,并利用IDL语言实现该变换,图2为经 DCT变换后的伪彩色图像.在原始图像与变换图像 ?收稿日期:2006—07—12 作者简介:许将军(1978一),男,重庆人,电子科技大学模式识别与智能系统专业硕士研究生,研究方向为图像处理及图像识别 第4期许将军,等:高光谱遥感图像特征提取及分类研究469 中随意选择一个空间位置相同的象素点(:100Y: 100),比较变换前与变换后的波谱曲线: 图1原始图像的RGB图(R:band128;G:band33;B:bandl7) 图2经DC1’变换后的RGB图(R:band1,G:band2,B:band3) 比较图3和图4,经DCT变换后新波段的信息 主要集中前面l0个分量,后面的分量信息几乎为 零,包含的全是噪声.用IDL编程计算后可知,前三 个波段巳占信息量的98%,在后面的分类实验中, 只需取前三个波段作为特征向量,就可以达到理想 的分类效果 图3原始的波谱曲线图 图4经DCI’变换后的波谱曲线图 1.3特征提取前后的分类结果比较 实验一:在图1与图2的每个类别中各选取150 个训练样本.图1选择所有波段,图2选择前三个波 段,用ENVI软件中的马氏距离分类器分类.分类结 束后再在各个类别中选取4OO(不包含训练样本) 个测试样本进行统计,得到分类正确率和分类速度 对比表如表1. 表1特征提取前后的分类结果比较表 2支撑向量机 2.1支撑向量机的定义 SVM就是要在两类之间寻找一个线性的最优 分类面,该分类面不仅能将两类无错误的分开,而 且要使两类的分类空隙最大.在低维空间中线性判 别函数的一般形式为g()=W?+b,若使两类 的所有样本都满足lg()l?1,这样分类间隔就 等于2/l】Wll,因此使间隔最大等价于使llWll或 者『I最小; 要求 对教师党员的评价套管和固井爆破片与爆破装置仓库管理基本要求三甲医院都需要复审吗 分类线对所有样本正确分 类,就是要求它满足: Y.l(W?)+bJ一1?0=1,2,3,…,n.(2) i为样本序列号,,一?{+1,一1},因此满足上 述条件且使11l,Oll最小的分类面就是最优分类 面.使式(2)等号成立的那些样本,就是支撑向量. 求最优分类面就是要在条件(2)的约束下,求 去llWll的最小值.可以把该问题化成如下这种二 简单的对偶问题:在约束条件 ?Yin=0,n;?0i=1,2,3,…,n.之 下对a求解下列函数的最大值: R1n Q(n)=?n一告?a,ajy.(.?).(3) 470佳木斯大学(自然科学版)2006年 若n为最优解,则最优分类面的权向量: h =口),(4) =1 对于多数样本口将为零,取值不为零的口 对应的向量即是支撑向量.求解上述问题后得到的 最优分类函数是: 厂()=sgn{(W?)+b} h =sgn{. nY.(?)+b}(5) sgn()为符号函数.b为分类的域值,可以由 任意一个支撑向量,用式(2)(取等号)求得. 以上最优分类面是在线性可分的情况下提出 的.在线性不可分的情况下,我们可以设法先通过 非线性变换将输入向量映射到一个高维空间中, 然后在此高维特征空间中进行线性分类运算,得 到最优分类面J.在这个变换空间中,我们不必真 的进行这种变换.只要定义变换后的内积运算即 可. 如果用内积K(X,),代替最优分类面中的点 积,就相当于把原始特征空间变换到某一新的特征 空间,此时式(3)的优化函数变为: Q(n)=至n;一1, aiajy.yjK(x?巧).(6) 而相应的判别函数式(5)也变为: ,()=sgn{(W?)+b} =sgn{a;yK(?)+b}(7) 算法的其它条件不变.这就是支撑向量机. 2.2支撑向量机在高光谱遥感图像分类识别中 的应用 支撑向量机在应用过程中的关键问题,是核 函数的构造和参数的选取,因为内积运算K(,) 不同,计算优化函数(6)就会得到不同的支撑向量 点.最终会得到不同的分类面.分类结果就会有差 异【6J.然而,选择和构造合适的核函数,确定核函数 的参数等问题都缺乏相应的理论指导.只能根据待 解决的问题和实际的样本数据,对每一种核函数用 多个参数进行试验,选择使分类正确率达到最高且 计算量最小的值.作为该核函数的参数. 表2三种核函数的实验结果 表3三种分类方法的识别结果 实验二: 本次实验采用与实验一相同的训练样本和测 试样本.根据原始图像的灰度值,经反复试验,选取 了以下三种内积函数: (1)多项式内积函数 K=(?)=【芝—1(.)】 (2)径向基内积函数 K(?)=exp{一) (3)Sigmoid内积函数 一n一c ] 实验用的参数和结果如表2. 实验三: 本文还将基于多项式的支撑向量与统计识别 中分类效果较好的最大似然法,马氏距离法进行了 识别结果比较.采用与实验一相同的训练样本和待 测样本.结果见表3. 3结论 利用DCT变换,将原始空间向低维空间压缩. 有效的消除了高光谱遥感图像的谱间相关性除去 了冗余信息,减小了分类波段数,提高分类的时效 性和准确性;支撑向量机通过定义内积运算,不必 真的进行非线性变换,就可使原始空间升维到高维 空间.在不增加多少计算复杂度的情况下,可以得 到比传统统计识别更好的分类结果.(下转475页) 第4期万江,等:基于MATLAB的高压变频器的建模与仿真475 数高,含量非常低,很好的解决了其它类型高压变 频器普遍存在的谐波问题,不仅简化了输出和输入 滤波器的设计,而且使谐波引起的电动机发热,噪 声和转矩脉动都将大大降低,可以不必设置输出滤 波器使用在普通的异步电动机. 参考文献: [1]张燕宾.SPWM变频调速应用技术[M].北京:机械工业出版 社.2002.5 [2]吴洪洋,何湘宁,等.高压大功率多电平变换器研究和应用的 现状及前景[J].变频器世界,2001,5. [3]张燕宾.变频调速应用实践[M].北京:机械工业出版社, 2O00,12. [4]曾毅,王效良,吴皓,张朝平.调速控制系统的设计与维护 [M].济南:山东科学技术出版社,2002.1. 15jMassond,A.M,Finney,S-J,williams,B.W..MultilevelConye. rtep3andSeriesConnectionofIGBTEvaluafionforHi一power. Hi一voltageApplications.2004,1(31):1—5. 【6]Ozpineci,B.;Tolbert,LM.;Chias~n,J.N.HarmonicOp~mi— rationofMultilevelConvertersUsingGenefcAlgorithms.IEEE POWERELECrR0NICSLETIERS.VOL.3.NO.3.SEPTF2d— BER20o5. [7]黄忠霖.控制系统MATLAB计算及仿真[M].北京:国防工业 出版社.2001,11. TheModelingandEmulationoftheHigh—Voltage ConverterBasednatlab WANng,HOU一ng,SHIWen一 (TheKeyLaboratoryofHighVoltageEIlgiIlee瞎 &ElectricalNewTechnology,MinistryofEclIl?右0f-,ElectricalEI蛳 唔College, Chon~qmgUniver~ty,Chortling4O0044,China) Abstract:Theworkprinciple,systemstructure,andpulsecontrolstrategyofth ecellseriesmulti—levelcon— verterarediscussedindetail_Linevoltagewaveandfrequencycharacteristic canbeshowedfromMA1IABsimulation ofrepresentativePWMmuhilevelinvertercircuit.Thesimulationresultssho wthatthecellseriesmuhi—levelconvert— erhasgreatadvantageoneliminatingharmony. Keywords:high—vohage;seriesunits;converter;harmonic;multi—level ‘斗g牛斗孵孵怍’斗?牛)斗斗斗斗斗斗斗】 (上接470页) 参考文献: [1]刘志刚.支撑向量在光谱遥感像分类识别【}】的应用研究 [D].CNK1全文期刊数据库,2004,4. [2]边肇棋,张学:【.模式识别(第二版)[M].北京:清华大学出版 社,2000,l.176—177. [3]胡广 书 关于书的成语关于读书的排比句社区图书漂流公约怎么写关于读书的小报汉书pdf .数字信号处理(第二版)[M].北京:清华大学出版社, 20o3.8.37l一373. [4]常庆瑞,蒋平安,等.遥感技术导论M].北京:科学出版社, 2004.2,332—333. [5] [7] 王晓丹.支撑向量机的训练和实现算法综述[J].汁鹌:饥工程与 应用.2004.13.75—77. 王亮巾,欧巾瑛.基于sVM的图像分类[J].汁算机应用与软 件.2005.5(22):99—101. 徐勋华.王继承.支撑向量机的多类分类方法[J.微电子学与 计算机.2OO4.22(10):149—152. 李庆亭,高光谱遥感图像最大似然分类问题及解决办法[J].1【J 东科技大学,2005,9.24(3):6l一63. PickingupCharacterandClassificationoftheHyper——spectral RemoteSensingImageBasedonDCTandSVM xuJ~ang一,ZHAOHui (AutomationEngineeringCollege,ElectronicScienceandTedmologyInstitute,Chengdu610054,China) Abstract:Hyper—speetMremotesensingpossessesthecharacterofspectralcharacteristiccurveseriesandthe highdimensions.Underafewtrainingsamplescondition.theclassificationresultwillbebadifweclassifyimagein originalfeaturespacewithtraditionalstatisticalrecognition.Researchshownthattherearetwomethodscansolvethis nonlinearclassificationproblemofafewtrainingandhighdimensiom.Oneistocasttheoriginaldimensionalvector spaceintothelowdimensionalvectorspacethroughDCtransformation.Andthen,usestatisticalrecognitiontoclassify theimage;Anotheristochangeinputspaceintohigh—dimensionalonebyno n—linearvariabledefinedbyaccumu— latingfunctionofSVM.Theremotesensingimagewillbelineclassifyinthenewfeaturespace.Testresultindicates thatbothmethodshavebetterclassificationandrecognitionthanMahalanobisDistanceclassificationfororiginalinrage. Keywords:discretecosinetransform(DCT);supportvectormachine(SVM); spectralremotesensing hyper— image