基于深度学习与狮群SVM算法的遥感场景分类.pdf

第6 1卷 第4期吉 林 大 学 学 报(理 学 版)V o l.6 1 N o.4 2 0 2 3年7月J o u r n a l o f J i l i nU n i v e r s i t y(S c i e n c eE d i t i o n)J u l y 2 0 2 3d o i:1 0.1 3 4 1 3/j.c n k i.j d x b l x b.2 0 2 2 2 3 0基于深度学习与狮群S VM算法的遥感场景分类王李祺1,侯宇超2,高 翔1,谭秀辉1,程 蓉1,王 鹏1,白艳萍1,2(1.中北大学 数学学院,太原0 3 0 0 5 1;2.中北大学 信息与通信工程学院,太原0 3 0 0 5 1)摘要:针对高分辨遥感图像样本量小,以及传统优化支持向量机(S VM)算法易陷入局部最优解、寻优速度慢等问题,提出一种基于深度迁移学习与狮群优化S VM(L S O-S VM)算法对遥感图像场景进行分类.首先,通过自适应对比度增强图像后利用颜色聚合向量提取图像颜色特征;其次,利用3种预训练网络分别提取图像的迁移学习深度特征;最后,将手工提取的图像特征与用3种预训练网络获取的特征使用系列特征融合方法进行融合,并将其输入L S O-S VM进行图像场景分类.结果表明,该算法解决了小样本情况下深度学习较难训练及传统优化S VM算法易陷入局部最优解、寻优速度慢的问题.在8 0%的训练条件下,数据集U CM L a n d-U s e和R S S C N 7的分类精度分别达到9 9.5 2%和9 8.5 7%.关键词:遥感图像;图像分类;迁移学习;狮群优化算法;颜色聚合向量中图分类号:T P 7 5 1 文献标志码:A 文章编号:1 6 7 1-5 4 8 9(2 0 2 3)0 4-0 8 6 3-1 2R e m o t eS e n s i n gS c e n eC l a s s i f i c a t i o nB a s e do nD e e pL e a r n i n ga n dL i o nS w a r mS VM A l g o r i t h mWANGL i q i1,HOUY u c h a o2,GAOX i a n g1,T ANX i u h u i1,CHE NGR o n g1,WANGP e n g1,B A IY a n p i n g1,2(1.S c h o o l o fM a t h e m a t i c s,N o r t hU n i v e r s i t yo fC h i n a,T a i y u a n0 3 0 0 5 1,C h i n a;2.S c h o o l o fI n f o r m a t i o na n dC o mm u n i c a t i o nE n g i n e e r i n g,N o r t hU n i v e r s i t yo fC h i n a,T a i y u a n0 3 0 0 5 1,C h i n a)收稿日期:2 0 2 2-0 5-2 0.第一作者简介:王李祺(1 9 9 6),男,汉族,硕士研究生,从事机器学习、数字图像处理与模式识别的研究,E-m a i l:1 0 2 3 2 5 2 9 0 1q q.c o m.通信作者简介:白艳萍(1 9 6 2),女,汉族,博士,教授,从事现代优化理论与方法、神经网络算法及应用的研究,E-m a i l:b a i y p 6 6 61 6 3.c o m.基金项目:国家自然科学基金(批准号:6 1 7 7 4 1 3 7)、山西省基础研究计划项目(批准号:2 0 2 1 0 3 0 2 1 2 2 4 1 9 5;2 0 2 1 0 3 0 2 1 2 2 4 2 1 2;2 0 2 1 0 3 0 2 1 2 2 3 1 8 9;2 0 2 1 0 3 0 2 1 2 3 0 1 9)和山西省回国留学人员科研项目(批准号:2 0 2 0-1 0 4;2 0 2 1-1 0 8).A b s t r a c t:A i m i n ga tt h ep r o b l e mo ft h es m a l ls a m p l es i z eo fh i g h-r e s o l u t i o nr e m o t es e n s i n gi m a g e sa n dt r a d i t i o n a l o p t i m i z e ds u p p o r tv e c t o rm a c h i n e(S VM)a l g o r i t h m se a s i l yf a l l i n gi n t ol o c a lo p t i m aa n ds l o w o p t i m i z a t i o ns p e e d,w ep r o p o s e da na l g o r i t h m b a s e do nd e e pt r a n s f e rl e a r n i n ga n dl i o ns w a r m o p t i m i z a t i o n S VM(L S O-S VM)t o c l a s s i f y r e m o t es e n s i n gi m a g es c e n e.F i r s t l y,a f t e re n h a n c i n gt h e i m a g e t h r o u g ha d a p t i v ec o n t r a s t,c o l o ra g g r e g a t i o nv e c t o r sw e r eu s e dt oe x t r a c t i m a g ec o l o r f e a t u r e s.S e c o n d l y,t h r e ek i n d so f p r e t r a i n e dn e t w o r k sw e r eu s e d t oe x t r a c t t h e t r a n s f e r l e a r n i n gd e p t hf e a t u r e so f i m a g e s.F i n a l l y,t h em a n u a l l ye x t r a c t e di m a g ef e a t u r e sa n dt h ef e a t u r e so b t a i n e du s i n gt h r e ep r e t r a i n e dn e t w o r k sw e r e f u s e db yu s i n gas e r i e so f f e a t u r e f u s i o nm e t h o d s,a n d i n p u t t e dt h e mi n t oL S O-S VMf o r i m a g es c e n ec l a s s i f i c a t i o n.T h er e s u l t ss h o wt h a tt h ea l g o r i t h ms o l v e st h ep r o b l e m so fd i f f i c u l t yi n d e e pl e a r n i n gt r a i n i n gi ns m a l ls a m p l es i t u a t i o n sa n dt h et e n d e n c yo ft r a d i t i o n a l o p t i m i z e dS VM a l g o r i t h m st of a l l i n t ol o c a lo p t i m aa n ds l o ws e a r c hs p e e d.U n d e r8 0%t r a i n i n gc o n d i t i o n s,t h ec l a s s i f i c a t i o na c c u r a c yo f U CM L a n d-U s ea n d R S S C N 7d a t a s e t sr e a c h e s9 9.5 2%a n d9 8.5 7%,r e s p e c t i v e l y.K e y w o r d s:r e m o t es e n s i n gi m a g e;i m a g ec l a s s i f i c a t i o n;t r a n s f e rl e a r n i n g;l i o ns w a r m o p t i m i z a t i o na l g o r i t h m;c o l o rc o h e r e n c ev e c t o r随着遥感和卫星技术的快速发展,获取的高分辨率图像越来越多1,遥感图像场景分类逐渐成为遥感图像领域的研究热点.基于深度学习的分类方法通常需要大量的带标记样本,而获取带标记的样本非常困难,使得这类方法效果不理想2.针对上述问题,研究小样本条件下的遥感图像分类方法具有重要意义3-4.迁移学习是一种利用已有的知识对不同但相近领域问题进行求解的机器学习算法5,其将在自然图像等数据集中学习到的知识迁移到遥感图像等较小样本的学习任务中,已成为目前解决遥感图像样本量较少的主流方法6.目前,主流的深度迁移学习算法主要包括基于特征的迁移或者网络的迁移和基于结构的迁移7-8.其中将预训练的网络对遥感图像特征提取应用到场景分类中是最直接的迁移策略.余东行等9提出了一种结合卷积神经网络(C NN)与集成学习的遥感影像场景分类方法,利用预训练模型提取同一图像多个高层语义特征;Amm o u r等1 0先用预训练的网络进行特征提取,然后在数据域分类上采用两个非对称网络结合的方法进行训练;H a n等1 1利用改进的A l e x N e t网络并结合空间金字塔池化方法(S P P)防止网络迁移过程中的过渡拟合;T u n等1 2提出了一种混合预训练VG G 1 6-C NN-S VM分类器模型,能在少量样本下较好地提取图像特征;L i m a等1 3系统性地评估了迁移学习在卷积神经网络中的应用,结果表明,从更大、更通用的自然图像数据集上训练的模型中迁移学习的性能优于直接从较小的遥感数据集上进行迁移学习.深度学习图像分类中,分类器的选择与设计至关重要1 4.研究表明,将C NN提取的深层特征进行不同方式的特征融合并 输入支持向 量机(S VM)进 行分类,效果优于直 接使用C NN分类1 5.G i r s h i c k等1 6利用深度学习进行目标检测时,用S VM分类器代替全连接层后接S o f t m a x进行输出,取得了更佳的效果;S a r a等1 7研究表明,在高维、少量的样本条件下,S VM的泛化能力优于K-最近邻、随机森林等分类器.尽管S VM在许多领域都有较好的性能,但其分类效果很大程度上依赖核参数g和惩罚因子c的选择.遗传算法(GA)、粒子群优化(P S O)算法等传统优化算法在S VM参数优化中存在易陷入局部最优解和寻优速度慢等问题1 8.L i u等1 9提出了一种狮群优化算法(L S O),相比GA和P S O等传统优化算法,具有较好的全局收敛性、鲁棒性以及高维复杂函数寻优能力.基于上述研究,本文提出一种基于深度学习与狮群优化S VM算法的方法用于遥感图像场景分类.首先,使用自适应对比度增强算法(A C E)2 0,在增强图像后通过颜色聚合向量(C C V)2 1提取图像颜色特征;其次,利用预训练网络G o o g l e N e t2 2,R e s N e t 1 0 12 3和VG G-1 62 4分别提取遥感图像深度特征;最后,将这些特征自适应融合,并输入L S O-S VM进行遥感图像场景分类.1 基本原理1.1 自适应对比度增强A C E算法将一张图像分为低频和高频两部分,在增强表示细节的高频部分后,对图像进行重组得到增强图像.但在彩色图像中需先将图像转换成H S I色彩空间,再对亮度通道I进行增强后合并通道,最后转换回R G B空间.假设一张图像中第i行、第j列的像素点表示为x(i,j),在以(i,j)为中心、窗口大小为(2n+1)(2n+1)的区域内,分别计算局部均值Mx(i,j)和方差2x(i,j):Mx(i,j)=1(2n+1)2i+nk=i-nj+nl=j-nx(k,l),(1)468 吉 林 大 学 学 报(理 学 版)第6 1卷 2x(i,j)=1(2n+1)2i+nk=i-nj+nl=j-n(x(k,l)-Mx(i,j)2.(2)求得局部均值和标准差后,对图像进行增强,计算公式为I(i,j)=Mx(i,j)+Gi j(x(i,j)-Mx(i,j),(3)Gi j=M(i,j),01,(4)其中:I(i,j)表示增强后的像素值;Gi j表示高频部分的增益系数;M表示以点(i,j)为中心、窗口大小为(2n+1)(2n+1)区域的局部均值;为系数参数.1.2 颜色聚合向量颜色特征受图像自身的尺寸、视角、方向的影响较小,因此具有较高的鲁棒性.针对颜色直方图和颜色矩的特征无法表达图像色彩空间位置的缺点,本文采用C C V提取图像颜色特征.首先对图像进行均匀量化,使图像中只剩n个颜色区间;然后对重新量化后的像素值矩阵,根据像素间的连通性把图像n个区间分别划分为若干个连通区域,统计每个独立连通区域中的像素数,如果 该区域内的像素数大于设置的阈值,则将该区域内的像素作为聚合像素,否则作为非聚合像素;最后将每个区间内的连通区域分为颜色聚合向量和颜色非聚合向量.图像的颜色聚合向量可表示为(1,1),(2,2),(n,n),其中i,i分别表示直方图第i个区间中聚合像素和非聚合像素的数量,n表示直方图区间个数.1.3 狮群优化算法L i u等1 9基于狮群中狮王、母狮和幼狮的自然分工,提出了一种群智能优化算法L S O.该算法的主要思想如下.设在D维搜索空间中有一个由N只狮子组成的群体,其中成年狮子数量为n=N(2nN/2),且其中只有一只雄狮,幼狮的数量为N-n,是成年狮在狮群中所占的比例.设第i(1iN)只狮子的位置为xi=(xi1,xi2,xi D).捕猎过程中雄狮在最优食物周围小范围移动,按xk+1i=gk(1+pki-gk)(5)更新自身位置;母狮在捕猎过程中需和另一只母狮协作,按xk+1i=pki+pkc2(1+f)(6)更新自身位置;幼狮按xki=pki+gk2(1+c),0q13,pkm+pki2(1+c),13q23,g k+pki2(1+c),23q1(7)更新自身位置,其中:表示根据标准正态分布产生的随机数;pki表示第i只狮子第k代的历史最优位置;gk表示第k代群体最优位置;pkc表示从第k代母狮群中随机挑选一个协作伙伴的历史最佳位置;pkm表示幼狮跟随母狮的第k代历史最佳位置;q为根据均匀分布产生的随机值;f为母狮移动范围扰动因子,计算公式为f=0.1(h i g h-l o w)e x p-3 0tT1 0,(8)c为幼狮移动范围扰动因子,计算公式为c=T-tT,(9)g k为第i只幼狮在捕猎范围内被驱赶的位置,计算公式为568 第4期 王李祺,等:基于深度学习与狮群S VM算法的遥感场景分类 g k=l o w-h i g h-gk,(1 0)h i g h和l o w分别表示狮子活动范围空间各维度的最小值均值和最大值均值,T为群体最大迭代次数,t为当前迭代次数.1.4 支持向量机S VM是一种常用的二分类或多分类模型2 5,对于输入空间中的非线性分类问题,通常设训练集T=(x1,y1),(x2,y2),(xn,yn),其中xi为第i张图片的特征向量,yi为第i张图片的标签.由于在线性支持向量机学习的对偶问题中,目标函数和分类决策函数都只涉及实例与实例之间的内积,所以不需要显式地指定非线性变换,而是用核函数替换其中的内积.因此在构造求解最优化问题时,需引入适当的(x,x)和惩罚参数C,公式如下:m a xli=1i-12li=1lj=1ijyiyj(x,x),s.t.li=1iyi=0,0iC,i=1,2,l,(1 1)得到最优解*=(*1,*2,*l)T.任意选取*的一个分量,计算阈值:b*=yj-li=1yi*i(x,xi),(1 2)分类决策函数为f(x)=s g nli=1*iyi(x,xi)+b()*,(1 3)其中s g n为符号函数.2 本文方法设计本文方法主要包括预处理、图像特征提取融合、L S O-S VM分类3个阶段.整体方法流程如图1所示.预处理阶段通过自适应直方图均衡化(AHE)增强图像细节信息和图像缩放.特征提取融合阶段分以下两方面:1)利用C C V提取图像颜色空间特征;2)利用3种预训练模型,在保留除最后分类层外所有参数的同时,加入不同维度的全连接层以便提取同一图像不同维数的特征.L S O-S VM分类阶段将融合特征输入L S O-S VM分类器中,最终得到场景图像的分类结果.图1 本文方法流程F i g.1 F l o wc h a r t o fp r o p o s e dm e t h o d2.1 预处理预处理主要包括数据增强和数据标准化.为提高颜色特征对图像的表达能力,使用A C E增强图像细节信息,并根据采用网络模型的输入大小,将训练图像和测试图像缩放到适合的尺寸对数据进行标准化.668 吉 林 大 学 学 报(理 学 版)第6 1卷 2.2 特征提取融合高分辨率遥感图像场景分类方法的特征提取策略主要分为以下两类:基于手工的特征提取和基于数据驱动的特征提取2 6.本文方法同时使用两者进行特征提取以获得更精细的特征.在手工特征提取阶段,为更好地表达图像色彩的空间位置,选用C C V提取遥感图像颜色特征向量C=(1,1),(2,2),(n,n),将2n维的C转化为12n的向量C=(1,n,1,n),以保证每张图像输出一个一维向量.在数据驱动特征提取阶段,选用深度迁移学习算法解决遥感图像小样本集的问题,为迁移学习选取合适的图像特征,在G o o g l e N e t,VG G-1 6和R e s N e t 1 0 1三种预训练网络下进行实验.G o o g l e N e t模型在网络架构中引入I n c e p t i o n单元,在相同的计算量下提取更多的特征,从而获取更优的训练结果;VG G-1 6模型采用更小的卷积层(33)增加网络深度,有效提升了模型效果;R e s N e t 1 0 1模型通过引入“快捷连接”极大消除了深度过大的神经网络训练困难问题.G o o g l e N e t模型和R e s N e t 1 0 1模型都仅含1个用于分类的全连接层,去除该全连接层的同时,分别加入1 2 8维的全连接层和6 4维的全连接层,以获取两个维度不同的特征向量作为提取的图像特征.VG G-1 6模型含有3个全连接层,去除最后一层用于分类全连接层的同时,分别加入1 2 8维和6 4维 的全连接层,以获取两个维度不同的特征向量作为提取的图像特征.最后将手工提取的图像特征和使用3种预训练网络获取的特征用系列特征融合方法进行融合,并将其作为L S O-S VM分类的输入.2.3 L S O-S VM分类本文基于狮群优化提出L S O-S VM算法.该算法将狮群优化算法融合到S VM内,改进了传统S VM易陷入局部最优解、寻优速度慢等问题,能实现高效、高精度的图像分类.算法步骤如下:1)初始化狮群算法相关参数,包括狮子数目N、最大迭代次数T、成年狮在狮群中的比例因子等;2)将各狮子当前位置作为个体历史最优位置,初始群体最优位置为雄狮位置,通过交叉验证,对训练样本进行分类,以交叉验证的准确率作为适应度值;3)根据式(5)更新雄狮位置,并计算适应度值;4)根据式(6)更新母狮位置;5)产生(0,1)内的均匀随机数q,根据式(7)更新幼狮位置,若q1/3,则幼狮向雄狮位置移动;若1/3q2/3,则幼狮在母狮的位置附近小范围移动;若q2/3,则幼狮被驱赶到远离雄狮的位置;6)根据狮子的位置重新计算适应度值,并更新自身和狮群的历史最优位置,判断算法是否满足结束条件,不满足则每隔一定迭代次数重新排序,确定狮群各狮子的位置后返回步骤3);反之则停止,输出雄狮位置(即输出最优参数),并将测试集输入到最优的S VM模型中进行图像分类.2.4 实验数据为验证本文方法的有效性,采用具有表示性的U CM L a n d-U s e和R S S C N 7两种遥感图像数据集进行实验.数据集U CM L a n d-U s e包含农田、高尔夫球场、港口等2 1个类别,每类有1 0 0张图片,图像尺寸为2 5 62 5 6;数据集R S S C N 7包含草地、森林、停车场等7个类别,每类有4 0 0张图片,图像尺寸为4 0 04 0 0.两个数据集类别示例分别如图2和图3所示.图2 数据集R S S C N 7示例样本F i g.2 R S S C N 7d a t a s e t s a m p l e768 第4期 王李祺,等:基于深度学习与狮群S VM算法的遥感场景分类 图3 数据集U CML a n d-U s e示例样本F i g.3 U CML a n d-U s ed a t a s e t s a m p l e3 实验结果与分析3.1 实验设置在MAT L A BR 2 0 1 9 b的环境下进行实验,迁移学习过程及相应的深度特征提取在处理器型号为AMDR y z e n 53 5 0 0 X,内存为1 2G B,显卡型号为1 6 6 0 s6G B条件下进行,其余实验均在处理器型号为i 7-1 0 7 0 0,内存为8G B条件下进行.实验中训练集均为每类8 0%的图像.3种不同的预训练网络均基于数据集I m a g e N e t,实验中批量大小为1 0,初始学习率为0.0 0 01,迭代次数为1 0次.L S O-S VM中最大迭代次数为1 0 0,种群大小为1 0,交叉验证折数为5,成年狮群所占狮群的比例为0.5,核参数g和惩罚因子C范围均为0.0 1,1 0 0.3.2 特征分析利用原始数据集和AHE增强的数据集分别通过C C V提取颜色特征向量,将生成的特征输入L S O-S VM中,实验结果列于表1.由表1可见,利用AHE增强后的数据集相比于原始数据集获得了更高的分类精度,数据集U CML a n d-U s e和R S S C N 7分别提高4.2 8%和3.3 9%.结果表明,AHE有效增强了图像颜色信息,使颜色特征更充分地表达图像特征.表1 颜色特征在不同数据集的分类精度T a b l e1 C l a s s i f i c a t i o na c c u r a c yo f c o l o r f e a t u r e s i nd i f f e r e n td a t a s e t s数据集分类精度/%数据集分类精度/%U CM L a n d-U s e6 4.7 7R S S C N 77 3.7 5U CM L a n d-U s e(AHE)6 9.0 5R S S C N 7(AHE)7 7.1 4 将 基 于 模 型G o o g l e N e t,VG G-1 6和R e s N e t 1 0 1所 提 取 的 特 征 分 别 命 名 为G o o g l e N e t-6 4,G o o g l e N e t-1 2 8,VG G-6 4,VG G-1 2 8和R e s N e t-6 4,R e s N e t-1 2 8(6 4,1 2 8分别表示该网络提取特征的维数).将1 2种特征利用L S O-S VM进行分类,实验结果列于表2.由表2可见,不同预训练模型在遥感影像场景分类中都取得了9 0%以上的分类效果,表明卷积网络可有效提取图像的深度特征.数据集U CM L a n d-U s e中VG G-1 2 8取得的分类效果最好,3种预训练模型随着维度的增加均一定程度地提高了分类效果,VG G模型在该数据集上优于其他模型.数据集R S S C N 7中R e s N e t-6 4取得的分类效果最好,G o o g l e N e t和R e s N e t 1 0 1模型随着维度的增加,均在一定程度上降低了分类效果,该情况在868 吉 林 大 学 学 报(理 学 版)第6 1卷 R e s N e t 1 0 1模型中体现的尤为明显;而VG G 1 6模型仍然保持随着维度的增加,分类效果逐渐提升.表2 不同预训练模型和维度的分类精度T a b l e2 C l a s s i f i c a t i o na c c u r a c yo fd i f f e r e n tp r e t r a i n e dm o d e l sa n dd i m e n s i o n s数据集特征名称分类精度/%数据集特征名称分类精度/%U CML a n d-U s eG o o g l e N e t-6 49 4.5 2R S S C N 7G o o g l e N e t-6 49 3.2 1G o o g l e N e t-1 2 89 6.1 9G o o g l e N e t-1 2 89 2.8 6V G G-6 49 7.1 4V G G-6 49 5.0 0V G G-1 2 89 8.5 7V G G-1 2 89 5.5 4R e s N e t-6 49 6.4 3R e s N e t-6 49 6.0 7R e s N e t-1 2 89 6.6 7R e s N e t-1 2 89 2.1 43.3 特征融合分析利用C C V提 取 的 颜 色 特 征 与G o o g l e N e t-6 4,G o o g l e N e t-1 2 8,VG G-6 4,VG G-1 2 8,R e s N e t-6 4,R e s N e t-1 2 8分别进行自适应特征融合.生成的融合特征用维度后加C表示,如G o o g l e N e t-6 4 C,G o o g l e N e t-1 2 8 C.同时在不同数据集上选用不同的特征进行融合,在数据集U CM L a n d-U s e上选用C C V,G o o g l e N e t-1 2 8,R e s N e t-1 2 8,而在数据集R S S C N 7上则选用C C V,VG G-1 2 8,R e s N e t-6 4分别进行特征融合获取最终的两个特征,生成的特征用G R-C和V R-C表示.将1 4种特征利用L S O-S VM进行分类,实验结果列于表3.表3 不同特征融合的分类精度T a b l e3 C l a s s i f i c a t i o na c c u r a c yo fd i f f e r e n t f e a t u r e f u s i o n数据集特征名称分类精度/%数据集特征名称分类精度/%U CML a n d-U s eG o o g l e N e t-6 4 C9 5.0 0R S S C N 7G o o g l e N e t-6 4 C9 5.7 1G o o g l e N e t-1 2 8 C9 5.7 1G o o g l e N e t-1 2 8 C9 4.2 9V G G-6 4 C9 7.1 4V G G-6 4 C9 6.4 3V G G-1 2 8 C9 8.5 7V G G-1 2 8 C9 5.5 4R e s N e t-6 4 C9 6.9 0R e s N e t-6 4 C9 6.7 9R e s N e t-1 2 8 C9 7.6 2R e s N e t-1 2 8 C9 4.2 9G R9 8.8 1V R9 8.2 1G R-C9 9.5 2V R-C9 8.5 7 由表3可见,数据集U CM L a n d-U s e中G o o g l e N e t-6 4 C,R e s N e t-6 4 C,R e s N e t-1 2 8 C相比于融合颜色特征之前分类精度分别提高0.4 8%,0.4 7%,0.9 5%,VG G-6 4 C,VG G-1 2 8 C分类精度保持不变,G o o g l e N e t-1 2 8 C分类精度相比之前略低;数据集R S S C N 7中除VG G-1 2 8 C分类精度保持不变外,其他融合特征的分类精度均一定程度高于原来的单一特征.结果表明,手工特征C C V作为卷积神经网络提取高级语义信息的一个浅层信息补充,可有效提升深度特征的分类精度,对于提升不同卷积神经网络的性能和不同遥感场景分类数据集的分类效果都具有显著意义.G R和V R在数据集U CM L a n d-U s e和R S S C N 7中的分类效果都优于单一的卷积神经网络提取的深层特征.结果表明,不同卷积神经网络提取的特征具有较好的互补性.因为不同卷积神经网络的结构是不一致的,导致其网络关注到的场景图像特点具有差异性.在G R-C和V R-C分别取得数据集U CM L a n d-U s e和R S S C N 7中最佳分类精度,相比于G R和V R分别提高0.7 1%和0.3 6%.结果表明,手工提取的特征对于融合后的深度特征同样具有信息补充的能力,可有效提升特征对于图像信息表达的能力.为有效分析手工提取的特征和数据驱动的特征同时结合和分别使用的差异性,通过两个数据集在C C V,G R-C和V R-C的混淆矩阵进行论证.图4和图5分别为C C V在数据集U CM L a n d-U s e和R S S C N 7上的混淆矩阵,图6和图7分别为G R-C和V R-C在数据集U CML a n d-U s e和R S S C N 7上的混淆矩阵.由图4和图5可见,C C V在数据集U CM L a n d-U s e上建筑物、密集住宅、高尔夫球场、中型住宅和稀疏住宅等类别分类性能较差,数据集中场景图像复杂的类别均达到平均分类精度;在数据集968 第4期 王李祺,等:基于深度学习与狮群S VM算法的遥感场景分类 a.农田;b.飞机;c.棒球场;d.海滩;e.建筑物;f.丛林;g.密集住宅;h.高尔夫球场;i.高速公路;j.森林;k.港口;l.路口;m.中型住宅;n.移动房屋;o.立交桥;p.停车场;q.河流;r.跑道;s.稀疏住宅;t.储油罐;u.网球场.图4 C C V在数据集U CML a n d-U s e上的混淆矩阵F i g.4 C o n f u s i o nm a t r i xo fC C Vi nU CML a n d-U s ed a t a s e t图5 C C V在数据集R S S C N 7上的混淆矩阵F i g.5 C o n f u s i o nm a t r i xo fC C Vi nR S S C N 7d a t a s e tR S S C N 7上工业和田地两个类别分类较差,田地类别中错误分类的8 5.7 1%被误分类到草地类别中,工业类别中错误分类的8 1.2 5%被误分类到居民区和停车场,结果表明,C C V在面对复杂图像和类间相似度高的类别分类中,性能较差,但对于简单的场景图像类别分类性能较好.由图6和图7可见,卷积神经网络提取的高级语言信息可极大弥补手工提取特征面对复杂场景图像和类间相似度高时分类性能不佳的缺点.结果表明,手工提取的特征和基于数据驱动的特征分别使用时有一定程度的缺陷.手工提取特征在面对复杂场景图像、类间相似性和类内多样性时,难以表达完整的图像信息,而卷积神经网络在提取高级语义信息的同时丢失了浅层信息.因此,手工提取的特征和基于数据驱动的特征同时使用并结合,可有效弥补二者的缺陷.3.4 优化S VM性能分析选取 不 同 的 特 征,对 比 网 格 搜 索 优 化S VM(G S-S VM)、粒 子 群 优 化S VM(P S O-S VM)和L S O-S VM,将3种不同优化S VM算法在相同条件下对分类精度和运行时间进行对比,实验结果分别列于表4和表5.由表4和表5可见,不同特征不同维度下,P S O-S VM相比于G S-S VM具有更优的分类精度,但运行时间较慢;L S O-S VM比G S-S VM和P S O-S VM在运行速度上分别提升约1倍和1.5倍;在分类精度上比G S-S VM和P S O-S VM分别提高约0.5%和0.3%.表明本文提出的L S O-S VM在分类精度和运行时间上均取得了更优的效果.078 吉 林 大 学 学 报(理 学 版)第6 1卷 a.农田;b.飞机;c.棒球场;d.海滩;e.建筑物;f.丛林;g.密集住宅;h.高尔夫球场;i.高速公路;j.森林;k.港口;l.路口;m.中型住宅;n.移动房屋;o.立交桥;p.停车场;q.河流;r.跑道;s.稀疏住宅;t.储油罐;u.网球场.图6 G R-C在数据集U CML a n d-U s e上的混淆矩阵F i g.6 C o n f u s i o nm a t r i xo fG R-Ci nU CML a n d-U s ed a t a s e t表4 不同优化S VM算法的分类精度T a b l e4 C l a s s i f i c a t i o na c c u r a c yo fd i f f e r e n t o p t i m i z e dS VMa l g o r i t h m s数据集特征分类精度/%G S-S VMP S O-S VML S O-S VMU CM L a n d-U s eG o o g l e N e t-6 49 3.5 79 3.8 19 4.5 2G o o g l e N e t-1 2 89 4.7 69 5.9 59 6.1 9V G G-6 49 6.4 39 6.9 09 7.1 4VG G-1 2 89 7.8 69 8.3 39 8.5 7R e s N e t-6 49 6.1 99 5.7 19 6.4 3R e s N e t-1 2 89 5.9 59 6.1 99 6.6 7R S S C N 7G o o g l e N e t-6 49 3.0 39 3.0 49 3.2 1G o o g l e N e t-1 2 89 2.1 49 2.5 09 2.8 6V G G-6 49 4.8 29 4.8 29 5.0 0VG G-1 2 89 5.5 49 4.8 29 5.5 4R e s N e t-6 49 5.3 69 5.0 09 6.0 7R e s N e t-1 2 89 1.7 99 1.6 19 2.1 4表5 不同优化S VM算法的运行时间T a b l e5 R u n n i n g t i m eo fd i f f e r e n t o p t i m i z e dS VMa l g o r i t h m s数据集特征运行时间/sG S-S VMP S O-S VML S O-S VMU CM L a n d-U s eG o o g l e N e t-6 48 9 812 4 85 3 2G o o g l e N e t-1 2 817 7 819 8 110 0 7V G G-6 48 4 012 7 14 5 1VG G-1 2 815 8 119 5 29 1 3178 第4期 王李祺,等:基于深度学习与狮群S VM算法的遥感场景分类 续表5C