基于小样本分类的光谱图像关联特征降维挖掘.pdf

240第40 卷第6 期2023年6 月真机计仿算文章编号：10 0 6-9348（2 0 2 3)0 6-0 2 40-0 5基于小样本分类的光谱图像关联特征降维挖掘于春霞，车银超（1.黄河科技学院信息工程学院，河南郑州450 0 46；2.河南农业大学信息与管理科学学院，河南郑州450 0 46)摘要：光谱图像包含较多的空间样本信息，混合像元问题严重，同物异谱间影响明显，相邻波段的强相关性也导致图像高维特征易出现穴余，直接影响图像关联特征挖掘效果。为此，提出基于小样本分类的光谱图像关联特征挖掘方法。采用蒙特卡罗算法对光谱图像降维，并结合稀疏与低秩矩阵分解方法完成光谱图像去噪；基于此，建立光谱图像灰度共生矩阵，提取光谱图像角二阶矩、相关性、对比度、熵、相异性以及逆差矩光谱关联特征；通过支持向量机对获取的关联特征完成光谱图像的小样本分类，完成光谱图像的关联特征挖掘。实验结果表明，研究方法的光谱图像特征挖掘错误率低于2%，同类特征可显著聚类成团，且图像去噪效果明显。关键词：小样本分类；光谱图像；关联特征挖掘；图像去噪；蒙特卡罗算法中图分类号：TP391文献标识码：BDimension Reduction Mining of Spectral Image AssociationFeatures Based on Small Sample ClassificationYU Chun-xia,CHE Yin-chao?(1.School of Information Engineering,Huanghe Science and Technology University,Zhengzhou Henan 450046,China;2.College of Information and Management Science,Henan Agricultural University,Zhengzhou Henan 450046,China)ABSTRACT:The spectral image contains more spatial sample information,the mixed pixel problem is serious,the in-fluence between the same object and different spectra is obvious,and the strong correlation of adjacent bands alsoleads to the redundancy of high-dimensional features of the image,which directly affects the effect of imagecorrelation feature mining.In this paper,a new method of spectral image association feature mining based on smallsample classification is proposed.The Monte Carlo algorithm is used to reduce the dimension of spectral image,andthe sparse and low rank matrix decomposition method is used to denoise the spectral image;Based on this,the graylevel co-occurrence matrix of spectral image is established,and the spectral correlation features of angular second mo-ment,correlation,contrast,entropy,dissimilarity and inverse moment of spectral image are extracted;Support vectormachine(SVM)is used to classify the small samples of spectral images and to mine the correlation features of spec-tral images.The experimental results show that the error rate of spectral image feature mining is less than 2%,thesame features can be clustered significantly,and the image denoising effect is obvious.KEYWORDS:Small sample classification;Spectral image;Associated feature mining;Images noise;Monte Carlo al-gorithm基金项目：河南省教育厅2 0 19年品牌专业建设项目（ZLG201903收稿日期：2 0 2 2-0 6-2 02411引言高光谱图像1-2 凭借其自身丰富的空间-光谱信息在地学、环境保护、国防军事等领域具有重要参考价值。近年来，随着成像光谱技术的发展以及图像处理技术、模式识别技术领域的深人研究，使光谱图像处理技术得到了有效进步，显著提升了高光谱图像的光谱分辨率以及空间分辨率，图像中地物辨别信息的增加，突出了光谱图像波段多、数据维度高等问题。因此对光谱图像的关联特征挖掘已经成为现阶段图像处理领域函待解决的问题之一。韩彦岭等人3 提出一种基于残差网络特征融合的高光谱图像分类方法。利用主成分分析方法提取光谱图像中主成分，结合残差网络抽取图像中的地物空间谱特征；利用卷积反向算法对抽取的特征图像完成扩充处理，通过处理结果将不同维度的图像特征进行特征融合，充分挖掘光谱图像的深度特征信息，实现光谱图像关联特征的准确挖掘。刘嘉敏等人4 提出一种基于特征重构融合的高光谱图像分类方法。对光谱图像像素点完成LBP提取，获取图像的LBP特征值；基于标签信息法去除像素点邻域空间块的背景像素，获取新的领域空间块，计算像素权重构建特征值；将提取的LBP特征与重构特征融合处理,结合最近邻分类器完成特征分类，完成图像的关联特征挖掘。张因国5 提出一种基于特征重要性的高光谱图像分类方法。建立随机森林模型并通过贝叶斯对其展开优化训练，通过优化结果进行图像特征重要性评估；再根据评估结果选取适量数目的图像波段作为训练样本；通过三维的卷积神经网络对波段样本完成提取分类，实现光谱图像的关联特征挖掘。由于上述已有方法未能在特征挖掘前对图像实现降维，无法实现光谱图像相邻波段的强相关性，图像高维特征穴余问题仍较为显著。为进一步解决该问题，本研究提出基于小样本分类的光谱图像关联特征挖掘方法。2预处理2.1险降维采用蒙特卡罗算法6.7 对光谱图像完成降维处理，建立的概率模型，根据模拟估计获取统计规律，并将统计概率作为衡量参数，从而实现图像降维。设定光谱图像训练样本为A，样本编号为B,数量标记m形式，特征波段数量为M，在样本编号固定时，计算概率模型特征波段参数为：(;=a(a;B)(1)(=a(ar;B),a(a2;B),a(am;B)式中，为概率模型特征波段参数，第i个训练样本的波段特征为;。利用概率模型特征波段参数，随机选取样本编码，并结合剩余未选取样本建立样本的编码向量（B），重新计算光谱图像样本特征波段参数，过程如下式所示(,=a(a:;B,)(2)(,=a(a,;B),o(a,;B.),.,o(a,;B.)式中，模型统计量估计函数标定为，sc表示随机实验次数，样本在j次实验时获取的编码为B,，原始样本参数向量描述为a(a.;B），光谱图像特征参量统计值为a（a;B,）估计结果表述成。根据上述计算出的参数统计值估计结果，实现光谱图像的降维处理蒙特卡罗算法统计量的可靠性主要依据于实验结果，因此统计独立随机数是评定算法效果的关键，利用Logistic方程，获取大量不重复分布的随机数，对光谱图像数据信息样本完成排序，从而保证训练样本处于均匀分布状态，过程如下式所示i+1=Xt,(1-t:)(3)=ceil(Kt,)式中，样本选代范围系数为X,选代次数为t，选代方程为Xt；（1-t），c e i l（K t）表示正向取整函数，数字化随机数t，上限表述成K。2.2图像去噪图像完成降维后，通过稀疏与低秩矩阵分解方法实现光谱图像的去噪8,9建立光谱图像的二维矩阵业eRmxn，且该矩阵能够分解成稀疏矩阵C以及低秩矩阵D,矩阵分解公式为minlDll,+llCllD,C(4)(s.t.Y=C+D式中，矩阵的核范数为D，权重值表述为8,8 cll表示范数为1的稀疏矩阵，约束条件为s.t.。利用稀疏与低秩矩阵分解方法对图像去噪时，通过增广拉格朗日乘子对上述展开收敛，从而获取问题的最优解。将上述矩阵分解流程作为光谱图像的最优化问题，建立增广拉格朗日函数如下(minf(x);s.t.g(x)=0(5)L(x,p)=f(x)+(,g(x)+llg(x)式中，惩罚系数表述为形式，拉格朗日乘子标定为，矩阵内积值描述成（,g（x）,惩罚函数表述为g（）,f（x)表示目标优化函数，增广拉格朗日函数描述为L(x，）。朗格朗日函数建立后，通过对函数的迭代获取无约束条件下问题最优解x=argminL（x,）,并将目标函数设置成f(x)=DIl.+llCll 形式,惩罚函数设定成g()=-D-C形式，重建增广拉格朗日函数为：L(D,C,)=IIDIl,+llCll+(,-D-C)+l-D-Cl(6)式中,L(D,C,）表示重建的增广拉格朗日函数。在计算上述时，优先对函数内C、参数完成固定处理，计算函数242中的最小D值,再固定C、参数,计算稀疏矩阵值，并对上述流程反复代直至算法收敛，完成光谱图像的去噪。计算C、D 时，采用软阈值方法【10 完成求解US,(S)vT=arg mindllxll,+-(7)Ss(W)=arg mind llxll+_x-W式中，光谱图像的奇异值分解函数为（U,S,V）,T 表示逼近函数，US（S)VI 表示低秩矩阵值计算结果，S（W）表示系数矩阵值，阈值权值为W,软阈值函数表述为xl形式。基于上述计算结果，将光谱图像中的低秩矩阵完整分离，实现光谱图像的噪声滤除。3关联特征挖掘3.1灰度共生矩阵灰度共生矩阵11,12 能够直观反映出光谱图像的中像素灰度的方向、相邻间隔以及变化等综合信息，是分析光谱图像局部模式、排列规则的基础。设定光谱图像的二维表现图像为f(m,n），大小为pq,灰度级标定为Hg，以此建立光谱图像灰度共生矩阵G(ij)(mi,n),(m2,n2)EP,QlG(i,j)=#(8)(f(mi,n,)=i,f(m2,n2)=j式中，像素集合m中的元素数量标记为#（m)形式,图像的灰度共生矩阵标记为G(i，），矩阵元素用i，j 表述。根据建立的灰度共生矩阵，将光谱图像像素（mi，n）与（m2,n z）之间距离设定成l,坐标夹角为入，以此获取光谱图像像素间距以及角度的灰度共生矩阵为：(mi,n),(m2,n2)EP,Q1G(i,j,l,入)=#(9)(f(m1,n,)=i,f(m2,nz)=j式中,G(i,j,I,)为光谱图像像素间距以及角度的灰度共生矩阵。3.2基于小样本多次分类的特征挖掘灰度共生矩阵建立完成后，通过该矩阵获取光谱图像角二阶矩、相关性、对比度、熵、相异性以及逆差矩6 大光谱关联特征13,过程如下式所示。1)角二阶矩获取光谱图像中角二阶矩能够反映图像的灰度分布以及图像纹理颗粒的粗细，获取的光谱图像角二阶矩越大，说明光谱图像纹理分布越均匀，获取流程如下式所示0AsMH-1g(i,j)28(10)=00式中，获取的光谱图像角二阶矩值标定为9AsM，灰度共生矩阵表述为g(i,i)。2）获取图像相关性光谱图像中，图像相关度主要反映像素的灰度相关，即为灰度共生矩阵内列向量与行向量相似程度如下式所示Hg-1(i-n:)(j-n)g(i,j)H9g名(11)Correlationi=0j=06:8j式中，光谱图像的像素相似性标记为Ccoreltion，均值描述成n:形式,像素方差为8;、8;。3）光谱图像对比度获取光谱图像中，对比度主要为图像清晰度以及纹理深度，在灰度共生矩阵中，图像灰度相差大的像素点越多，图像对比度越大，清晰度越好，光谱图像对比度获取流程如下式所示H-1H.-1g(ij)x(i-j)2名(12)i=0=0式中，光谱图像对比度特征表述为94)熵、相异性以及逆差矩的获取光谱图像内的熵可反映图像纹理复杂程度，相异性与对比度类似，逆差矩放映图像不同区域之间相异性，差距越大，图像纹理变化越小，像素分布越均匀，获取流程如下式所示H.-1H-1gg(ij)lgg(i,j)i=0j=0HH.-19ggDissimilarityi=0i=0g(i,j)(i-j)(13)H.-11HgHomoggeneiti=0j=01+l i-jlxg(i,j)式中,灰度矩阵激活函数描述为lgg（i j），获取的光谱图像熵表述为 muog,相异性值标记为 1 iaiain,Homgag 表示逆差矩标定。设定光谱图像降维后的主成分最大波段为U，图像像元为u;,将提取的光谱图像特征整合成S,=（A s m,C c o r l a t i o n，9Homogeneiy），以此完成整体光谱图像的纹理-光谱关联特征的提取,表述成;=t:,S,形式。光谱图像完成关联特征提取后，需要使用支持向量机分类器14.15 对特征完成小样本分类，通过分类结果，完成光谱图像关联特征的挖掘。利用支持向量机开展图像特征小样本分类时，可通过支持向量机基本思想，将图像特征分类问题转化成二次的方程求解问题。将图像关联特征分类问题的数学表述形式，建立目标函数以及相关约束条件，结果如下式所示(y:(w x;+b)1-K;K;0(w,k)=一-(w w)+p(Z,k)(14)2yi;=0oup式中，y（w x+b)代表图像关联特征的分类函数，权值描述为w形式，特征值描述为x，偏置项描述为b,K为常数，p表示惩罚函数，目标函数表述为（w,），0 u p 表示约束条件,分类系数表述为U;。通过建立的目标函数以及约束条件，寻找支持向量机最佳分类面，实现光谱图像关联特征的分类，结果如下式所示12(u)=K;K,yjy,K(x;x,)(15)K2243式中,核函数表述成K（x,x），关联特征分类结果描述为z(u)。最后，通过上述光谱图像关联特征的送代分类，实现光谱图像的关联特征挖掘。4研究方法应用性能的验证分别采用基于小样本分类的光谱图像关联特征挖掘方法（所提方法）、基于残差网络特征融合的高光谱图像分类方法（文献3 方法）、基于特征重构融合的高光谱图像分类方法（文献4 方法）测试；利用传感器获取光谱图像并根据上述3种光谱图像特征挖掘方法挖掘图像关联特征，通过挖掘结果，比较3种方法的特征挖掘性能。测试过程中，根据光谱图像数据对图像中存在的地物类型完成样本分类，建立训练集以及测试集；设定原始图像中有2 2 4个光谱波段，分辨率大约在10 nm，为特征挖掘方法性能测试做好基础工作。1)挖掘错误率测试采用所提方法、基于残差网络特征融合的高光谱图像分类方法以及基于特征重构融合的高光谱图像分类方法挖掘光谱图像特征时，测试上述3种方法应用下特征分类错误率，以及检测特征挖掘方法的分类识别能力，测试结果如图1所示。研究方法口残差网络特征融合方法特征重构融合方法865432050010001500200025003000特征分类次数/次图1不同方法的错误率对比分析图1可知，3种方法在提取光谱图像关联特征时，由于图像光谱信息的压缩程度不同，测试出的挖掘错误率也不相同。其中，基于残差网络特征融合的高光谱图像分类方法虽然最大程度的压缩了光谱信息，但是由于未能实现图像降维，导致该方法提取的特征错误率高于所提方法测试结果，而所提方法不仅能够最大程度的压缩图像内的光谱信息，还能够有效对光谱图像完成降维处理，所提该方法在图像特征挖掘时，挖掘错误率低于其它两种特征挖掘方法，基于特征重构融合的高光谱图像分类方法未能对光谱信息进行压缩，所以测试结果较不理想2）挖掘特征聚类成团效果基于上述测试结果，利用不同方法挖掘光谱图像特征时，测试目标特征成团效果，测试结果如图2 所示。50500050200-502002002001000100000-00.200400.200(a)研究方法(b)残差网络特征融合方法5005020020010000100.200(c)特征重构融合方法图2不同方法的特征成团效果对比分析图2 可知，在挖掘光谱图像特征后，所提方法挖掘的图像特征同类之间互相聚类成团，且异类之间彼此分离，特征挖掘效果较为优越。基于残差网络特征融合的高光谱图像分类方法挖掘的图像特征之间虽然能够保证异类特征相互分离，但是同类特征之间并未聚类成团，而是呈现多个聚类分组情况；而基于特征重构融合的高光谱图像分类方法挖掘出的关联特征彼此混杂在一起，挖掘效果较差。3)去噪效果测试基于上述实验结果，测试上述3种方法的图像去噪效果，结果如图3所示(a)原始图像(b)研究方法(c)残差网络特征融合方(d)特征重构融合方法图3不同方法的去噪效果对比分析图3可知，利用不同反方提取光谱图像特征后时，研究方法的去噪效果优于文献方法，光谱图像的细节得以显著增强，小目标特征的清晰度也明显优化。5结束语针对光谱图像同物异谱间影响明显、相邻波段相关性强244上接第137 页）导致的图像噪声较高、特征维度偏高的问题，提出基于小样本分类的光谱图像关联特征挖掘方法。基于光谱图像降维去噪结果，利用建立的灰度共生矩阵提取图像关联特征值，最后通过支持向量机完成特征值的分类，实现光谱图像的关联特征挖掘。参考文献：1汪凌志，雷正刚，周浩，等.基于空-谱特征K-means的长波红外高光谱图像分类J】.红外技术,2 0 2 0,42（4）：348-355.2刘帅，邢光龙.高光谱图像混合像元多维卷积网络协同分解法J.测绘学报,2 0 2 0,49（12）：16 0 0-16 0 8.3韩彦岭，崔鹏霞，杨树瑚，等。基于残差网络特征融合的高光谱图像分类J.国土资源遥感，2 0 2 1,33（2）：11-19.4刘嘉敏，郑超，张丽梅，等。基于图像重构特征融合的高光谱图像分类方法J.中国激光,2 0 2 1,48（9）：2 0 3-2 12.5张因国，陶于祥，罗小波，等.基于特征重要性的高光谱图像分类J.红外技术,2 0 2 0,42(12):118 5-1191.6常小强，宋政湘，王建华基于蒙特卡罗算法的电动汽车充电负荷预测及系统开发J.高压电器,2 0 2 0,56（8）：1-5.7马俊美，余律，贾晓雨.SwitchCorridor方差互换定价的蒙特卡罗加速算法J.同济大学学报（自然科学版）,2 0 2 0,48（10）：1487-1494,1522.8李忠伟，张浩，王雷全，等.融合空谱-梯度特征的深度高光谱图像去噪J.光学精密工程，2 0 2 2,30（5）：6 15-6 2 9.15黄茜，顾杰峰，杨文亮.基于梯度向量直方图的行人检测.科学技术与工程，2 0 0 9,9（13）：36 46-36 51.16张楚金，王耀南，卢笑，等.王国峰.基于假设验证和改进HOG特征的前车检测算法J.电子测量与仪器学报，2 0 15，2 9(2):165-171.17张楚金，王耀南，卢笑，等.王国峰.基于假设验证和改进HOG特征的前车检测算法J.电子测量与仪器学报，2 0 15，2 9(2):165-171.18祁亨年.支持向量机及其应用研究综述J.计算机工程，2004,(10):11-14.19周志华.机器学习M.北京：清华大学出版社，2 0 16：12 1-137.20张倩，杨耀权.基于支持向量机核函数的研究J.电力科学与工程,2 0 12,(5):42-45.9章硕，孙斌，李树涛，等.空间与光谱维度的高光谱图像噪声估计J.遥感学报,2 0 2 1,2 5(5)：110 8-112 3.10徐景秀，张青.改进小波软阈值函数在图像去噪中的研究应用J.计算机工程与科学,2 0 2 2,44(1)：92-10 1.11姚慧玲，胡兴，黄影平.基于光流灰度共生矩阵的视频暴力行为检测J.电子测量技术，,2 0 2 1,44（4）：132-137.12王海波，谢玉芳，改进灰度共生矩阵的印刷品表面缺陷检测方法J.包装工程，2 0 2 0,41（2 3）：2 7 2-2 7 8.13 陈志超，张正，刘昌华，等。基于多线性稀疏主成分的高光谱影像特征提取J.河南理工大学学报（自然科学版），2 0 2 0，39(4):54-60.14张成，侯宇超，焦宇倩，等基于三通道分离特征融合与支持向量机的混凝土图像分类研究J.图学学报，2 0 2 1,42（6：917-923.15孙禾，赵文珍，赵文辉，等.基于改进李生支持向量机的齿廓图像边缘失真分类研究J.光子学报，2 0 2 0，49（10）：18 5-197.作者简介于春霞（197 6-）,女（汉族）,河南安阳人，硕士，副教授，研究方向：数据分析、数据挖掘。车银超（197 9-），男（汉族），河南许昌人，硕士，讲师，研究方向：互联网、机器学习。21Yi W,Jodoin P M,F Porikli,et al.CDnet 2014:An ExpandedChange Detection Benchmark Dataset C.Computer Vision&Pattern RecognitionWorkshops.IEEE,2014.作者简介樊锐博（1997-），男（汉族），陕西宝鸡人，硕士研究生，主要研究领域为低秩与稀疏算法。景明利（197 7-），男（汉族），陕西西安人，工学博士、副教授，硕士研究生导师，主要研究领域为压缩感知中稀疏、低秩信号的恢复算法与机器学习，图像处理、人工智能中数值优化算法研究（通信作者）。李岚(197 2-）,女（汉族），陕西西安人，博士，教授，硕士生导师，主要研究领域为相位恢复、压缩感知、小波分析。魏玉峰（1993-），男（汉族），陕西西安人，硕士生，主研方向为基于低秩稀疏分解的视频前背景分离研究。