基于双池化注意力机制的高光谱图像分类算法.pdf

D0I:10.13878/ki.jnuist.20220505003陈栋李明李莉陈淑文3基于双池化注意力机制的高光谱图像分类算法摘要为了提高高光谱图像在有限训练样本下的分类性能,提出了一种基于双池化注意力机制的高光谱图像分类网络（D PA M N）.首先，采用三维卷积提取高光谱图像的空间和光谱浅层信息.其次，为了增强网络的特征提取能力，在DPAMN中引入了一种双池化注意力机制.最后，在网络的深层引入三维卷积密集连接模块，该模块不仅能够充分提取高光谱图像的空间和光谱特征，同时还能提高特征的判别能力.实验结果表明，在Indian Pines,University of Pavia,Salinas以及Houston2013数据集上分别取得95.45%、9 7.11%、9 5.30%以及9 3.7 1%的整体平均精度，与目前主流的已有先进方法相比，所提出的方法在4个数据集上均有较大提升，表明所提方法具有较强的泛化能力.关键词卷积神经网络；高光谱图像；分类；注意力机制；空谱特征提取中图分类号TP391.41文献标志码A收稿日期2 0 2 2-0 5-0 5资助项目国家自然科学基金（6 18 7 7 0 51,6 1170192）；重庆市科委重点项目（cstc2017zdcy-zdyf0366）；重庆市教委项目（113143）；重庆市研究生教改重点项目（yjig182022）作者简介陈栋,男，硕士生，研究方向为深度学习、计算机视觉.15930 56 18 3 李明（通信作者），男，博士，教授，研究方向为机器学习、计算机视觉.2 0 1310 52 1重庆师范大学计算机与信息科学学院，重庆,40 13312西南大学计算机与信息科学学院，重庆，4007153重庆师范大学数学科学学院，重庆，40 13310引言高光谱图像包含丰富的空间和光谱信息.高光谱图像分类就是确定每个像素所属类别,且高光谱图像的分类精度将会影响后续的图像处理工作.在高光谱图像分类研究早期，很多表现出色的机器学习方法获得了较好的分类性能,包括支持向量机、极限学习机 2 、基于稀疏表示 3 以及K最近邻 4 的方法.由于研究早期基于机器学习的分类网络均为浅层网络，这种网络不足以提取高光谱图像的复杂特征.近年来,基于深度学习的方法由于其强大的特征处理能力在计算机视觉包括自然语言处理、图像处理以及目标检测领域获得了优异的成绩 5-8 .Chen 等 提出一种堆叠式自动编码器，基于分层思想提取空间和光谱特征.Yu等10 1提出一种基于卷积神经网络（CNN）的高光谱图像分类方法，通过卷积层合理的卷积滤波器和池化层提取不同层的光谱和空间特征，经多层提取的特征获得了较好的实验结果.为了更充分地提取空间和光谱特征,Chen 等 提出一种基于端到端二维卷积神经网络(2 DCNN)的高光谱图像分类方法.特别地，高光谱图像自身具备三维数据属性，在对高光谱图像进行处理的过程中，往往将其看作三维数据.因此,Li 等 12 提出一种基于三维卷积神经网络（3DCNN）的高光谱图像分类方法，并提高了类间可分性.值得注意的是,为了改善高光谱图像的分类性能,张建伟等 13 对众多的空间光谱联合分类方法进行了归类和分析.在深度学习框架中,基于CNN的网络框架得到广泛的应用.虽然基于CNN的深度学习方法相比于传统的机器学习方法能够较大地改善分类性能,但随着CNN网络的深度逐渐加大,将会出现休斯现象（H u g h e s）【14 和网络退化.为了避免这些现象的发生,He 等 15 提出一种残差网络（ResNet）,能够有效解决由于网络加深带来的退化问题.该网络通过跳线连接将浅层的特征恒等映射到深层特征，且这种跳线连接并不会带来额外的参数和计算复杂度.为了改善高光谱图像的分类性能,Zhong等 16 设计了空间残差模块和光谱残差模块来提取图像的空间特征和光谱特征（SSRN），且获得了较好的分类精度，这进一步表明残差结构在高光谱图像分类任务中的有效性.为了加强层与层之间的信息流动性，Huang等 17 提出一种密集连接网络（D e n s e N e t），一定程度上缓解了梯度消失问题.Roy等 18 结合3DCNN和2 DCNN,提出一种混合结构（HybridSN）.虽然以上方法在数据样本h陈栋，等.基于双池化注意力机制的高光谱图像分类算法，394CHEN Dong,et al.Hyperspectral image classification based on double pool attention mechanism.充足的情况下能够获得较为不错的分类精度，但在网络（3DCNN）比二维卷积神经网络（2 DCNN）在高小样本下得到的分类性能依然较差.光谱图像分类领域应用更加广泛.此外,2 DCNN在提受人类视觉的启发，一种注意力机制模块被提取高光谱图像的空间和光谱过程中会导致像素之间出,该注意力机制有利于进一步提高分类性能 19-2 3.的相关性被破坏，而3DCNN能够更好地保护图像的高光谱图像包含空间和光谱特征，而三维卷积神经空间信息，避免造成信息丢失.网络是同时对图像提取空间和光谱特征.为了避免图1表示三维卷积过程,输人特征大小为XE提取的空间特征和光谱特征相互干扰，Ma 等 2 4 提RxWx(其中,H表示特征图的高度，W表示特征图的出一种双分支多注意力机制网络（DBMA），并在小宽度，L表示特征图的波段数量），卷积核大小为h训练样本下获得了较好的分类精度.为了进一步改wl.为保证输出和输人的大小相同，采用的填充操善分类性能,Li等 2 5 提出一种DBMA的改进网络作属性值为SAME,则经过卷积的输出为DBDA,实验结果验证了该网络在小训练样本下的有hi-1 wi-1 bi-1=f(烹Z,(x+p)(y+g)(z+r)+效性.mp=0 q=0 F=0然而，实际应用中高光谱图像已知类别的样本依然是十分有限的，还需更加充分地提取高光谱图像的空间和光谱特征，进而获得更优异的分类性能。有鉴于此,本文提出一种基于双池化注意力机制的高光谱图像分类网络（DPAMN）.实验结果表明，本文方法在有限训练样本情况下能够获得较好的分类效果.本文的贡献主要如下：1)本文提出一种基于双池化注意力机制网络，用来强调通道之间的相互关系.具体地说，使用全局最大池化和全局平均池化来聚集图像的重要信息，且使用自适应卷积增强通道之间的表示能力.2)为了缓解梯度消失和梯度退化问题，本文提出一种三维密集连接模块，通过该模块能够提取丰富的特征，且避免了信息的丢失。3）所提出的双池化注意力机制网络结合了注意力机制模块和3DCNN密集连接模块.注意力机制模块被用来增强重要的信息，且抑制了无用的信息.使用3DCNN密集连接模块充分提取图像的光谱-空间联合信息.1基于双池化注意力机制的分类方法1.1 三维卷积由于高光谱图像自身数据属性，三维卷积神经+(1)式中：i表示的是第i层；表示第i层的第j个特征图在（,y,z）位置上的输出;m表示第i层的神经元个数;k表示第m个特征图中（p,q,r）的权重；b，表示卷积层的偏置项;f（）表示激活函数;h,w;,b;分别表示第i层中卷积核高度、宽度以及长度.HWFig.1Three dimensional convolution1.2三维密集连接模块随着网络层数的增加,分类性能可以有效改善，但随着网络逐渐变深，会出现梯度消失和模型退化问题.为此，本设计的分类网络中引人了三维密集连接模块，其结构如图2 所示.可以看出，输人通过4个Conv+BN+ReLU组合层输出，且每个组合层之间通过跳线连接，设置旁路使得深层特征与浅层特征有效流动.引人三维密集连接模块能够在一定程度上WConv图1三维卷积HWConvBN+ReLUHxWxL,2CHxWxL,3C图2 三维密集连接模块结构Fig.2 Structure of 3D dense connection moduleConvBN+ReLUHxWxL,4CConvBN+ReLUHxWxL,5CConvBN+ReLUHxWxL,6C南京信息工经大学学报（自然科学版),2 0 2 3,15（4):393-40 2Journal of Nanjing University of Information Science&Technology(Natural Science Edition),2023,15(4):393-402缓解梯度消失和模型退化问题.三维密集连接模块主要包括4个组合层，层与层之间相互连接.其中,每一个组合层包括Conv+BN+ReLU.具体地说,输人Xe RxxL经过三维Conv层的输出为Y=W*X+b,其中：YRIxWxL为卷积后的输出;W为三维卷积的权重;b为三维卷积的偏置项.为了加快收敛速度并避免过拟合现象的发生，将三维卷积的输出经过归一化BN层,即：(3)VDx式中：Ex(表示所有神经元值的平均值；VD丁表示所有神经元输人值的标准差；x表示归一化BN层的输人.为了使得稀疏后的模型能够更好地挖掘相关特征、拟合训练数据，在归一化之后接人ReLU激活函数层,即：,x 0,o,x 0,式中，x表示非线性激活函数的输入，g（）表示非线性激活函数，从三维密集连接模块可以看出，层与层之间通过跳线连接.第层的输人等于前面所有i一1的输出之和.即：X,=H,xo,x1,.,xi-I,其中，H,表示第i层的系统函数,包括三维卷积层、归一化BN层以及ReLU非线性激活层.假设输入特征图的输人大小为HWL,且有2 C个通道，每个卷积层为C个大小为11d的卷积核,则输人经过该卷积层的输出为C个大小为HWL的特征图.而特征图的输出通道数和输入通道数存在密集连接关系：Cm=2C+(m-1)C,式中，Cm表示第m层输出的通道数量.1.3双池化注意力机制模块在高光谱图像中空间像素间相互依赖关系有利于更准确地实现像素分类.近年来，很多注意力机制被相继提出,用来探索空间的依赖关系.为了进一步强调更重要的特征,抑制无用的特征,本文提出一种双池化注意力机制，结构如图3所示.考虑到不同通道的空间信息压缩和通道相关性，且所携带的信息不同，仅使用平均池化或者最大池化，会使得图像一部分信息丢失.为了得到更多的信息，本文采用平均395池化层和最大池化层同时进行池化操作来提取所有通道的最大特征值和平均特征值,最后将得到的特征进行融合.具体地说，假设输人为C个x=RxL,经过平均池化和最大池化后的输出大小为C个xER1x1x1.而此时每个通道均为一个元素，并且不同元(2)素的值代表着对应通道的信息.GAP+GMP.HxWxL图3双池化注意力机制结构Fig.3 Structure of double pooling attention mechanism将融合后得到的结果再经过自适应卷积层，且自适应核大小k与通道C相关.从卷积的跨通道交互角度来看，C与长期交互作用呈正相关.即C越大，长(4)期交互关系越强；反之,C越小,短期交互关系越强.而自适应核大小k与通道C关系：k=(C),式中,（）为自适应核函数.同样地,为了使得稀疏后的模型能够更好地挖掘相关特征，将经过自适应卷积后的输出经过ReLU非线性激活函数层得到注(5)意力图.最后，将所得到的注意力图与原始输人进行点积操作得到最终的输出.1.4整体网络结构针对高光谱图像的高维特性以及样本数据量有限的情况，本文设计了一个双池化注意力机制网络(DPAMN）.D PA M N 的整体结构如图4所示.网络包括浅层特征提取、双池化注意力机制模块（DPAM）以及三维密集连接模块组成.(6)原始高光谱图像经过浅层网络获得具体的特征,再经过DPAM层将重要的特征进行强化，且抑制无用的特征.将所得到的结果经过三维密集连接模块进行深层特征提取，得到更加抽象的语义信息，最后将得到的特征向量经过概率分布确定所属类别.为了更加详细地表示DPAMN网络，以IndianPines数据为例，该数据集的图像大小为1451452 0 0，表1给出了DPAMN各层的卷积核大小和该层的输出尺寸大小.特别地，若3D卷积使用的卷积核较大，则将会使得网络的参数激增.因此，本文在3D密集连接模块中所采用卷积核大小为3311.HxWxL1x1xC1x1xc(7)陈栋，等.基于双池化注意力机制的高光谱图像分类算法，396CHEN Dong,et al.Hyperspectral image classification based on double pool attention mechanism.数据准备BN+Mish+ConvlDPAMConv2FC+Softmax表1DPAMN的各层参数设置Table 1Parameter setting for each layer of DPAMN层名称卷积核大小Convl11x7,24DPAM1x4Conv211x7,12Conv313311,12Conv323x311,12Conv333x311,12Conv343311,122对比实验结果与分析为了验证所提出方法的有效性，选择IndianPines、U n i v e r s i t y o f Pa v i a、Sa l i n a s 以及 Houston 20134种数据集,且进行一系列实验.本节将给出所有对比实验的结果和分析.此外，为了公平比较,所有的实验均在处于相同的实验环境并且配置相同的实验参数.实验所使用的硬件平台是Intel（R）Co r e（T M）i7-9750H CPU、N VI D A G e Fo r c e G T X 10 6 0 T I G PU 和8CB的内存.软件环境是CUDA10.0、p y t o r c h 1.2.0和python3.7.4.实验采用总体分类精度（Over-allAccuracy,OA）、平均分类精度（Average Accuracy，AA）、K a p p a 系数3个衡量指标来评价所有的方法.2.1数据集本实验采用的数据集包括IndianPines、University of Pavia、Sa l i n a s 以及 Houston 20134种常见数据集.在实验过程中，4种数据集分别随机选取5%、1%、1%以及2%样本比例作为训练样本.1)IndianPines数据集的空间大小为145145，拥有2 2 0 个波段，但除去吸水带2 0 个，剩下2 0 0 个GAPFig.4Overall structure of DPAMN输出尺寸大小9x997,249x9x97,249x9x97,249x9x97,369997,489x997,6099x97,72Conv3图4DPAMN的整体结构波段用于实验中.同样地，除去背景像素，用于实验的空间像素有10 2 49个.该数据集有16 个覆盖地物类别，具体类别信息见表2.表2 IndianPines 的类别信息Table 2Category information of Indian Pines dataset编号类别1Alfalfa2Corn-notill3Corn-mintill4Corn5Grass/pasture6Grass/trees7Grass/pasture-mowed8Hay-windrowed9Oats10Soybean-notill11Soybean-mintill12Soybean-clean13Wheat14Woods15Bldg-Grass-Tree-Drivers16Stone-Steel-Towers总数2)University of Pavia数据集由反射光学系统成像光谱仪（ROSIS）捕获而来，其空间大小为6 10 340,空间分辨率为1.3m，但仅有10 3个波段可用于实验.该数据集有9个地物覆盖类别，具体类别信息见表3.3）Sa l i n a s 数据集是1996 年通过AVIRIS传感器获取的，空间大小为512 6 14，有17 6 个可用波段.该Conv3Conv3训练样本数样本总数246711 4284283012237244833773012824478120499721232.4553059310205631 2651938659351210 249Conv3南京信息工经大学学报（自然科学版),2 0 2 3,15(4):393-40 2Journal of Nanjing University of Information Science&Technology(Natural Science Edition),2023,15(4):393-402数据集有16 个地物覆盖类别，具体类别信息见表4.4)Houston2013数据集由紧凑型机载光谱成像仪（CASI)传感器获取，其空间大小为349190 5,波段数为114,波长范围为38 0 10 50 nm.该数据集包含15个地物覆盖类别，具体类别信息见表5.表3Universityof Pavia数据集的类别信息Table 3Category information of University of Pavia dataset编号类别1Asphalt2Meadows3Gravel4Trees5Painted metal sheets6Bare Soil7Bitumen8Self-Blocking Bricks9Shadows总数表4Salinas数据集的类别信息Table 4Category information of Salinas dataset编号类别1Brocoil-green-weeds_12Brocoil-green-weeds_23Fallow4Fallow-rough-plow5Fallow-smooth6Stubble7Celery8Grapes-untrained9Soil-vinyard-develop10Corn-senesced-green-weeds11Lettuce-romaine-4wk12Lettuce-romaine-5wk13Lettuce-romaine-6wk14Lettuce-romaine-7wk15Vinyard-untrained16Vinyard-vertical-trellis总数2.2各方法的实验结果对比为了更好体现所提出方法的优越性，本节将DPAMN与多种深度学习方法相比较，包括SSRN16、D BM A 2 4 、D BD A 2 5、H y b r i d SN 18 .所有参数设置均相同.选择的空间输人大小为9x9.397表5Houston2013数据集的类别信息Table 5Category information of Houston 2013dataset编号类别1Healthy grass2Stressed grass3Synthetic grass4Trees5Soil6Water训练样本数样本总数666 63118618 649212 099313 064131 345505029131 330373682994742842.776训练样本数样本总数202009373.726201 976141 394272 67840395936357911311 271626 2033332781110681919279916111 070737 268181 80754154 129训练样本数样本总数251 251251 25414697251 24425124273257Residential8Commercial9Road10Highway11Railway12Parking Lot 113Parking Lot 214Tennis Court15Running Track总数SSRN包含空间残差模块和光谱残差模块，一定程度上缓解了网络梯度消失的问题.DBMA与DBDA是一个双分支结构，并且在空间分支和光谱分支分别引人空间注意力和光谱注意力.HybridSN将3DCNN和2 DCNN结合起来，利用3DCNN来提取高光谱图像的空间和光谱特征,且利用2 DCNN来提取空间特征.表6 9 和图5一8 给出了不同方法在Indian Pines、U n i v e r s i t y o f Pa v i a、Sa l i n a s 以及 Houston2013数据集上的所有分类结果.由于Indian Pines 的类间混合程度较大,且类别较多，现阶段很多方法的分类精度都不是很好.从表6可以看出,所有方法的分类精度较低.然而，与其他方法相比,本文方法获得最高的OA、A A 和Kappa.不同方法在IndianPines数据集上的所有分类如图5所示.通过比较，可以发现其他方法类间混合程度更高，错误分类较多，分类最差的是HybridSN.而本文方法得到结果更接近土地覆盖真实分类.虽然Uni-versityof Pavia数据集的光谱波段比IndianPines数据集少，但是不同方法获得分类精度却比IndianPines数据集上得到的精度普遍要高（表7），这主要由于Universityof Pavia数据集的分类类别较少，仅有9类.图6 给出了不同方法在Universityof Pavia数据集上的分类结果，可以看到本文方法的分类图更加平滑，表明具备很好的分类判决能力.Salinas数据集土地覆盖更加规律，而Houston2013数据集的空间252525252525991330112681 24412521 2271 235123346942866015029陈栋，等.基于双池化注意力机制的高光谱图像分类算法398CHEN Dong,et al.Hyperspectral image classification based on double pool attention mechanism.表6训练样本比例为5%IndianPines数据集的分类精度Table 6Classification accuracies of Indian Pinesdataset with 5%training samplesSSRNDBMAOA89.99AA88.58Kappa88.58176.49287.75387.98483.26597.79695.98789.92896.62961.571084.111190.551285.861399.071495.021591.131694.25表7 训练样本比例为1%UniversityofPavia数据集的分类精度%Table 7Classification accuracies of UniversityDBDAHybridSN86.8094.2084.1591.9484.9493.4084.5798.0387.0194.9583.7193.8388.7393.4093.3198.7997.1397.5846.4963.9099.09100.0050.4678.8478.3686.5686.0195.4282.8189.5196.9197.5095.5197.5083.4794.0392.8891.19DPAMN83.2495.4583.1793.4980.8594.8279.7198.2273.5362.6990.4394.7678.9394.6292.7898.6389.9798.3170.4767.3490.49100.0055.4193.2584.7891.7186.2495.3077.4092.3390.8298.4393.1598.2886.2594.6390.4394.31of Pavia dataset with 1%training samplesSSRNDBMAOA91.71AA93.32Kappa91.59192.51296.25382.59499.27599.62695.07790.79884.91998.88分辨率更高.由表8 和表9可知，DPAMN在Salinas和Houston2013数据集上依然获得了最高的分类精度.图7 与图8 分别给出了所有方法在Salinas和Houston2013数据集上的分类结果.可以发现，DPAMN方法在Salinas和Houston2013数据集上的%DBDAHybridSN92.4496.0191.9594.9589.9194.7091.3692.6996.0699.2583.2286.3396.4997.0698.5299.1991.3897.7193.4193.4681.0890.5496.0198.36DPAMN82.3297.1176.0496.3576.2296.1772.9597.6590.1099.3668.4686.7590.1797.8989.5198.0588.9598.2359.4599.1959.7190.8864.1499.12a.真实分类图b.SSRN:89.99%Fig.5Classification results of different methods on Indian Pines datasetc.DBMA:86.80%图5不同方法在IndianPines数据集上的分类结果d.DBDA:94.20%e.HybridSN:83.24%f.DPAMN:95.45%HHHHHHHHHHHH+HHHa.真实分类图b.SSRN:91.71%图6 不同方法在Universityof Pavia数据集上的分类结果Fig.6Classification results of different methods on University of Pavia datasetc.DBMA:92.44%d.DBDA:96.01%e.HybridSN:82.32%f.DPAMN:97.11%南京信息工经大学学报（自然科学版）,2 0 2 3,15(4):393-40 2Journal of Nanjing University of Information Science&Technology(Natural Science Edition),2023,15(4):393-402表8 训练样本比例为1%Salinas数据集的分类精度Table 8 Classification accuracies of Salinas datasetwith training sample ratio of 1%SSRNDBMAOA92.84AA96.19Kappa92.04199.96297.63395.52497.51595.54699.89799.50886.71999.241095.071195.611298.491397.311498.091583.131699.80399表9训练样本比例为2%Houston2013数据集的分类精度Table 9Classification accuracies of Houston 2013%dataset with training sample ratio of 2%DBDAHybridsN92.6193.5895.4796.8191.8192.8695.6199.5799.9599.7897.4297.291.3194.0097.7498.3698.8599.9996.9998.3489.9390.0198.9399.0193.1197.8194.4396.0396.1499.0897.2299.7096.3295.6384.2284.4899.3499.98%DPAMNSSRN87.3495.3081.6097.8385.8994.8084.6699.9895.4999.8788.1198.6265.2297.5191.4098.7199.4299.9897.1799.8383.3797.7998.9699.4693.5799.8254.5196.0186.5599.7144.3699.9843.2696.9386.0781.0493.79DBMAOA89.51AA91.24Kappa88.66190.78296.483100.00496.96595.146100.00781.90885.86991.161079.931184.711288.231388.731492.251596.5499.98DBDA90.0592.2391.8793.5289.2591.5986.9190.8194.4795.43100.00100.0098.2098.2095.3397.7399.8398.5286.4388.7894.9696.8886.0986.6291.1383.2286.4891.9687.0689.0886.4890.7598.9498.5395.8096.25HybridsN88.7690.3287.8486.0494.5797.4695.8393.9794.8987.2688.8781.6283.3183.9686.4292.3390.8895.32DPAMN93.7194.0792.1191.9790.97100.0098.9797.2399.0287.7795.3189.5487.0596.3090.4292.3798.5195.53a.真实分类图分类图更接近土地覆盖真实分类图，而DBDA方法虽然能够获得次优的分类图，但依然存在较多的错误分类.因此，与其他先进方法相比,本文所提出方法获得最高的分类精度和最好的分类图,充分验证了本文方法的有效性2.3实验分析为了更好地体现本文提出的网络结构，下面对b.SSRN:92.84%Fig.7 Classification results of different methods on Salinas dataset输入数据空间尺寸网络通过将原始图像切割成多个HWxB的输入小图像块作为图像的输人.输入空间大小以55、77、99以及1111为例.图9给出了DPAMN在Indian Pines,University of Pavia,Salinas 以及 Houstonc.DBMA:92.61%图7 不同方法在Salinas数据集上的分类结果d.DBDA:93.58%DPAMN输人空间大小、三维卷积密集连接个数以DPAM中不同池化类型对分类精度OA的影响进行定量分析.2.3.1e.HybridSN:87.34%f.DPAMN:95.30%陈栋，等.基于双池化注意力机制的高光谱图像分类算法，400CHEN Dong,et al.Hyperspectral image classification based on double pool attention mechanism.且以3、4、5、6 个三维卷积密集连接个数作为实验组.图10 给出了不同密集连接个数在不同数据集上的分类精度OA值.可以看出，采用密集连接模块能够有效地提高网络的分类精度.5个和6 个卷积密集连接个数获得结果相似,但在Salinas数据集上,5个卷积密集连接个数的OA值远远超过6 个卷积密集连接个数模块的OA值.此外，6 个卷积组成的模块参数量也超过5个卷积组成的密集连接模块.因此，本文设计的DPAMN中的三维密集连接模块采用的三维卷积个数为5个。98a.真实b.SSRN:c.DBMA:d.DBDA:e.HybridSN:f.DPAMN:分类图89.51%90.05%92.23%图8 不同方法在Houston2013数据集上的分类结果Fig.8 Classification results of different methodson Houston 2013 dataset20134个常见数据集上不同输人尺寸获得的0 A值.可以看出,Indian Pines、U n i v e r s i t y o f Pa v i a 和 Salinas数据集中9x9获得的0 A最高，1111的输人空间大小获得的结果次之.在Indian Pines、U n i v e r s i t y o fPavia以及Salinas数据集上OA值随着空间输人增大先增大后减小，而Houston2013数据集上OA值随着空间输入增大逐渐增大，最优的输入空间大小为1111.因此，对比实验采用99的空间输人大小输人到网络中.98Indian Pines-University of Pavia Salinas97 Houston 201396F95949392图9不同数据集中不同输入尺寸的OA值Fig.9 OA values of different input sizes on different datasets2.3.2三维卷积密集连接数本文采用三维卷积密连接模块来增强网络的空间和光谱特征提取能力，三维卷积密连接模块中密集连接个数越多提取的特征越抽象.因此,本节将对三维卷积密集连接个数对网络分类精度的影响进行讨论.本文设置一个密集连接个数为1的对比实验，1345-69788.76%93.71%?5577输人尺寸9695/VO94939291上90Indian Pines University of PaviaSalinas图10 不同密集连接个数在不同数据集上对分类精度OA的影响Fig.10Effect of dense connection numbers onclassification OA on different datasets2.3.3DPAM中不同池化类型对分类精度OA的影响在所提出的DPAMN中,设计的DPAM采用最大池化层和平均池化层共同计算信息映射.最大池化操作生成了在局部区域中值最大的显著图，平均池化层计算局部区域的平均值来表示特征图的关键信息.从表10 中可以看出：单独采用最大池化层或者单独采用平均池化层,均会导致图像的信息丢失，获得的结果在4个数据集上表现相近；当最大池化9x911x11Houston 2013层和平均池化层同时使用时（双池化)聚合性能最好，获得的OA值在4个数据集上均为最高.此外，本表10 DPAM中不同池化类型对分类精度OA的影响Table 10Effect of pooling types onclassification OA in DPAM数据集最大池化层平均池化层双池化Indian Pines95.23University of Pavia96.62Salinas95.11Houston 201392.72%95.0395.4596.7597.1195.0295.3092.1993.71南京信息工经大学学报（自然科学版),2 0 2 3,15(4):393-40 2Journal of Nanjing University of Information Science&Technology(Natural Science Edition),2023,15(4):393-402文在双池化之后引人了自适应卷积，充分挖掘了通道之间的相关性.因此，通过消融实验，充分验证了本文提出的双池化注意力机制的有效性.3结论1)本文设计的基于双池化注意力机制分类网络，提出一种双池化注意力机制来强调通道之间的相互关系，并在深层网络中引入三维连接模块，不仅充分提取了深层空间和光谱的特征，还在一定程度上缓解了梯度消失问题和网络退化问题，在小训练样本情况下提高了分类精度.2)本文通过实验分析不同的网络参数对分类性能的影响，找到了最优的网络参数设置,并与现阶段高光谱图像分类最先进的方法相比.实验结果表明，本文所提方法在小样本下具有更好的分类性能.未来的研究工作当中,将继续在极小样本的情况下探究更强大的特征提取网络，且利用残差模块构建更优的网络.参考文献References 1 Melgani F,Bruzzone L.Classification of hyperspectral re-mote sensing images with support vector machines J.IEEE Transactions on Geoscience and Remote Sensing,2004,42(8):1778-17902Su H J,Cai Y,Du Q.Firefly-al