改进EfficientNet网络的COVID-19 X光分类.pdf

计算机与现代化JISUANJI YU XIANDAIHUA2023年第9期总第337期文章编号：1006-2475（2023）09-0094-06收稿日期：2022-10-12；修回日期：2022-11-21基金项目：河北省自然科学基金面上项目（H2019201378）；河北省大学生科技创新能力培育专项项目（22E50041D）；河北大学校长科研基金资助项目（XZJJ201914）；四川省科技厅省院省校科技合作项目（2022YFSY0056）；人工智能四川省重点实验室开放基金资助项目（019RYJ07）；四川理工学院人才引进基金资助项目（2018RCL19）作者简介：刘禅奕（1993），男，重庆人，硕士研究生，研究方向：医学图像处理，E-mail：；通信作者：黄丹（1981），女，讲师，博士，研究方向：生物信号与信息处理，E-mail：；薛林雁（1981），女，副教授，硕士生导师，博士，研究方向：大脑高级视觉认知功能；王涛（1998），男，硕士研究生，研究方向：无人机图像识别；朱桃（1998），男，硕士研究生，研究方向：小目标医学图像处理。0引言2019 年底新型冠状病毒感染（COVID-19）开始出现，并在短时间内蔓延全球。截至到2022年初，新冠感染全球感染人数超过 2 亿人，死亡人数超过百万，相比于其他国家而言，我国对于传染病的防控手改进EfficientNet网络的COVID-19 X光分类刘禅奕1，2，黄丹1，2，薛林雁3，王涛1，2，朱桃1，2（1.四川轻化工大学自动化与信息工程学院，四川 宜宾 644002；2.四川轻化工大学人工智能四川省重点实验室，四川 宜宾 644002；3.河北大学质量技术监督学院，河北 保定 071002）摘要：针对新冠感染蔓延速度快、新冠医学图像的人工诊断耗时长、压力大、医疗资源不平衡等诸多问题，在轻量级网络EfficientNet-B0 的基础上引入新的注意力模块 ECBAM，提出一种 EfficientNet-ECBAM 网络。首先用此模块替换EfficientNet-B0网络结构中SE模块能够改善其因降维操作导致部分细节丢失的问题。其次，因为ECBAM模块能在通道和空间2个维度进行特征提取，亦能改善SE模块提取图片特征信息不充分的问题。在选用的COVID-19胸部X光数据集上进行的实验得出，基于 EfficientNet-B0 网络改进后的 EfficientNet-ECBAM 网络的准确率比经典卷积神经分类网络VGG16、ResNet-50分别提升了3.76个百分点和2.13个百分点，特异性及敏感性等指标也均有提升，模型参数量也分别降低了97.3%、85.6%，比轻量级网络SqueezeNet、MobileNet V1的准确率分别提升了2.97个百分点和2.44个百分点。在消融实验中，改进的 ECBAM模块的各项指标也优于其他注意力模块。实验结果表明，本文提出的EfficientNet-ECBAM网络模型具有分类性能好、参数量低、计算量小的优势，利于部署在经济欠发达地区的医疗机构。关键词：新冠感染；深度学习；EfficientNet；注意力模块中图分类号：TP391.7文献标志码：ADOI：10.3969/j.issn.1006-2475.2023.09.015COVID-19 X-ray Classification Based on Improved Efficientnet NetworkLIU Chan-yi1，2，HUANG Dan1，2，XUE Lin-yan3，WANG Tao1，2，ZHU Tao1，2（1.School of Automation and Information Engineering，Sichuan University of Science&Engineering，Yibin 644002，China；2.Artificial Intelligence Key Laboratory of Sichuan Province，Sichuan University of Science&Engineering，Yibin 644002，China；3.School of Quality and Technical Supervision，Hebei University，Baoding 071002，China）Abstract：In response to many problems such as the rapid spread of new coronary pneumonia，the time-consuming process ofmanual diagnosis using COVID-19 medical images，the imbalance of medical resources and the pressure of doctorsdiagnosis，this paper introduces a new attention module ECBAM on the basis of the lightweight network EfficientNet-B0 and proposes theEfficientNet-ECBAM network.Firstly，replacing the SE module in the EfficientNet-B0 network structure with this module canimprove the problem that some details of the SE module are lost due to the downscaling operation.Secondly，because the ECBAMmodule can extract features in both channel and space dimensions，it can also improve the problem that the SE module extractsinsufficient information of image features.On the selected COVID-19 chest X-ray dataset，compared with the classical convolutional neural classification network VGG16 and ResNet-50，the accuracy of the improved EfficientNet-ECBAM network basedon the EfficientNet-B0 network is improved by 3.76 percentage points and 2.13 percentage points respectively，specificity andsensitivity are also improved.The number of model parameters is also reduced by 97.3%and 85.6%respectively.Compared withthe lightweight network SqueezeNet and MobileNet V1，the accuracy of EfficientNet-ECBAM is improved by 2.97 percentagepoints and 2.44 percentage points respectively.The improved ECBAM module also outperforms other attention modules in the ablation experiments in all metrics.The experimental results show that the EfficientNet-ECBAM network model proposed in this paper has the advantages of good classification performance，low number of parameters and low computation，which is favorable fordeployment in medical institutions in less economically developed areas.Key words：COVID-19；deep learning；EfficientNet；attention module2023年第9期段达到国际领先水平，但是这类具有传播速度快1-2、感染率高3、潜伏时间长，并且有一定的致死率的病毒仍然给我国带来了极大挑战。检测新冠感染常用的方法是核酸试剂4-5。它的原理是利用 RNA 逆转录和荧光定量PCR（聚合酶链式）反应相结合的技术（RT-PCR）检测病毒。在中国国家卫健委印发的 新型冠状病毒肺炎诊疗方案（试行第七版）文件中，影像学特征被列为新冠感染疑似病例临床特征之一6，相比单一的核酸检测，通过胸部X射线或CT图像结合核酸检测的结果对疑似新冠感染患者进行诊断更加权威。而新冠感染传染范围广、传播速度快且新冠感染者在早期阶段表现出的症状容易与感冒发热、腹泻等常见疾病相混淆，这导致疫情期间来医院检查的患者人数增多，及时确诊新冠感染者并不容易，不仅考验医院的保障能力，而且加大了医生的诊断压力，容易出现误诊、漏诊的现象。近年来针对医学图像的人工智能辅助诊断系统在临床中的应用越来越广泛7-8，其中基于深度学习的肺部图像中新冠感染的智能诊断方法备受关注9。如Li等10设计了以ResNet为主干的新冠感染分类模型，Xu 等11采用 3D CNN 方式对新冠感染图像分类，吴辰文等12利用生成对抗网络扩充数据集，并将分割模型和分类模型进行组合来对新冠感染图像进行分类。对于新冠感染，利用卷积神经网络对患者的病理图片进行初步分类的确能够大大减少医生的工作量，对于传统的卷积神经网络分类模型特征提取能力弱、效率低的问题，常通过加深卷积神经网络层数、加宽特征通道WRN13等方式来提取深层次的图像特征以达到提升识别准确率的目的，这无疑会使得网络结构变得复杂，模型参数量变大，消耗计算机资源，不利于部署在经济欠发达地区的医疗机构。而这些地区疫情防控意识不强，相关条件和资源不足，正是疫情防控的薄弱环节。针对上述问题，本文基于轻量级Efficie-ntNet-B0网络，融合改进的注意力机制模块，提出EfficientNet-ECBAM网络模型来对新冠感染、病毒性肺炎、正常肺部的 X光图片进行分类，在保证分类准确率的基础上，减少网络模型参数，使模型能落地在经济欠发达地区的医疗机构，辅助那里的医生对新冠感染进行诊断，缓解他们的诊断压力，提高诊断效率，降低误诊、漏诊的情况，缩短他们与头部医院医生诊断经验和相关资源不足的差距。相比于传统网络分类模型存在具有参数量大、准确率低、对计算机硬件有一定要求导致难以部署的问题，本文模型更具有实际应用前景。1网络架构1.1EfficientNet网络原理随着研究者对卷积神经网络的研究不断加深，从最初的AlexNet14网络到VGG1615、ResNet16残差网络，发现通过单纯地堆叠网络层数等方式来提高准确率不再是评价模型好坏的唯一标准，能用较少的参数，较快的训练速度，得出满意的结果也同样重要。本文主干网络选用2019年由Tan等人17提出的轻量型网络结构EfficientNet。相比于传统的分类网络结构，该网络结构从初始的输入图像分辨率、网络结构深度、宽度这3个方面进行缩放、组合、优化得出高效的搭配方案，在计算资源固定的情况下，最大限度地提高网络性能。EfficientNet的运算原理公式为：N（d，w，r）=i=1sFLii（X）（1）其中，N代表网络模型，d、w、r分别代表缩放网络的深度、宽度、分辨率的系数。i=1s代表连乘运算，F代表网络结构，L代表层数，FLii代表F在i阶段重复了Li次，X是输入特征矩阵，H、W、C分别代表X的高度、宽度、通道数。为了探究在给定计算资源条件下d、w、r对模型准确率的影响，将问题抽象为：Maxd，w，rAccuracy(N(d，w，r)（2）s.t N(d，w，r)=i=1.sFLii(X)（3）Memory（N）target_memory（4）FLOPS（N）target_flops（5）式（2）中 Max Accuracy 代表网络最大精度值，式（3）中s.t代表限制条件，FLii，Hi，Wi，Ci是预设置好的网络结构和输入特征矩阵X的高度、宽度、通道数。式（4）中Memory代表网络参数量，target_memory代表内存限制，式（5）中FLOPS代表浮点运算量，target_flops代表浮点运算次数限制。在这些限制条件和该网络的基础上，作者提出了基于混合因子对网络的深度、宽度、分辨率3个维度进行统一调整的混合缩放方法，计算公式为：depth：d=（6）width：w=（7）resolution：r=（8）s.t.2 2 2 1，1，1其中，是根据计算机资源设置的控制系数，、对应的网络深度、宽度、分辨率的资源分配系数，是通过神经架构搜索6（Neural Architecture Search，NAS）搜索到的。NAS原理是在选中的网络基础上采用某种搜索策略自动对网络结构进行组合测试，性能评估后得出最佳的网络架构组合或者参数，原理如图1所示。图1NAS搜索原理图本文中的 EfficientNet-B0 网络就是借鉴 NAS 多目标神经搜索架构策略18，在B0网络的基础上搜索、的值来确定B0网络的深度、宽度和分辨率。探索出网络结构性能评估搜索策略搜索空间评估性能再反馈刘禅奕，等：改进EfficientNet网络的COVID-19 X光分类95计算机与现代化2023年第9期1.2EfficientNet结构参数本文选用EfficientNet-B0网络作为主干网络，网络结构如表1所示。表1EfficientNet网络结构Stage123456789OperatorConv 33MBConv1,k33MBConv1,k33MBConv6,k55MBConv6,k33MBConv6,k55MBConv6,k55MBConv6,k33Conv1x1&Pooling&FCResolution224 224112 112112 11256 5628 2814 1414 147 77 7Channels32162440801121923201280Layers112233411EfficientNet-B0网络结构包括 2个普通卷积层，16 个 翻 转 瓶 颈 卷 积 层 MBConv（Mobile InvertedBottleneck Convolution），1个平均池化层，1个全连接层。其中MBConv结构包含2个11的卷积层，1个深度可分离卷积卷积层DW（Depth Wise），1个SE通道注意力模块，1个Dropout层。MBConv结构如图2所示，11的卷积层用于升维和降维，DW卷积能减少参数量，Dropout层能防止网络过拟合。SE19模块是一种通道注意力机制模块。1.3引入注意力模块近年来注意力机制20被越来越多的研究者引入深度学习来提高网络模型在任务中的性能，其中CBAM21、ECA22被广泛地使用在各种模型之中。CBAM注意力模块由通道注意力模块CAM和空间注意力模块SAM组成。相比于通道注意力模块，CBAM模块不仅在通道维度上有轻重之分，同时在空间维度上也有重点和非重点区域之分，从空间位置上关注特征图的重要特征，抑制不重要的特征。CBAM模块结构如图3所示。Depwise ConvKK S1/S2Conv11S1SEConv11S1DropoutBNBNSwishBNSwish图2MBConv结构图3CBAM模块结构ECA模块通过一维卷积实现一种不降维的局部跨信道交互策略来提升特征提取能力。一维卷积在每次卷积过程中只与部分通道相作用，相比于全连接的全通道交互，一维卷积既降低了参数，又提高了网络效率。ECA模块结构如图4所示。图4ECA模块结构2算法改进算法改进体现在2个方面：CBAM注意力模块的改进和EfficientNet网络结构中MBConv模块的改进。2.1CBAM注意力机制模块改进在CBAM中通道注意力模块CAM的Shared MLP削减部分参数的操作虽然会减少模型的复杂度，但是也损坏了通道和注意力权重之间直接的对应关系22，丢失了一部分特征细节，效率也不高，CAM模块如图5所示。因而本文将CBAM中CAM模块替换成可通过一维卷积实现不降维提升特征提取能力的ECA模块，取名为ECBAM。相比于原CBAM中的特征通道注意力模块，ECA模块避免了因Shared MLP操作带来的副作用，同时参数量进一步降低，以更高效的方式捕获了跨通道交互的信息。CAM模块如图5所示，ECBAM模块如图6所示。图5CAM模块图6ECBAM模块2.2MBConv结构改进EfficientNet网络的 MBConv模块中采用了 SE注意力模块来加强特征提取，虽然SE模块能给特征图赋予不同的通道权重，但SE模块中挤压激励的操作会使特征图丢失部分细节特征22，且 SE模块只关注了特征图在通道维度上的信息，忽略了特征图在空间维度上的信息，所以本文将MBConv中SE模块替换为ECBAM模块。ECBAM使特征图不会因为维度缩减的操作而丢失信息，同时网络也能在通道和空间2个维度上对图片特征进行更充分的提取。改进后的MBConv模块结构如图7所示。3实验流程与数据集预处理3.1实验平台和实验设置本文实验中，实验的硬件条件是 CPU 采用 i7-Input FeatureCA ModuleSA ModuleOutput FeatureCWHCWHOutput FeatureInput Feature11C 11C 11CCWHCWHSigmoidGAPOutput FeatureInput Feature11C11C11C11C11CCWHAvgPoolShared MLPMazPool+SigmoidOutput FeatureInput FeatureSigmoid11C 11C 11CCWHSA ModuleECA ModuleCWHGAP962023年第9期8700，GPU采用GTX 1070Ti 8 GB，运行内存为16 GB。实验的软件条件是在Win10操作系统下，基于深度学习框架 Pytorch1.7.1，配合 Python3.8.6 编译语言，在Pycharm开发平台上调试，实验流程如图8所示。图8新冠肺炎检测流程图为保证实验的客观性，本文实验选用相同的超参数方法，均采用交叉熵损失函数（CrossEntropyLoss）作为损失函数，使用Adam优化器更新模型参数。每批次送入32张图片，训练周期为90轮，初始学习率为0.001。为避免实验结果出现局部最优而不是全局最优的情况，学习率随着epoch的增大逐步递减，每经过30个epoch学习率缩减为原来的1/10。3.2实验数据集描述本文实验数据集 23 选自kaggle网站中的COVI-D-19 Radiography Database 的数据集（https：/ PRE（precision）来评估模型性能。计算公式如下：ACC=TP+TNTP+TN+FP+FN（9）SEN=TPTP+FN（10）SPE=TPTN+FP（11）PRE=TPTP+FP（12）其中，真阳性TP（True Positive）代表正样本被模型分类为正样本的数量，真阴性 TN（True Negative）代表负样本被模型分类为负样本的数量，假阳性 FP（False Positive）代表负样本被模型分类为正样本的数量，假阴性FN（False Negative）代表正样本被模型分类为负样本的数量。ACC代表分类正确的样本数量占所有样本数量的比例，SEN代表分类正确的正样本数量占所有正样本数量的比例，SPE代表分类正确的负样本数量占所有负样本数量的比例，PRE代表分类正确的正样本数量占所有被模型分类为正样本数量的比例。本文实验中当用模型判断肺部X光医学图片是否为新冠感染时，新冠感染的图片为正样本，正常和病毒性肺炎的图片为负样本。SEN越高代表划分数据集图像旋转缩放尺寸图像预处理COVID-19数据集Conv33Conv11全连接层池化层MBConv6K33MBConv6K55MBConv6K55MBConv6K33MBConv6K55MBConv6K33MBConv1K33Convid-19ViralNormalEfficientNet-ECBAM网络COVID-19新冠感染Viral pneumonia病毒性肺炎Normal正常向左旋转10向右旋转10垂直翻转原图图7改进后的MBConv结构Depwise ConvKK S1/S2Conv11S1ECBAMConv11S1DropoutBNBNSwishBNSwish刘禅奕，等：改进EfficientNet网络的COVID-19 X光分类97计算机与现代化2023年第9期甄别真阳性（TP）的能力越高，SPE越高代表甄别真阴性（TN）的能力越高。4实验结果与分析4.1对比实验为了体现本文方法的有效性，本文将与经典的卷积 神 经 网 络 VGG16，ResNet-50，轻 量 级 网 络SqueezeNet、MobileNet V1、EfficientNet-B0 网络进行对比试验，在相同数据集下不同网络对比结果如表3（粗体为最佳结果）所示。表3相同数据集下不同网络分类性能比较模型VGG16ResNet-50SqueezeNetMobileNet V1EfficientNet-B0EfficientNet-ECBAM准确率/%91.1092.7391.8992.4293.8894.86敏感性/%91.5093.4092.0092.9794.1396.00特异性/%95.7096.6095.8796.4097.0097.93精确率/%91.6793.5092.9093.5794.4696.13参数量1.261082.351077.311053.221064.011063.38106GFLOPs运算量（109）/FLOPs15.54.132.60.590.410.45首 先 从 实 验 结 果 可 以 看 出，改 进 后 的EfficientNet-ECBAM网络在准确率、敏感性、特异性、精 确 率 的 结 果 分 别 为 94.86%、96.00%、97.93%、96.13%，这 4 项指标均高于经典卷积模型 VGG16、ResNet-50和轻量级网络SqueezeNet、MobileNet V1、EfficientNet-B0。其次传统卷积神经网络在参数量和运算量2个方面都远大于轻量级网络，这也是它们对计算资源要求高的一大原因。从轻量级模型参数来看，SqueezeNet 参数量最小但运算量远高于 MobileNet V1、EfficientNet-B0、EfficientNet-ECBAM，这说明对网络的选择不能单从参数量这方面来考虑，EfficientNet-B0的计算量最小，但是前4项指标低于EfficientNet-ECBAM。最后从前4项指标、参数量、运算量的综合表现可以看出改进后的 EfficientNet-ECBAM网络可以在有限的资源条件下，发挥出优异的性能，适合部署在条件欠发达区域的医疗机构。混淆矩阵也是网络模型性能度量的方法，它能够直观地反应出模型分类能力的好坏，每一列代表预测模型的类别，每一行表示数据真实的类别。主对角线表示分类模型能正确分类的个数，颜色越深（值越大），说明分类模型的效果越好。各个模型的混淆矩阵如图 11 所示。从图 11 中可以看出，EfficientNet-ECBAM的正确分类个数为735张，高于传统卷积网络VGG16的701张，ResNet-50的716张，轻量级网络SqueezeNet 的 707 张，MobileNetV1 的 713 张，EfficientNet-B0的722张，体现了EfficientNet-ECB-AM网络良好的分类能力。图11不同网络的混淆矩阵4.2消融实验本文在基于相同主干网络和数据集上，采用不同的注意力模块替换EfficientNet-B0中MBConv模块的SE 结构进行消融实验来验证 ECBAM 模块的性能。替换示意图如12所示，实验结果如表4（粗体为最佳结果）所示，混淆矩阵如图13所示。图12不同注意力模块替换SE结构示意图VGG1623244924312430226COVID-19NormalViral20015010050Predicted LabelsTrue LabelsCOVID-19NormalViralSqueezeNet237212259314821125020015010050COVID-19NormalViralPredicted LabelsTrue LabelsCOVID-19NormalViral2287532538226232MobileNet V125020015010050COVID-19NormalViralTrue LabelsCOVID-19NormalViralPredicted Labels229654255552323225020015010050COVID-19NormalViralPredicted LabelsTrue LabelsCOVID-19NormalViralResNet-502361322548114245EfficientNet-ECBAM25020015010050COVID-19NormalViralTrue LabelsCOVID-19NormalViralPredicted Labels23037424812115244EfficientNet-B020015010050True LabelsCOVID-19NormalViralCOVID-19NormalViralPredicted LabelsDepwise ConvKK S1/S2Conv11S1SEConv11S1DropoutBNBNSwishBNSwishECAECBAMCBAM表4不同注意力模块的分类性能对比单位：%模型EfficientNet-B0EfficientNet-CBAMEfficientNet-ECAEfficientNet-ECBAM准确率93.8894.0594.4094.86敏感性94.1394.4594.5796.00特异性97.0097.1297.2097.93精确率94.4694.6095.2296.13从表4中可以看出经过改进的ECBAM模块在各项指标上均优于其他注意力模块，从图13的混淆矩阵可以看出 EfficientNet-ECBAM 的正确分类个数为735 张，高于 EfficientNet-B0 的 722 张、EfficientNet-CBAM的723张、EfficientNet-ECA的727张。结果表明改进的ECBAM模块相比于其他注意力模块在分类性能上具有更好的表现，也再次验证了EfficientNet-ECBAM网络的有效性。982023年第9期图13不同注意力模块的混淆矩阵5结束语本文结合当前部分经济欠发达地区医疗机构的实际情况，选用轻量级 EfficientNet-B0网络结构，引入 CBAM 和 ECA 模 块 进 行 改 进，并 且 替 换 原 始EfficientNet-B0网络中的 SE 结构，得到 EfficientNet-ECBAM网络模型。此模型相比EfficientNet-B0轻量级网络加强了图片特征的提取能力，提升了模型分类识别的性能，相比于传统卷积神经网络又降低了网络的参数量和计算机的硬件要求，给传统网络模型分类性能弱、难落地在经济欠发达的医疗机构的问题提供了 一 种 解 决 办 法。实 验 结 果 也 表 明 改 进 后 的EfficientNet-ECBAM 网络模型在准确率、敏感性、特异性、精确率指标上表现最优，参数量和运算量相对较小，体现了此网络分类性能强，易于部署的优势。在疫情防控走向常态化的今天，将人工智能运用在医疗辅助诊断领域是一大趋势，不仅是新冠感染，像癌症等疾病都可以用医疗AI的方式协助医生快速了解患者病情，缓解医生的诊断压力，提高诊断效率。同时医疗AI在心理学、中医学等学科也都取得了不错的效果26，未来人工智能在医疗领域的应用会更加普遍和重要。参考文献：1CHEN N S，ZHOU M，DONG X，et al.Epidemiologicaland clinical characteristics of 99 cases of 2019 novel coronavirus pneumonia in Wuhan，China：A descriptive studyJ.The Lancet，2020，395（10223）：507-513.2 YANG X B，YU Y，XU J Q，et al.Clinical course and outcomes of critically ill patients with SARS-CoV-2 pneumonia in Wuhan，China：A single-centered，retrospective，observational study J.The Lancet Respiratory Medicine，2020，8（5）：475-481.3 SILVERMAN J D，HUPERT N，WASHBURNE A D.Using influenza surveillance networks to estimate state-specific prevalence of SARS-CoV-2 in the United StatesJ.Science Translational Medicine，2020，12（554）.DOI：10.1126/scitranslmed.abc1126.4 WHO.Clinical management of severe acute respiratory infection（SARI）when COVID-19 disease is suspected：Interim guidance EB/OL.2021-01-25.https：/apps.who.int/iris/handle/10665/330893.5WHO.Laboratory testing for coronavirus disease 2019（COVID-19）in suspected human cases：Interim guidanceEB/OL.2020-03-02.https：/apps.who.int/iris/ha-ndle/10665/3313292020.6 ELSKEN T，METZEN J H，HUTTER F.Neural architecture search：A survey J.The Journal of Machine LearningResearch，2019，20（1）：1997-2017.7 郑红颖，杨艳，倪佳琪，等.人工智能临床应用研究进展J.护理研究，2019，33（3）：454-458.8 周文康，费艳颖.医疗人工智能前沿研究：特征、趋势以及规制 J.医学与哲学，2021，42（19）：38-44.9 刘汉卿，康晓东，李博，等.利用深度学习网络对医学影像分类识别的比较研究 J.计算机科学，2021，48（z1）：89-94.10 LI L，QIN L X，XU Z G，et al.Using artificial intelligenceto detect COVID-19 and community-acquired pneumoniabased on pulmonary CT：Evaluation of the diagnostic accuracy J.Radiology，2020，296（2）：E65-E71.11XU X W，JIANG X G，MA C L，et al.A deep learning system to screen novel coronavirus disease 2019 pneumoniaJ.Engineering（Beijing），2020，6（10）：1122-1129.12吴辰文，梁雨欣，田鸿雁.改进卷积神经网络的COVID-19 CT影像分类方法研究 J.计算机工程与应用，2022，58（2）：225-234.13ZAGORUYKO S，KOMODAKIS N.Wide residual networksC/Proceedings of the British Machine Vision Conference.2016，87：1-12.14 KRIZHEVSKY A，SUTSKEVER I，HINTON G.ImageNetclassification with deep convolutional neural networksJ.AdvancesinNeuralInformationProcessingSystems，2012：1097-1105.15 SIMONYAN K，ZISSERMAN A.Very deep convolutionalnetworks for large-scale image recognitionJ.ComputerScience，2014（3）：11-18.16 HE K M，ZHANG X Y，REN S Q，et al.Deep residuallearning for image recognitionC/Proceedings of IEEEConference on ComputerVision and Pattern Recognition（CVPR）.2016：770-778.17 TAN M，LE Q V.EfficientNet：Rethinking model scalingforconvolutionalneuralnetworks C /ProceedingsofInternationalConferenceonMachineLearning.2019：6105-6114.18 TAN M X，CHEN B，PANG R M，et al.MnasNet：Platform-aware neural architecture search for mobile C/2019 IEEE/CVF Conference on Computer Vision and Pattern Recognition（CVPR）.2019：2815-2823.19HU J，SHEN L，SUN G，et al.Squeeze-and-excitation networksC/Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition.2018：7132-7141.20 GUO M H，XU T X，LIU J J，et al.Attention mechanismsin computer vision：A surveyJ.arXiv reprint arXiv：2111.07624v1，2021.21 WOO S，PARK J，LEE J Y，et al.CBAM：Convolutionalblock attention module spri