基于注意力的轻量级工业产品缺陷检测网络.pdf

第 49卷 第 11期2023年 11月Computer Engineering 计算机工程基于注意力的轻量级工业产品缺陷检测网络李刚1，2，邵瑞1，2，周鸣乐1，2，李敏1，2，万洪林3（1.齐鲁工业大学（山东省科学院）山东省计算中心（国家超级计算济南中心），济南 250014；2.山东省基础科学研究中心（计算机科学）山东省计算机网络重点实验室，济南 250014；3.山东师范大学 物理与电子科学学院，济南 250358）摘要：工业领域的表面缺陷检测对提高工业产品质量、维护生产安全具有重要意义。因工业产品表面缺陷复杂多样、形状各异、缺陷检测场景和硬件配置不同，对工业产品的表面缺陷检测提出更高要求。基于图像的工业产品表面缺陷检测方法难以兼顾实时性和准确性的要求。为满足工业产品缺陷检测快速准确的需求，提出一种轻量级的缺陷检测网络。该网络由主干网络、多尺度特征聚合网络、残差增强网络和注意力增强网络 4部分组成。其中，主干网络将通道注意力层和坐标注意力层嵌入到特征提取部分，以获取丰富的表面缺陷特征信息，多尺度特征聚合网络则融合深层语义和浅层语义特征信息，残差增强网络关注空间信息，注意力增强网络利用全局特征与局部特征的信息交互，在满足低硬件配置的同时增强模型对复杂多样缺陷的检测性能。实验结果表明，该网络在NRSD-MN、NEU-DET和 PCBData等公开数据集上的精准度、召回率、F1值、mAP0.5和 GFLOPS这 5项指标上优于 YOLOv3-tiny、YOLOv5s、YOLOv7-tiny等同参数量级算法，能有效兼顾工业产品表面缺陷检测场景下实时性和准确性的要求。关键词：表面缺陷检测；注意力机制；轻量级网络；多尺度特征聚合；信息交互开放科学（资源服务）标志码（OSID）：源代码链接：https：/ J.计算机工程，2023，49（11）：275-283.英文引用格式：LI G，SHAO R，ZHOU M L，et al.Lightweight industrial products defect detection network based on attention J.Computer Engineering，2023，49（11）：275-283.Lightweight Industrial Products Defect Detection Network Based on AttentionLI Gang1，2，SHAO Rui1，2，ZHOU Mingle1，2，LI Min1，2，WAN Honglin3（1.Shandong Computer Science Center（National Supercomputer Center in Jinan），Qilu University of Technology（Shandong Academy of Sciences），Jinan 250014，China；2.Shandong Provincial Key Laboratory of Computer Networks，Shandong Fundamental Research Center for Computer Science，Jinan 250014，China；3.School of Physics and Electronic Science，Shandong Normal University，Jinan 250358，China）【Abstract】The detection of surface defects in industry is of great significance in improving the quality of industrial products and maintaining production safety.As surface defects are complex，diverse，and of different shapes，higher requirements are put forward for surface defect detection of industrial products in different defect detection scenarios and hardware configurations.The image-based surface defect detection method for industrial products cannot easily balance the requirements of real-time and accuracy.Thus，a lightweight defect detection network is proposed to meet the speed and accuracy requirements of industrial product defect detection.The proposed network consists of four parts：backbone，multi-scale feature aggregation，residual enhancement，and attention enhancement networks.Among them，the backbone network embeds the channel and coordinate attention layers into the feature extraction section to obtain rich 基金项目：山东省重点研发计划（软科学）项目（2022RZB02012）；泰山学者工程（tsqn202103097）。作者简介：李 刚（1980），男，研究员、博士，主研方向为计算机视觉、深度学习、工业互联网；邵 瑞，硕士研究生；周鸣乐、李 敏，研究员；万洪林（通信作者），副教授、博士。收稿日期：2022-11-15 修回日期：2023-01-26 Email：开发研究与工程应用文章编号：1000-3428（2023）11-0275-09 文献标志码：A 中图分类号：TP3912023年 11月 15日Computer Engineering 计算机工程surface defect feature information.The multi-scale feature aggregation network integrates deep and shallow semantic feature information.The residual enhancement network pays attention to spatial information，and the attention enhancement network utilizes information interaction between global and local features.The model detection performance for complex and diverse defects has to be enhanced while satisfying simple hardware configurations.The experimental results show that the network performs well on publicly available datasets such as NRSD-MN，NEU-DET，and PCBData，with respect to precision，recall，F1 value，and mean Average Precision（mAP）0.5 values.Compared to algorithms such as YOLOv3-tiny，YOLOv5s，and YOLOv7-tiny，it can effectively balance the real-time and accuracy requirements of industrial product surface defect detection scenarios with respect to the five indicators of GFLOPS.【Key words】surface defect detection；attention mechanism；lightweight network；multi-scale feature aggregation；information interactionDOI：10.19678/j.issn.1000-3428.00662700概述 工业领域的表面缺陷检测对提高工业产品（如印制电路板、带钢等）质量、维护生产安全具有重要意义。由于工业产品表面缺陷复杂多样、形状各异、缺陷检测场景和硬件配置不同，因此对工业产品表面缺陷检测提出较高要求。目前将深度学习技术应用到工业领域的检测与分割任务中成为一项主流。文献 1 构建一种二阶段的工业目标检测网络。文献 2 关注全局上下文语义信息，用于带钢的表面缺陷检测。文献 3-4 设计基于深度学习的表面缺陷检测方法。通用的目标检测器分为一阶段、二阶段和无锚 3 类。文献 5-6提出一阶段的通用目标检测器。文献 7-8 对一阶段目标检测器进行优化。文献 9-10 提出二阶段的通用目标检测器。文献 11 提出无锚的通用目标检测器。上述通用的目标检测器主要在自然场景下进行训练，往往不能直接移植到工业场景中。在工业表面缺陷检测方面，文献 12 对轨道缺陷进行无监督检测，文献 13 搭建的网络充分利用金字塔池化模块、多信息集成的上下文信息以及利用注意力机制优化提取丰富的轨道缺陷检测信息，取得较优的检测效果。文献 14 提出利用三重图推理网络 进 行 金 属 表 面 缺 陷 分 割 任 务。文 献15基 于YOLOv3 构建一种轻量级网络，提升绝缘子的定位及 缺 陷 检 测 效 果。文 献16利 用 卷 积 神 经 网 络（Convolutional Neural Network，CNN）对 晶 圆 缺 陷进行分类，并通过改进的 Faster R-CNN 进行缺陷检测。研究人员提出可任意插入使用的注意力方法。文献 17 提出经典的 SENet，它可以被任意地插入到分类网络中，从而在增强分类网络特征提取效果的同时不增加过多参数量。文献 18 提出通道和空间注意力机制（CBAM），同时关注通道和空间上不同维度的特征信息，现在已被广泛应用到各种分类或检测网络中，取得较优的应用效果。文献 19提出坐标注意力，它可以被任意地插入到分类或检测模型中，不仅能捕获跨通道信息，还能捕获方向感知和位置感知信息，有助于模型更加精准地定位和识别感兴趣目标。文献 20 提出 GAM Attention，能够在减少信息弥散的情况下放大跨维度的特征交互。上述工业领域的缺陷检测方法都具有较优的检测性能且满足轻量化的需求，但难以满足在低性能 GPU 上的精度需求。此外，上述检测方法都是根据单一工业缺陷数据进行检测，并没有对模型满足工业领域不同检测任务的需求进行研究。本文针对工业场景下对于缺陷检测精度和速度的双重要求，提出一种轻量级目标检测网络。该网络分为主干网络、多尺度特征聚合网络、残差增强网络和注意力增强网络 4个部分。本文网络不再采用以高参数 量、高 训 练 成 本 为 代 价 换 取 检 测 精 度 的Transformer21，而是考虑了工业检测场景，将轻量且即插即用的注意力机制融入到检测器中，同时将不同深浅语义的信息在多尺度特征聚合网络中进行特征融合。最后，为了加强深层语义特征的表示能力，将全局特征与局部特征进行信息交互。1网络结构 本文提出的工业领域表面缺陷检测网络分为主干网络、多尺度特征聚合网络、残差增强网络和注意力增强网络 4个部分，其结构如图 1所示。主要创新点包括：1）使用轻量化的残差结构作为主干网络，并采用注意力机制对残差块进行特征提取的增强；2）使用特征金字塔网络聚合多尺度特征图，使得模型的特征具有多尺度语义信息；3）设计基于残差模块和注意力增强模块的融合网络，并对特征提取进行加强，从而达到更优的表面缺陷检测效果。276第 49卷 第 11期李刚，邵瑞，周鸣乐，等：基于注意力的轻量级工业产品缺陷检测网络1.1主干网络本文将主干网络设计为 5个特征提取部分，使用步长为2的33卷积进行降采样。令输入单个特征提取部分的特征图表示为 F，在经过单个特征提取部分后生成的特征图表示为F。F的生成过程如下：F1=S(B(Conv23(F)（1）F2=CCL(B(Conv13(S(B(Conv11(F1)（2）F=CCDL(S(F2+F1)（3）其中：S为 SiLU 激活函数；B为批标准化；Conv23表示步长为 2 的 33 卷积；Conv11表示步长为 1 的 11 卷积；Conv13表示步长为1的33卷积；CCL为空间注意力层；CCDL为坐标注意力层。CCL可以看成 1个轻量计算单元，用于实现通道注意力。通道注意力表达式如下：MC=Sigmoid(MMLP(Concat(MaxPool(F)AvgPool(F)（4）其中：MaxPool 为全局最大池化；AvgPool 为全局平均池化；Concat为以通道维度进行特征图拼接操作。MMLP表达式如下：MMLP=W1(ReLU(W0(FConcat)（5）其中：W0为通道数 2C/r，r 为缩减率；W1为通道数 C。最后，将 MC和输入特征图 F 做乘法操作，得到最终生成的特征。此外，本文为每个特征提取部分引入坐标注意力层（CDL）来进一步提高网络的特征表示能力。在结构方面，CDL由坐标注意力组成，将通道注意力分解为 2个一维特征编码过程，分别沿 2个空间方向聚合特征。坐标注意力的表达式如下：Mh=Sigmoid(W1(h_att)Mw=Sigmoid(W1(w_att)（6）其中：W1表示通道数为 C的 11卷积；h_att为在高度方向上的注意力；w_att 为在宽度方向上的注意力。h_att和 w_att表达式如下：h_attw_att=SSplit(MMLP(Concat(AvgPoolh(F)AvgPoolw(F)（7）其中：SSplit为拆分操作；AvgPoolh为沿高度方向进行压缩的全局平均池化；AvgPoolw为沿宽度方向进行压 缩 的 全 局 平 均 池 化。它 们 将 特 征 图 F 压 缩 为FC1W和 FCH1大小。MMLP表达式如下：MMLP=ReLU(BN(W0(FConcat)（8）其中：W0表示通道数为 C/r的 11 卷积，r为缩减率；BN 为批标准化。将 Mh和 Mw与输入特征图 F同时做乘法操作得到最终生成的特征。本文所提的主干网络服务于工业表面缺陷检测网络，仅由5个特征提取部分组成，无须构建全连接层。本文所提主干网络的单个特征提取部分结构如图2所示。图 1工业产品表面缺陷检测网络结构Fig.1Structure of industrial product surface defect detection network图 2单个特征提取部分的结构Fig.2Structure of the individual feature extraction section2772023年 11月 15日Computer Engineering 计算机工程1.2多尺度特征聚合网络本文提出的多尺度特征聚合网络使用3个特征聚合组，其结构如图3所示。第1个特征聚合组直接使用主干网络的特征，后2个聚合则与FPN等不同，它们不是聚合来自上一层的特征聚合组，而是聚合来自更深层次的语义特征，即经过残差注意力和注意力增强提取后的信息。对于输入图像 F，将主干网络最后 3个特征提取部分的输出特征表示为：BF=B3B4B5（9）将多尺度特征聚合网络的输出、残差增强网络和注意力增强网络的输出分别表示为：MF=M3M4M5（10）RF=R3R4R5（11）AF=A3A4A5（12）多尺度特征聚合网络中 M5的表达式如下：M5=Conv1(Conv1(Conv3(Pool(B5)（13）其中：Conv1 为 11 卷积；Conv3 为 33 卷积；Pool为SPPF 模块；B5 表示来自主干网络中特征提取部分 5的输出。多尺度特征聚合网络中 M4的表达式如下：M4=Conv3(Concat(up(Conv1(A5)B4)（14）其中：B4 表示来自主干网络中特征提取部分 4 的输出；A5 表示来自注意力增强网络中注意力模块 1 的输出；up为上采样操作。多尺度特征聚合网络 M3的表达式如下：M3=Conv3(Concat(up(Conv1(A4)B3)（15）其中：B3表示来自主干网络中特征提取部分3的输出；A4表示来自注意力增强网络中注意力模块2的输出。1.3残差增强网络本文在多尺度特征聚合网络后接入残差增强网络，使得多尺度特征聚合网络能够聚合更深层次语义的特征信息。该网络由 3 个残差模块组成，单个残差模块结构如图 4所示。与主干网络不同，残差增强网络中的每个残差模块不需要降采样，只采用 2 个卷积组，分别是 11和 33。每个残差模块都设计相同的注意力残差边，用于实现注意力的空间关注。令输入单个残差模块的特征图表示为 F，单个残差模块的表达式如下：图 3多尺度特征聚合网络结构Fig.3Structure of multi-scale feature aggregation network图 4单个残差模块结构Fig.4Structure of a single residual module278第 49卷 第 11期李刚，邵瑞，周鸣乐，等：基于注意力的轻量级工业产品缺陷检测网络F=ReLU(F+ConvBlock3 3()ConvBlock1 1()F+RResAttention(F)（16）其中：ConvBlock33和 ConvBlock11分别为 33 卷积组和 11 卷积组；RResAttention表示将输入的特征图 FCHW分别经过全局最大池化和全局平均池化，得到2个 F11HW大小的特征图。之后，将这 2个特征图进行相加操作，经过 1个 33卷积生成具有信息关注能力的残差边，其表达式如下：RResAttention=Conv3 3(AvgPool(F)+MaxPool(F)（17）其中：Conv33表示步长为 1、填充为 1 的 33 卷积；MaxPool 为 全 局 最 大 池 化；AvgPool 为 全 局 平 均池化。1.4注意力增强网络本文为充分利用更深层次的语义信息，从而提升轻量级工业表面缺陷检测网络的特征提取能力，设计注意力增强网络。该网络非常简便，可以即插即用。注意力增强网络包括全局语义信息和局部语义信息 2 部分。注意力增强网络将两者进行融合，由 3 个注意力增强模块组成，其单个注意力增强模块结构如图 5所示。单个注意力增强模块的表达式如下：AAttentionBlock=FSigmoid(MMLP3(MMLP2(F)+MMLP1(F)（18）MMLP3表达式如下：MMLP3=Sigmoid(Conv1C(ReLU(Conv1C/r(F)（19）其中：Conv1C表示通道数为 C 的 11 卷积；Conv1C/r表示通道数为 C/r的 11 卷积；r为缩减率。MMLP2表达式如下：MMLP2=BN(Conv1C(ReLU(Conv1C/r(F)（20）MMLP1表达式如下：MMLP1=BN(Conv1C(ReLU(Conv1C/r(AvgPool(F)（21）1.5损失函数本文提出的损失函数分为边界框回归损失、置信度损失和分类损失，采用 GIoU 计算边界框回归损失，其表达式如下：GGIoULoss=1-(IIoU-C-()A BC)（22）其中：IIoU表示交并比；A 和 B 分别表示预测框和真实框；C表示包围 A和 B的最小包围框。本文采用二元交叉熵损失函数计算置信度损失和分类损失，表达式如下：BBCELogitsLoss=-1Nn=1Nyn loga()Sigmoid()xn+()1-yn loga()1-Sigmoid()xn（23）其中：N为总量；x为样本；y为标签。为了使正负样本均衡，本文网络还在二元交叉熵损失函数的基础上采用 Focal Loss 计算置信度损失和分类损失，其表达式如下：FFocal Loss=-(1-t)rloga(t)（24）其中：r为常数，当其为 0时，Focal Loss与 BCELogits Loss一致。t可表示为：t=py=11-p其他（25）2实验与结果分析 2.1数据集本 文 的 实 验 数 据 集 包 括 NRSD-MN22、NEU-DET23和 PCBData24。NRSD-MN 数 据 集 包 含 4 101 张轨道表面缺陷图像，其中包括 3 936 张人造轨道表面缺陷图像和 165 张自然轨道表面缺陷图像。本文选择 4 101张图像作为训练集和测试集，并与最先进的算法进行比较，以 2 971张图像作为训练集，1 130 张图像作为测试集。NEU-DET 数据集是1个缺陷分类数据集。热轧钢板的缺陷包括裂纹、夹杂、斑块、麻点表面、轧入氧化皮和划痕 6 种类型。NEU-DET 数据集在每种缺陷类型上均有 300 张图像，共有 1 800 张图像。本文选取 1 260 张图片作为训练集，540 张作为测试集。PCBData 数据集包含图 5单个注意力增强模块结构Fig.5Structure of single attention enhancement module2792023年 11月 15日Computer Engineering 计算机工程1 500 张 PCB 图像，涵盖 6 种类型的 PCB 缺陷，每张图 像 分 辨 率 为 640640 像 素。本 文 选 取 其 中1 230张图像作为训练集，270张图像作为测试集。2.2实验参数本文实验均是在Windows 10操作系统、PyTorch 1.11的 环 境 下 实 现。在 NRSD-MN、NEU-DET 和PCBData 数据集上的全部对比实验选用 2 种硬件配置：高性能硬件配置为 CPU IntelCoreTM i9-10900K，内存 64 GB，GPU NVIDIA GeForce RTX 3080；低性能 硬 件 配 置 为 CPU Intel CoreTM i7-11800H，内 存16 GB，NVIDIA GeForce RTX 3060 Laptop GPU，CUDA 核心仅为高性能硬件配置的 1/3。超参数设置：训练图像大小为 640640像素，batch_size大小为8，所有模型均训练 300 个 epoch 以及均不使用预训练权重，初始学习率设置为 0.01，优化器采用 SGD。2.3评估指标本文对模型性能优劣的评价指标为精准度（P）、召 回 率（R）、F1 值（F1）、mAP0.5（mAP0.5 表 示IoU 阈值在 0.5上的 mAP）、GFLOPS。精准度和召回率的表达式如下：P=TTPTTP+FFP（26）R=TTPTTP+FFN（27）F1的表达式如下：F1=2 P RP+R（28）mmAP的表达式如下：mmAP=n=1N01p()r drN（29）2.4对比实验本文评估该模型在工业表面缺陷数据集 NRSD-MN、NEU-DET和 PCBData上的缺陷检测性能，并与其他目标检测模型进行比较。表 1表 3所示为不同模 型 在 高 性 能 硬 件 配 置（GPU NVIDIA GeForce RTX 3080）下的实验结果，加粗表示最优数据。表 4表 6 所示为不同模型在低性能硬件配置（NVIDIA GeForce RTX 3060 Laptop GPU）下的实验结果。表 2高性能配置下不同模型在 NEU-DET数据集上的实验结果 Table 2Experimental results among different models on the NEU-DET dataset under high performance configuration模型YOLOv3-tinyYOLOv4-tinyYOLOv5sYOLOv7-tinyFDDM-s本文模型参数量/1068.686.277.036.027.052.31P/%42.4030.8570.5065.4071.6072.60R/%67.0081.2371.9069.7071.4071.90F1/%51.9344.7071.1967.4871.5072.24mAP0.5/%52.3050.6473.4070.9074.4075.10GFLOPS13.012.917.613.216.09.0表 1高性能配置下不同模型在 NRSD-MN数据集上的实验结果 Table 1Experimental results among different models on the NRSD-MN dataset under high performance configuration模型YOLOv3-tiny7YOLOv4-tiny8YOLOv5sYOLOv7-tiny25FDDM-s26本文模型参数量/1068.666.267.026.017.032.30P/%86.3064.2190.9087.1089.8091.20R/%73.8077.2477.1073.9075.9078.00F1/%79.5670.1283.4079.9582.2684.08mAP0.5/%77.6075.7180.3078.8980.5081.10GFLOPS13.012.917.513.216.08.9表 3高性能配置下不同模型在 PCBData数据集上的实验结果 Table 3Experimental results among different models on the PCBData dataset under high performance configuration模型YOLOv3-tinyYOLOv4-tinyYOLOv5sYOLOv7-tinyFDDM-s本文模型参数量/1068.686.277.036.027.052.31P/%92.1074.3294.6095.1095.6095.70R/%91.3095.6296.0092.2095.5096.30F1/%91.6983.6395.2993.6295.5496.00mAP0.5/%95.195.697.996.098.198.6GFLOPS13.012.917.613.216.09.0280第 49卷 第 11期李刚，邵瑞，周鸣乐，等：基于注意力的轻量级工业产品缺陷检测网络表 4低性能配置下不同模型在NRSD-MN数据集上的实验结果Table 4Experimental results among different models on the NRSD-MN dataset under low performance configuration模型YOLOv3-tinyYOLOv4-tinyYOLOv5sYOLOv7-tinyFDDM-s本文模型参数量/1068.666.267.026.017.032.30mAP0.5/%77.4076.0079.8779.1080.4081.40GFLOPS13.012.917.513.216.08.9表5低性能配置下不同模型在NEU-DET数据集上的实验结果Table 5Experimental results among different models on the NEU-DET dataset under low performance configuration模型YOLOv3-tinyYOLOv4-tinyYOLOv5sYOLOv7-tinyFDDM-s本文模型参数量/1068.686.277.036.027.052.31mAP0.5/%53.152.273.670.874.675.4GFLOPS13.012.917.613.216.09.0表 6低性能配置下不同模型在PCBData数据集上的实验结果Table 6Experimental results among different models on the PCBData dataset under low performance configuration模型YOLOv3-tinyYOLOv4-tinyYOLOv5sYOLOv7-tinyFDDM-s本文模型参数量/1068.686.277.036.027.052.31mAP0.5/%93.894.797.896.298.098.7GFLOPS13.012.917.613.216.09.02.5结果分析从高性能配置实验环境下本文模型在NRSD-MN数据集上的实验结果可以看出：本文模型的参数量是YOLOv7-tiny25的 38%，但是在 F1和 mAP0.5这 2个评价指标上分别提高 4.13和 2.21个百分点，相比高于本文模型4倍参数量的YOLOv3-tiny，在2个指标上分别提高 4.52 和 3.50 个百分点。此外，本文复现了文献 26 的研究成果，为保证参数量相当，本文将其研究成果采用低参数量的YOLOv5s进行复现。从表 1可以看出，本文模型在 P、R、F1、mAP0.5、GFLOPS这 5个指标上均优于 YOLOv3-tiny、YOLOv4-tiny、YOLOv5s、YOLOv7-tiny 和 FDDM-s。同时，本文模型在NEU-DET和PCBData数据集上具有较优的泛化能力（如表2和表3所示），说明本文模型适用于工业领域的轻量级工业表面缺陷检测。从表4表6可以看出，本文模型在参数量和 GFLOPS最低的基础上取得较优的mAP0.5结果。YOLOv5s 和本文模型在不同数据集上的检测结果分别如图 6图 8 所示。从图 6图 8 可以看出，YOLOv5s有漏检和误检现象，本文所提模型的检测效果优于 YOLOv5s。图 6不同模型在 NRSD-MN数据集上的检测结果对比Fig.6Comparison of detection results among different models on the NRSD-MN dataset2812023年 11月 15日Computer Engineering 计算机工程2.6消融实验在消融实验中，本文将主干网络（不添加注意力）简称为 R，将主干网络（包含 CL 和 CDL 结构）简称为 R+CC，将多尺度特征聚合网络简称为 MF，将残差增强网络简称为 RA，将注意力增强网络简称为 CN。本文在 3 个数据集上均进行消融实验，结果如表 7表 9所示。从表 7可以看出，以 R+CC+MF+RA+CN（本文模型）为基线，在减少主干网络中的注意力机制 CC 后，R+MF+RA+CN 网络的 F1、mAP0.5 分别减少 1.09 和 0.6 个百分点。在去除注意力增强网络 CN 后，R+MF+RA 网络与 R+MF+RA+CN 网络相比在 F1、mAP0.5 指标上分别减少 1.75 和 1.6 个百分点。在继续减少残差增强网络 RA 后，R+MF 网络与 R+MF+RA 网络相比在 F1、mAP0.5 指标上分别减少 2.25和 1.2个百分点，充分证明本文所提主干网络中注意力机制、注意力增强网络和残差增强网络有助于改进本文模型性能。从表 8 和表 9 可以看出，本文模型分别在 NEU-DET和 PCBData数据集上的消融实验结果也很好地证明这一点。3结束语 针对工业产品表面缺陷，本文提出一种基于全过程注意力增强的网络结构。将轻量化的残差结构作为主干网络，采用注意力机制对残差块进行特征提取的增强，构建特征提取能力强的提取模块，并对提取模块结构进行堆叠形成主干网络。同时，使用特征金字塔网络聚合多尺度、多深浅语义的特征图，使得模型的特征具有多尺度信息。在此基础上，通过对残差模块和注意力增强模块进行组合，增强对多尺度特征聚合网络输出的特征图特征的提取，从而达到更优的表面缺陷检测目的。在数据集上验证本文模型及每个模块的有效性，实验结果表明，本文模型具有较优的检测性能。下一步将面向工业产品图 7不同模型在 NEU-DET数据集上的检测结果对比Fig.7Comparison of detection results among different models on the NEU-DET dataset图 8不同模型在 PCBData数据集上的检测结果对比Fig.8Comparison of detection results among different models on the PCBData dataset表 7在 NRSD-MN数据集上的消融实验结果 Table 7Results of ablation experiments on the NRSD-MN dataset%模型R+CC+MF+RA+CNR+MF+RA+CNR+MF+RAR+MFP91.290.087.488.4R78.077.075.971.4F184.0882.9981.2478.99mAP0.581.180.578.977.7表 8在 NEU-DET数据集上的消融实验结果 Table 8Results of ablation experiments on the NEU-DET dataset%模型R+CC+MF+RA+CNR+MF+RA+CNR+MF+RAR+MFP72.662.343.943.1R71.9073.1072.6059.70F172.2467.2654.7150.05mAP0.575.172.758.449.1表 9在 PCBData数据集上的消融实验结果 Table 9Results of ablation experiments on the PCBData dataset%模型R+CC+MF+RA+CNR+MF+RA+CNR+MF+RAR+MFP95.796.195.794.8R96.395.792.894.1F196.0095.8994.2294.44mAP0.598.698.397.296.8282第 49卷 第 11期李刚，邵瑞，周鸣乐，等：基于注意力的轻量级工业产品缺陷检测网络中的微小缺陷和伪装目标检测，设计轻量级优化方法，实现可满足实时性和准确性要求的轻量级微小缺陷检测网络。参考文献 1 LUO J X，YANG Z Y，LI S P，et al.FPCB surface defect detection：a decoupled two-stage object detection framework J.IEEE Transactions on Instrumentation and Measurement，2021，70：1-11.2 YANG Z K，ZHU W，MA F，et al.Global context network for steel surface defect detection C/Proceedings of the 3rd International Conference on Unmanned Systems.Washington D.C.，USA：IEEE Press，2020：985-990.3 TSAI D M，JEN P H.Autoencoder-based anomaly detection for surface defect inspection J.Advanced Engineering Informatics，2021，48：101272.4 H