基于改进ConvNeXt的软塑包装表面异常检测算法.pdf

计算机与现代化JISUANJI YU XIANDAIHUA2023年第8期总第336期收稿日期：2023-01-16；修回日期：2023-02-26作者简介：农皓程（1998），男，云南文山人，硕士研究生，研究方向：机器人，机器视觉，E-mail：；通信作者：任德均（1971），男，副教授，博士，研究方向：机器智能，机器视觉，E-mail：；任秋霖（1995），男，硕士研究生，研究方向：机器视觉，异常检测，E-mail：；刘澎笠（1997），男，硕士研究生，研究方向：嵌入式系统，深度学习，E-mail：；黄德成（1996），男，硕士研究生，研究方向：机器视觉，深度学习。文章编号：1006-2475（2023）08-0012-060引言软塑是日常生活中最常见的产品包装之一，其使用塑料膜热封的软包装形式不仅降低生产成本，也给人们的携带与使用带来巨大便利。随着生产水平提高与市场竞争，企业对于软塑包装外观要求越来越高1-2。而在现有的生产技术下3，在包装过程中，会因为设备故障、操作不当或其他原因造成包装破裂4，从而形成表面包装缺陷不合格品。企业希望通过现有技术实现生产过程中对每一个产品进行实时在线检测，将不合格品在线剔除，以减少产品生产周期。相较于人工分类存在成本高、速度慢，易出现分类错误的情况，机器视觉占有绝对优势5，无论是成本还是速度、精度都远胜于人工方式。而传统机器视觉的应用场景单一固定，受工业生产中复杂多变的场景如光照变化、遮挡、速度抖动等情况影响适应性差。近年来发展的以卷积神经网络为代表的深度学习模型，更是极大地推动了机器视觉的发展6，这使得基于深度学习的机器视觉技术快速地应用于各种工业应用场景中。Tabemik 等人7提出利用卷积神经网络训练缺陷样本来进行分类判断划痕缺陷；Shang等人8利用Canny边缘检测算法和直线拟合裁剪目标区域，然后使用 InceptionV3进行铁轨缺陷分类，该方法结合传统图像处理和深度学习方法，能够快速有效地对铁基于改进ConvNeXt的软塑包装表面异常检测算法农皓程，任德均，任秋霖，刘澎笠，黄德成（四川大学机械工程学院，四川 成都 610065）摘要：针对人工检测软塑包装存在速度慢且易受主观因素影响造成误检等问题，以及基于深度学习的机器视觉中负样本数量少、获取困难等客观原因，本文以抽纸外表面为研究对象，提出了基于ConvNeXt的非对称对偶网络的抽纸包装表面质量检测方法。首先根据工业现场采集图片状况，使用机器视觉中基于阈值分割及图像滤波的方法对图像进行前景提取等预处理；之后，根据图片特征及异常特点，构建异常检测网络结构；最后将预处理后的图片构建为训练集与测试集，训练并测试抽纸包装表面质量检测网络。实验结果表明，在抽纸外包装表面缺陷检测中，图片级AUROC为99.75%，像素级AUROC为99.37%，单张检测时间为45 ms，满足工业实时性检测要求。关键词：深度学习；抽纸外包装；对偶网络；异常检测中图分类号：TP391.41文献标志码：ADOI：10.3969/j.issn.1006-2475.2023.08.003Surface Anomaly Detection Algorithm of Flexible Plastic Packaging Based on ImprovedConvNeXtNONG Hao-cheng，REN De-jun，REN Qiu-lin，LIU Peng-li，HUANG De-cheng（School of Mechanical Engineering，Sichuan University，Chengdu 610065，China）Abstract：As for the artificial detection of flexible plastic packaging is slow and easily influenced by subjective factors whichbring the problems such as error checking，as well as machine vision based on the deep learning only got a few of negative samplewhich is difficult to obtain，the article proposed a ConvNeXt based asymmetirc dual network method to detect the outer surface ofthe tissue which is taken as the research object.Firstly，the method of machine vision based on threshold segmentation and imagefiltering is used to preprocess the image foreground extraction and correction，according to the situation of the industrial field images collected.Then，the anomaly detection network structure is constructed according to the characteristics of images.Finally，the preprocessed images were constructed as data sets to train and test the surface quality detection network of tissue.As a result，the experiment shows that the image-level AUROC is 99.75%，the pixel-level AUROC is 99.37%，and the detection time is 45ms.The result meets the requirements of industrial real-time detection.Key words：deep learning；tissue；dual network；anomaly detection2023年第8期轨缺陷进行检测识别；李建明等人9使用YOLO-V3来检测线缆包装，先使用 YOLO-V3 来定位目前区域，然后使用Inception V3分类网络对包装缺陷进行实时在线检测。故自深度学习模型被验证在图片特征提取具有强大的优势后，基于有监督深度学习方法在产品缺陷检测、缺陷分类以及分割等方面得到了广泛应用10。对于应用卷积神经网络的缺陷检测，在网络监督训练过程中依赖大量人工标记缺陷样品的数据进行训练，由于工艺及设备的改进，在生产过程中产生更少的缺陷样品，此外，可能会产生新的缺陷类型11。因此，在工业生产中很难在低缺陷样品率的条件下训练有监督的缺陷检测网络。相反，可以利用工业生产的大量没有缺陷的正样本来训练异常检测网络12，使其拥有获取正样本特征之外的异常特征的能力，这种基于正样本训练网络的方式更加符合工业领域的异常检测场景。图像异常检测是一种特殊的二元分类问题，它是指在图片数据中发现不符合预期规律特征的问题，而这些不满足规律要求的特征数据通常被称为异常，又被称为离群值13。目前常见的基于深度学习的异常检测方法大致可分为距离度量、分类面构建、图像重构以及结合传统算法。基于距离度量的方法尝试学习正样本的分布特征并使其尽量紧凑，通过计算待测样本分布特征与正常特征之间的距离判定异常，但该方法需要人工指定特征中心14；基于分类面构建方法中一类为通过将单类正常样本经过几何变换构建成多类样本后训练分类器，在图像空间中建立分类曲面，实现对待测样品中潜在异常的检测15，另一类尝试结合传统方法的OC-SVM构建尽量贴合正样本分布的分类面来区分异常；基于图像重构的方法使用正样本训练自编码器或是生成式对抗网络（GAN），使其学习正常样本的分布模式，之后对待测样品图像进行重构，再对重构前后图像差异进行异常检测。结合传统方法的异常检测使用神经网络进行特征提取后通过传统方法对提取特征分类以实现异常检测，Gupta 等人16使用ImageNet预训练的网络提取正样本特征，再借助OC-SVM对异常图像进行分类，但该方式仅能够对图像进行简单的二分类。近年来研究指出，基于特征的异常检测方法在一定程度上优于图像重构方法17，尤其是使用预训练出的具有较强特征识别能力的深度卷积网络时，异常检测效果更佳。Wang等人18提出师生网络特征金字塔框架用于异常检测，获得了更优的像素级检测效果。基本原理为输入相同的正样本图片，使复杂且拥有良好泛化能力的教师网络输出的特征图作为学生网络的优化目标，训练模型相对简单的学生网络，使其拥有与教师网络相近甚至更优的正样本特征提取性能，由于学生网络只学习到正样本的特征提取方式，若此时输入负样本，则导致教师网络与学生网络输出的特征图具有较大差异，再对比二者差异进行异常检测。经过上述对于传统机器视觉及有监督深度学习算法在软塑包装生产线缺陷检测的局限性简要分析，为满足本文表面缺陷检测要求，受师生网络启发，本文使用基于对偶网络框架的异常检测算法对抽纸外包装进行异常检测。本文算法对输入图片样本进行异常检测的总体流程为，首先对工业现场采集到的图片进行预处理，去除干扰后提取前景，获得只有抽纸包装的图片，将图片送入对偶网络进行异常检测，输出异常检测结果，再用一系列评价指标衡量异常检测效果。1图片预处理对相机采集到的图片进行预处理的目的主要是尽量消除图片中的噪声干扰或冗余信息，凸显用于图像处理的主要特征，因此对采集到的图片进行高斯滤波，为了避免算法对于图片背景信息的不必要处理，通过阈值分割或边缘检测的方式将抽纸部分从背景中提取出来，使得抽纸包装尽量充满整张图片，再将图片进行尺寸缩放，以便于网络训练及测试时能够更好地提取抽纸包装表面分布特征。图1所示为现场采集的4张图片，均为生产线上在成像系统中拍照采集的图片，可以看出图片中包装纸在黑色背景下对于整张图片的占比较小，为了能够有更好的检测效果以及提升检测速度，需要对图片作一个前景提取的预处理。预处理过程大致分为灰度化、滤波、阈值分割、前景提取。图1现场采集部分图片根据现场采集图特点，本文对图片进行灰度化后采用高斯滤波方式滤去图片中的高斯噪声，在阈值分割阶段，根据图片特点使用合适的阈值分割算法。由于现场采集图常会出现图2所示的缺陷，即包装纸侧面的透明包装由于工艺原因出现翘边，这部分翘边在图片中的灰度与黑色背景对比度较小，但仍需提取出来以便后续处理。如果人为选取全局阈值，则较难保证每张图片完美适应固定阈值，且该方式在现场成像系统随时间发生变化时受影响较大，易出现阈值分割失效情况。直方图分割算法可以根据直方图波峰波谷之间的关系自动选出较好的阈值，但是对于图2（a）所示前景与背景对比度较低的情况，透明翘边易被忽略。自适应阈值法适用于光照不均匀的场合。农皓程，等：基于改进ConvNeXt的软塑包装表面异常检测算法13计算机与现代化2023年第8期（a）OTSU分割灰度图（b）OTSU分割二值图图2带透明翘边的OTSU阈值分割相比之下，最大类间方差法（OTSU）具有较好的分割效果，该方法是一种全局二值算法，其根据图像的灰度特性，将图像分为前景和背景部分，使得这2个部分的类间方差最大，该阈值便为接近最佳阈值19。假设存在阈值TH把图片分为前景C1（其灰度值大于等于TH）和后景C2，这2个类像素各自均值分别为m1、m2，全局像素均值为mG，像素被分为C1和C2的概率分别为p1和p2，因此如公式（1）和公式（2）所示：p1 m1+p2 m2=mG（1）p1+p2=1（2）那么类间方差如公式（3）所示：2=p1()m1-mG2+p2()m2-mG2（3）将上述式子简化如公式（4）得。2=p1p2(m1-m2)2（4）求得上式取最大值对应的灰度值即为所求阈值。图2（b）所示为图2（a）使用最大类间差分法作阈值分割后的二值图，可以看出该方法对于透明翘边有较好的分辨效果。由于现场包装的倾斜程度较小，且特征提取网络具有一定的旋转不变性，较小的包装倾斜对于检测的影响可以忽略，另外考虑到仿射变换属于耗时操作20，故预处理中忽略图片矫正步骤。因此，可直接在阈值处理后的图片生成最小外接矩形进行前景提取。提取后的图片被缩放至224224的尺寸，便于深度学习网络训练与检测。2抽纸外包装异常识别网络2.1网络结构设计本文以师生教学思想为核心，参考Wang等人18提出的STFPM（基于师生网络特征金字塔框架构建的异常检测网络）框架，构建非对称对偶网络，基本原理为构建特征提取与特征估计网络，其中，特征提取网络拥有较强泛化能力，能够提取多种特征，尤其是对于正样本的正常模式和结构的表征能够区分图像异常模式的表征，与特征提取网络拥有相似结构的特征估计网络则通过知识蒸馏的方式，从提取网络中学习与其提取正常样本特征相近甚至更优的能力21，其中，估计网络可以选择相对轻量的网络实现模型压缩效果。在进行异常检测时，估计网络与提取网络对同一张图片进行推理，对于测试图像中的正常特征，估计网络与提取网络的不同深度特征之间的匹配度相似性高，有非常小的匹配距离，对于异常特征，由于估计网络并未学习如何关于异常模式的特征匹配关系，难以建立正确的异常特征图，因此在图片相应的像素区的特征图与提取网络构建的不同深度特征图有较低相似度，从而有较大的匹配距离，根据对偶网络在不同深度特征图的匹配距离计算结果映射到原图中，便能识别出测试样本中是否存在异常区域以及存在时异常区域的位置22。Liu等人23参考Transformer模型构建过程，用纯卷积网络构建出了性能更优的 ConvNeXt 网络。因此，使用ConvNeXt网络来构建本文网络，如图3所示为ConvNeXt网络的基础残差块ConvNeXt Block的结构图，模块的处理过程相比于 ResNet的 Block，在使用更少激活函数的同时将ReLU替换为GELU，使用更少Batch Normalization操作且将其换为Layer Normalizaiotn，获得了更高的准确率23。图4为在残差块基础上构建的ConvNeXt-Tiny网络结构图，由于本文仅用该网络的一部分构建异常检测网络，因此，图4 图3ConvNext基本残差块结构图图4ConvNeXt-Tiny网络前3层结构图2242243Conv2dk4，s4Layer NormConvNeXt Block3Dim=96565696DownsampleConvNeXt Block3Dim=192DownsampleConvNeXt Block9Dim=38428281922242243Depthwise Conv2d k7，s1，p3Layer NormConv2d k1，s1GELUConv2d k1，s1Layer ScaleDrop Pathhwdimhwdimhwdimhwdim142023年第8期仅显示了本文构建异常检测所用到的前3层网络，可见输入一张2242243的图片，每经过一层模块（由虚线框出），都会产生不同尺寸和通道数的特征图，对图像的语义特征进行不同程度的提取，其中的Downsample模块为对输入特征图先进行一次LayerNorm和stride为2，padding为0，卷积核为22的卷积操作。在 构 建 对 偶 网 络 过 程 中，特 征 提 取 网 络 为ConvNeXt-Tiny 网 络，特 征 估 计 网 络 源 于 在ConvNeXt-Tiny网络基础上进行改动，构成非对称对偶网络。网络中，提取网络需要有很强的特征提取能力，能够产生通用的视觉表征，从头训练这样的深度网络比较困难，根据迁移学习技术24，使用在 ImageNet数据集上训练的ConvNeXt-Tiny网络作为教师网络。网络具体结构如图5所示。图5基于ConvNeXt的非对称对偶网络对偶网络中的2个网络分别可以分为3层，每一层都将上一层的输出特征图进行进一步特征提取，输出不同通道数与尺寸的特征图，用于下一层进一步特征提取，随着网络层数的加深，网络提取的语义信息愈加明显，为便于理解，图中水平方向的箭头均表示该层的特征提取操作，生成后面相应尺寸的特征图；在特征提取网络中，输入2242243的图片，经过第1层卷积处理，该层使用 96 个 443 的卷积核进行stride为4的卷积之后进行LayerNorm，输出96通道的5656尺寸的特征图，再经过3个ConvNeXt Block模块输出相同尺寸与通道的特征图，作为第2层输入；在第 2 层中，经过 1 个 Downsample 与 3 个 ConvNeXtBlock模块，输出192个2828的特征图；在第3层中，经过 1个 Dwonsample 与 9个 ConvNeXt Block 模块输出384个1414的特征图。在特征估计网络中，由于抽纸表面特征较少，用少量的参数即可学习到合格抽纸表面的数据特征，因此特征估计网络在特征提取网络的基础上，将第3层的ConvNeXt Block模块缩减为3个，以将网络轻量化，提升模型推理速度25。对于STFPM网络，其结构与图5相似，不同的是采用了2个相同的ResNet-18分别作为教师与学生网络，其中教师网络为 ImageNet数据集上的预训练网络。相比之下，本文构建的网络采用表现效果更优的ConvNeXt-Tiny网络，并仅截取网络卷积至 1414的部分作为师生网络用于异常检测，此外对学生ConvNeXt-Tiny网络作删减，从而构成非对称对偶网络。图5描述了2个过程，分别为训练对偶网络与异常检测。特征训练过程如图5中蓝色箭头所示。训练时只输入正样本图像，对对偶网络输入正样本图像之后，特征提取网络与特征估计网络分别对同一样本图片进行特征提取，通过比较不同深度输出的特征图差异构建训练特征估计网络的损失函数，训练并优化参数，从而将特征提取网络关于正样本的特征提取知识蒸馏到特征估计网络中。本文比较的特征图为第1层第3层分别输出的特征图，蒸馏损失函数使用相对交叉熵KLDiv（Kullback-Leibler divergence）作为蒸馏损失函数，如公式（5）所示。LKLDiv(p,y)=-xlog(p)-(-xlog(x)（5）在异常检测阶段，对于一张测试集的输入图片pk w h c，k表示输入测试集中的第k张图片，w表示图片宽度，h表示图片高度，c表示图片通道数，特征提取网络与特征估计网络在第l层输出的特征图进行归一化后分别为Flt(Pk)wl hl dl，Fls(Pk)wl hl dl，其中，wl表示第 l 层输出特征图宽度，hl表示第l层输出特征图的高度，cl表示第l层输出特征图的通道数，则在像素（i，j）处的特征向量分别表示为Flt(Pk)ij dl，Fls(Pk)ij dl，用 l2范数表示 2 个特征向量的l2归一化的距离，公式如下式所示：Al(Pk)ij=12Flt(Pk)ij-Fls(Pk)ij2l2（6）Flt(Pk)ij=Flt(Pk)ijFlt(Pk)ijl2，Fls(Pk)ij=Fls(Pk)ijFls(Pk)ijl2（7）因此Al(Pk)可以表示对于输入图像Pk，在第l层网络产生的异常图，其尺寸为wlhl，通道数为1，其每个像素的值，即Al(Pk)ij，表示该像素的值偏离正常样本值的程度。为了能将异常图的异常信息映射到原图上，对网络第1层第3层的异常图作双线性插值上采样，得到与原图相同宽高的不同层级异常图表示Ul（Pk），将不同层级的异常融合得到最终的异常图S(Pk)w h，其中S（Pk）ij 0，1，通过设定阈值即可得到异常区域，融合公式如下所示。S(Pk)=l=14Ul(Pk)（8）2.2数据集本文实验数据来源于软塑包装抽纸生产线，相机拍摄面为软塑包装抽纸上表面，称为顶封面，原始图片分辨率为14401080，经过前文所述预处理流程获得尺寸为224224，通道数为3的图片集，用于构建抽纸外包装异常识别任务的数据集。对于训练任务，使用2000张正样本图片进行训练，在每一轮训练过程中，随机抽取80%的图片作为训练集，20%的图片作为验证集。对于异常检测任务，使用20张正样本与80张缺陷图混合，作为测试集。其中，对于抽纸表面的缺陷定义有4种，封口胶带、封口爆开、撕口破损和左右露白，缺陷样本如图6所示。测试集中这4种缺陷类型图片各占20张，数据集划分如表1所示，需要注意的是，异常检测网络训练时仅用合格图片，即仅56 56 9628 28 19214 14 38456 56 9628 28 19214 14 384tFtFsFsFsFtFLayer GroupTraining ProcessAnomaly Detect ProcessBilinear Interpolation农皓程，等：基于改进ConvNeXt的软塑包装表面异常检测算法15计算机与现代化2023年第8期用到图表中Good类别的训练集和验证集。（a）表面胶带（b）侧封口爆开（c）撕口破损（d）左右露白图6常见表面异常样本表1抽纸数据集划分设置类别GoodNG总量202080训练集16000验证集4000测试集20803实验与结果分析本文实验所使用的硬件设备为带有NVIDIA GeForce GTX3080 显卡的计算机，系统为 ubuntu20.04LTS，内存为64 GB，CPU为Intel CPU i9-10900X，深度学习框架为Pytorch。3.1性能评价指标异常检测算法性能通常由受试者工作特性曲线下面积（AUROC）来评估26。AUROC曲线是在不同阈值下对分类问题性能的评估，其中ROC曲线是由真阳性率（TPR）和假阳性率（FPR）描述并表示的概率曲线，AUC为ROC曲线下的面积，它表示当随机选择一个正样本和负样本，根据当前分类器计算出的结果得分，该得分将正样本排在负样本前的概率。真阳性率和假阳性率的定义如公式（9）和公式（10）所示。TPR=TPTP+FN（9）FPR=FPFP+TN（10）其中，TP表示真阳性，FP表示假阳性，TN 表示真阴性，FN表示假阴性。ROC曲线如图7所示，弧形曲线表示ROC曲线，图中阴影面积则表示AUROC。图7ROC曲线图3.2结果分析为了验证优化后的异常检测网络的有效性，本文分别使用PADIM、CFLOW、STFPM以及本文方法所代表的4种不同网络结构的异常检测算法在同样的训练集上训练，并对在同样的测试集上的检测效果进行对比。其中，PADIM网络是由Defard等人26提出的一种异常检测和定位的分布式图像Patch建模框架，该方式使用预训练的卷积神经网络，对不同语义层的深度特征Patch进行融合嵌入，建立正常图片的多元高斯分布模型，在测试时，网络计算测试图像的深度特征与多元高斯分布模型间的马氏距离作为对应位置的异常得分，从而获取测试图像的异常检测及定位。CFLOW由Gudovskiy等人27提出，该模型采用了条件归一化流框架，使用一个经过判别式预训练的编码器和一个多尺度生成解码器，使用多尺度生成来明确地估计编码特征的似然度，从而实现异常检测任务。STFPM与上述2种网络模型在MVTec数据集上具有优良的表现28，其检测精度在异常检测领域常年处于SOTA行列。此外在训练过程中，为了获取更优的网络模型，本文使用Adam优化器29对网络参数进行优化。表2为不同算法的检测结果，图8和图9分别为异常检测的图片级和像素级ROC曲线图。可见本文所用算法在图片级以及像素级AUROC指标相较于其他算法都有一定提升，图10为算法对一张异表2不同算法在抽纸数据集上的检测结果AlgorithmPADIMSTFPMCFLOWOursImage-AUROC/%99.1999.3198.1999.75Pixel-AUROC/%96.7398.5598.8999.37Average Time/ms30283545图8图片级ROC曲线图图9像素级ROC曲线图FPRTPR01.01.0PADIM ROC curve（area=0.9619）STFPM ROC curve（area=0.9931）CFLOW ROC curve（area=0.9819）Ours ROC curve（area=0.9975）0.00.20.40.60.81.0False Positive Rate1.00.80.60.40.20.0True Positive RatePADIM ROC curve（area=0.9673）STFPM ROC curve（area=0.9855）CFLOW ROC curve（area=0.9889）Ours ROC curve（area=0.9937）0.00.20.40.60.81.0False Positive Rate1.00.80.60.40.20.0True Positive Rate162023年第8期常图片的测试效果，可见其能够有效地分辨出异常数据并分割异常区域。经过测试，对于输入为 2242243的图片，在上述配置下，检测时间稳定在451ms，可以满足工业实时性要求。但本文算法检测耗时要多于其他算法，可见在提高检测精度的同时牺牲了一定的检测效率。（a）异常图（b）热度图（c）Ground Truth图10异常检测效果图4结束语本文通过对抽纸生产线上采集的软塑包装图像进行分析，借鉴了异常检测中教师-学生网络的思想，构建了基于ConvNeXt的非对称对偶网络模型用于异常检测，经测试，该网络在同样数据集上的图片级和像素级 AUROC 指标分别为 99.75%和 99.37%，在 GPU 为 NVIDIA GeForce GTX3080，CPU 为 IntelCPU i9-10900X的硬件平台上可达到每秒22张的检测速度，考虑到GPU的并行处理机制，使用多张图片同时检测的方式能够进一步提升检测速度，为软塑视觉检测的工业自动化升级提供一定技术支持。之后可以考虑将网络中的特征提取模块进行简化，尝试在提升检测速度的同时保证甚至提高检测效果。参考文献：1 郜明.基于机器视觉的抽纸软包装缺陷检测算法研究D.成都：四川大学，2021.2 李辉，侯雅单，张玥，等.包装的感性设计方法探析 J.湖南包装，2018，33（3）：12-14.3 廖畅.一种抽纸包装在线检测设备的研制与应用 J.中国高新技术企业，2017（10）：5-6.4 张为胜.软塑包装质量检测与控制技术应用与研究 J.塑料包装，2003（2）：29-37.5 张鹏远.机械制造自动化中关于机器视觉技术的实践应用 J.流体测量与控制，2022，3（2）：1-4.6 周楠，欧阳鑫玉.卷积神经网络发展 J.辽宁科技大学学报，2021，44（5）：349-356.7 TABERNIK D，ELA S，SKVAR J，et al.Segmentation-based deep-learning approach for surface-defect detectionJ.Journal of Intelligent Manufacturing，2020，31（3）：759-776.8 SHANG L D，YANG Q S，WANG J N，et al.Detection ofrail surface defects based on CNN image recognition andclassificationC/2018 20th International Conference onAdvanced Communication Technology（ICACT）.2018：45-51.9 李建明，杨挺，王惠栋.基于深度学习的工业自动化包装缺陷检测方法 J.包装工程，2020，41（7）：175-184.10于志洋.基于全卷积神经网络的表面缺陷检测方法研究D.哈尔滨：哈尔滨工业大学，2017.11 RUDOLPH M，WANDT B，ROSENHAHN B.Same samebut DifferNet：Semi-Supervised defect detection with normalizing flows C/2021 IEEE Winter Conference on Applications of Computer Vision（WACV）.2021：1906-1915.12 RIPPEL O，MERTENS P，MERHOF D.Modeling the distribution of normal data in pre-trained deep features foranomaly detectionC/2020 25th International Conference on Pattern Recognition（ICPR）.2021：6726-6733.13 PIMENTEL M A F，CLIFTON D A，CLIFTON L，et al.Areview of novelty detectionJ.Signal Processing，2014，99：215-249.14 RUFF L，VANDERMEULEN R，GOERNITZ N，et al.Deep one-class classification C/Proceedings of the 35thInternational Conference on Machine Learning.2018，80：4393-4402.15 GOLAN I，EL-YANIV R.Deep anomaly detection usinggeometrictransformations J.arXivpreprintarXiv：1805.10917，2018.16 GUPTA K，BHAVSAR A，SAO A K.Detecting mitoticcells in HEp-2 images as anomalies via one class classifierJ.Computers in Biology and Medicine，2019，111.DOI：10.1016/pbiomed.2019.103328.17杨洁.基于深度学习的无监督图像异常模式检测与识别研究 D.北京：中国科学院大学，2021.18 WANG G D，HAN S M，DING E R，et al.Student-Teacher feature pyramid matching for anomaly detectionJ.arXiv preprint arXiv：2103.04257，2021.19周向阳，罗雪梅，王霄.结合边缘信息的二维Otsu阈值分割算法研究 J.智能计算机与应用，2020，10（6）：19-24.20杨天航.版式文档中对仿射变换显示的加速方法 J.北京信息科技大学学报（自然科学版），2010，25（S2）：89-91.21 HINTON G，VINYALS O，DEAN J.Distilling the knowledge in a neural networkJ.arXiv preprint arXiv：1503.02531，2015.22 邵仁荣，刘宇昂，张伟，等.深度学习中知识蒸馏研究综述 J.计算机学报，2022，45（8）：1638-1673.23 LIU Z，MAO H Z，WU C Y，et al.A ConvNet for the2020s C/2022 IEEE/CVF Conference on Computer Vision and Pattern Recognition（CVPR）.2022：11966-11976.24 REBUFFI S，BILEN H，VEDALDI A.Learning multiplevisual domains with residual adaptersJ.arXiv preprintarXiv：1705.08045，2017.25 易振通，吴瑰，官端正，等.轻量化卷积神经网络的研究综述 J.工业控制计算机，2022，35（10）：109-111.26 DEFARD T，SETKOV A，LOESCH A，et al.PaDiM：Apatch distribution modeling framework for anomaly detection and localization C/Pattern Recognition.ICPR International Workshops and Challenges.2021：475-489.27 GUDOVSKIY D，ISHIZAKA S，KOZUKA K.CFLOW-AD：Real-Time unsupervised anomaly detection with localization via conditional normalizing flowsC/2022IEEE/CVF Winter Conference on Applications of ComputerVision（WACV）.2022：1819-1828.28 BERGMANN P，FAUSER M，SATTLEGGER D，et al.MVTec AD A comprehensive real-world dataset for unsupervised anomaly detectionC/2019 IEEE/CVF Conference on Computer Vision and Pattern Recognition（CVPR）.2019：9584-9592.29毕常遥，袁晓彤.基于Adam局部优化的分布式近似牛顿深度学习模型训练 J.计算机应用与软件，2021，38（10）：278-283.农皓程，等：基于改进ConvNeXt的软塑包装表面异常检测算法17