基于ADASYN和Swin Transformer的滚动轴承故障诊断研究.pdf

年 月第 卷 第 期机床与液压 ：本文引用格式：杜康宁，宁少慧基于 和 的滚动轴承故障诊断研究机床与液压，（）：，（）：收稿日期：基金项目：山西省自然科学基金项目（）作者简介：杜康宁（），男，硕士研究生，研究方向为基于深度学习的滚动轴承故障诊断。：。通信作者：宁少慧（），女，博士，副教授，主要研究方向为旋转机械故障诊断。：。基于 和 的滚动轴承故障诊断研究杜康宁，宁少慧（太原科技大学机械工程学院，山西太原）摘要：针对实际工况下，正常样本丰富、故障样本稀缺的类别不平衡情形，导致基于深度学习的故障诊断模型诊断能力较差这一问题，提出一种基于自适应综合采样方法（）和 的故障诊断模型。使用自适应综合采样方法，改善数据分布，解决实际工况中故障样本与正常样本类别不平衡问题；使用 网络模型代替 网络，并使用深度迁移学习方法，使 网络模型掌握判别滚动轴承故障所需的浅层权重，深层权重通过反向传播方法训练获得；之后，将模型用于轴承故障测试，并对其进行调试；最后，将模型用于轴承故障实测，检验其实际工况下的诊断能力。实验结果表明：所提模型具有 的诊断准确率，能够很好地适用于类别不平衡情形下的滚动轴承故障诊断。关键词：自适应综合采样；模型；轴承故障诊断中图分类号：，（，）：，（），：（）；前言滚动轴承作为旋转机械设备的常用零部件，由于长期处于高温、变速、变负载等复杂多变的工况环境中，导致其极易出现疲劳剥落、磨损、断裂等故障。为避免滚动轴承故障发生带来的设备损坏，对其进行及时、可靠的状态监测与故障诊断显得十分必要。雷亚国等提出一种大数据下机械装备故障的深度迁移诊断方法，通过实验室已有的轴承数据训练诊断模型，之后将模型通过迁移学习的方法应用于工程实际装备。黄包裕等提出一种基于布谷鸟搜索算法和最大二阶循环平稳盲解卷积的滚动轴承故障诊断方法，通过布谷鸟搜索算法选取最大谐波显著性指标值对应的故障频率与滤波器长度，将其作为最大二阶循环平稳盲解卷积的输入参数，优化了最大二阶循环平稳盲解卷积的诊断精度。董绍江等提出基于多层降噪技术及改进卷积神经网络的滚动轴承故障诊断方法，从信号处理与卷积神经网络改进两方面优化模型，使模型能够在强噪声环境中实现轴承的故障诊断。尽管存在多种多样的诊断方法，但大致可以分为两类，一类为非智能故障诊断，该类方法大多是基于轴承振动信号的时频域处理，通常不涉及深度学习。通过小波分析、经验模态分解等信号处理方法对轴承故障信号进行研究，进而提取轴承故障特征频率。如张训杰等提出一种基于变分模态分解与时域、频域值混合的特征提取方法，首先对原始振动信号进行变分模态分解得到模态函数，其次使用奇异值分解对模态函数的模态特征进行进一步提取，将提取到的模态特征与原始信号的时域、频域特征混合得到混合特征，最后使用 核函数进行参数寻优。该类方法存在如下缺陷：（）非智能故障诊断方法利用物理信息和专业知识来诊断轴承故障，自动化程度较低。（）由于特征设计和提取需要手动进行，隐藏在海量轴承故障数据中的诊断知识无法自动学习。（）特征提取过程要求诊断专家具备丰富的先验知识，有时，由于机械系统的物理结构和故障机制复杂，很难掌握故障特征。随着人工智能的兴起，第二类故障诊断方法“智能故障诊断”也开始出现并趋于成熟，该类方法大多基于深度学习，可以避免手工特征提取的费时费力，以及对于专家知识的依赖。如沈长青等提出一种使用独立自适应学习率优化的深度信念网络，动量法使深度信念网络在梯度更新时能够自适应选择下降步长，提高模型诊断精度的同时减少了模型的训练时间。等提出一种基于递进优化的级联卷积神经网络，利用级联结构解决了卷积神经网络随网络层数加深而导致的特征分辨率降低的现象，避免了特征信息的丢失。等提出一种滚动轴承故障诊断的子域自适应迁移学习网络，通过将子域自适应与域自适应相结合，减少了迁移学习过程中的边际与条件分布偏差。在智能故障诊断方法中，基于卷积神经网络的诊断方法应 用广泛，黄磊等人提出 基于 与 的轴承故障诊断模型。游达章等提出基于 的滚动轴承故障方法。等将平滑伪维格纳变换（，）与 结合进行轴承故障诊断。尽管上述研究取得了很好的效果，但大多是在典型故障信息丰富、健康标记信息充足的平衡数据集中进行构建与验证的，忽略了工程实际中轴承检测信号价值密度低、可利用率低导致的故障样本与健康样本类别不平衡问题。同时，卷积神经网络在低级特征较大范围的依赖关系的建模上存在局限性。为解决上述两个问题，本文作者提出了一种基于数据增强和 的故障诊断方法。首先使用自适应综合采样方法（，）增加故障样本数量，解决故障样本与健康样本类别不平衡问题。其次，使用在关注全局信息建模上更强大的 网络。田应仲、卜雪虎将 网络与注意力机制结合，利用 网络对语义信息进行全局建模，实现了对腰椎图像的精细分割。王永生等将 网络作为主干网络结合 ，提出一种海上弹着点水柱目标检测算法，该算法利用 网络提高特征提取能力，同时利用其多尺度特征融合的方式，改善了漏检误检问题。本文作者从数据处理与深度神经网络两方面综合考虑，使用自适应综合采样方法（）实现平衡数据集的重构；其次，通过使用 网络，改进卷积神经网络全局信息建模能力较弱的问题。具体方法为：通过格拉姆角场将经过自适应综合采样方法处理后的一维振动信号转换为二维图像，并输入模型；使用预训练方法训练模型最后一层全连接层的权重，其余权重使用深度迁移学习方法进行迁移。平衡数据集重构深度学习网络模型，可以在没有人工干预的前提下对输入样本自动提取多个复杂特征，在滚动轴承故障诊断领域得到了广泛应用。但从数学角度分析，其利用梯度下降法对某一区域进行寻优，容易导致局部最优问题出现，且其网络学习方式和泛化能力与样本的选择关系密切。对于滚动轴承数据集，本身就存在着样本量不均衡、数据冗余、分布复杂等特点，因此直接将滚动轴承数据集输入深度学习网络模型并不能很好地对其进行诊断与分类。本文作者采用自适应综合采样方法（）改变数据分布，使各类数据样本达到平衡，以防止数据倾斜现象发生，进而提高模型的诊断能力与泛化性。自适应综合采样方法步骤如下：（）在滚动轴承数据集中，健康样本为多数类样本，样本总数为；各类故障样本为少数类样本，样本总数为。首先计算样本失衡程度：（）（）若，则进行步骤（），其中为预设机床与液压第 卷样本不平衡比例最大阈值。（）计算滚动轴承故障样本需要生成的样本数量：（）（）其中：，是一个参数，文中令 ，即在泛化过程后创建一个完全平衡的数据集。（）对于每个滚动轴承故障样本，基于欧氏距离寻找 近邻，计算 近邻中滚动轴承健康样本占比：，（）（）对进行归一化处理，（）为密度分布，。（）根据样本权重，计算每个少数类样本需要生成新样本的数目：（）（）对每个故障样本，根据以下步骤生成 个样本（）随机选择的 近邻中一个滚动轴承故障样本；（）生成样本：（）（）其中：为随机数，。网络模型 神经网络是由微软亚洲研究院（）提出的用于图像分类、目标检测、语义分割的网络模型，该网络致力于同时适用于计算机视觉任务与自然语言处理任务。窗口多头自注意力机制模块（，）输入节点，通过嵌入层（），映射为，通过以下公式：（）（）（）得到、，令，（），（），（）由，（），（），（）计算得出，将其通过 函数计算得，之后，由 （，）（）（，）（）（，）（）得出，的值，即：（，）（）（）令（，）（，），即：（，）（）（）由公式（）（）（）计算得出、，设多头自注意力机制头数为，则、分别被均分为 份，输入每个自注意力模块，例如 ，则被分为，、，其中，输入自注意力模块，输入自注意力模块。对于每个自注意力模块通过公式（）（）计算，最后由：（，）（，）（）完成多头自注意力机制模块的运算。将输入模型的每一张特征图划分为多个 大小的特征图，之后对每一个 大小的特征图通过公式（）（）运算，即完成窗口多头自注意力机制模块的运算过程。对输入特征图划分多个 窗口，之后，对每个窗口进行多头自注意力机制运算，相比直接对输入的特征图使用多头自注意力机制运算能够减少百亿级的运算量。滑动窗口多头自注意力机制模块（，）该模块的作用为，使大小为 的窗口之间可以进行信息传递，如图 所示。假设输入特征图的大小为，；首先，将大小为 的窗口向右和向下偏移 个像素，将原输入特征图划分为 个窗口，如图 （）所示，分别编号为；将窗口 标记为区域，窗口、标记为区域，将窗口、标记为区域；将区域、移到最下方得到图（），再将区域、移至最右侧得到图（）；第 期杜康宁 等：基于 和 的滚动轴承故障诊断研究 最后窗口 为一个 大小的窗口，窗口、合并为一个 大小的窗口，窗口、合并为一个 大小的窗口，窗口、合并为一个 大小的窗口。图 滑动窗口多头自注意力机制原理 ：（）；（）；（）；（）经过上述步骤后，窗口、，窗口、，窗口、进行了合并。为防止窗口合并造成信息干扰或信息混乱，在窗口合并后进行窗口多头自注意力机制过程中加入了掩藏步骤。以窗口 与窗口 的合并为例，窗口 共有 个像素，其中的每一个像素通过公式（）（）（）生成、，窗口 同理；窗口 的每一个像素得到的 与窗口 的每个像素 进行匹配后减去，即由公式（）（）计算得出的，减去，通过 函数计算后，变为。通过以上步骤，窗口合并造成的信息混乱问题得以解决。故障诊断模型以一维原始振动信号为基础，完成对故障诊断模型从预训练到实际应用的全过程，实现步骤如下：（）采用自适应综合采样方法（）重构平衡数据集；之后，将其中的一维时间序列数据样本通过格拉姆角场（）编码为三通道的 二维图像数据集；（）对于完成预训练的 网络，冻结除全连接层之外的其他层的权重，被冻结的权重使用 网络在 训练后的权重；用二维图像训练集训练全连接层的权重，完成对 网络的预训练过程；（）对已经完成预训练的 网络使用测试集测试其对各种故障的诊断精度；（）将完成测试的 网络故障诊断模型用于滚动轴承故障的真实诊断中，检验其实际工作性能。模型结构如图 所示。图 故障诊断模型结构 实验数据集为验证文中所提方法的有效性，采用图 所示实验台采集滚动轴承振动信号进行验证与分析。该实验装置主要由三相电机、液压加载系统、支撑轴承、实验用 滚 动 轴 承 等 组 成。实 验 用 滚 动 轴 承 型 号 为。采样样本共包括正常状态（）、内圈故 障（）、外 圈 故 障（）及 滚 动 体 故 障（）种状态。采样频率为 。滚动体故障 与 的负载分别为 、，模拟实际轴承故障诊断中工况的不同。每类轴承健康状机床与液压第 卷态所含采样点个数为 个。图 滚动轴承故障信号采集试验台 实验结果验证 类不平衡情形对故障诊断性能影响实验依据不同的类不平衡比率 构造了 组类不平衡数据集 （）其中：表示轴承故障样本个数；表示轴承正常样本个数，每个样本所含采样点个数为 个。分别设置为 ，。为了对比研究，相应构造了平衡数据集。同时，为保证实验的科学性，类平衡数据集总样本数与类不平衡数据集总样本数量保持一致，分别为 、。将 组 、类不平衡数据集分别训练模型，并将对应模型分别命名为模型、模型、模型。从数据集中随机选取振动信号输入模型中，对其进行实测，以模拟实际故障诊断环境。诊断结果如表 所示。表 类不平衡数据集实测结果 实际故障结果 模型 模型 模型 信号 外圈故障 信号 外圈故障 信号 滚动体故障 信号 滚动体故障 信号 健康样本 由实验结果可以得出：模型对于健康样本的识别是正确的，但对于故障样本的诊断不正确。模型 对于随机信号 外圈故障的诊断结果为 的可能为健康状态；模型 由于比模型 多输入 个样本，认为随机信号 外圈故障有 的可能为健康样本，还有 的可能为故障样本；类不平衡数据集所训练的模型诊断效果较差，对于模型 而言，如果输入样本包含 个故障样本，个健康样本，即使模型将 个故障样本全部诊断错误而将其余 个健康样本诊断正确，其诊断准确率仍可高达，这样的准确率指标显然毫无意义，无法衡量一个模型的故障诊断能力。为进一步说明，将 组 、类平衡数据集所训练模型分别命名为模型、模型、模型，实测结果如表 所示。表 平衡数据集实测结果 实际故障结果 模型 模型 模型 信号 外圈故障，信号 外圈故障，信号 滚动体故障 ，信号 滚动体故障 ，信号 健康样本，由实验结果可以得出：采用平衡数据集训练的模型，尽管对于故障类型的确定性不高，甚至将滚动体故障 诊断为 的可能为健康信号，但基本完成故障诊断任务，与使用不平衡数据集训练的模型相比，在诊断准确率上有明显提高，模型能够应用于故障诊断任务中。与其他神经网络的对比实验对比分析提出方法与如下 种方法的诊断结果。将实验室数据集划分为 组数据集，分别对应轴承故障晚期、轴承故障中期、轴承故障早期，分别命名为数据集、数据集、数据集。每个数据集所含样本个数为 个，每个样本所含采样点个数为 ，其中 的样本划分为训练集，的样本划分为测试集。共实验 次，将 次实验的准确率平均值与标准差整理如图 所示。（）模型在数据集 中的诊断准确率最高，为，在数据集 中的标准率最低，为，尽管该模型使用平衡数据集训练，但由于网络深度较浅，导致其感受野较小，诊断准确率不高。（）模型在各数据集的表现都要超过 模型，原因是其采用并行网络，网络深度较深，但该模型诊断准确率标准差较高，鲁棒性较差。在数据集 中，其标准差甚至达到 。（）模型在数据集 的测试中超过了前两种模型，但由于模型待训练参数较多，需要大量数据进行预训练，模型很难充分学习轴承数据样本特征，导致其诊断精度不够。第 期杜康宁 等：基于 和 的滚动轴承故障诊断研究 图 模型诊断结果对比 对比提出方法的诊断结果可知：提出方法具有更高的诊断精度与诊断稳定性。在数据集、数据集、数 据 集 中 的 诊 断 准 确 率 分 别 为 、，平均准确率为 ，能够从轴承振动信号中提取更深层的故障特征。为更清楚地展示所提模型在测试集中各个类别的识别结果，引入混淆矩阵对实验结果进行分析。如图 所示，每类样本 个，共 种轴承健康状态。图中主对角线上的数字代表模型对每一类轴承健康状态正确诊断的样本个数。由图 可知：所提模型能够准确识别正常、内圈故障、外圈故障、滚动体故障，识别正确样本占总样本数的，每类健康状态的召回率依次为 、。图 模型测试结果混淆矩阵 结论本文作者同时从数据层面与网络层面开展研究，解决实际应用中，由于故障类别不平衡导致模型诊断能力和泛化能力较差等问题。通过重采样方法将不平衡数据集重构为平衡数据集，在没有实质增加数据的情况下，让有限的数据产生等价于更多数据的价值，使模型能够适用于小样本情形下的应用，通过重采样方法处理后的数据同样适用于一般网络模型的输入。通过 模型替代 模型，使故障诊断模型在全局信息建模上变强。实验结果表明：文中所提重采样方法可以更好地提高实际工况下，改进模型对于类不平衡数据集的诊断效果，证明了该方法的可行性。此外，将文中所提模型与其他模型进行了对比实验，结果表明所提方法具有更高的诊断精度与泛化性。在后续研究中，将继续面向类不平衡数据集与网络模型的改进进行深入研究，提高模型在故障极度不平衡情形下的诊断精度。参考文献：雷亚国，杨彬，杜兆钧，等大数据下机械装备故障的深度迁移诊断方法机械工程学报，（）：，（）：黄包裕，张永祥，赵磊基于布谷鸟搜索算法和最大二阶循环平稳盲解卷积的滚动轴承故障诊断方法机械工程学报，（）：，（）：董绍江，裴雪武，吴文亮，等基于多层降噪技术及改进卷积神经网络的滚动轴承故障诊断方法机械工程学报，（）：，（）：张训杰，袁毅，李贤均，等基于 特征提取与 的滚动轴承故障诊断机床与液压，（）：，（）：，：，：沈长青，汤盛浩，江星星，等独立自适应学习率优化深度信念网络在轴承故障诊断中的应用研究机械工程学报，（）：，机床与液压第 卷，（）：，（）：，（）：黄磊，马圣，曹永华基于 与 的轴承故障诊断研究机床与液压，（）：，（）：游达章，陈林波，张业鹏，等基于 的滚动轴承故障诊断方法研究机床与液压，（）：，（）：，（）：田应仲，卜雪虎基于注意力机制与 模型的腰椎图像分割方法计量与测试技术，（）：，（）：王永生，姬嗣愚，杜彬彬基于改进 的海上弹着点水柱目标检测算法兵器装备工程学报：，（）：，（）：，：，（）：，（），：，：，（），：，第 期杜康宁 等：基于 和 的滚动轴承故障诊断研究