基于VAE-GAN数据增强算法的小样本滚动轴承故障分类方法.pdf

第卷增刊原子能科学技术 ，年月 基于 数据增强算法的小样本滚动轴承故障分类方法张钊光，蒋庆磊，詹瑜滨，侯修群，郑英，崔运佳（核动力运行研究所，湖北 武汉 ；中核武汉核电运行技术股份有限公司，湖北 武汉 ；中核国电漳州能源有限公司，福建 漳州 ；华中科技大学 人工智能与自动化学院 测控技术“一带一路”联合实验室，湖北 武汉 ）摘要：近些年，数据增强算法被广泛应用于小样本故障分类中。然而，传统的数据增强模型在训练中经常出现梯度爆炸、梯度消失等问题，这在一定程度上限制了其在滚动轴承故障分类上的应用。为了解决上述问题，提出了一种新的模型框架。该模型首先将滚动轴承的原始一维振动数据通过连续小波变换（）转换为二维图像，然后利用变分自动编码生成式对抗网络（）对图像数据做样本增强，最后利用生成图片和原图片共同训练一个卷积神经网络（）故障分类器。使用凯斯西储大学实验室的公开数据集对所提出的方法进行了验证。实验结果表明，与其他模型相比，所提出的模型具有更优越的性能。关键词：小样本；滚动轴承；故障诊断；连续小波变换；变分自动编码生成式对抗网络；卷积神经网络中图分类号：；文献标志码：文章编号：（）收稿日期：；修回日期：通信作者：蒋庆磊：，（，；，；，；，）：，（）（），（），：；滚动轴承是旋转机械的重要组成部分，其健康状况直接影响旋转机械的可靠性。在核行业中，驱动关键和重要设备的电机都是可靠性要求很高的核级电机，滚动轴承是电机的重要组成部分，是电机动、静部分的连接载体，有效地延长轴承的使用寿命是确保核电设备持续、安全、稳定运行的基础。因此，滚动轴承故障诊断对保证旋转机械系统的稳定运行至关重要。目前，核电行业滚动轴承故障诊断方法主要依据巡检和人为分析判断，实际过程中有效的轴承故障样本数据较为缺乏，导致深度学习等基于数据的智能模型应用受限。此外，在实际的工业过程中，深度学习方法有一些不可忽视的限制，比如要求一定的数据容量。然而，旋转机械的运行数据收集存在以下困难：）旋转机械的运行需要保持较高的稳定性和准确性，当它发生故障时，可能会剧烈振动甚至走下坡路，因此无法收集到足够的故障数据；）旋转机械的故障会持续一段时间，因此需要很长时间才能收集到足够的故障数据；）旋转机械设备的工作条件经常变化，因此收集和标记足够的数据既困难又费力。在这种情增刊张钊光等：基于 数据增强算法的小样本滚动轴承故障分类方法况下，故障诊断算法的性能会受到严重影响。为了解决上述因数据容量带来的问题，小样本学习应运而生。小样本学习是在每类训练数据只有少数几个样本的前提下的学习和分类。目前的小样本学习方法主要分为类：元学习方法、数据增强方法和度量学习方法。元学习方法希望使模型获取一种对网络进行调参的能力，使其可以在获取已有知识的基础上快速学习新的任务。度量学习方法旨在让模型学习样本与样本之间的相似度，鼓励模型学习同类数据与不同类数据之间的泛化度量。然而，元学习方法和度量学习方法都有一定的缺点。元学习方法的计算成本很高，需要大量类似的任务才能获得良好的性能；度量学习方法依赖采样策略，如果采样策略过于简单，只会学习到简单的样本，无法继续训练，如果采样过难，会导致收敛慢、不收敛，甚至过拟合。与元学习方法相比，数据增强方法不需要昂贵的计算；与度量学习方法相比，数据增强方法可以不用考虑采样策略，在设计网络结构时没有过多的限制。目前，随着生成学习技术的发展，变分自动编码器（）和生成式对抗网络（）已用于分类时的数据增强，并取得了比较好的生成效果。莫赞等针对单分类器在处理数据不平衡问题时遇到的困难，提出了生 成 对 抗自适 应决策 树 算 法。等针对往复式机械设备提出一种基于的故障诊断思路，并通过实验验证了在数据样本缺失时该方法的有效性。张周磊等针对同步电机相关样本不足造成故障诊断效果不理想问题，提出了基于 的数据扩展方法。尽管 和 模型在样本生成方面已经取得了比较不错的效果，但是 生成的图像 会 出 现 模 糊、细 节 处 理 较 差 的 问 题；在实际应用中会出现梯度爆炸、梯度消失等状况，这会导致生成的图片与原图片差距过大。两种方法各有其缺点，这在一定程度上限制了实际工业生产中的应用。针对上述问题，本文提出一种结合连续小波变换（）和卷积神经网络（）的数据增强 方 法 ，即 在 时 频 图 和 的智能故障诊断框架基础上，通过 来增加图片样本的数量，以提高滚动轴承故障诊断的准确率。相关理论 轴承常见故障现象和机理分析 常见故障现象滚动轴承的失效形式主要有以下种。）塑性变形：滚动轴承受污染或超额承受恒定载荷和冲击载荷时，在滚动体和滚道接触面会形成凹坑、压痕等塑性变形，塑性变形将直接加剧滚动轴承状态的退化。）胶合失效：滚动轴承在润滑不良、高速重载或者滚动体循环不顺畅的环境下工作时，剧烈摩擦引起的大量能量消耗将会导致滚动轴承内部接触面在一瞬间液化，最终出现胶合失效。）磨损失效：滚动体与滚道间的滑动摩擦不可避免，势必造成接触面磨损，导致游隙增大，接触面粗挺，最终出现磨损失效，而润滑不良也会加剧磨损失效。）疲劳失效：滚动轴承正常运行时，滚动体和内外圈上的圆弧面凹槽滚道间不仅传递载荷，还伴随相对运动，接触面在反复交替的剪应力作用下逐渐出现细小裂纹，最终发展到大片剥落，出现疲劳失效（点蚀）。）腐蚀失效：滚动轴承表面的腐蚀将造成其状态不可逆的退化，滚动轴承的腐蚀分为锈蚀和电蚀，化学物质侵入内部结构会导致锈蚀。）断裂失效：导致滚动轴承断裂失效的本质原因是高速重载、装配不当及热处理不良等。机理分析当滚动体与滚道表面损伤点相接触时，会产生一次冲击，滚动体与位于不同元件上的故障点相接触的频率是不同的，不同的元件对应着特定的频率。因此，可以通过滚动体与故障点相接触的频率来判断故障点的位置，此频率就是故障特征频率。假设滚动体与滚道之间为纯滚动，滚动体相对内滚道通过频率和旋转轴旋转频率等值。结合公称接触角及滚动体数量，可以得到故障点位于各个元件上时的故障特征频率如下。外滚道故障的故障特征频率为：（）（）内滚道故障的故障特征频率为：（）（）滚动体故障的故障特征频率为：原子能科学技术第 卷（）（）式中：为滚动体直径，；为滚动轴承节圆直径，。是一种时间窗和频率窗都可改变的时频局域化分析方法，这种特性使 具有对信号的自适应性，这正克服了短时傅里叶变换（）不能在时域和频域上局域化的缺点。的关键在于小波母函数，小波母函数是一种函数的集合，其具有多样性，只要满足容许条件的函数都可作为小波母函数，因此对小波母函数的选取尤为重要。对任意的空间中，函数（）的 定义为：（，）槡（）（）（）式中：为尺度因子；为平移因子；为小波母函数；为时间。想要提取信号中的低频特征时，可以使增大，要提取信号中的高频特征时，可以使减小。由于 小波在时间与频率的局部化之间有着很好的平衡，本文拟使用 小波，具体采用的小波母函数为“”。是深度学习领域中的重要算法之一，它可以利用空间相对关系减少参数数目以提高训练性能。在监督学习的方式下，采用反向传播算法进行学习，其反向传播过程可以分为部分：全连接层、卷积层的反向传播和池化层的反向通路。全连接层的误差反向传播（）计算与传统的前馈神经网络相同，卷积层的反向传播是一个与前向传播类似的交叉相关计算（：），（，）（），（，）（）（）（）（）式中：为卷积层；为网络权重；为代价函数计算的误差；为激励函数的导数；为学习率。对于池化层，由于池化层在反向传播中没有参数更新，因此只需要将数据按照相应的池化方法分配到特征图相应的位置。对于最大值池化，所有误差会被分配到最大值所在位置，均值池化的误差会被平均分配到整个池化区域。具有前馈结构，在图像分析中具有个重要的特点，包括局部感知、权重共享和空间采样。典型结构包括卷积层、池化层以及全连接层。图所示为一个典型的 结构图。图典型卷积神经网络结构图 传统数据生成模型 是将变分贝叶斯方法与神经网络相结合的算法，根据解码器和编码器所接受的分布来生成图像。允许设置潜在的复杂先验，从而学习强大的潜在表征。假设有一组真实样本，生成模型的目的是希望根据这一组真实样本得到这一类数据的分布（），然后再根据（）进行采样，就可以得到这一组真实数据的所有可能分布。然而这是一个终极理想的模型，在实际运用中，很难实现这样的模型。所以与 类似，在 网络中，也引入了低维特征来帮助建模，可以将生成模型写为下式：（）（）（）（）使用神经网络训练一个简单的分布（）来近似（），并通过 （）散度来度量二者的接近程度。图为 模型基本结构。由编码器将原始输入数据转化为隐藏层的隐变量的均值和方差，然后结合服从标准正太分布的随机向量生成隐变量。根据生成的隐变量的变分概率分布，通过解码器 还原得到近似的原始数据，其中编码器和解码器（也叫生成器）使用神经网络进行拟合。增刊张钊光等：基于 数据增强算法的小样本滚动轴承故障分类方法图 结构 是经典的无监督学习方法之一，其是由生成器网络（）和鉴别器网络（）组成，模型通过生成器和鉴别器的相互博弈来训练生成器，使其可以生成理想的数据。生成器用来拟合生成的样本与训练样本使得它们的分布基本一致。鉴别器则是用来判断这些生成的样本是真实的样本图像还是伪造的样本图像。如图所示，的目标就是用给定随机的噪声变量来训练生成器网络，使得生成器网络生成的数据（）接近真实的数据。鉴别器网络 则用来计算一个输入样本来自于真实图像的概率。图模型结构 故障诊断模型的构建 样本生成模型 模型在 的基础上增加了真实数据的特征编码部分，用编码后得到的隐变量代替随机变量来改善网络，具体结构包含个部分：编码器、生成器和鉴别器，如图所示。图 网络结构 传统的编码器由若干全连接层组成，本文使用的卷积自动编码器是自动编码器的一种高级模型，它在传统自动编码器的基础上引入了 的卷积和池化操作。由于更深的网络结构，卷积自动编码器能够实现对输入数据的深度特征提取。卷积自动编码器的编码器由若干个卷积块组成，每个卷积块包含卷积层、池化层等结构，用于压缩数据和提取特征。编码网络的优化目标是其输出符合标准正态分布，其损失函数如式（）所示：（）（）（）式中，为欧拉数。与编码器对称，解码器由若干反卷积块组成，完成扩展和数据重构的操作。解码器需要将特征维度恢复为原始输入维度，因此在解码器中引入反卷积操作。解码器将低维隐变量逐层放大，最终得到与原图片尺寸相同的图片。其优化目标一方面是使生成图片与原图片尽可能相同，另一方面是让生成图片尽量逼真，使鉴别器无法辨别真伪，对应的损失函数为如式（）所示：（，）（）（）原子能科学技术第 卷式中：为原图片；为生成器产生的图片；（）为生成器的输出；（）为鉴别器将输入数据判断为真的概率；为由编码器输出的均值和编码器输出的方差采样合成的隐变量，合成方式如式（）所示：（）式中，为服从标准正态分布的随机向量，其维度与相同。鉴别器由若干卷积层和全连接层组成，其激活函数采用 。鉴别器对输入的真实样本和生成器输出的图片做特征提取和降维，最后通过 层后输出真伪标签。其优化目标是尽可能辨别输入数据是真实样本还是生成样本，损失函数如式（）所示：（）（）（）与传统的 和相比，本文所讨论的 模型，因重构模块对生成器有正向约束作用，使其产生的数据分布与原数据分布差异较小，从而使最终生成的图片更能保持原图片的特征；同时对抗模块以结果为导向，促使生成器产生的图像与原图像拟合得更加细腻。两个模块共同作用，使最终生成的图像质量有较大提升。的训练过程如下：）将原图片压缩至合理尺寸，作为输入样本，按批量输入编码器；）将编码器的输出合成为隐变量并输入生成器；）对生成图片和输入样本进行采样，输入鉴别器进行训练；）通过最小化更新编码器参数，最小化更新生成器参数，最小化更新鉴别器参数；）重复步骤，直至满足最大迭代次数。故障诊断模型训练流程轴承故障诊断模型的整体框架包含个部分：数据预处理、数据增强和样本分类，其训练流程如图所示。步骤为数据预处理：滚动轴承的原始数据一般为一维时域振动信号，存在采样点密集、故障特征不明显、信息冗余的问题。与之对比，时频图包含的有用信息和特征更加突出，而且更加直观，有利于在后续的数据增强过程中对数据生成效果做直观判断。把时域信号按照每 点为一个窗口，做，将得到的时频图数据集划分为训练集和测试集。图轴承故障诊断模型 步骤为数据增强：将训练集各类样本分别输入 模型进行训练，训练完成后，分别得到针对各类样本数据的生成器。然后把生成的样本与训练集混合在一起，用于分类器训练，这样就实现了数据增强。步骤为样本分类：将经过数据增强之后的训练集输入 分类模型训练，然后用训练完成的分类器对测试集进行故障分类，利用 强大的特征提取能力对各类故障样本做准确识别。实验与分析 实验数据为验证本文所提方法，采用凯斯西储大学实验室提供的故障数据集进行实验。轴承实验平台如图所示，包括个马力（）的电动机、个扭矩传感器译码器、个功率测试计和电子控制器。待检测的轴承支撑着电动机的转轴，驱动端轴承为 ，风扇端轴承为 。加速度传感器安装在带有磁力基座的机架上。风扇端和驱动端的轴承座上方各放置一个加速度传感器。振动加速度信号由 通道数据记录仪采集得到。风扇端轴承故障采样频率为 ，驱动端轴承故障采样频率为增刊张钊光等：基于 数据增强算法的小样本滚动轴承故障分类方法 和 。通过扭矩传感器以及译码器计算功率和转速。图轴承实验平台 以 深沟球轴承为研究对象，轴承的损伤是用电火花加工的单点损伤，电机载荷为马力，轴承转速为 ，采样频率为 。选取在驱动端采集得到的种类别数据（正常、内圈故障、外圈故障及滚动体故障）振动信号，受损程度为 。采用 小波基作为母函数对轴承数据集做小波变换，将小波变换的窗口长度定为 ，即每 个采样点可以获得张时频图。变换后种类别 数 据所 对 应 的时频 图如图所示，其中颜色越亮代表信号在该时域位置的幅值越大。为便于图片生成以及分类，在参与模型训练以及测试时去除图片坐标信息，仅保留原本时频信息。每种类别使用 张图片进行训练，为了使测试结果更加贴近实际情况，使用 张图片作为测试样本。网络参数设置编 程 环 境 为 ，使 用 深度学习框架。实验分为 数据增强和 故障分类两个部分，训练 框架时，设置为，迭代周期设置为 ，学习率设置为 ，隐变量的维度设置为 维，采用 优化器；训练 时，设置为，迭代周期设置为 ，学习率设置为 ，采用 优化器。模型中的具体参数如表所列。结果与分析 数据增强效果分析以外圈故障为例，生成器在初期、前期、中期、后期以及训练完成后生成的时频图与原图片的对比如图所示。通过图可以直观看到，生成器产生的图 正常状态；内圈故障；外圈故障；滚动体故障图小波变换时频图 原子能科学技术第 卷片与原图片越来越接近，这说明本文构建的 模型框架是有效的。图中，均方误差（）代表生成图片与原始图片的特征差异，其计算方式为：（）（）式中：为图片所含数据的总个数；为原始输入图片经过归一化之后每个元素的数值；为生成器输出图片经过归一化之后每个元素的数值。越小，代表生成图片与原图片越接近。可以看到，随着训练的进行，逐步减少，当训练到达后期时，基本不再降低，但生成的图片质量仍在提高，说明此时 模块对生成器的提升已经到达瓶颈，而 模块还在发挥作用。生成器训练完成后，每种类别各生成 张图片，种类别的最终生成图片与原图片对比如图所示。故障诊断效果分析本文将样本分类的准确率作为模型的评价指标，其计算公式如下所示：（）式 中：为分类准确率；为正确识别样本数；为总样本数。表 模型的具体参数 网络名称结构组成输出尺寸（神经元）编码器输入层 二维卷积 二维卷积 二维卷积 二维卷积 全连接（输出）全连接（输出）生成器输入层 全连接 二维转置卷积 二维转置卷积 二维转置卷积 鉴别器输入层 二维卷积 最大池化层 二维卷积 最大池化层 全连接 全连接 当仅使用 张原图片训练分类器时，训练完成后分类器对 张测试样本的分类准确率为 ，训练过程如图 所示；当用 张 初期，；前期，；中期，；后期，；完成，；原图片图生成器在不同时期生成效果 增刊张钊光等：基于 数据增强算法的小样本滚动轴承故障分类方法 正常类原图；正常类生成图；内圈故障类原图；内圈故障类生成图；外圈故障类原图；外圈故障类生成图；滚动体故障类原图；滚动体故障类生成图图类数据的生成图片与原图片对比 使用 张原图片训练；使用 张生成图片训练；使用 张原图片和 张生成图片共同训练图分类准确率对比 生成图片训练分类器时，分类准确率可以达到 ，训练过程如图 所示；当用 张原图片和 张生成图片混合在一起训练分类器时，训练完成后分类器对 张测试样本的分类准确率可以达到 ，训练过程如图 所示。图 中可以看到当生成图片参与分类器的训练之后，其分类准确率更高、分类精度提升更快而且更加稳定。值得注意的是，当生成图片单独参与分类网络的训练时，其对测试集分类精度可以达到 ，这表明本文所构建的样本增强模型，其生成图片与原图片相似程度非常高。为了验证上述分析，进行了消融实验，结果如表所列。从表可以看出，当去除、中任何一个模块时，模型的性能都有一定程度地下降，说明本文所提出的每个模块都有助于提高故障诊断率。特别是去除 后，故障诊断率下降最多，这说明本文构建的数据增强网络对模型性能提升的影响最大。表不同算法对凯斯西储数据集的分类准确率 方法训练样本数 的分类准确率训练样本数 的分类准确率 本文方法 结论本文针对仅有少量样本数据的条件下滚动轴承的故障分类问题，提出了一种基于 原子能科学技术第 卷 和 的模型框架。首先，将原始一维数据通过小波变换转换为二维图像，然后利用 模型对图像数据做样本增强，最后生成图片和原图片一起参与 分类器训练。此外，在 模型中，使用卷积自动编码器代替传统全连接编码器提取特征，从而提高模型的特征提取能力。利用凯斯西储大学实验室的数据集对本文所提方法进行了验证，实验结果表明，所提模型可以有效解决滚动轴承的少样本故障诊断问题。参考文献：王晓龙基于振动信号处理的滚动轴承故障诊断方法研究北京：华北电力大学，（）：，：，（）：，（）：，：，：，（）：，莫赞，盖彦蓉，樊冠龙基于 不平衡分类算法的信用卡欺诈分类计算机应用，（）：，（）：（），：张周磊，李垣江，李梦含，等基于深度学习的永磁同步电机故障诊断方法计算机应用与软件，（）：，（）：（）王海龙，夏筱筠，孙维堂基于与卷积神经网络的滚动轴承故障诊断组合机床与自动化加工技术，：，：（），（）：，：，（）：，：，：增刊张钊光等：基于 数据增强算法的小样本滚动轴承故障分类方法