卷积门控循环残差网络在轴承故障诊断中的研究.pdf

引用格式：引用格式：陈国俊,苏燕辰,寇皓为,等.卷积门控循环残差网络在轴承故障诊断中的研究J.中国测试，2023,49(9):46-50.CHEN Guojun,SU Yanchen,KOU Haowei,et al.Research on convolution gating cyclic residual network for bearing faultdiagnosisJ.ChinaMeasurement&Test,2023,49(9):46-50.DOI:10.11857/j.issn.1674-5124.2022010011卷积门控循环残差网络在轴承故障诊断中的研究陈国俊1,2，苏燕辰1,2，寇皓为1,2，邓越1,2，李恒奎3(1.西南交通大学机械工程学院，四川成都610031;2.轨道交通运维技术与装备四川省重点实验室，四川成都610031;3.青岛四方机车车辆股份有限公司，山东青岛266031)摘要:针对滚动轴承故障特征较难提取及许多深度学习方法因模型简单而导致准确率偏低的问题，提出一种基于残差网络的门控循环网络(GRU)，该算法可以减少时序信息的丢失及解决由于网络较深而出现性能下降的问题。该模型包含 2 个卷积层、2 个 GRU 层、1 个残差块以及 1 个输出层，其先利用具有强大特征提取能力的卷积神经网络(CNN)提取轴承振动信号中的信息，然后将提取到的信息输入 GRU 中以保证时序信息不丢失，再通过残差模块解决神经网络深度较深问题，最后通过输出层输出结果。结果表明：该方法可以一次性诊断多种轴承的不同位置及不同尺寸的故障，且对比其他深度学习网络，该算法具有更高的准确性。关键词:故障诊断;卷积神经网络;门控循环单元;残差神经网络中图分类号:U270;TH133.3文献标志码:A文章编号:16745124(2023)09004605Research on convolution gating cyclic residual network for bearing fault diagnosisCHENGuojun1,2,SUYanchen1,2,KOUHaowei1,2,DENGYue1,2,LIHengkui3(1.SchoolofMechanicalEngineering,SouthwestJiaotongUniversity,Chengdu610031,China;2.TechnologyandEquipmentofRailTransitOperationandMaintenanceKeyLaboratoryofSichuanProvince,Chengdu610031,China;3.QingdaoSifangLocomotiveandRollingStockCo.,Ltd.,Qingdao266031,China)Abstract:Aimingattheproblemthatitisdifficulttoextractthefaultfeaturesofrollingbearingandthelowaccuracyofmanydeeplearningmethodsduetothesimplemodel,agatedcyclicnetworkbasedonresidualnetwork is proposed.This algorithm can reduce the loss of timing information and solve the problem ofperformancedegradationduetothedeepnetwork.Themodelincludestwoconvolutionlayers,twogatedcyclicnetworklayers,oneresidualblockandoneoutputlayer.Firstly,theconvolutionneuralnetworkwithstrongfeature extraction ability is used to extract the information in the bearing vibration signal,and then theextractedinformationisinputintothegatedcyclicnetworktoensurethatthetiminginformationisnotlost,andthenthedeepproblemoftheneuralnetworkissolvedthroughtheresidualmodule,Finally,theresultsareoutputthroughtheoutputlayer.Theexperimentalresultsshowthatthismethodcandiagnosethefaultsofdifferentpositionsandsizesofvariousbearingsatonetime,andthecomparativeexperimentsshowthatthealgorithmhashigheraccuracyandstabilitythanotherdeeplearningnetworks.Keywords:faultdiagnosis;convolutionalneuralnetwork;gatedloopunit;residualneuralnetwork收稿日期:2022-01-04；收到修改稿日期:2022-03-05基金项目:国家重点研发计划（2020YFB1200300ZL）；成都市重点研发支撑计划（2019-YF05-02685-SN）作者简介:陈国俊（1995-），男，四川广安市人，硕士研究生，专业方向为滚动轴承故障诊断。第49卷第9期中国测试Vol.49No.92023年9月CHINAMEASUREMENT&TESTSeptember,20230 引言轴承在机械行业快速发展的时代一直扮演着十分重要的角色，一旦发生故障，便会对机械结构的健康状态带来巨大破坏并造成经济损失。因此，对轴承的状态进行实时检测非常有必要。随着时间的推移，轴承故障诊断的方法也在不断的改进。传统方法通过人工提取信号特征判断故障是否发生，其中较经典的有经验模态分解、快速傅里叶变换和经验小波变换等信号处理技术1-4。传统诊断方法依赖专家经验，在大数据时代不能满足自动化的需求。之后，针对滚动轴承国内外一些学者提出了随机森林、支持向量机、Xgboost 等机器学习方法5-7，使模型准确率得到较大提升，但是其方法具备一定的局限性，且准确率达不到较高要求。深度学习以其强大的建模与数据处理能力，在数据处理方面具有独特的优势，越来越多的深度学习算法被应用在滚动轴承故障诊断上8-9。Hoang 等10将滚动轴承一维振动信号转换成二维灰度图，作为振动图像 CNN(VI-CNN)模型的输入应用于滚动轴承故障模式的自动识别，避免了手工提取信号特征，但未考虑时序信息的丢失，准确率不是特别理想。陈保家等11提出了 CNN-LSTM 诊断模型，其先利用 CNN 进行自适应故障特征提取，然后利用长短期记忆人工神经网络(LSTM)学习故障特征，诊断的全过程没有人工参与且故障诊断效果较好，但是其模型不够便捷快速。GRU 是 LSTM 的改进版12，它相比 LSTM 更加容易收敛和训练。本文在 CNN-LSTM 诊断模型的基础上，提出使用 GRU 替换 LSTM，从而使网络收敛更快，且加入残差网络解决神经网络深度较深的问题，并通过实验与 CNN 网络、CNN-LSTM-Resnet 网络、CNN-GRU 网络对比，进一步验证了本文方法比其他方法更加快速，准确率更高。1 理论背景1.1 门控循环单元门 控 循 环 单 元（gated recurrent unit）相 比LSTM（longshort-termmemory）网络结构更简单，它也可以解决 RNN 网络中长输入序列带来的梯度消失问题13。图 1为 GRU 的结构图。GRU 使用更新门、重置门等提取时序数据中的长期依赖关系，减少梯度消失问题。运算过程分为4 个部分：重置门、更新门、候选隐含状态运算以及隐含状态运算，公式如下：Rt=(Wrht1,xt)(1)Zt=(Wzht1,xt)(2)ht=tanh(WhRiht1,xt)(3)ht=(1Zt)ht1+Ztht(4)Rt式中：重置门的输出结果；Zt更新门的输出结果；ht候选隐含状态的输出；htt 时刻的隐藏状态量；WrWzWh、和对应量权重。+tanh1hththt1xtZtRt图 1 门控循环单元1.2 残差神经网络理论上深神经网络结构的效果并不比浅神经网络差，但在实践中却发现深度越深时，梯度消失或爆炸的可能性越大。He 等14提出了残差神经网络(residualneuralnetwork，Resnet)，它可以有效解决实际中神经网络深度增加时出现的性能下降问题。图 2 为残差块的结构图。Weight layerWeight layerreluF(x)F(x)+x+xxidentityrelu图 2 残差网络的结构图前向传播时，因包含一个恒等映射，所以在一定程度上可以解决网络退化问题。反向传播时，信号可以不经过权重网络而直接传递到底层，在一定程度上可以解决梯度弥散问题。2 模型整体结构为了增强神经网络的故障检测能力，本文提出在 CNN 特征提取下 GRU 与残差神经网络有机结合的故障诊断网络，并简称为 GBRN（gatedrecurrentunitbasedonresidualnetwork），其网络模型结构如图 3 所示。GBRN 模型主要由2 层卷积神经网络、2 个GRU第49卷第9期陈国俊，等：卷积门控循环残差网络在轴承故障诊断中的研究47层以及 1 个残差块组成。在 GBRN 中，前两层传统的卷积和池化运算对原始的一维振动信号进行充分的特征提取以及降低数据维度，GRU 可保证时序信息不丢失，残差结构可防止神经网络深度较深时出现梯度消失。模型最后通过一个输出层将结果输出。relu为了提高整个网络模型的训练效率，选用最常见的作为卷积和全连接层的激活函数。鉴于轴承的振动信号是一维时间序列数据，所以本文利用一维卷积网络进行信号特征的提取。为了验证本文所提算法的可行性，选用公开且公认标准的美国凯斯西储大学的滚动轴承故障数据集进行实验分析。凯斯西储大学轴承数据是 10 分类问题，所以最后输入到分类器中用于 10 分类的数据识别。模型的具体参数如表 1 所示。表 1 GBRN 结构参数序号层类型核尺寸步长核个数是否填充1卷积层164110321是2池化层1512321是3卷积层21514481是4池化层2312481是5GRU322181否6全连接层10111否3 模型的实验验证3.1 实验数据集介绍采用美国凯斯西储大学（CWRU）的滚动轴承故障数据集进行实验，图 4 为数据采集现场。驱动端轴承测功机扭矩传感器电动机图 4 CWRU 轴承数据采集系统实验有外圈、滚子、内圈 3 种故障位置，每种故障位置有 3 种不同尺寸的缺陷。本文还使用了 1 组正常轴承进行了实验。因此，实验共有 9 种故障的信号和 1 种正常的信号，共计 10 种信号。实验分别在电机转速为 1730、1750、1772、1797r/min 条件下得到了 4 组不同的数据。输出的数据标签使用 One-Hot 编码的形式，每一个样本对应一个类别，即一个类别只有在对应的特征值才为 1，其他的值均为 0。本文分别利用 4 种电机转速下的数据进行实验，选取的样本长度均为 1024，因为网络参数较多，为了使网络训练的更好，将训练样本划分较大的比例，每次实验共 4000 条训练样本，800 条测试样本，具体情况如表 2 所示（1inch=25.4mm）。表 2 实验数据故障类型样本长度训练集数量测试集数量故障标签尺寸位置0.007inch滚动体1024400801内圈故障1024400802外圈故障10244008030.014inch滚动体1024400804内圈故障1024400805外圈故障10244008060.021inch滚动体1024400807内圈故障1024400808外圈故障1024400809正常10244008003.2 网络训练与测试1000.001100实验使用 TensorFlow 框架进行网络模型的训练与测试。实验中，将 Mini-batch 设置为，初始学习率设置为，使用 Adam 优化器，epoch 设置为。GBRN 模型在训练集和测试集上的损失值和准确率结果分别如图 5 和图 6 所示。由图可知，GBRN 算法的故障识别准确率可以达到较好的效果，模型的诊断能力良好。为了进一步说明 GBRN 算法的故障诊断能力，在相同的数据集下将 GBRN 模型与其他深度学习算法进行对比，对比实验与 GBRN 的环境相同。对比实验一：全 CNN 网络；对比实验二：CNN-LSTM-Resnet，用于比较 GRU 与 LSTM 的效果；对比实验三：CNN-GRU，用于显示 Resnet 的作用。对比实验的结果如图 7图 9 所示。GRUGRUGRUGRUGRUGRUGRUGRU0123456789+卷积池化池化卷积卷积层 1池化层 1卷积层 2池化层 2图 3 GBRN 模型整体网络的结构48中国测试2023年9月000.40.40.20.60.81.00.81.21.62.01020304050迭代次数训练精度验证精度训练损失验证损失损失值准确率60708090 100图 7 全 CNN 的效果由图可知，基于深度学习的诊断方法都可取得较好的故障诊断效果,10 分类的准确率都在 97%以上，分别为 97.69%、98.91%、98.90%以及 99.42%，其中 GBRN 算法的准确率最高。实验在不同电机转速对应的数据集下得到的平均故障诊断准确率以及训练时长如图 10 所示。对比实验一中全 CNN 网络即使参数较多，但是存在权值共享，最终训练总时间小于其他网络，所以本文先利用 CNN 提取信号特征，再将信息输入至 GRU 网络以提高网络实用性。对比实验二显示使用 GRU 网络较 LSTM 网络减少大约 4.0%的训练时间，增加 0.51%的准确率。对比实验三说明使用残差网络可使损失值的变化稳定，稳定性增加，进而使模型准确率增加。从整体角度分析 GBRN模型在准确率和稳定性方面都比其他模型好。3.3 轴承故障实验为了进一步验证 GBRN 模型的有效性和适应性，利用齿轮箱圆锥滚子轴承台架试验数据对其进000.40.81.21.62.010 20 30 40 50迭代次数训练损失验证损失损失值60 70 80 90 100图 5 模型训练和测试时的损失值曲线00.20.30.40.50.60.70.80.91.01020304050迭代次数训练精度验证精度准确率60708090 100图 6 模型训练和测试时的准确率曲线000.40.40.20.60.81.00.81.21.62.01020304050迭代次数训练精度验证精度训练损失验证损失损失值准确率60708090 100图 8 CNN-LSTM-Resnet 的效果000.40.40.20.60.81.00.81.21.62.01020304050迭代次数训练精度验证精度训练损失验证损失损失值准确率60708090 100图 9 CNN-GRU 的效果CNNCNN-LSTM-ResnetCNN-GRUGBRN1619.4397.6937.1535.2335.6798.9099.4298.91202497969899100283295364044准确率算法训练时长训练时长/s准确率/%图 10 不同算法结果图第49卷第9期陈国俊，等：卷积门控循环残差网络在轴承故障诊断中的研究49行验证。数据采集现场如图 11 所示，转轴的速度为 54r/s，转轴的外部放置了个传感器，它们的采集频率都为 10Hz。本文选取最上方振动传感器测得的垂向振动数据进行验证实验。图 11 数据采集现场图因实验的故障类型只有 4 种，故将 GBRN 的最后一个全连接层改为 4。样本长度为 1024，560 个训练样本，180 个测试样本。具体详情如表 3所示。表 3 齿轮箱轴承的故障类型编号轴承故障类型样本长度训练样本数量测试样本数量1外圈故障1024140452滚子故障1024140453内圈故障1024140454无故障102414045实验结果如图 12 所示，在训练样本仅有 560条的情况下，本文的 GBRN 模型的故障诊断准确率依然可以达到 98.99%。虽然整体诊断结果略低于使用 CWRU 轴承数据进行实验的结果，但依旧比其他模型效果好，保持了良好的诊断效果，所以该模型具有一定的通用性。CNNCNN-LSTM-ResnetCNN-GRUGBRN11.218.5493.8996.4717.6718.0596.5698.9912169290969810020249488准确率算法训练时长训练时长/s准确率/%图 12 不同模型在齿轮箱圆锥滚子轴承数据中的诊断结果4 结束语本文提出的 GBRN 模型是“端到端”的滚动轴承故障诊断算法。该算法通过卷积神经网络提取轴承振动信号中的信息，再将提取到的信息输入GRU 网络中以保证时序信息不丢失，最后通过残差模块解决神经网络深度较深问题。通过美国凯斯西储大学数据集和台架试验数据集证明该算法具有更高的分类准确率和稳定性。此模型具有一定的工程意义。参考文献TAOH,WANGP,CHENY,etal.Anunsupervisedfaultdiagnosis method for rolling bearing using STFT andgenerative neural networksJ.Journal of the FranklinInstitute,2020,357(11):7286-7307.1陆森林,王龙.CEEMD-FFT 在滚动轴承故障诊断中的应用J.郑州大学学报(工学版),2015(1):75-78.2王涛,张兵.改进经验小波变换在滚动轴承故障特征提取中的应用J.铁道机车车辆,2019,39(5):53-58.3李政,张炜,明安波,等.基于 IEWT 和 MCKD 的滚动轴承故障诊断方法J.机械工程学报,2019,55(23):136-146.4张西宁,张雯雯,周融通,等.基于多维缩放和随机森林的轴承故障诊断方法J.西安交通大学学报,2019,53(8):1-7.5王桂兰,赵洪山,米增强.XGBoost 算法在风机主轴承故障预测中的应用J.电力自动化设备,2019,39(1):73-77+83.6YANXA,JIAMP.AnoveloptimizedSVMclassificationalgorithm with multi-domain feature and its application tofaultdiagnosisofrollingbearingJ.Neurocomputing,2018,313:47-64.7HINTON G E,SALAKHUTDINOV R R.Reducing thedimensionality of data with neural networksJ.Science,2006,313(5786):504-507.8SAMIR K,TAKEHISA Y.A review on the application ofdeep learning in system health managementJ.MechanicalSystemsandSignalProcessing,2018,107:241-265.9HOANG D T,KANG H J.Rolling element bearing faultdiagnosis using convolutional neural network and vibrationimageJ.CognitiveSystemsResearch,2019,53:42-50.10陈保家,陈学力,沈保明,等.CNN-LSTM 深度神经网络在滚动轴承故障诊断中的应用J.西安交通大学学报,2021,55(6):28-36.11严勤,邓高峰,胡涛,等.基于深度循环神经网络的异常用电检测方法J.中国测试,2021,47(7):99-104.12XUL,YANYH,YUXX,etal.LSTMneuralnetworkforsolarradiospectrumclassificationJ.ResearchinAstronomyandAstrophysics,2019,19(9):137-148.13HEK,ZHANGX,RENS,etal.DeepresiduallearningforimagerecognitionC/IEEEConferenceonComputerVisionandPatternRecognition,2016.14(编辑:商丹丹)50中国测试2023年9月