基于迁移BN-CNN框架的小样本工业过程故障诊断_欧敬逸.pdf

2023 年第 36 卷第 7 期Electronic Sci.Tech./Jul.15，2023https:/收稿日期:2022-01-05基金项目:国家自然科学基金(61903251)National Naturel Science Foundation of China(61903251)作者简介:欧敬逸(1996 )，女，硕士研究生。研究方向:工业过程故障诊断。田颖(1988 )，女，博士，副教授。研究方向:工业过程监控及故障诊断。基于迁移 BN CNN 框架的小样本工业过程故障诊断欧敬逸，田颖，向鑫，宋启哲(上海理工大学 光电信息与计算机工程学院，上海 200093)摘要针对工业故障诊断过程中训练样本不足导致的诊断性能低下问题，文中以迁移学习和深度学习方法为基础，提出一种迁移 BN CNN(Batch Normalization Convolutional Neural Network)框架。为了减少网络对初始化方法的依赖，在卷积神经网络中引入批归一化层，对网络的隐藏层进行归一化处理。针对目标域标签数据不充足问题，通过基于样本的迁移学习方法扩充目标域的标记数据量，引入基于模型的迁移学习方法，通过充足的源域数据预训练 BN CNN网络，并利用数据量扩充后的目标域微调该网络部分参数，降低了少量样本训练深度神经网络的难度，得到了更适合目标域的故障诊断模型。采用 TE 工业数据集对该方法进行对比验证，实验结果表明，文中所提方法对于小样本工业过程故障具有较好的诊断性能，其平均精度值为 0 804。关键词故障诊断;工业过程;卷积神经网络;批归一化;源域;目标域;微调;迁移学习中图分类号TP277文献标识码A文章编号1007 7820(2023)07 049 07doi:10.16180/ki.issn1007 7820.2023.07.007Fault Diagnosis of Few Shot Industrial Process Based on TransferBN CNN FrameworkOU Jingyi，TIAN Ying，XIANG Xin，SONG Qizhe(School of Optical Electrical and Computer Engineering，University of Shanghai for Science and Technology，Shanghai 200093，China)AbstractIn view of the problem of weak diagnosis performance caused by insufficient training samples in in-dustrial process fault diagnosis，a transfer BN CNN framework is proposed based on transfer learning and deeplearning in this study In order to reduce the dependence of the network on the initialization method，a batch normali-zation layer is introduced into the convolution neural network to normalize the hidden layer of the model To solve theproblem of insufficient label data in the target domain，the sample based transfer learning method is used to expandthe labeled data volume of the target domain By introducing the model based transfer learning method，the BN CNN network is pre trained with sufficient source domain data，and some parameters of the network are fine tunedby using the expanded target domain The difficulty of training the deep neural network with a small number of sam-ples is reduced，and a fault diagnosis model suitable for target domain is obtained The comparison experiments onTE industrial data set show that the proposed has good diagnostic performance for small samples of industrial processfaults，and its average accuracy is 0804Keywordsfault diagnosis;industrial process;convolutional neural network;batch normalization;source do-main;target domain;fine tune;transfer learning随着工业产品需求的多样化、个性化，工业生产过程日益复杂化、自动化。工业生产过程一旦发生故障，往往会导致严重的经济损失和社会危害。因此，工业控制系统的安全问题受到广泛关注，维护复杂工业系统安全成为当前故障诊断与安全控制领域的研究重点1。基于数据驱动的方法不需要建立具体的数学模型，也不必具备准确的先验知识，以采集过程数据为基础，利用数据处理与分析方法提炼出数据中的特征信息，形成知识，最后训练出可以自主决策的模型，其在复杂工业过程控制中有着广泛的应用2。在基于机器学习方法的数据驱动故障诊断方面，文献 3 提出了一种基于局部线性嵌入(Locally LinearEmbedding，LLE)的 k 均值聚类算法，运用 LLE 算法将正常数据降维并求出投影矩阵，利用投影矩阵将原始故障数据映射到低维空间再利用 k 均值算法对其聚94Electronic Science and Technology欧敬逸，等:基于迁移 BN CNN 框架的小样本工业过程故障诊断https:/类3，但该方法对微小故障不能完全诊断。在深度学习方面，文献 4提出了一种基于深度功能自动编码器的滚动轴承智能故障诊断无监督学习方法，设计了一个带有 Softmax 分类器的深度功能自动编码器模型4。近年来，迁移学习方法引起了广泛关注。迁移学习能够将在以前任务中学习到的知识应用到新任务中，为解决标注数据缺乏和分布差异问题提供思路5。现有的大多数深度迁移算法都假设源域和目标域具有相同的故障类别，然而在实际工业应用中，机器运行过程可能产生与模型训练集不同的新故障。针对这一问题，文献 6 提出了一种深度对抗迁移学习网络，通过训练分类器将目标样本识别为新故障，为可能出现的新故障检测建立决策边界。针对数据的时序相关性和个体差异性问题，文献 7提出了基于迁移动态自动编码的深度学习框架，先提取数据的动态特征，再利用迁移学习方法解决不同场景下模型配适问题。考虑到数据量不充足问题，文献 8提出基于迁移学习和数据增强的卷积神经网络(Convolutional Neural Network，CNN)模型，采用基于生成对抗网络的数据增强来扩充数据，并利用迁移学习对真实和生成图像进行训练和测试。基于上述问题，本文提出一种基于批归一化的BN CNN(Batch Normalization Convolutional NeuralNetwork)深度迁移学习模型。为克服 CNN 在处理数值数据上的劣势，本文采用一维 CNN9 模型处理数据。鉴于所处理的工业数据往往是时序相关的，而池化层会导致网络中时序信息丢失，因此在构建 CNN 模型时，池化层不在考虑范围之内。为了缓解 CNN 训练过程中可能发生的梯度消失或梯度爆炸问题，在 CNN 模型中引入 BN10 网络，提取故障数据的归一化特征。此外，针对实际工业过程中标签数据不足问题，本文采用两种迁移学习方法11，分别从样本和模型两方面对目标任务进行迁移学习。其中，样本迁移过程主要利用 KL 散度(Kullback Leibler divergence)对数据量充足且与目标域分布相似的源域数据进行筛选，选择与目标域具有更强相似性的数据对目标训练集进行扩充。在工业生产过程中，物料的轻微变化也可能导致结果差异。相对于其他迁移学习方法，样本迁移方法使目标域能够保留更多原始信息。在化工过程中，信息常以熵的形式进行度量，相对于直接度量源域与目标域之间的距离，KL 散度能够从熵的角度衡量相同事件空间里两个概率分布的差异情况。因此，本文选择 KL 散度作为样本迁移过程的度量准则。然而，大量样本迁移会导致网络对源域的拟合程度大于目标域，小量样本迁移又无法满足神经网络的训练需要，且样本迁移只能提高初始化时的稳定性，无法参与训练过程中的特征提取。因此，本文将小量样本迁移与模型迁移相结合，样本迁移后的目标域不用于训练网络，而用于微调。即利用源域数据对 BN CNN 网络进行预训练，再利用扩充后数据对预训练的BN CNN 网络进行微调，提取目标域与源域之间的相似特征信息，最后采用原目标域数据对该网络进行测试和评估。本文所提方法针对工业故障诊断问题对CNN 网络进行改进，且根据工业过程的特点，结合了基于样本的迁移学习和基于模型的迁移学习方法，有效解决了标签数据不充足情况下的工业过程故障诊断问题。1基本原理1 1卷积神经网络CNN 是一种常见的前馈神经网络，由卷积层、激活层、池化层和全连接层组成，能高效地提取样本的时空特征。本文采用一维 CNN 对时序工业过程数据进行特征提取。在一维 CNN 训练过程中，卷积过程沿着单一方向移动，在提取空间特征的同时有效保留时序特征12。对于样本量为 n+1、特征维度为 m+1 的输入 X=xi，i|i=0，1，n;i=0，1，m，大小为t+1、步长为 s 的一维卷积核在第 i 个样本上的第 j 个输出 y(k)i，j为y(k)i，j=f(j s+tj=j sw(k)i，j j s xi，j+b(k)i)，j=0，1，m ts，k=1，2，K(1)式中，K 为卷积核个数;f 为激活函数，本文使用 eLU作为激活函数;w(k)i，j j s为第 k 个卷积核的权重;bi(k)为第 k 个卷积核的偏置;xi，j为输入序列。卷积层后通常是池化层，池化层以降低特征的维度为目的对卷积输出进行下采样，常见的池化方式为最大池化。为方便表述，令(m t)/s=d，则对于卷积输出 Y=yi，j(k)|i=0，1，n;j=0，1，d，当大小为 t+1 的一维最大池化层以步长 s 沿着单一方向移动时，卷积输出特征经过最大池化后的第 p 个输出为z(k)i，p=maxq(p s，p s+t)y(k)i，q，p=0，1，d ts(2)式中，yi，q(k)为第 k 个卷积核的输入序列。经过多次卷05欧敬逸，等:基于迁移 BN CNN 框架的小样本工业过程故障诊断Electronic Science and Technologyhttps:/积、池化操作后，将得到的特征依次展开成一维向量，得到全连接层。在全连接层之后，常采用 Softmax 回归函数处理神经网络的多分类问题。其过程可以分为以下两个步骤:步骤 1通过指数函数将预测结果转化为非负数;步骤 2将变换后的所有预测结果归一化。假设全连接层的输出为 h(i)|i=1，2，n，标签 y(i)=1，2，r|i=1，2，n。其中，n为样本量，r为标签类型数。通过式(3)和式(4)可以计算出 h(i)属于每个类别的概率，并通过最小优化问题训练Softmax回归函数H(h(i)=p(y(i)=1|h(i);)p(y(i)=2|h(i);)p(y(i)=r|h(i);)=1rj=1eTjhieT1h(i)eT2h(i)eTrh(i)(3)LSoftmax(，h(i)，y(i)=1kki=1rj=11y(i)=jlog(p(y(i)=j|h(i);)(4)式中，=1，2，rT是回归函数的参数矩阵;1y(i)=j是指示函数，当第 i 个样本的类型为 j 时，指示函数的值为 1。1 2批归一化考虑到神经网络中间层的数据分布对网络训练的影响，BN 网络常被添加在神经网络的中间层进行归一化处理，以减小各层数据的差异性，加速网络的收敛。因此，本文在 CNN 的卷积层与激活层之间引入 BN 网络。对于一个批次样本 B=x1，x2，xn，经过 BN网络后的输出 yi可由式(5)得出。B=1nni=1xi2B=1nni=1(xi B)2xi=xi B2B+yi=xi+BN，(xi)(5)式中，B为批内样本均值;B2为批内样本方差;是为了防止分母为0 为而引入的超参数;和 为要学习的参数。1 3KL 散度KL 散度又叫相对熵，常用于度量两种分布之间的相似程度，两种分布的 KL 散度值越小，代表二者相似度越高13。与其他相似度性能指标不同，KL 散度以熵的形式对不同分布进行度量，更适用于本文中工业过程数据。因此，本文引入 KL 散度，计算源域所有样本与目标域的相似度，并使用与目标域更相似的样本对目标域进行扩充。对于源域和目标域的任意 m 维样本 xsd和 xtd，xsd对 xtd的 KL散度可由式(6)计算得出。DKL(xsd|xtd)=mi=1xsd(i)logxsd(i)xtd(i)(6)式中，xsd(i)和xtd(i)分别代表样本xsd和xtd的第i 维特征。2迁移 BN CNN 框架迁移学习方法通过将一个相关领域的信息迁移到另一个领域来提高学习者的能力14。其中，标签数据充足的相关领域称为源域，目标研究领域称为目标域。迁移学习方法通常分为 4 种，即基于样本的迁移学习、基于特征的迁移学习、基于模型的迁移学习和基于关系 的 迁 移 学 习15。本 文 利 用 源 域 数 据 预 训 练BN CNN网络，并采用基于样本的迁移学习方法，利用 KL 散度基本原理对目标域数据进行扩充，然后通过基于模型的迁移学习方法，使用该目标域数据对预训练网络进行微调和测试评估。本文所构建的迁移BN CNN 框架如图 1 所示。图 1 迁移 BN CNN 结构Figure 1 Transfer BN CNN structure2 1预训练网络利用源域数据预训练 BN CNN 模型，其网络如表 1 所示。由表 1 可以看出，第 1、第 4 层为两个 1 维卷积层，通过卷积对输入数据进行降维和特征提取;第3、第 6 和第 10 层为 3 个 eLU 激活层，在每个 eLU激活函数之前分别添加了一层 BN 网络对上一层的输出进行批归一化，削弱了因各层差异性导致的训练困难;第 7 层将数据平铺成一维;第 8 和第 11 层为全连接层，将学习的特征映射到样本标记空间;最后连接Softmax 回归函数进行故障诊断。15Electronic Science and Technology欧敬逸，等:基于迁移 BN CNN 框架的小样本工业过程故障诊断https:/表 1 BN CNN 结构Table 1 BN CNN structure层数层类型1con1d_12batch_normalization_13activation_1(eLU)4con1d_25batch_normalization_26activation_2(eLU)7flatten_18dense_19batch_normalization_310activation_3(eLU)11dense_212activation_4(Softmax)在本文所提出的 BN CNN 中没有采用池化层，因为本文所模拟的工业数据是时序相关的，池化层会丢失或淡化部分时序信息。2 2基于样本迁移在上一节中，源域数据被用来预训练 BN CNN网络。在本节中，采用源域数据对目标域训练集数据进行扩充。本文将目标域训练集数据和源域数据分别按照故障划分。对于任意故障，求取目标域训练样本中心，并依次计算源域样本与目标域样本中心的 KL散度。选择 KL 散度值更小，即与目标域更相似的源域样本，将其添加到对应故障的目标域训练集中。这种基于样本的迁移方法直接将相似样本添加至目标域中，缓解了目标域标记样本不足的问题。2 3基于模型迁移完成对目标域的扩充后，利用新目标域训练集对预训练后的 BN CNN 网络进行微调。经过参数优化，最终选择固定表 1 所示的前 7 层，微调后 5 层，即保持卷积层参数不变，微调全连接层参数。基于模型的迁移方法利用源域数据预训练模型，再利用新目标域数据对模型部分参数进行微调，通过减少目标域需要训练的参数量，克服目标域标记样本不足导致的训练困难问题。3实验与分析3 1数据描述为了证明本文提出的迁移 BN CNN 模型在小样本工业过程故障诊断问题上的有效性，设计了基于 TE(Tennessee Eastman)过程数据的实验对其进行验证。TE 过程数据常应用于复杂工业过程监控与故障诊断领域，是由文献 16 根据真实的化学反应过程生成的具有时变、强耦合、非线性等特征的数据。TE 工艺由反应器、冷凝器、压缩机、分离器和汽提塔 5 个模块构成，通过控制 12 个操作变量的变化产生 41 个测量变量，这些变量共同模拟 TE 过程中的 21 种故障17。根据反应过程中两种液体产物 G 和 H 的不同物料比，TE过程可分为 6 种工况，如表 2 所示。表 2 不同工况的模型参数Table 2 Model parameters of different working conditions工况G/H 质量比产率(流股 11)150/507 038 kgh1G and 7 038 kgh1H210/901 408 kgh1G and 12 669 kgh1H390/1010 000 kgh1G and 1 111 kgh1H450/50最大产率510/90最大产率690/10最大产率在本文中，选择上述工况 1 作为迁移学习的目标域，将工况 3 作为源域。对工况 1 和工况 3 的每种故障状态分别收集 500 个样本，在第 161 个样本处引入故障。按照这一标准，分别收集了工况 1 和工况 3 的20 种故障数据。由于只对故障数据进行诊断，因此在实验前要剔除所有状态引入故障前的 160 个样本。由于难以通过数据驱动策略诊断故障 3、故障 9 和故障15，因此本文对其不予考虑，即本实验中每个工况的故障样本量为 340 17。在此基础上，对目标域数据(工况 1 数据)进行分层抽样，以模拟实际工业过程标记数据不足的情况。对每种故障抽取 34 个样本作为训练集、34 个样本作为测试集，使目标域数据量与源域数据量相差约 1 个数量级。对于源域数据(工况 3 数据)，按照 3 1的比例划分训练集和测试集。通过上述操作，共得到272 17组源域训练样本和 68 17 组源域测试样本以及34 17组目标域训练样本和另外 34 17 组目标域测试样本。3 2实验过程在完成数据划分后，利用源域训练集和测试集对本文所提出的 BN CNN 模型进行预训练，然后采用基于样本的迁移学习方法扩充目标域样本，最后利用基于模型的迁移学习方法微调模型参数。3 2 1样本迁移过程中超参数的影响在基于样本的迁移过程中，只有与目标域有相似分布的样本才能用来扩充目标域。本文考虑采用欧氏距离、曼哈顿距离、切比雪夫距离、余弦距离和 KL 散度 6 种不同的方法计算源域样本与目标域的距离或相似程度，在源域的每种故障中选择与目标域最相似的34 个样本，对目标域的每种故障进行扩充，并微调模型的全连接层。对每种方法进行 5 次重复试验，结果如表 3 所示。25欧敬逸，等:基于迁移 BN CNN 框架的小样本工业过程故障诊断Electronic Science and Technologyhttps:/表 3 不同相似度计算指标下的精度Table 3 Accuracy under different indexes of similarity不同指标第 1 次第 2 次第 3 次第 4 次第 5 次均值欧氏距离0784079807850 7820 7920788曼哈顿距离0796079407910 8010 7910795切比雪夫距离0787078007750 7800 7790780余弦距离0775078707840 7820 7820782KL 散度0803080407990 8080 8060804由表 3 可以看出，当分别采用欧氏距离、曼哈顿距离、切比雪夫距离、余弦距离和 KL 散度作为计算源域与目标域相似程度的指标时，模型的平均精度分别为0788、0 759、0 78、0 782 和 0 804，其中以 KL 散度作为计算指标时模型具有最高的精度值 0 804。依照上述实验步骤，对每种故障分别选择 34 个和68 个样本作为迁移样本。结果如图 2 所示。图 2 不同指标及迁移样本量下的精度Figure 2 Accuracy under different indexes andtransfer sample sizes由图 2 可以看出，当选择 68 个扩充样本时，所有模型的故障诊断精度皆低于选择34 个扩充样本。其原因可能是:目标域的训练集每种故障只有 34 个样本，当来自源域的扩充样本量较多时，利用扩充后样本进行的微调过程学习到的大部分知识仍来自源域，这样的模型对目标域难以具有较好的诊断效果。该结果表明，在进行样本迁移时，大量迁移是不可取的，且神经网络的训练会产生大量参数与特征信息，因此小量迁移 微调模型的方式为本文所采用。此外，当选择 68 个扩充样本时，选择 KL 散度作为相似度计算指标的模型精度依然最高，约为 0 788。实验结果证明 KL 散度作为一种熵更适用于度量工业过程数据相似度。3 2 2模型迁移过程中超参数的影响在基于模型的迁移过程中，通过控制微调的层数对不同参数进行微调。这里选择 KL 散度作为相似度指标，每种故障选择 34 个迁移样本，微调预训练后的BN CNN 网络的 12 0 层。每种情况进行 5 次重复实验，取均值绘制折线图如图 3 所示。图 3 不同微调层数下的模型精度Figure 3 Accuracy under different fine tuning layers在图 3 中，横坐标 1 11 表示:保持表 1 所示的BN CNN模型结构的第 1 层参数不变，微调后 11 层参数;保持模型结构的前2 层参数不变，微调后10 层参数;以此类推，保持模型结构的前11 层参数不变，微调最后1层参数;横坐标12 表示预训练 BN CNN 模型直接预测目标域数据。可以看出，当模型的前1 7 层保持不变、微调后11 5 层时，网络具有较好且相似的故障诊断性能;当模型的前8 11 层保持不变、微调后4 1 层以及不进行微调时，模型不能对目标域故障进行有效诊断。其中，当模型保持前7 层不变，微调后5 层时，本文所提出的模型具有最好的诊断性能，其精度值为0804。3 2 3与其他方法性能对比本文比较了相同目标域数据集在普通 CNN、支持向量 机(Support Vector Machine，SVM)、随 机 森 林(andom Forest，F)和循环神经网络(ecurrent Neu-ral Network，NN)4 种传统机器学习或深度学习方法上的故障诊断效果。优化每种对比方法的参数，使其具有更好效果。随后获取每种方法在本实验涉及范围内最优参数下的精度、查准率、召回率和 F1 score。对每种方法分别进行 5 次重复实验，取其各项性能指标平均值作为最终结果，结果如表 4 所示。表 4 不同方法的不同性能指标表现Table 4 Performance of different methods indifferent indexes不同方法精度查准率召回率F1 scoreT BN CNN0 804069106220652CNN0 662069004350498NN0 608068306080622SVM0 697070906970798F0 69207400692069535Electronic Science and Technology欧敬逸，等:基于迁移 BN CNN 框架的小样本工业过程故障诊断https:/此外，根据表 4 绘制各种方法在不同性能指标上表现的直方图，如图 4 所示。图 4 不同方法的不同性能指标表现Figure 4 Performance of different methods in different indexes从表 4 和 图 4 可 以 看 出，本 文 提 出 的 迁 移BN CNN方法在精度方面表现出较大优势，平均精度值为 0 804。对于其他 3 种性能指标，传统机器学习方法表现更好。其中，F 具有最高的查准率，为0 740，SVM 具有最高的召回率，为 0 697 和最好的F1 score，为 0 798。4结束语针对实际工业过程中时间相关性和标注数据不足导致的故障诊断问题，本文提出了一种基于深度迁移学习的迁移 BN CNN 故障诊断方法。该方法将批归一化处理后的卷积神经网络和迁移学习相结合，提取源域数据特征并将学习到的知识迁移到目标域中以解决实际情况中标注数据欠缺问题。对 TE 数据进行的实验表明，该方法对小样本工业过程具有良好的故障诊断性能。然而，本文所提方法仍存在一些不足之处，例如数据量较小导致批大小会受到限制，且本文所提方法在查准率、召回率和 F1 score 这 3 种性能指标上并没有较大优势。后续将针对这些问题做进一步的研究和性能提升。参考文献 1 罗浩，霍明夷，尹珅，等 复杂工业系统故障诊断与安全控制方法 J 信息与控制，2021，50(1):20 33Luo Hao，Huo Mingyi，Yin Shen，et al Fault diagnosis andsafety control for complex industrial systems J Information-al and Control，2021，50(1):20 33 2 Yin S，Ding S X，Xie X C，et al A review on basic data driven approaches for industrial process monitoringJIEEE Transactions on Industrial Electronics，2014，61(11):6418 6428 3 李元，耿泽伟 基于 LLE 与 K 均值聚类算法的工业过程故障诊断 J 系统仿真学报，2021，33(9):2066 2073Li Yuan，Geng Zewei Fault diagnosis of industrial processbased on LLE and K means clustering algorithmJ Jour-nal of System Simulation，2021，33(9):2066 2073 4 Aljemely A H，Xuan J P，Jawad F K J et al A novel unsu-pervised learning method for intelligent fault diagnosis of roll-ing element bearings based on deep functional auto encoder J Journal of Mechanical Science and Technology，2020，34(11):4367 4381 5Sun M，Wang H，Liu P，et al Stack autoencoder transferlearning algorithm for bearing fault diagnosis based on classseparation and domain fusionJ IEEE Transactions on In-dustrial Electronics，2021，69(3):3047 3058 6 Li J P，Huang Y，He G L，et al A deep adversarial transferlearning network for machinery emerging fault detection J IEEE Sensors Journal，2020，20(15):8413 8422 7 Yin Z，Zhao M Y，Zhang W，et at Physiological signal based mental workload estimation via transfer dynamical au-toencoders in a deep learning frameworkJ Neurocomput-ing，2019，347(1):212 229 8Kaur S，Aggarwal H，ani Diagnosis of Parkinson s dis-ease using deep CNN with transfer learning and data augmen-tation J Multimedia Tools and Applications，2021，80(7):10113 10139 9Levent E，Turker I，Serkan K A generic intelligent bearingfault diagnosis system using compact adaptive 1D CNN clas-sifierJ Journal of Signal Processing Systems，2019，91(2):179 189 10 刘建伟，赵会丹，罗雄麟，等 深度学习批归一化及其相关算法研究进展 J 自动化学报，2020，46(6):1090 1120Liu Jianwei，Zhao Huidan，Luo Xionglin，et al esearch progresson batch normalization of deep learning and its related algo-rithms J Acta Automatica Sinica，2020，46(6):1090 1120 11 庄福振，罗平，何清，等 迁移学习研究进展J 软件学报，2015，26(1):26 39Zhuang Fuzhen，Luo Ping，He Qing，et al Survey on transferlearning research J Journal of Software，2015，26(1):26 39 12 闫书豪，乔美英 基于一维 WConv BiLSTM 的轴承故障诊断算法 J 电子科技，2021，34(4):75 82Yan Shuhao，Qiao Meiying Bearing fault diagnosis algorithmbased on one dimensional WCov BiLSTMJ ElectronicScience and Technology，2021，34(4):75 82 13 王志杰 基于 K L 散度的滚动轴承故障诊断及状态监测方法研究 D 北京:北京交通大学，2019:20 61Wang Zhijie Fault diagnosis and condition monitoring of roll-ing bearing based on Kullback Leibler divergence D Bei-jing:Beijing Jiaotong University，2019:20 6145欧敬逸，等:基于迁移 BN CNN 框架的小样本工业过程故障诊断Electronic Science and Technologyhttps:/ 14 Weiss K，Khoshgoftaar T M，Wang Dingding A survey of transferlearning J Journal of Big Data，2016，3(1):1 40 15 Pan S J，Yang Qiang A survey on transfer learning J IEEE Transactions on Knowledge and Data Engineering，2009，22(10):1345 1359 16 Downs J J，Vogel E F A plant wide industrial process con-trol problem J Computers Chemical Engineering，1993，17(3):245 255 17 Chen H H，Tio P，Yao X Cognitive fault diagnosis in tennesseeeastman process using learning in the model space J Comput-ers Chemical Engineering，2014，67(3):33 42欢迎订阅Electronic Science and Technology邮发代号:52 246投稿网址:https:/