声纹信号-图形差分场增强和多头自注意力机制的变压器工作状态辨识方法.pdf

第 43 卷 第 1 期Vol.43,No.12024 年 1 月Journal of Applied AcousticsJanuary,2024 研究报告 声纹信号-图形差分场增强和多头自注意力机制的变压器工作状态辨识方法张 寒1,2熊 云1,2唐 信1,2王 枭3(1 国网湖南超高压变电公司长沙410000)(2 变电智能运检国网湖南省电力有限公司实验室长沙410000)(3 上海睿深电子科技有限公司上海200237)摘要：为提升电力变压器工作状态的智能监测水平，提出声纹信号-图形差分场增强和多头自注意力机制的变压器工作状态辨识方法。基于图形差分场技术将声纹信号映射为二维图像，再借助多头注意力机制的视觉转换器实现图像信息的深层挖掘与状态辨识，采用梯度加权类激活映射实现分类结果的可解释性分析。搭建了包含变压器4种典型工作状态下的实验模拟测试系统平台，实验结果表明：所提方法不仅能够有效表征变压器声纹信号的状态特征，且分类辨识精度相较于“时频图+引入多头注意力机制的变换网络”与“图形差分场+引入残差模块的卷积神经网络”的常规方法有显著提升，提升约6%，同时也具备较好的鲁棒性，可为电气设备的故障检测研究提供一定参考。关键词：图形差分场；多头自注意力机制；变压器；状态辨识中图法分类号:TM595文献标识码:A文章编号:1000-310X(2024)01-0119-12DOI:10.11684/j.issn.1000-310X.2024.01.015Transformer working state identification method based on voiceprint signal-motifdifference field enhancement and multi-head self-attention mechanismZHANG Han1,2XIONG Yun1,2TANG Xin1,2WANG Xiao3(1 State Grid Hunan Extra High Voltage Substation Company,Changsha 410000,China)(2 Substation Intelligent Operation and Inspection Laboratory of State Grid Hunan Electric Power Co.,Ltd.,Changsha 410000,China)(3 Shanghai Rhythm Electronic Technology Co.,Ltd.,Shanghai 200237,China)Abstract:In order to improve the intelligent monitoring level of power transformer working state,a method oftransformer working state identification based on motif difference field(MDF)voiceprint signal enhancementand multi-head self-attention mechanism is proposed.Based on the MDF technology,the sound signal ismapped into a two-dimensional image,and then the depth mining and state recognition of image informationare realized with the help of the visual converter of multi-head attention mechanism,and the explanatorypower analysis of classification results is realized by using gradient weighted class activation mapping.Theexperimental simulation test system platform containing four typical operating states of the transformer isconstructed,and the experimental results show that the proposed method not only can effectively characterizethe state characteristics of the transformer acoustic signal,but also has a higher classification accuracy compared2023-07-24收稿;2023-10-14定稿国网湖南省电力有限公司科技项目(5216A3210014)作者简介:张寒(1975),男,湖南长沙人,博士,高级工程师,研究方向:高压试验及带电检测技术。通信作者 E-mail:wangxiao_1202024 年 1 月with the“time-frequency+transformer network with multi-head self-attention mechanism”and the“MDF+visual converter with multi-head attention mechanism”,which is about 6%,and also has better robustness,which can provide a certain reference for the research on the detection of faults in electrical equipment.Keywords:Motif difference field;Multi-head self-attention mechanism;Transformer;State identification0 引言电力变压器是输变电设备中的核心设备，其主要用于电压转换和电能分配1。变压器结构复杂，在长期运行后不可避免地存在问题，因此其故障率一直居高不下2。因此，开展电力变压器故障检测与诊断方法研究，及时有效识别变压器故障，对于保障电网安全、减少经济损失有着重要的意义。变压器最为常见的故障主要分为以下3种：绝缘故障、过热故障及机械故障。当设备部件出现故障后，会向外辐射温度、电磁、光学以及振动信号，常规变压器状态检测方法也主要针对上述状态量展开分析，如油色谱检测、红外热成像检测、局放检测等34。由于电力变压器在运行过程中形成的振动信号会向外辐射为声信号，可作为设备缺陷有效的诊断依据。相比于其他常规检测方法，声学检测凭借其非接触式检测安全、测试简单、无需停电等特点，非常适合于数量众多的变压器设备状态检测，因此也成为了近些年的研究热点56。针对于变压器的声学信号检测处理方法主要有：傅里叶变换、小波包变换等，利用上述方法获取设备不同状态下的时频特征以进一步挖掘深层状态特征。钱苏翔等7针对变压器绕组故障难以辨识问题，提出了一种基于频率响应法和小波包特征能量提取的变压器故障诊断方法，实验验证了方法的可靠性；耿琪深等8提出了一种基于Gammatone倒谱系数和鲸鱼算法优化随机森林的变压器机械故障声诊断方法，对某10 kV干式变压器正常与典型机械故障下声信号的计算结果表明，该诊断方法能够较好地识别出故障信号，并具有良好的抗噪性能和鲁棒性。尽管基于声纹信号的变压器状态监测方法获得了良好的效果，但目前该方法的特征提取仍以人工为主，需要操作人员具备丰富的声学信号分析及状态监测经验；同时，由于电力变压器应用场景广、应用数量多、运行周期长，采集获得的声纹监测数据往往呈现海量化、多模态化的特征，人工操作将耗费大量时间精力，因此亟需一种智能化的变压器状态在线监测方法910。深度学习是一种可靠的智能辨识技术，凭借学习性能优异、适应性强等优势逐渐被应用于机械设备的智能诊断领域。王昕等11提出一种基于迁移学习和卷积神经网络的电力设备图像识别方法，并利用实际数据验证了所提方法能够提升学习效率和精度；黄文礼等12针对变压器结构复杂、维护成本高等特点，提出一种基于深度学习的变压器故障信号识别算法，并基于实验证明了所提方法的可行性。然而，上述方法仍存在一定不足：常规神经网络难以充分利用时间序列数据的内在特性，可能会造成部分信息的丢失进而使得辨识精度下降。同时常规深度神经网络往往是一个黑箱模型，难以明晰其内部工作原理与辨别逻辑。近期，Zhang等提出了一种图形差分场(Motifdifference field,MDF)方法13，该方法在将一维时域信号转化为二维图像的同时，充分保留了时域信号的时间参量信息与非线性特征，进而在时间序列预测领域得到了应用14。但目前在电力设备的状态监测领域还未见文献介绍。针对上述问题，提出了一种基于MDF信号增强和多头自注意力机制的变压器工作状态辨识方法。通过搭建10 kV电力变压器设备的缺陷模拟实验系统，模拟了变压器正常状态、绕组松动状态、铁芯松动状态以及表面放电4种典型缺陷，采集了相应状态的声纹信号，借助MDF技术将一维时域信号映射为二维图像，利用多头自注意力机制的Vision Transformer分类模型实现了电力变压器设备状态的有效辨识，并引入梯度加权类激活映射(Gradient-weighted class activation mapping,Grad-CAM)突出了模型的可解释性。1理论介绍1.1MDFMDF是一种将时间序列转换为图像的方法，具备提高时间序列的可视化和特征提取效果等优势，目前主要应用于时间序列的复杂性测量、动态系统表征等领域13。第43卷 第1期张寒等：声纹信号-图形差分场增强和多头自注意力机制的变压器工作状态辨识方法121假设有一离散总点数为N 的时域信号y=y1,y2,yN，可定义时域信号y 的图像集Gnd14：Gnd=Gnd,s,s=1,2,N (n 1)d,(1)式(1)中，d表示为步长，n (1,N)表示图像个数，Gnd,s=yi,i=s,s+d,s+2d,s+(n 1)d，s表示为计算的时间窗口长度。则有图像差分集dGnd：dGnd=dGnd,s,s=1,2,N (n 1)d,(2)式(2)中，dGnd,s=ys+d ys,ys+2d ys+d,ys+(n1)d ys+(n2)d。由于差分集dGnd长度不一致，还需进行补零操作、构造新集合Hnd,s：Hnd,s=dGnd,s,s 1,N (n 1)d,0,sN(n1)d,N (n1).(3)定义MDF图像Mn：Mn=Hn1,Hn2,Hndmax,(4)式(4)中，Hndmax表示步长dmax时所对应的n 1个集合，即可产生n 1个通道图像。对于第j 个通道，定义图像数组Knj为Knj=Hn1(j),Hn2(j),Hnd(j),Hndmax(j)T,(5)式(5)中，Hnd(j)=Hnd,1(j),Hnd,2(j),Hnd,Nn+1(j)T,上标“T”表示转置。为填补Knj中的零元素，可定义MDF图像的每一个通道为Lnj=Knj+Pn Knj,(6)式(6)中，Pn=0,s 1,N (n 1)d,1,s N (n 1)d,N (n 1),表示哈达玛积15，Knj是由Knj旋转180得到。由上述公式可知，利用MDF方法在将一维时间序列映射为二维图谱的同时，可充分保留时间序列的状态特征信息。图1为该方法的实现流程。1.2基于多头自注意力机制的Vision Trans-former分类算法在将电力变压器设备的原始时域声纹信号映射为二维图像后，为进一步辨识设备的运行状态，还需选择合适的深度学习网络以实现最终的状态辨识。Vision Transformer是一种基于自注意力机制的深度学习模型，其凭借特征提取能力快、特征融合强以及运行效率高等特点被广泛应用于文本分类、图像分类等领域1617。拟以Vision Transformer为基础，通过引入多头自注意力机制18增强算法的深层特征感知性能，最终实现不同变压器状态的可靠辨识，其主要实现流程包括以下4个步骤：050100150200-15-10-505T10-3?MDF?图1MDF流程示意Fig.1 Schematic diagram of MDF flow1222024 年 1 月(1)图像数据的序列化处理首先对原始图像集合进行归一化、缩放等操作，并提取图像集合的特征矩阵；然后划分特征矩阵并将图像块转化为序列化数据，通过展平操作将每个图像块重塑为一维向量，并按照预定义顺序进行编码，得到代表每个图像块的序列化数据，其转换公式如下：xk,i=W0 vec(F(bk,i)+pk,i,(7)式(7)中，bk,i表示第k个块中的第i个位置，F()表示特定的非线性变换函数，vec()表示将矩阵展平成向量，W0和pk,i是可学习参数。关于编码方式通常采用字典编码19、哈希编码20等。(2)位置嵌入采用位置嵌入和Patch嵌入相加的方式引入位置信息，位置嵌入如图2所示，编号08的方框表示各个位置的位置嵌入，而数字框右侧方框则代表经过线性投影之后的展平向量。(3)学习嵌入对输入的向量进行查询、键、值线性变换，得到相应多头变换向量，并分别进行自注意力计算，将多头的结果拼接得到最终输出。假设输入的向量为x，查询、键、值线性变换的权重矩阵分别为Wq、Wk和Wv，则有变换后的向量分别为Q=xWq,K=xWk,V=xWv.(8)将Q、K、V 分别拆分成h个头，则有Qihi=1，Kihi=1，Vihi=1。对于每个头i 1,h，计算其对应的注意力权重i：i=softmax(QiKTidk),(9)式(9)中，dk为缩放因子，用于缓解点积计算时的梯度消失问题21。0*12345678Transformer?MDF?图2位置嵌入示意Fig.2 Schematic diagram of position embedding对每个头的注意力权重i与对应的值矩阵Vi进行相乘与拼接操作，可得MA(Q,K,V)=Concat(iVihi=1)Wm,(10)式(10)中，Concat()表示拼接操作，MA表示多头自注意力机制，最后再通过一个线性变换得到最终输出。(4)Transformer编码器引入Transformer编码器充分挖掘输入数据集的深层特征信息，将输入集中的每个向量映射到一个更高维度的空间。图3为Transformer编码器的基本框架，由图3可知，Transformer编码器由交替层的多头自我注意机制和多层感知器组成。同时，在每个子块之前应用标准化块以提升模型鲁棒性、降低复杂度，在每个子块之后应用剩余连接以缓解梯度消失和梯度爆炸问题并加速模型收敛速度。?Patches?+L?图3Transformer编码器框架示意Fig.3 Schematic diagram of Transformer encoderframework1.3基于Grad-CAM的特征可视化常规深度神经网络通常包含数百个或数千个神经元及其之间复杂的连接和权重关系，这种复杂第43卷 第1期张寒等：声纹信号-图形差分场增强和多头自注意力机制的变压器工作状态辨识方法123性使其具有强大的计算和模式匹配能力，但也使其内部的工作机制变得异常复杂，通常难以明晰其内部工作原理与辨别逻辑22。基于上述问题，利用实现简单、计算高效等诸多优势的Grad-CAM23以突出分类结果的可解释性。对于任一输入图像x，在利用深度神经网络处理后，可得到预测结果yc以及对应的分类标签c。再利用反向传播算法计算得到梯度张量Ak Ruv，其中下标k表示最后一个卷积层的通道数，R表示张量的秩，上标u和v分别表示图像相邻像素之间的水平和垂直方向上的梯度分量。对梯度张量Ak进行全局平均池化操作使其沿通道维度进行池化，进而得到一个长度为k的权重向量w Rk，具体计算方式为wk=1ZijAk(i,j),(11)式(11)中，Z=kwk为标准化的常数项，其作用在于保证权重向量w满足长度为1；(i,j)表示像素点的位置。将权重向量w与卷积层的特征图进行加权求和，得到每个位置的激活值LGrad-CAM(i,j)：LGrad-CAM(i,j)=ReLUkm=1wmAm(i,j),(12)式(12)中，ReLU表示激活函数。在将每个像素点位置上的激活值按照权重进行加权求和后，即可得到一个数值，其表示输入图像中与分类结果最相关的区域，即Grad-CAM的可视化结果。1.4基于声纹信号MDF增强和多头自注意力机制的变压器工作状态辨识流程由前文可知，MDF方法能够更好地表征一维时域信号的状态参量，而基于多头自注意力机制的Transformer分类算法则可实现特征信息的深度挖掘。因此，本文结合两者之间的特点，提出了一种基于MDF信号增强和多头自注意力机制的变压器工作状态辨识方法，并引入Grad-CAM突出模型的可解释性。其具体实施步骤如下：(1)声纹信号采集：在变压器前方布置声传感器以进行原始声纹时域信号的采集。(2)图像映射：利用MDF方法将采集得到的不同工作状态下的变压器声纹信号映射为二维图像，进而建立原始二维图像集合。(3)模型训练：将步骤(2)得到的图像集合输入到基于多头自注意力机制的Vision Transformer分类器中，首先进行特征提取得到特征图，其次对特征图的每个像素点位置进行多头注意操作，并将结果压缩为一个向量，接着通过全连接层进行深层感知与特征组合，最后将得到的特征数据通过SoftMax激活函数层实现图像的分类辨识。2实验验证2.1实验设置为验证所提方法的可行性与有效性，以一台型号为SC 800/10的干式变压器为实验对象进行实验，实验在半消声室进行，其长宽高尺寸为13 m10 m7 m，本底噪声为18.6 dB。现场布置如图4所示，利用集成有112通道的声学传声器阵列进行测试，其测试优势在于同时输出多组声纹监测数据，在减少测试时间和成本的同时，提升了声纹监测的准确度和可靠性。采集声纹数据时，将阵列采集面与变压器纵面平行放置，测试距离为1 m，采样率设置为51.2 kHz，涵盖了20 Hz20 kHz的可听声范围。实验模拟了干式变压器绕组松动、铁芯松动以及表面放电3种典型缺陷，缺陷设置方法如图5所示，具体缺陷设置方法如下：(1)绕组松动缺陷模拟：由文献24可知，引起变压器绕组松动的原因主要有绝缘层减少、垫块脱落、短路电流对绕组造成的冲击等。上述松动故障对绕组振动的影响皆可等效为不同预紧力对绕组振动的影响。本次实验中通过控制变压器上铁额穿心螺杆的预紧力以实现螺杆的不同程度松动，进而模拟实际中的绕组松动缺陷。?图4现场布置方案Fig.4 Site layout scheme1242024 年 1 月(2)铁芯松动缺陷模拟：引起变压器铁芯松动的主要原因有铁芯组件中铁质夹件松动或损伤、压铁松动、铁芯片间绝缘老化等，上述缺陷会导致铁芯局部过热、叠片折断等事故。在本次实验中通过控制变压器上铁额夹紧螺栓的预紧力以实现螺杆的不同程度松动，进而模拟实际中的铁芯松动缺陷。(3)相间放电缺陷模拟：变压器受安装位置、潮湿环境等多因素影响，经常导致相间放电现象，相间放电现象会在变压器重要部件(如绕组和绝缘材料)中产生损坏，并进一步导致短路跳闸等故障。在本次实验中利用0.5 mm直径的铜丝将A相绕组首尾相连，通压后造成AB相间短路，缺陷连接方式见图5(c)。基于上述实验台架采集得到变压器4种状态下的声纹信号，其时域、频域波形如图6所示。由图6(a)可知，变压器在正常运行状态下的主频为?ACBA?XYZB?C?(a)?(b)?(c)?图5缺陷设置方法Fig.5 Defect setting method05001000150020000.51.0020040060080010000.51.000.20.40.60.81.0-0.0300.03050010001500200000.51.000.20.40.60.81.0-0.0400.04?/Pa?/Pa0500100015002000?/Hz?/Hz?/Hz?/Hz00.71.4?/mg?/mg?/mg00.20.40.60.81.0-0.0400.04?/Pa00.20.40.60.81.0?/s?/s?/s?/s0.800.8?/Pa020004000600080001000000.51.01.5?/mg(a)?-?(b)?-?(c)?-?(d)?-?图6变压器4种典型声纹信号时频域波形示意Fig.6 Time-frequency domain waveforms of four typical voiceprint signals of transformer第43卷 第1期张寒等：声纹信号-图形差分场增强和多头自注意力机制的变压器工作状态辨识方法125f=100 Hz，同时也出现了f=200 Hz、300 Hz等50 Hz偶数倍的谐波分量，能量主要集中在1 kHz范围内；由图6(b)可知，绕组松动状态下的时域信号幅值较正常状态有所增大，在100 Hz2 kHz范围内出现较多100 Hz 的谐波，主频为400 Hz，频谱能量主要集中在1 kHz以内；如图6(c)所示，铁芯松动的频域信号分布与绕组松动极为相似，主频也为400 Hz，频谱能量同样主要分布在1 kHz以内；如图6(d)所示，相间放电的信号波形与前者3种信号存在较大区别，由于存在放电脉冲，其时域信号波动较大，且频谱能量呈现宽频分布的特点，在分析频段下(f=0 Hz 10 kHz)皆有分布。综合以上分析可知，基于常规的频谱分析手段可初步实现变压器正常与放电缺陷的辨识，而对于绕组松动与铁芯松动此类变压器的机械缺陷而言，由于其频谱能量分布存在类似性，通常难以实现变压器绕组与铁芯缺陷的精准辨识。2.2状态辨识2.2.1MDF计算结果分析引入MDF技术对变压器正常状态、绕组松动、铁芯松动以及相间放电4种状态下的时域声纹数据进行计算，图7为二维图像计算结果。综合考虑计算时间与状态参量的完整性，设定MDF技术的步长d=1，时间窗口长度s=1000(时域信号离散点)。由图7(a)可知，变压器在正常运行时，其MDF图像矩阵的极值主要分布在主副对角线两侧靠近中心区域，能量分布较为均匀；绕组松动缺陷图谱如图7(b)所示，MDF图像的极值区域主要集中在对角线两侧的局部位置及其横纵坐标上，但相较于正常状态、其能量更偏向于点状聚集；如图7(c)所示，铁芯松动缺陷的MDF图谱相较于绕组松动，点状能量聚集的特征更为明显，且呈现明显的区域分布特性；由图7(d)可知，放电缺陷的MDF图谱与前者3种状态的图谱结果完全不同，整个图谱呈现“细长针状”的脉冲能量分布特性，这可能是因为在放电过程中，放电(局部放电或者间歇放电)等现象会产生突发性的脉冲峰，该放电信号的瞬时脉冲峰特征在MDF 技术中被进一步表征映射为“细长狭窄针状”分布特征。由结果可知，相较于常规的信号分析方法，当使用MDF技术将一维时域数据映射为二维图像时，成功提取并保留了原始声纹数据的时间动态特性与非线性特性，且原始数据的也被成功的提取并表征。因此，与传统的检测方法相比，可以更好地突出表征被监测设备的实时运行状态。综上，变压器在4种状态下的MDF图谱均存在较为明显的差异，为后续的图像分类提供了可行性。(a)?(b)?(c)?(d)?图7变压器4种状态下的MDF图像Fig.7 MDF images of transformer in four states2.2.2实验模型参数选择本文所有方法均在一台CPU为英特尔XeonPlatinum 8157、GPU为NVIDIA GeForce RTX3090配置的计算机进行运算，使用语言为Python。实验采集了每组状态500条数据、共计2000 条数据，数据集被划分为训练集、验证集、测试集，所占比例为8:1:1。模型的具体参数设置见表1。模型训练采用自适应学习能力强、内存需求少的Adam优化器，为避免过拟合，还在训练过程中引入正则化方法，设置Dropout为0.3，选择交叉熵作为损失函数，定义初始学习率为0.001，训练迭代次数设置为200。表1模型参数设置Table 1 Model parameter settings模块名称设置参数多头注意力机制头数12每个头维度64前馈神经网络层维度2048编码层数6解码层数6批尺寸(Batch size)决定了每次迭代训练中使用的样本个数，较大的批尺寸可提高训练速度，但也可能导致模型不稳定。图8为批尺寸为16、32、64、1262024 年 1 月128和256时对于训练集损失率与测试集准确率的影响关系。由图8可知，批尺寸过大(128和256)与过小时(16和32)皆会导致模型的不稳定，损失率与准确率曲线均出现了一定程度的波动，而在选择合适的批尺寸(64)后，模型在整体计算过程中较为稳定，并取得了良好的分类效果；同时也可以看出，不同批尺寸在30次迭代后，曲线均趋于稳定，即模型达到最优。050100150200?00.20.40.60.81.01.2?16017018019020000.06050100150200?0.60.70.80.91.01601701801902000.980.991.00(a)?(b)?16?32?64?128?256?16?32?64?128?256图8不同批尺寸训练过程的损失率和准确率随迭代次数变化趋势Fig.8 Variation trend of loss value and accuracywith iteration times in different batch sizes train-ing process2.2.3模型分类性能计算引入混淆矩阵以定量评估所提方法的识别效果。图9与表2为利用所提方法得到的混淆矩阵计算结果，图9中横纵坐标的数字1 4分别表示变压器的正常、绕组松动、铁芯松动及相间放电4种状态，混淆矩阵的对角线分别表示每种状态被识别正确的样本数。结合图9和表2可知，在200组数据中只有4个被错误分类，其分类正确率为98%，表2表明所提出方法的识别精度、召回率以及F1 值皆为98%。上述结果表明所提方法可以实现变压器状态的有效检测，且对于机械与放电缺陷都具有较高的识别精度，可进一步应用于工程实践中以帮助巡检人员便捷、及时地检测变压器的工作状态。490000481012490000501234?1234?01020304050图9混淆矩阵示意Fig.9 Confusion matrix schematic表2评价参数Table 2 Evaluation parameters(单位:%)参数标签平均值1234精度100.0097.9694.23100.0098.05召回率98.0096.0098.00100.0098.00F1值98.9996.9796.08100.0098.012.3其他模型对比结果及分析2.3.1半消声室数据分析为进一步表明所提方法的优越性，还将所提方法与基于常规时频图谱数据集和多头自注意力机制的Transformer对比方法1，基于MDF增强图谱和目前流行的深度学习分类模型、引入残差模块的卷积神经网络(ResNet-CNN)的对比方法2进行对比分析。对比方法1中，除采用如图10所示的时频图像作为原始数据输入外，其余步骤皆与所提方法一致；对比方法2中，除在对MDF图像分类时采取了目前流行的ResNet-CNN深度学习分类器外，其余步骤皆与所提方法一致。对比方法1中，为充分考虑信号特征，相关参数设置如下：时间窗口长度t=1 s，频率显示范围为0 Hz 10 kHz，重叠点数设置为100，其时频图谱结果见图10。对比方法2的网络结构及参数见表3。第43卷 第1期张寒等：声纹信号-图形差分场增强和多头自注意力机制的变压器工作状态辨识方法12700.20.40.60.81.0?/s?/s?/s?/s0200040006000800010000?/Hz?/Hz?/Hz?/Hz00.20.40.60.81.0020004000600080001000000.20.40.60.81.0020004000600080001000000.20.40.60.81.00200040006000800010000(a)?(b)?(c)?(d)?图10变压器4种状态时频图像Fig.10 Time-frequency images of four states of transformer表3神经网络结构参数设计Table 3Structural parameter design ofneural network模型名称模型结构参数设置输出尺寸ResNet-CNN卷积层卷积核大小:77；卷积核数量:6411211264批量归一化层11211264激活函数层11211264最大池化层池化核大小:3 3565664残差块565664残差块565664全局平均池化层1164全连接层激活函数:SoftMax4表4为所提方法、对比方法1和对比方法2共计3种方法的识别精度。结合图10可知，仅图10(d)的放电时频图像存在较为显著的区别，而铁芯松动与绕组松动时频图像存在相似度，这是因为绕组松动与铁芯松动两种异常状态下的频谱能量分布皆集中在频率f=1 kHz的低频段，不利于神经网络的深度学习与特征的有效感知。综上，由于引入了上述辨识度不高的时频图像集作为原始分类集的输入，因此4种状态的辨识精度相较于所提方法均存在较大的劣势，最大精度差异达到了14%；而对比方法2由于引入了区分度明显的MDF图像集，4种状态的辨识精度均得到了一定幅度的提升，但仍要低于所提方法，这是因为基于多头注意力机制的Vision Transformer具有更深层次的特征表示能力，可通过堆叠多个编码器层来提取更高级别的抽象特征，能够更好地感知图像深层信息特征，从而提高分类的精度。表43种对比方法的识别精度Table 4Identification accuracy of threecomparison methods(单位:%)方法标签平均值1234所提方法100.0097.9694.23100.0098.05对比方法186.0086.2782.0095.9287.55对比方法295.9288.4691.6798.0093.511282024 年 1 月2.3.2添加噪声数据分析在实际现场运行环境中，采集得到的变压器声纹信号中不可避免地存在无关噪声。故本节还在原始信号上添加了不同信噪比(Signal-noise ratio,SNR)的高斯白噪声，评估上述3种状态辨识方法的鲁棒性。限于篇幅，仅给出铁芯松动缺陷下的不同SNR时间序列示意(图11)。02004006008001000?-0.04-0.0200.020.04?/Pa?/Pa?/Pa?/Pa02004006008001000?-0.04-0.0200.020.0402004006008001000?-0.04-0.0200.020.0402004006008001000?-0.04-0.0200.020.04(a)?(b)SNR=4 dB(c)SNR=8 dB(d)SNR=12 dB图11不同SNR下的时间序列示意Fig.11Schematic diagram of time series underdifferent SNRs表5为在原始信号添加不同SNR下的变压器各运行状态辨识精度。由表5可知，随着SNR的下降，对于实际运行状态的分类辨识精度也随之减小，但始终保持在较高的识别精度(90%)，说明所提方法在噪声干扰下仍具备较优的分类性能且鲁棒性较强，始终优于其余两种对比方法。表5不同SNR下各方法的分类准确率Table 5Classification accuracy of eachmethod under different SNR(单位:%)SNR准确率所提方法对比方法1对比方法2SNR=4 dB93.6677.7085.19SNR=8 dB94.6681.7686.66SNR=12 dB96.1184.5190.332.4所提方法辨识结果的可解释性分析针对常规深度学习网络的黑箱特性、难以明晰辨识结果等问题，还引入Grad-CAM对变压器4种状态下的MDF增强图像进行可解释性说明。图12为4种状态下MDF图像经过Grad-Cam算法后获得的类激活图。类激活图中的光晕颜色越深，则代表此区域对于最终分类结果的影响越大。由图12可知，4种状态下经过Grad-Cam算法获得的类激活图分别具备较为明显的表征效果：在正常状态下，类激活图的光晕范围较为集中，主要分布在MDF图像的中心靠左位置；在绕组松动缺陷的类激活图中，光晕区域较正常状态增大约1倍，在图像的中间区域向外辐射；而对于铁芯松动缺陷的类激活图而言，(a)?(b)?(c)?(d)?图12变压器4种状态时MDF图像的Grad-Cam可视化结果Fig.12Grad-Cam visualization results of MDFimages in four states of transformer第43卷 第1期张寒等：声纹信号-图形差分场增强和多头自注意力机制的变压器工作状态辨识方法129光晕区域则主要集中在右上角；放电缺陷类激活图中的光晕范围覆盖极大，几乎包含所有能量较高的狭窄脉冲束。综上，4种状态下MDF图像的类激活权重关注区域皆不相同，这进一步解释了深度学习网络进行分类辨识的计算依据，表明所提方法的分类辨识结果具有较强的可信度。3 结论针对电力变压器运行状态感知能力的不足，提出了一种基于非接触式声纹信号检测的MDF信号增强和多头自注意力机制的变压器工作状态辨识方法，进行了包含变压器典型状态的模拟实验，所得结论如下：(1)提出了一种针对于电力变压器声纹信号的映射方法，利用该方法可实现变压器不同状态的深层感知与有效表征；(2)搭建了10 kV电力变压器的缺陷模拟系统，模拟了变压器正常状态、绕组松动状态、铁芯松动状态以及表面放电4种典型缺陷，计算结果表明：所提方法能够实现变压器不同状态的有效辨识，且辨识精度相较于常规方法有显著提升，提升约6%；在实测信号中加入高斯白噪声干扰模拟实际运行环境下干扰，在SNR为4 dB情况下，所提方法的辨识准确率仍大于90%，相较于常规方法具备较强的鲁棒性；(3)对所提方法的分类辨识结果进行了可解释性分析，验证了模型分类辨识结果的可信度。限于实验数据的有限性，在后续的工作中，笔者计划增加更多缺陷类型的测试数据，并进一步引入包含不同电压等级的变压器实际故障数据，以验证和提高方法的辨识准确率与鲁棒性。参考文献1 祝丽花,杨庆新,闫荣格,等.考虑磁致伸缩效应电力变压器振动噪声的研究J.电工技术学报,2013,28(4):16,19.Zhu Lihua,Yang Qingxin,Yan Rongge,et al.Research onvibration and noise of power transformer cores includingmagnetostriction effectsJ.Transactions of China Elec-trotechnical Society,2013,28(4):16,19.2 孙华东,许涛,郭强,等.英国“89”大停电事故分析及对中国电网的启示 J.中国电机工程学报,2019,39(21):61836192.Sun Huadong,Xu Tao,Guo Qiang,et al.Analysis onblackout in great Britain power grid on August 9th,2019and its enlightenment to power grid in ChinaJ.Proceed-ings of the CSEE