基于CNN-LSTM-Attention神经网络的高压电缆局部放电预测方法研究.pdf

第32卷 第4期 湖 南 城 市 学 院 学 报（自然科学版）Vol.32 No.4 2023年7月 Journal of Hunan City University（Natural Science）Jul.2023 基于CNN-LSTM-Attention神经网络的 高压电缆局部放电预测方法研究 李 彬，邓力凡，彭 丽*(湖南城市学院 机械与电气工程学院，湖南 益阳 413000)摘 要：为了更迅速、准确地识别出高压电缆的局部放电故障，本文提出一种基于卷积长短期注意力(convolutional long short-term attention,CNN-LSTM-Attention)神经网络的高压电缆局部放电预测方法首先，对高压电缆局部放电信号进行实时监测，并用小波分析将其离散，把长信号切分成多段信号且提取每段信号的统计特征量；其次，根据特征量构建神经网络分类模型，其由能够提取轮廓特征的卷积层、提取信号时序特征的长短期记忆层以及具有时序重要部分捕捉能力的注意力层构成；最后，通过实际数据进行仿真结果表明：所提方法能准确识别较高采样率的异常放电信号，且相比传统神经网络，CNN-LSTM-Attention神经网络的故障识别准确率有明显提高，其马修斯相关系数(Matthews correlation coefficient,MCC)为0.871 03 关键词：高压电缆；局部放电；CNN-LSTM-Attention；故障识别 中图分类号：TM993 文献标识码：A doi:10.3969/j.issn.1672-7304.2023.04.0010 文章编号：16727304(2023)04006706 Research on prediction method of partial discharge in high voltage cable based on CNN-LSTM-Attention neural network LI Bin,DENG Lifan,PENG Li*(College of Mechanic and Electrical Engineering,Hunan City University,Yiyang,Hunan 413000,China)Abstract:In order to identify the partial discharge fault of high-voltage cable more rapidly and accurately,this paper proposes a high-voltage cable partial discharge prediction method based on convolutional long short-term attention(CNN-LSTM-Attention)neural network.Firstly,the partial discharge signal of high voltage cable is monitored in real time,and wavelet analysis is used to discretize the signal,which can cut the long signal into multiple segments,and extract the statistical feature quantity of each segment.Secondly,a neural network classification model is constructed based on the feature quantities,which consists of a convolutional layer capable of extracting contour features,a long and short-term memory layer for extracting signal timing features,and an attention layer with the capability of capturing important parts of the timing.Finally,the actual data simulation shows that the CNN-LSTM-Attention neural network detection method can accurately identify the abnormal discharge signal features with high sampling rate compared with the traditional neural network method,and the fault identification accuracy is significantly improved,and its MCC is as high as 0.871 03.Key words:high-voltage cable;partial discharge;CNN-LSTM-Attention;fault recognition 10 kV 配网高压电缆具有架设距离长、线路复杂程度大等特点，其运行维护较为困难，如果线路发生局部放电故障，继续运行可能造成设备严重损坏，并引发停电风险1-3目前，对 10 kV高压线路的局部放电故障，主要由检修人员利用手持式或者车载式超声波检测仪进行近距离检测，并通过回传超声波信号判断线路是否存在局部放电现象，这极大地增加了人工投入和故障检测难度4-5因此，高压电缆局部放电识别对提高电网稳定性和降低检修难度具有重要意义 目前，国内外众多学者对高压电缆局部放电故障的诊断方法展开了广泛研究6-14如文献8-9 收稿日期：2022-08-27 基金项目：湖南省重点研发计划项目(2021GK2020)；湖南省自然科学基金项目(2021JJ30077，2021JJ30079)；湖南省教育厅科研项目(19C0349)；益阳市哲学社会科学研究项目(2022YS016)第一作者简介：李彬(1993)，男，湖南常德人，助理实验师，硕士，主要从事智能电网信息处理研究E-mail: *通信作者简介：彭丽(1987)，女，湖南益阳人，讲师，硕士，主要从事智能电网信息处理研究E-mail: 湖 南 城 市 学 院 学 报（自然科学版）2023年第4期 68 所研究的高压电缆局部放电监测系统，可以在线实时监测电缆运行状态，降低了工作人员手动操作的繁琐程度；文献10利用故障分量的小波奇异信号，结合支持向量机(support vector machine，SVM)组合分类器，对不同输电线路故障类型进行了分类识别；文献11根据多小波包变换具有更多高频信息的特点，利用其熵提取了不同输电线路的故障特征，并基于径向基函数神经网络进行了故障的分类识别；文献12-13分别采用 k-近邻(k-nearest neighbor，KNN)算法和决策树(decision tree，DT)算法提取了故障发生时的电流波形特征，实现了输电线路故障类型的有效识别可见，现有研究在提高高压电缆局部放电故障的识别准确率上，已取得较好效果，但传统学习算法中的特征提取器均是人为设定的，其主观性较强14 因此，本文提出一种基于CNN-LSTM-Attention神经网络的高压电缆局部放电检测方法首先，因电压信号在低频段不包含异常信息，故需对已标定的 3 相电压信号进行巴特沃斯高通滤波，以滤除低频段无用信号；其次，采用小波变换剔除干扰噪声，并将各相信号均分为 160 个波形信号片段，再提取各波形信号的均值、标准差、最大值、最小值等 19 个特征值；最后，利用所提特征训练模型，判断高压电缆是否存在局部放电现象 1 高压电缆局部放电及特征处理 1.1 局部放电机理 局部放电表现为绝缘体只发生局部区域性的放电，并未击穿施加电压的导体15由气泡缺陷导致的局部放电原理如图 1 所示 DD1D2气泡 C1C2C3 (a)气泡缺陷 (b)等效电路 图 1 气泡缺陷及局部放电原理 在图 1(b)中，C1和 C2为气泡缺陷所致局部放电的等效电容；C3为正常绝缘体的等效电容不难得出其介质等效电容 Ce，即 12e312.CCCCCC (1)此时，由气泡产生的气隙电压为 11212.CUUCC (2)其中 U1为外接电压 当气泡的等效电容充电至临界值后，将对外放电，从而出现局部放电现象由式(2)可知，气隙电压 U2与外接电压 U1成正比，即 U1越大，局部放电的风险越高 1.2 巴特沃斯(Butterworth)滤波 由局部放电原理可知，高压电缆电压信号的高频分量能有效反映其局部放电是否正常，因此本研究采用经典滤波方法中的巴特沃斯高通滤波对其电压信号进行处理 巴特沃斯滤波器的特点是通频带内的频率响应曲线最大限度平坦且没有波纹，在阻频带则逐渐下降至 0据此，可以设计出低通、高通、带通、带阻等多种滤波器，其中 NB阶 Butterworth低通原型滤波器的振幅和频率关系满足 B22p1|()|.1NH j (3)其中 p为通频带边缘频率当p时，有 p21.1Hj (4)其中 为带通传输的最大变化量，且满足 2max20log 1,A (5)max/10101.A (6)1.3 小波消噪 小波消噪是一种非线性消噪方法16，其基本原理如图 2 所示 特征提取低通滤波 带噪信号特征信号重建信号 图 2 小波消噪原理 由于正交小波能将信号进行局部分解，且噪声在信号高频部分产生的小波分量均匀变化，与正常信号形成了明显差异因此，可以选取较为合适的阈值，并保留大于阈值的小波系数，将小于阈值的小波系数(视为噪声)置为 0，再根据处理后的小波系数重建信号，即()()(),0,1,1.s kf ke kkn (7)其中，f(k)为有用信号；s(k)为含噪声信号；e(k)为噪声信号 在实际工程中，观测到的信号通常为含有高斯白噪声的非平稳信号，且其蕴含的有用信号往往表现为低频信号，噪声则表现为高频信号因 李彬，等：基于CNN-LSTM-Attention神经网络的高压电缆局部放电预测方法研究 第 32 卷 69 此，对原观测信号进行小波分解，并滤除噪声部分，再经信号重构即可实现消噪 1.4 特征提取 由于高压电缆的电压信号采样频率高、长度过长，因此先将整个信号分段，再对各段进行单独的特征提取为了减小数据维度，将整个电压序列均分为N段，并分别提取各段的均值、标准差、方差、分位数、最大值、最小值等 19 个特征值，如图 3 所示 电压特征特征特征特征特征 图 3 特征提取示意 2 基于 CNN-LSTM-Attention 神经网络的局部放电深度预测模型 2.1 卷积神经网络 卷积神经网络(convolutional neural network，CNN)的基本结构由输入层(input layer)、卷积层(convolution layer)、池化层(pooling layer)和全连接层(full-connection layer)组成17-18其通过权重共享和局部连接的方式对高压电缆局部放电信号进行特征提取其中，卷积层的核心结构为过滤器(filter)，它可以增强所提取的信号特征并减少噪声干扰；池化层将输入矩阵某一位置相邻区域的总体统计特征作为该位置的输出，其目的是减少全连接层的节点数，从而简化网络参数 卷积层中的各过滤器均具有长、宽、深 3 个维度其中，长和宽均由人工设定；深度则与经卷积操作后所得单位节点的深度相同 过滤器的计算可以依据,111()().nmkiix y zx y zxyzg ifawb (8)其中，n、m 和 k 分别为节点矩阵的长、宽和深；g(i)为单位矩阵第 i 个节点的数值；,x y za为节点矩阵中节点(,)x y z的值；,ix y zw为相对单位矩阵中的第 i 个节点的过滤器输入节点(,)x y z的权重；ib为偏置参数，用于拟合权重数据若单位矩阵的深度为 H，那么必然存在 H 组权重，且权重矩阵分别对应节点矩阵中的每个节点 2.2 长短期记忆神经网络 长短期记忆神经网络(long short-term memory，LSTM)能解决循环神经网络的长期依赖问题，还可以挖掘时间序列的隐含规律19LSTM 由 3 个门和 1 个输出值构成其中，第 1 层为遗忘门，即 f1f(,).ttFsigmoid W hxb (9)第 2 和第 3 层分别为输入门和 tanh 门，其计算式如式(10)式(11)所示(其中输入门负责判断哪些状态可以继续输入；tanh 门则通过构造一个新的候选输入值 Z，更新元胞的旧的状态1tC)i1i(,),ttIsigmoid W hxb (10)z1tanh(,).ttZW hx (11)元胞的状态更新方程为 1.ttCF CI Z (12)将式(12)通过 tanh 门后，再与 o1o(,)ttOsigmoid W hxb (13)相乘，输出新的状态参数，即 tanh.tthOC (14)其中，Wf和 bf分别为遗忘门的权重和偏置；Wi和 bi分别为输入门的权重和偏置；Wo和 bo分别为输出门的权重和偏置；1,tthx为矩阵1th与tx在行数相同的情况下直接合并的结果 2.3 注意力机制 当有大量的信息输入神经网络时，为了提升网络的工作效率，可引入注意力机制(attention)将有限的资源分配到重要的输入信息上该机制的具体实现步骤如下：首先，计算权重系数，即计算所有输入值的注意力分布；其次，对权重系数进行加权求和，即计算单个输出值的输入信息的加权平均值其一般结构如图 4 所示 a1s(x1,q)x12s(x2,q)x2Ns(xN,q)xNsoftmaxq 图 4 注意力机制网络结构 在图 4 中，1,Nxx为输入值；q 为神经网络的查询向量；1,Naa为查询向量的所有输入值的注意力分布；s 为注意力的得分函数 注意力的得分函数可以表示为 T(,).iis xx Wqq (15)其中，W 为神经网络的自主学习参数；i 为所有输入值中的第 i 项 对公式(15)取 softmax 函数值，可得输入值 xi的注意力分布 i，即 湖 南 城 市 学 院 学 报（自然科学版）2023年第4期 70,.iisoftmax s xq (16)所有输入值及其注意力分布的加权平均值 a可以表示为 1.Niiiax (17)2.4 CNN-LSTM-Attention 深度神经网络 引入了注意力机制的 CNN-LSTM 深度神经网络结构如图 5 所示，其预测流程如图 6 所示 CNNLSTMAttention全连接层输出层x2x1xn 图 5 CNN-LSTM-Attention 神经网络结构 由图 5 可知，该网络模型以所提取波形特征为输入，通过 CNN 提取输入信息轮廓特征，并利用 LSTM-Attention 提取其时序特征，再经过全连接层融合以上 2 种特征，最后以 sigmoid 作为输出层的激活函数实现深度检测 此外，该模型还采用马修斯相关系数(MCC)作为评价函数MCC 在 01 取值，且其值越接近1，说明识别准确率越高MCC 计算式为()().()()()()MCCTP TNFPFNTPFP TPFN TNFP TNFN(18)其中，TP为正样本被正确识别的数目；TN为负样本被正确识别的数目；FP为正样本被错误识别的数目；FN为负样本被错误识别的数目 高通滤波DWT 去噪模型训练开始结束序列分段提取特征 图 6 高压电缆局部放电预测流程 3 模型仿真 仿真实验在深度学习框架 Keras 上进行，其硬件环境包括：I7-7700 CPU；16 G 内存；1080Ti 11 G GPU研究以某地区 10 kV配电网的相电压为分类样本，共 8 721 条由于样本的低频信息一般只包含正常的正弦电压变化情况，为了获取故障信息，需先对所有的样本进行 Butterworth 高通滤波，再进行离散小波变换(discrete wavelet transform，DWT)消噪，以消除白噪声干扰各相电压的滤波处理结果如图 7 所示 kv(a)A 相电压 kv(b)B 相电压 kv(c)C 相电压 图 7 3 相电压滤波处理结果 李彬，等：基于CNN-LSTM-Attention神经网络的高压电缆局部放电预测方法研究 第 32 卷 71 由图 7 可知，各相原始电压信号经高通滤波和小波变换处理后，有效滤除了低频信号中的无用信号及干扰噪声 为了验证所提模型的优越性，将其与 CNN-LSTM、LSTM-Attention、LSTM 和 BP 神经网络模型进行比较，各模型结构参数如表 1 所示 表 1 5 种网络模型的结构参数 网络模型 网络结构参数(括号内为该层神经元数)CNN-LSTM-Attention Conv1D(128)-Conv1D(64)-MaxPooling(1)-LSTM(100)-Attention(特征数)-Dense(100)-Dense(1)CNN-LSTM Conv1D(128)-Conv1D(64)-MaxPooling(2)-LSTM(100)-Dense(100)-Dense(1)LSTM-Attention LSTM(128)-LSTM(64)-Attention(特征数)-Dense(100)-Dense(1)LSTM LSTM(128)-LSTM(64)-Dense(100)-Dense(1)BP(back propagation)Dense(128)-Dense(64)-Dense(32)-Dense(1)由表 1 可知，CNN-LSTM-Attention 的 CNN部分为 2 层一维卷积层(Conv1D)，再接最大值的池化层(MaxPooling)；其 LSTM-Attention 部分包括 LSTM 和 Attention 层，并通过全连接层(Dense)输出其 CNN 用于获取轮廓特征信息，LSTM-Attention 则负责学习整个序列的关键特征点 为了对比各模型的识别准确率，分别将原始序列、仅通过 Butterworth 高通滤波的序列以及经Butterworth 高通滤波后再由 DWT 消噪的特征序列均分为 160 段，并将每段所提取的 19 个特征值依次输入上述 5 个对比模型进行训练最终得到的 MCC 汇总结果如表 2 所示 表 2 5 种网络模型的分类结果对比 网络模型 MCC 原始序列 仅高通滤波 高通滤波+消噪 CNN-LSTM-Attention 0.851 19 0.843 84 0.871 03 CNN-LSTM 0.810 06 0.854 55 0.859 55 LSTM-Attention 0.817 82 0.808 02 0.843 86 LSTM 0.795 05 0.822 42 0.831 95 BP 0.615 84 0.700 68 0.698 06 由表 2 可知，CNN-LSTM-Attention 模型对应的原始序列、高通滤波序列和高通滤波加小波消噪序列特征的 MCC 分别为 0.851 19、0.843 84 和0.871 03，说明只经高通滤波的序列特征的识别准确率会下降，进一步对其进行小波消噪后，会大大增加序列特征的识别准确率这是因为仅经高通滤波的序列的高频部分极大地受到了噪声信号干扰，其识别准确率相比原始序列更低 在高通滤波和小波消噪处理后，其他 4 种对比模型的 MCC相对于所提CNN-LSTM-Attention模型依次下降这是因为 BP 神经网络难以提取序列的时序轮廓等特征，其他 3 种对比模型提取的特征也无法完全表达故障序列与正常序列的差异性因此，所提模型能更好地捕捉高压电缆局部放电的序列特征 由于高压电缆电压信号的高频部分包含了其局部放电的信息特征，所以同时具有高通滤波和小波消噪预处理功能的网络模型优于其他采用单一信号预处理方法的模型实验结果显示，高通滤波加小波阈值消噪可有效提高识别准确率 4 结论 本文提出了一种基于 CNN-LSTM-Attention神经网络的高压电缆局部放电预测方法，有效地提高了局部放电故障判断的准确性 1)Butterworth 高通滤波能够获得异常识别所需要的高频信息，但是会受到噪声信号的极大干扰，导致特征序列的故障信息淹没在噪声中 2)采用小波变换可以提取并消除高通滤波所得信号的噪声干扰信息，使得特征序列的高频部分能够表征故障特征，从而提高识别准确率 3)所提模型能够更好地捕捉高压电缆的局部放电序列特征，相比于其他网络模型，能更准确地识别局部放电异常现象 湖 南 城 市 学 院 学 报（自然科学版）2023年第4期 72 参考文献：1 李军.SIEMENS D500全自动X射线衍射仪常见故障检修J.计算技术与自动化,1996,15(1):64-65.2 DASHTI R,GORD E,NAJAFI M,et al.An intelligent and cost-effective method for single-phase fault location in conventional distribution systemsJ.Electrical Engineering(Archiv fr Elektrotechnik),2020,102(4):1975-1991.3 周雄明,苏文群,徐俊,等.基于分布式光纤测温传感器电缆温度监控系统J.供用电,2010,27(4):61-62 4 陈余,董涛,赵海波,等.10 kV架空线路故障核查技术应用分析J.云南电力技术,2021,49(3):32-35.5 QIU R C,ANTONIK P.Smart grid using big data analytics:a random matrix theory approachM.New Jersey:John Wiley&Sons,2017.6 李军浩,郭飞,张亮,等.变压器感应式振荡型操作冲击试验及局部放电测量技术J.高电压技术,2016,42(4):1199-1206.7 汪晨,余嘉文,陈强.10 kV开关柜局部放电检测方法研究J.计算技术与自动化,2021,40(1):73-78.8 戚星宇,刘林旭,吕志鹏,等 新型的电缆局部放电在线监测系统研究J.供用电,2020,37(1):51-55 9 张小龙,徐春红,庄立生,等.高压电缆及通道多状态综合监控系统研究与应用J.供用电,2016,33(5):70-75,56.10 黄建明,李晓明,瞿合祚,等.考虑小波奇异信息与不平衡数据集的输电线路故障识别方法J.中国电机工程学报,2017,37(11):3099-3107.11 LIU Z G,HAN Z W,ZHANG Y,et al.Multiwavelet packet entropy and its application in transmission line fault recognition and classificationJ.IEEE Transactions on Neural Networks and Learning Systems,2014,25(11):2043-2052 12 RECIOUI A,BENSEGHIER B,KHALFALLAH H.Power system fault detection,classification and location using the k-nearest neighborsC/2015 4th International Conference on Electrical Engineering.Boumerdes,Algeria:IEEE,2015:1-6.13 JAMEHBOZORG A,SHAHRTASH S M.A decision-tree-based method for fault classification in single-circuit transmission linesJ.IEEE Transactions on Power Delivery,2010,25(4):2190-2196 14 LECUN Y,BENGIO Y,HINTON G Deep learningJ.Nature,2015,521:436-444.15 周喜梅.电力电缆局部放电监测与识别D.徐州:中国矿业大学,2016 16 许丹,黄利军,李献伟,等.基于小波变换的抗噪声电压暂降检测方法研究J.供用电,2018,35(2):57-62.17 田佳鹭,邓立国.基于改进VGG-16神经网络的图像分类方法J.计算技术与自动化,2021,40(2):131-135.18 龙曼仪,李茂军,张辉,等.基于轻量型卷积神经网络的交通标志识别J.计算技术与自动化,2020,39(4):112-118.19 贾全烨,张强,宋博川.一种基于循环神经网络的电网客服语音文本实体识别算法J.供用电,2020,37(6):13-20.(责任编校：龚伦峰)