基于VGG16图像特征提取和SVM的电能质量扰动分类.pdf

7 电工电气 (2023 No.7)基金项目：国家自然科学基金项目(62163013)；国网湖北省电力有限公司 2022 科技项目(5215P0220001)作者简介：童占北(1998)，男，硕士研究生，研究方向为电能质量大数据；钟建伟(1972)，男，教授，硕士，研究方向为电力系统运行与控制、电力电子技术与新能源发电。童占北1，钟建伟1，李祯维2，吴建军2，李家俊2(1 湖北民族大学 智能科学与工程学院，湖北 恩施 445000；2 国网湖北省电力有限公司恩施供电公司，湖北 恩施 445000)摘 要：针对传统电能质量扰动分类方法需人工选取特征量，易受人为经验干扰的问题，提出一种基于 VGG16 图像特征提取和支持向量机(SVM)结合的电能质量扰动分类方法。通过格拉姆角场(GAF)将电能质量扰动信号映射到极坐标系中，生成格拉姆矩阵，并转换为二维扰动图像；利用 VGG16 网络自动提取图像特征的特点，将扰动图像输入 VGG16 网络中进行提取；将提取的特征数据作为 SVM 分类器的输入，并引入十折交叉验证对 SVM 进行训练，以提升分类器的性能，最后对扰动信号进行准确分类。仿真结果表明，该方法对于电能质量扰动的分类具有较高的准确率。关键词：电能质量；扰动分类；格拉姆角场；VGG16 网络；支持向量机；十折交叉验证中图分类号：TM712 文献标识码：A 文章编号：1007-3175(2023)07-0007-07 Abstract:Traditional power quality disturbance classification methods need to manually select feature quantities,which are susceptible to human experience interference.Hence,the paper proposes a power quality disturbance classification method based on the combination of VGG16 image feature extraction and Support Vector Machine(SVM).It first maps power quality disturbance signals to the polar coordinate system through Gramian Angular Field(GAF)to generate the Gramian matrix which is transformed into a two-dimensional disturbance image.Second,the characteristic of VGG16 network to automatically extract image features is used to input disturbed images into VGG16 network for extraction.Third,the extracted feature data is used as the input of SVM classifier,ten-fold cross-validation is introduced to train SVM to improve the performance of the classifier,and then disturbance signals are classified in an accurate way.The simulation results show that this method has higher accuracy of power quality disturbances classification.Key words:power quality;disturbance classification;Gramian angular field;VGG16 network;support vector machine;ten-fold cross-val-idationTONG Zhan-bei1,ZHONG Jian-wei1,LI Zhen-wei2,WU Jian-jun2,LI Jia-jun2（1 College of Intelligent Systems Science and Engineering,Hubei Minzu University,Enshi 445000,China;2 State Grid Hubei Electric Power Co.,Ltd.Enshi Power Supply Company,Enshi 445000,China）Power Quality Disturbance Classification Based on VGG16 Image Feature Extraction and SVM基于VGG16图像特征提取和SVM的电能质量扰动分类0 引言随着工业和居民用电的与日俱增，非线性、波动性、冲击性的负荷不断增多，以及电力电子设备的推广，电能质量扰动问题越来越凸显，严重影响电力系统的安全稳定。因此，电能质量扰动问题亟待解决。改善电能质量扰动问题的首要条件是要能够准确地对扰动进行分类识别1。电能质量扰动的分类主要涉及两个方面，即特征提取和分类。常用的特征提取方法有短时傅里叶变换2、希尔伯特黄变换3、S 变换4等。参考文献 5 提出一种基于经验小波分解多尺度排列熵的瞬态特征提取方法，该方法准确度较高。参考文献 6 中采用分段改进 S 变换的特征提取方法，克服了 S 变换不能同时兼顾时域和频域的特点。参考文献 7 中采用卡尔曼滤波技术提取输入特征，降低了噪声的干扰。这些方法各有优势，但都存在人基于VGG16图像特征提取和SVM的电能质量扰动分类8电工电气 (2023 No.7)工提取特征的主观性干扰。针对扰动的分类问题，一般是根据特征向量，采用分类算法实现电能质量扰动信号的识别。常用的方法：神经网络8、支持向量机9、决策树10等。参考文献 11 中提出一种基于最佳特征选择的概率神经网络和自适应人工蜂群算法的分类方法，丢弃了冗余特征，但可能存在有效特征丢失。参考文献 12 利用经验模态分解生成本征模态函数 IMF特征分量，并结合支持向量机(SVM)进行分类，准确率较高，但在特征提取时易受研究人员主观经验的影响。参考文献 13 采用卷积神经网络自动提取特征，再通过长短期记忆神经网络对特征序列进行分类，避免了人为因素的干扰，但过程较复杂。综合上述方法，针对人工提取特征量的主观经验干扰和时间相关性的不足，本文提出一种基于VGG16 深度学习网络提取图像特征和支持向量机结合的电能质量扰动分类方法。首先，采用格拉姆角场(GAF)将扰动信号映射到极坐标系中，并转换为二维图像，然后建立VGG16-SVM 扰动图像分类模型，利用VGG16网络自动提取图像特征，并采用 SVM 进行扰动的分类识别。将图像识别技术应用到电能质量扰动分类问题中，以充分挖掘极坐标系中信号的绝对时间关系。结合VGG16网络自动提取特征的特点，可以避免传统方法中因研究者的主观经验造成特征选取的不足，无法反映数据的真实特性，或因选取过多，导致存在无效特征，影响电能质量扰动分类的准确率。1 电能质量扰动成像原理1.1 格拉姆角场GAF 是一种通过生成 Gram 矩阵将一维时间序列转换成二维图像的方法14。设扰动信号X=x1，x2，xn，使用离差标准化法将信号缩放到-1，1 之间。其计算公式为：式中：x*为标准化后的值。然后将标准化后的值映射到极坐标系中，x*映射为角度，时间t映射为半径r，转换公式为：式中：ti为第i个时间戳，N为将区间 0，1进行N等分。利用映射后的极坐标构建 Gram 矩阵为：G=cos(i+j)(3)Gram 矩阵的元素关于主对角线对称，用于度量不同维度本身的特性以及维度之间的关系，通过向量内积得到多尺度矩阵，对角线元素提供了该向量各自的信息，其余元素提供了其他向量之间的信息。1.2 扰动信号成像GAF 利用极坐标 Gram 矩阵和时间相关性守恒，将扰动的时序信号转换为图像。矩阵中的每个元素都是成对时间值数量的余弦15。与直角坐标系不同的是，极坐标系中的数据具有绝对的时间关系。通过编码将 Gram 矩阵转换为二维图像，矩阵中的每个元素指定图像中的一个像素颜色，生成的图像是一个mn的像素网格，其中m和n分别表示 Gram 矩阵中的行和列。图 1 为一维电压暂降信号和对应的二维图像。图 1 中，右边扰动图像关于主对角线对称，图像位置对应于从左上到右下的时间序列扰动信号。不同的信号代表不同的图像，从而产生不同的图像特征。2 基于VGG16-SVM的电能质量扰动分类2.1 VGG16深度学习网络VGG16 深度学习网络属于卷积神经网络的一种类型16，模型深度为 16 层，由 13 个二维卷积层、5 个最大池化层和 3 个全连接层交替组成。具体结构如图 2 所示。扰动信号在转换成二维图像之后，需要将图像尺寸参数统一调整为 2242243，以满足 VGG16 网络输入层对图像的尺寸要求。其中224224 表示图像的像素，3 分别表示 R、G、B 三个通道。VGG16 网络中使用非线性激活函数 ReLU，图1 一维电压暂降信号和对应的二维图像采样点1.50归一化电压幅值-1.5600-1.0-0.52001004003005000.51.00(1)x*=xi-max(X)+xi-min(X)max(X)-min(X)(2)=arccos(x*)r=，tiNtiN基于VGG16图像特征提取和SVM的电能质量扰动分类9 电工电气 (2023 No.7)它是一种左端饱和函数，相对于传统神经网络中常用的两端饱和的 Sigmoid 函数，它可以有效缓解神经网络梯度消失的问题。将电能质量扰动图像输入 VGG16 网络中，通过二维卷积层执行卷积操作，自动提取扰动图像的特征，并在激活函数的帮助下生成特征图。最大池化层执行下采样操作，将特征图压缩后输出给下一层。通过二维卷积技术提取图像特征并层层抽象，将低级局部特征转换为高级特征向量。在这种情况下，图像的特征向量被提取，同时又保持了图像中像素之间的空间关系。由于本方法只需要 VGG16 网络的特征提取功能，所以将该网络的最后 3 个全连接层删除，直接从第 5 个最大池化层处输出提取的扰动图像特征。在这之后接入分类器分析特征信息，识别图像的扰动类型。2.2 支持向量机支持向量机是一种建立在统计学习理论基础上的线性分类器，它利用核函数将 VGG16 网络提取的扰动特征映射到高维空间中，并在该空间寻找一个最优超平面，使得该超平面在保证分类精度的同时，满足与两侧样本之间的间隔最大17。设(xi，yi)，i=1，2，n 为训练集，其中，xi表示训练数据，yi表示分类标签，yi取 1。超平面记为f(x)=x+b，其中表示权重矩阵，b表示偏执参数。搜寻最优超平面的分类问题可以转换为求解二次规划问题，其目标函数和约束条件为：式中：C为惩罚因子；i为松弛项。采用 linear 核函数K(xi，xj)=(xi)，(xj)将扰动特征映射到高维空间中，并通过全局搜索寻找最优超平面，得到最优分类决策函数为：f(x)=sgn ai*yjK(xi，xj)+b*(5)式中：ai*和b*为式(5)的解；n为训练样本数；xj为输入向量；yj为对应的期望值。2.3 十折交叉验证十折交叉验证可以用于检验SVM的分类性能18，通过将电能质量扰动的训练样本随机地划分为 10个互不相交的子集 S1，S2，S10，即十折，每折的大小基本相等，总共进行 10 次迭代。第j次迭代选取测试集Sj，其他剩余子集的和集作为训练集。训练集训练求出决策函数，然后由测试集进行测试。其中错误分类的样本数记为lj，轮流选取测试集，迭代 10 次之后，得到 l1，l2，l10。将 10 次迭代中错分的样本数与总样本数的比值作为十折交叉验证误差，计算公式为：式中：e为估计错误率；k为迭代次数，十折交叉验证的k=10；n为总样本数。根据交叉验证误差可以选出最优的 SVM 超参数，不仅可以提高 SVM 的分类性能，还能够防止过学习现象。2.4 GAF-VGG16-SVM分类模型本文模型将图像识别的方法应用到电能质量扰动分类问题中，通过 GAF 将扰动信号转换成二维图像，然后使用 VGG16 深度学习网络自动提取图像特征，最后使用十折交叉验证的 SVM 模型进行分类识别。电能质量扰动信号分类识别流程如图 3 所示。在 VGG16 网络的第 5 个最大池化层切入，删除网络后面的全连接层部分，紧接着在该层之后连接一个 SVM 分类器，将网络提取的特征从该层直接输出到 SVM 中进行分类识别。VGG16 深度学习网络中统一采用大小为33的二维卷积核，滑动时间窗均为 1；最大池化层的池化核为 22。这种较小的内核有利于提取图像的细节特征，最大程度保证图像信息的完整性。最大池化层通过下采样操作压缩特征，减小特征图的尺寸，简化了网络计算的复杂度，并且对微小位移具备一定的不变性。图2 VGG16结构图-卷积层-池化层-全连接层(4)s.t.yi(xi+b)1-i，i=1，2，lmin 2+C i12li=1ni=1，j=1(6)e=kj=1ljkj=1(lj/n)基于VGG16图像特征提取和SVM的电能质量扰动分类10电工电气 (2023 No.7)引入十折交叉验证法对 SVM 进行训练，将训练集随机分为 10 个子集，每次迭代选取 9 个子集用于训练，剩余一个子集用于验证，并取 10 次交叉验证结果的平均值用于评价算法的精度。它的特点在于能够重复运用随机生成的子样本来训练和验证，每次训练的结果验证一次，有助于提高模型精度和泛化能力。3 仿真算例分析3.1 信号成像根据 IEEE Std 1159-2019 及相关文献建立电能质量的 7 种单一扰动模型和两种复合扰动模型19，分别为电压暂降(S2)、电压暂升(S3)、暂态振荡(S4)、电压中断(S5)、谐波(S6)、电压闪变(S7)、暂态脉冲(S8)、暂降+谐波(S9)、暂升+谐波(S10)。同时加入了正常信号(S1)用于展示模型对正常运行状态发生误判的情况。为了更贴近真实情况，检验该模型的抗噪能力，在信号中分别加入了信噪比为30、40、50 dB的白噪声。通过编码生成 10 种类型的电能质量信号，每种类型的信号包括300组样本。利用 GAF 法生成二维扰动图像，然后将图像按照 7:3 随机划分为训练集和测试集。电能质量信号及其对应的二维图像如图 4 所示。图3 扰动信号分类流程扰动信号数据预处理VGG16提取特征十折交叉验证SVM分类识别SVM分类识别分类结果训练平均精度样本重新排序训练集测试集构建Gram矩阵，并生成图像满足精度要求？NY采样点1.50归一化电压幅值-1.5600-1.0-0.52001004003005000.51.00a)S1采样点1.50归一化电压幅值-1.5600-1.0-0.52001004003005000.51.00b)S2采样点1.50归一化电压幅值-1.5600-1.0-0.52001004003005000.51.00c)S3采样点1.50归一化电压幅值-1.5600-1.0-0.52001004003005000.51.00d)S4采样点1.50归一化电压幅值-1.5600-1.0-0.52001004003005000.51.00e)S5采样点1.50归一化电压幅值-1.5600-1.0-0.52001004003005000.51.00f)S6基于VGG16图像特征提取和SVM的电能质量扰动分类11 电工电气 (2023 No.7)3.2 仿真结果为了更清晰地展示模型的分类效果，引入混淆矩阵对结果进行分析。主对角线元素表示正确识别的扰动信号类型的样本数量，非对角线元素表示的是识别错误的数量。通过仿真得到 3 种噪声环境下的分类结果，如图 5 所示。由图 5 可知，在信噪比为30、40、50 dB 的噪声环境下，该模型的分类准确率分别为 98.67%、99.56%、99.78%，经过十折交叉验证后计算出不同噪声对应的泛化误差分别为 0.019 5、0.005 2、0.002 4。当信噪比为 30 dB 时，有 4 幅正常信号(S1)和 1 幅暂态振荡(S4)被误判为暂态脉冲(S8)；1 幅电压闪变(S7)被误判为电压暂降(S2)；6 幅暂态脉冲(S8)被误判为正常信号(S1)。当信噪比为 40 dB 时，有 1 幅正常信号(S1)被误判为暂态脉冲(S8)，1 幅电压暂升(S3)被误判为电压闪变(S7)，2 幅暂态脉冲(S8)被误判为正常信号(S1)。当信噪比为 50 dB 时，测试集中的 900 幅扰动图像中仅有两幅被误判，分别是暂态振荡(S4)被误判为暂态脉冲(S8)，暂态脉冲(S8)被误判为正常信号(S1)。由此可知，模型的分类准确率随着噪声含量的减少而升高。总的来说，GAF-VGG16-SVM 模型对电能质量扰动类型的识别具有较高的准确率，并且具备一定的抗噪采样点1.50归一化电压幅值-1.5600-1.0-0.52001004003005000.51.00g)S7采样点1.50归一化电压幅值-1.5600-1.0-0.52001004003005000.51.00h)S8采样点2.00归一化电压幅值-2.0600200100400300500-1.0-1.5-0.50.51.01.50i)S9图4 电能质量信号图像采样点30归一化电压幅值-3600-2-1200100400300500120j)S10a)信噪比为30 dB的分类结果预测类真实类S1 864S290S390S4891S590S690S7189S8684S990S1090S1 S2 S3 S4 S5 S6 S7 S8 S9 S10b)信噪比为40 dB的分类结果预测类真实类S1 891S290S3891S490S590S690S790S8288S990S1090S1 S2 S3 S4 S5 S6 S7 S8 S9 S10图5 不同信噪比时的分类结果b)信噪比为50 dB的分类结果预测类真实类S1 90S290S390S4891S590S690S790S8189S990S1090S1 S2 S3 S4 S5 S6 S7 S8 S9 S10基于VGG16图像特征提取和SVM的电能质量扰动分类12电工电气 (2023 No.7)声能力。在引入十折交叉验证后，使得模型具有更高的泛化能力，适合进一步推广到其他分类识别领域。3.3 模型对比为了进一步验证本文所提模型的优越性，将其与卷积神经网络(CNN)、长短期记忆网络(LSTM)、CNN-LSTM、GAF-VGG16-PNN、GAF-VGG16-SVM 模型进行了比较。不同模型的对比结果如表 1 所示。由表 1 可以看出：(1)本文所提 GAF-VGG16-SVM 模型比 CNN、LSTM、CNN-LSTM、GAF-VGG16-PNN 模型的分类准确率分别高 9.28%、0.88%、0.18%、3.34%，表明该模型对电能质量扰动信号的识别有更好的效果。就某一类扰动信号而言，比如在暂态振荡(S4)和暂态脉冲(S8)时，本文模型的准确率略低于 CNN-LSTM模型，但从整体上来说，本文模型的准确率要高于以上模型。(2)CNN 相较于传统方法，虽然能自动提取特征，免去了人工提取特征的主观性干扰，但是该方法提取的特征不具有时间依赖性，因而分类的准确率较低。LSTM 直接对输入信号进行学习，具有时间依赖性，故其分类准确率远高于 CNN 模型。而CNN-LSTM 模型不仅在 CNN 的基础上自动提取特征，而且具备了 LSTM 模型的时间依赖性，所以其分类准确率高于前两种模型。GAF-VGG16-PNN 模型由于对暂降+谐波(S9)的复合扰动信号的分类效果较差，因而导致其整体识别率较低，但在针对电压暂降(S2)、电压暂升(S3)、谐波(S6)等扰动信号时，其准确率高于其他 3 种模型。GAF-VGG16-SVM 模型挖掘数据间的绝对时间关系，采用更深层的深度学习网络进行提取，得到的图像特征更加细节全面，而 SVM 是一种效果好的分类器，并且引入了十折交叉验证用于训练，所以该模型的分类准确率高于其他 4 种模型。为了进一步验证该模型对复合扰动的分类效果，本文通过组合单一扰动，形成了 7 种双扰动和3种三扰动的情况。扰动类型和分类结果如表2所示。从表 2 中可以看出，本文模型对复合扰动的分类准确率达到了 90%以上，证明该模型同样适用于复合扰动类型的识别。由此可见，GAF-VGG16-SVM模型是一种适合于电能质量扰动分类的有效方法。4 结语针对电能质量扰动信号的分类问题，本文提出一种基于 GAF-VGG16-SVM 模型的分类方法。首先采用 GAF 法将扰动信号转换为二维图像，再将图像输入 VGG16 网络中自动提取特征；然后从 VGG16 网络的第 5 个最大池化层处取出特征输入到 SVM 中，引入十折交叉验证法进行训练；最后利用测试集来测试该模型的分类效果。结果表明，该模型具有良好的分类识别能力以及泛化能力。通过与不同模型进行对比，显示出该模型的优越性，可进一步推广到其他分类识别领域。参考文献1 WANG K,XI Y.A new method of power quality disturbance classification based on deep belief networkJ.Journal of Physics Conference Series，2021，1827(1)：012021.2 HUANG J,QU H,LI X.Classification for hybrid power quality disturbance based on STFT and its spectral kurtosisJ.Power System Technology，2016，40(10)：3184-3191.3 徐佳雄，张明，王阳，等.基于改进 Hilbert-Huang 变换的电能质量扰动定位与分类 J.现代电力，2021，38(4)：362-369.4 程志友，杨猛.基于二维离散余弦 S 变换的电能质表1 不同模型对比扰动类型CNNLSTMCNN-LSTMGAF-VGG16-PNNGAF-VGG16-SVMS190.2099.40100.00100.00100.00S284.2096.8099.00100.00100.00S395.4098.2099.00100.00100.00S495.0099.4099.8095.5698.89S585.8099.2099.6098.89100.00S691.6097.8099.20100.00100.00S796.2099.80100.00100.00100.00S891.0099.2099.8094.4498.89S990.8098.60100.0075.56100.00S1084.4099.8099.80100.00100.00平均值90.5098.9099.6096.4499.78%基于VGG16图像特征提取和SVM的电能质量扰动分类表2 复合扰动分类结果双扰动三扰动组合准确率组合准确率S2+S4100.00S2+S4+S695.56S3+S497.78S3+S4+S693.33S4+S796.67S4+S6+S791.11S2+S893.33S3+S894.44S4+S695.56S6+S798.89%13 电工电气 (2023 No.7)量扰动类型识别 J.电力系统保护与控制，2021，49(17)：85-92.5 徐艳春，樊士荣，谭超，等.基于改进 EWT-CMPE的高渗透率主动配电网电能质量扰动检测与分类J.电网技术，2020，44(10)：3991-4000.6 杨剑锋，姜爽，石戈戈.基于分段改进 S 变换的复合电能质量扰动识别 J.电力系统保护与控制，2019，47(9)：64-71.7 SUNDARAM P K,GIRISHKUMAR G.Power Quality Disturbance Classification Based on Kalman Filter and Adaptive Neural Fuzzy Inference System(ANFIS)C/International Conference on Robotics and Artificial Intelligence，2021.8 BHAGAT A,NIMKAR S,DONGRE K,et al.Power Quality Disturbance Detection and Classification Using Artificial Neural Network Based WaveletJ.International Journal of Computational Intelligence Research，2017，13(8)：2043-2064.9 THIRUMALA K,PAL S,JAIN T,et al.A classification method for multiple power quality disturbances using EWT based adaptive filtering and multiclass SVMJ.Neurocomputing，2019，334：265-274.10 MAHELA O P,SHAIK A G,KHAN B,et al.Recognition of Complex Power Quality Disturbances Using S-Transform Based Ruled Decision TreeJ.IEEE Access，2020，8：173530-173547.11 DAWOOD Z,BABULAL C K.Power quality disturbance classification based on efficient adaptive Arrhenius artificial bee colony feature selectionJ.International Transactions on Electrical Energy Systems，2021，31(5)：e12868.12 MALIK H,ALMUTAIRI A,ALOTAIBI M A.Power quality disturbance analysis using data-driven EMD-SVM hybrid approachJ.Journal of Intelligent and Fuzzy Systems，2021，42(6)：1-10.13 曹梦舟，张艳.基于卷积-长短期记忆网络的电能质量扰动分类 J.电力系统保护与控制，2020，48(2)：86-92.14 WANG Z,OATES T.Imaging time-series to improve classification and imputationC/Proceedings of the 24th International Conference on Artificial Intelligence，2015：3939-3945.15 SHUKLA J,PANIGRAHI B K,Ray P K.Power quality disturbances classification based on Gramian angular summation field method and convolutional neural networksJ.International Transactions on Electrical Energy Systems，2021，31(12)：e13222.16 SIMONYAN K,ZISSERMAN A.Very deep convolutional networks for large-scale image recognitionEB/OL.(2015-04-10)2023-03-10.http:/arxiv.org/abs/1409.1556.17 邵凯旋，何怡刚，汪磊.基于多尺度熵分析与改进SVM 的变压器故障识别 J.电子测量与仪器学报，2022，36(6)：161-168.18 MAMAT N,HAMZAH F M,JAAFAR O.Hybrid Support Vector Regression Model and K-Fold Cross Validation for Water Quality Index Prediction in Langat River,MalaysiaEB/OL.(2021-02-15)2023-03-10.http:/www.biorxiv.org/content/10.1101/2021.02.15.431242v1.abstract.19 IEEE Power&Energy Society.IEEE recommended practice for monitoring electric power quality:IEEE Std 1159-2019S.Washington：IEEE，2019：34-79收稿日期：2023-03-10基于VGG16图像特征提取和SVM的电能质量扰动分类电工电气征稿启事电工电气杂志是经国家新闻出版总署批准，由江苏电器杂志更名而来。电工电气的办刊宗旨及业务范围为：追踪行业热点，报道前沿技术，传递市场信息，搭建行业技术交流和推广应用平台，推动电工电气技术发展，为电工电气行业服务。电工电气主要刊登电工电气、高低压电器及成套设备和控制设备、智能电网、微电网、新能源技术、计算机在电工电气领域的应用等方面的科研、设计、标准、检测及新技术、新工艺、新材料等的论文、技术报告和信息与技术交流方面的文章，不收版面费，并支付稿酬。欢迎广大作者踊跃投稿，对有价值、水平高的论文将优先刊登。电工电气编辑部2023年7月