基于迁移学习算法的电力数据挖掘模型.pdf

书书书第 卷 第 期年 月沈阳工业大学学报 收稿日期：基金项目：国家自然科学基金青年科学基金项目（）；新疆经济技术研究院成本费用咨询项目（）作者简介：易庚（），男，河南驻马店人，工程师，硕士，主要从事电力技术经济、电力数据挖掘等方面的研究 ：基于迁移学习算法的电力数据挖掘模型易庚，何琳，刘锦明，赵学花（国网新疆电力有限公司 经济技术研究院，乌鲁木齐 ）摘要：为了提高智能电网的电力数据挖掘精确度，基于迁移学习算法提出了一种具有故障检测、诊断等多种功能的电力数据挖掘模型 利用栈式稀疏自编码器和循环神经网络，提出了基于 与 的智能电网线路故障检测模型；基于长短期记忆网络等循环神经网络理论，建立具有较高精确度的故障诊断模型 在此基础上，通过引入最大均值差异算法，提出基于迁移学习的数据挖掘模型 仿真结果表明，与传统模型相比，在不同的最大均值差异值和采样间隔时，所提出的模型具有更高的数据挖掘精确度关键词：智能电网；深度学习；迁移学习；故障检测；故障诊断；神经网络；自编码器；最大均值差异中图分类号：文献标志码：文章编号：（），（，）：，：；随着我国电力需求的不断增长，电网运行环境日益复杂，电力行业面临着艰巨的建设任务 在此背景下，保障电力系统稳定地运行具有重要的战略意义 为了实现这一目标，电网的控制与调度人员需要获取各个种类、多设备和大规模的实时数据，即实现电网数据的实时挖掘 然而，传统的数据挖掘技术较难深入地表征电网数据的典型特征，从而难以满足现代智能化电网的实际需要近年来，国内外众多学者通过引入多种人工智能技术，大幅度优化了电力系统的故障检测和诊断技术 等 基于划分网络提出了使用多反向传播的故障诊断和检测算法；等 利用粗糙集理论，提出了适用于分布式馈线且具有定位功能的故障诊断技术；等 基于 和 节点的贝叶斯网络，提出了具有一定推导与预测能力的故障诊断模型；与柴尔?等 结合小波变换和神经网络算法，提出了适用于中压直流船载电力系统的故障诊断模型 然而，以上模型及算法通常无法处理较大规模的数据 为了进一步提高实时智能电网的数据利用率，优化故障检测和诊断效率，文中利用电力故障信息，基于栈式稀疏自编码器和循环神经网络，实现了智能电网故障的检测与诊断 结合负荷数据和聚类分析算法设计智能电网的负荷预测模型，提出基于迁移学习的电力数据挖掘模型 相关仿真结果表明，本文所提模型具有更高的数据利用率与更优的数据挖掘效果 故障检测为了精确地检测出智能电网中的故障，文中提出 了 基 于 主 成 分 分 析（，）和支持向量机（，）的栈式稀疏自编码器，克服了传统神经网络易陷入局部最小的缺陷 栈式稀疏自编码器栈式稀疏自编码是一种基于多层自编码器的训练方法，具备强大的深度学习能力 从函数逼近的视角来看，该训练方法结构可以实现多种数学函数的功能 令 表示故障检测中的隐藏层神经元，表示故障检测的输入数据，其基本结构如图 所示图 栈式稀疏自编码器的基本结构 在工作过程中，栈式自编码器可以通过训练以多种非线性的形式表示大规模数据 假设 表示网络中各个神经元的权重系数，与 分别表示自编码器的输入层和第 个隐藏层的单元数量，表示第 个隐藏层的输入系数，表示第 个隐藏层的系数当第 个隐藏层的单元数量 大于输入单元数量 时，栈式自编码器需要添加一个稀疏性约束，即在编码器的损失函数中添加稀疏惩罚项，从而保证大部分隐藏层的神经元维持在抑制状态令 与 分别表示神经网络的偏置值和权重值，训练样本数量为 ，与 分别表示原损失函数和新损失函数，为调节稀疏惩罚项的权重因子，为稀疏参数，（）表示第 个隐藏单元的激活值，珔为第 个隐藏单元在训练集中的平均激活值，（珔）为稀疏惩罚项，则新损失函数的计算表达式为（，）（，）（珔）（）（珔）珔（）珔（）珔 （）（）故障检测模型基于具有强大非线性表示能力的栈式稀疏自编码器，提出了基于 和 的改进故障检测模型，模型具体工作流程如图 所示图 基于 和 故障检测模型工作流程 为了更加精确地检测电力系统存在的故障，首先，故障模型需要采集系统的电力数据，并形成正常样本、故障样本和无标签样本 在此过程中，电流数据可以反映电力线路的工作状态，常被用作故障检测的输入样本 同时，为了保证故障提取的有效性，模型在采集数据时还应该保留一定的第 期易庚，等：基于迁移学习算法的电力数据挖掘模型滑窗时间 其次，模型需要对采集的样本数据进行必要的预处理，即对线路电流大小进行标准化转换，形成无量纲数据，方便后续的处理 最后，将转换后的数据输入栈式稀疏自编码器，进行逐层的无监督式预训练，形成相应的训练集和测试集数据，并通过引入经典的机器学习算法，执行精确的故障检测 故障诊断为了克服电力系统存在的故障信息较少的缺点，本文通过引入长短期记忆网络，降低了数据挖掘过程的拟合程度，从而实现故障数据的精确诊断 长短期记忆网络针对循环神经网络存在的梯度消失问题，文中引入了长短期记忆网络模型 利用误差的梯度指标进行反向传播，其基本原理如图 所示图 长短期记忆网络的基本原理图 图 中，与 分别为长短期记忆网络的输入门和输出门的中间参数，令 与 分别表示长短期记忆网络的第 个输入和输出，表示长短期记忆网络的第 个状态 则根据图 的结构，第 个隐藏单元误差梯度的计算表达式为 （）其中，由于 （），且 ，则式（）可以转化为 （）基于上述循环神经网络改进方法，令 和 分别表示 和 函数，通过添加输入门、输出门与单元结构等设备实现改进的长短期记忆网络单元结构，如图 所示 故障诊断模型为了克服传统神经网络梯度消失的问题，在图 长短期记忆网络的单元结构 长短期记忆网络的基础上，提出了具有精确诊断能力的电力系统故障诊断模型，其一般架构如图 所示图 电力系统故障诊断模型架构图 本文提出的故障诊断模型工作过程如下：）利用电流、电压和功率等数据样本，获取过电流、设备缺陷和外力破坏的具体故障数据；）利用标准化预处理技术，通过引入 等检验方法，实现训练集和测试集的划分；）根据 输入的维度，分割训练集和测试集数据，从而获取多个时间节点的子序列，确定 网络的输入数据；沈阳工业大学学报第 卷）使用训练集数据对 网络和分类器进行必要的训练，实现电力数据特征的提取和融合；）分类器全面接受全连接层提供的数据特征，从而实现最终的故障分类和诊断，系统反馈相应的预防和检修措施 数据挖掘模型在故障检测与诊断模型的基础上，为了进一步提高数据的利用率和挖掘效果，本文利用最大均值差异理论，提出了适用于智能电网的电力数据挖掘模型 最大均值差异为了解决电力数据存在的双样本检验问题，文中在电力数据挖掘模型中引入了最大均值差异算法，即利用特定的连续函数计算多个样本的均值差，从而辨别不同的分布 假设 是样本空间连续函数集中的某个函数，与 分别是服从数据集 和 的具体数据，与 的数据规模分别为 和 ，则这两者的最大均值差异值定义为 ，（）（()）（）令 表示数据集的内积函数，经过推导可知最大均值差异值的求解方法为 ，(（）（，）（）（，）（，)）（）数据挖掘网络基于迁移学习算法提出了具有实际应用意义的电力数据挖掘模型，实际工作流程如图 所示图 电力数据挖掘模型工作流程图 首先利用栈式稀疏自编码和改进循环神经网络对故障检测与诊断模型进行必要的数据处理及训练 其次利用最大均值差异相关理论对电力系统中的源数据与目标数据之间的差异进行精确的评估和分析，从而获取模型的调整依据，完成数据挖掘模型的参数迁移 然后利用测试集的标准数据与模型的目标数据进行计算和比较，若目标数据处于允许的误差范围内，即达到标准数据，则输出电力数据挖掘模型；否则，继续使用最大均值差异算法对模型中的参数进行必要的调整 仿真结果与分析为了验证电力数据挖掘模型的可行性，本文利用智能电网中的真实电力数据对数据挖掘模型进行了必要的仿真与性能分析 仿真条件为了充分衡量电力数据挖掘模型的性能，选取 年国家电网新疆区域的电力历史数据，数据主要包含 条支线线路和大量用电客户的电气量使用数据，形成了规模分别为 和 的训练集和测试集 仿真设备选用型号为 、内存为 的戴尔架式服务器，其中央处理器为 ，主频为 ，型号是 此外，本文还对数据挖掘网络的具体结构进行了必要的设置，具体情况如表 所示表 数据挖掘网络的结构参数设置 结构参数设置值输入（，）输入 门控循环单位 结构参数设置值全连接层 融合层 输出量 数据分析对基于粗糙集的数据挖掘模型与所提电力数据挖掘模型进行对比分析 粗糙集理论从不同的角度导出多个层次的信息集和规则集，从而完成电力数据的挖掘，所以作为一种经典的电力数据挖掘算法被用于本文的仿真实验对比和验证分析中在电力数据挖掘模型中，源数据和目标数据之间的分布差异受最大均值差异值影响较大，如果最大均值差异值较大，则数据之间的分布差异将增大，从而影响电力数据的挖掘效果；另外，如果用户数据的采样间隔发生变化，则数据挖掘模第 期易庚，等：基于迁移学习算法的电力数据挖掘模型型的负荷预测效果将产生剧烈的变化，所以，数据采样间隔和最大均值差异值对数据挖掘的最终效果具有较大的影响 通过设置不同的最大均值差异值和不同的时间采样间隔进行两种模型的仿真实验 计算这两种模型获取数据与原始数据之间的平均绝对百分比误差，从而精确地衡量模型的性能表现，相应的结果如图 、所示图 平均绝对百分比误差随最大均值差异值的变化曲线 图 平均绝对百分比误差随电力数据采样间隔的变化曲线 由图 可知，随着最大均值差异数值的增大，两种模型获取电力数据的平均绝对百分比误差值均不断增大，但所提模型的数值始终小于传统模型 这说明本文所提模型在设置相同的最大均值差异值时，具有更高的精确度 由图 可知，若设置不同的数据采样间隔，则两种模型的平均绝对百分比误差值均呈现先减小后增大的趋势，但本文所提模型的误差值幅度也始终小于传统数据挖掘模型 综上所述，在相同的最大均值差异值和数据采样间隔的条件下，与传统数据挖掘模型相比，基于迁移学习的电力数据挖掘模型可以获取具有更高精度的电网数据 结论基于栈式稀疏自编码器和长短期记忆网络结构，本文提出了一种具有故障检测和诊断等多种功能的电力数据挖掘模型 相关仿真证明，该模型具有较高的数据挖掘精确度 然而关于该电力数据挖掘模型的研究仍处于初始阶段，且存在较大的发展和提升空间，如何将该电力数据挖掘模型融合到智能电网的负荷预测中，这是未来需要重点研究的问题，也是下一步的研究方向参考文献（）：袁兆祥，余春生 基于 聚类的电力工程数据完整性分析 沈阳工业大学学报，（）：（，（）：）黄泰相，陈波，管鑫，等 基于电子搜索算法的电力系统无功优化 电子科技，（）：（，（）：）孔月萍，吴飞，陈新崛，等 新电改背景下电力大客户服务策略推荐模型研究 电力需求侧管理，（）：（，（）：）李敏 电力通信网络综合管理系统的设计与实现 电子设计工程，（）：（，（）：）李占英，马福兰，马伟兵 一种基于粒子群算法的配电网低电压诊断模型研究 电力大数据，（）：（，（）：）范心明，彭飞进，伍肇龙，等 基于混合整数凸规划的主动配电网无功电压优化运行方法 电力电容器与无功补偿，（）：（，（）：）陈继林，陈勇，田芳，等 基于 算法的电网仿真样本生成方法 中国电机工程学报，（）：（，（）：）刘林虎，金黎明，夏清，等 电力系统输电运行弹性空间建模与效益评估 电力系统自动化，（）：（，沈阳工业大学学报第 卷 ，（）：）叶琳，杨滢，洪道鉴，等 深度学习在电力系统中的应用研究综述 浙江电力，（）：（，（）：）赖光源，李佳良 基于特征感知迭代的电网业务营销数据挖掘方法 计算机应用与软件，（）：（，（）：），（）：，（）：，（）：，：柴尔?，曾平良，马士聪，等 利用 优化后的 神经网络进行电网故障定位的方法研究 电力科学与工程，（）：（，（）：）（责任编辑：景勇英文审校：尹淑英）第 期易庚，等：基于迁移学习算法的电力数据挖掘模型