基于内核时变回归模型的电能预测分析与研究.pdf

现代电子技术Modern Electronics TechniqueDec.2023Vol.46 No.242023年12月15日第46卷第24期0 引 言随着“双碳”发展目标的提出，新型电力系统以新能源为主体，在降低碳排放领域有着明显特征和优势。但由于源荷不确定性以及低碳诉求，电网结构和运行模式也面临新的问题12。以电力系统消费侧为例，能源设备的电能配置容量由用能比例、用户需求等因素决定，如不能对其精细化预测和控制，很可能出现电力资源浪费、用户体验下降等问题，最终影响系统业务的营销增长2。因此，对电能负荷预测进行研究分析对于优化电力负荷调度、改进电网结构进而实现“双碳”目标具有重要意义。DOI：10.16652/j.issn.1004373x.2023.24.019引用格式：田野，王大鹏，刘荣权，等.基于内核时变回归模型的电能预测分析与研究J.现代电子技术，2023，46（24）：109114.基于内核时变回归模型的电能预测分析与研究田 野1，王大鹏2，刘荣权3，钟佳晨3（1.国电南瑞南京控制系统有限公司，江苏 南京 211106；2.国网内蒙古东部电力有限公司供电服务监管与支持中心，内蒙古 通辽 028000；3.南京农业大学 人工智能学院，江苏 南京 210095）摘 要：为实现“双碳”发展目标和满足新型电力系统应用需求，亟需对用电进行精准预测。为了应对周期长、变化幅度大的数据，将KTR模型应用于电能负荷预测的实际场景中。该模型在时变系数回归的方法上进行改进，能够应对较长的时间序列，避免出现过拟合的情况；以及根据不同数据变化情况自适应地使用不同的核函数，保证模型学习与数据特征匹配。实验结果表明，使用通过最佳参数构建的 KTR 模型进行预测，其总体的电能负荷数据预测值和原始值的 SMAPE 为8.46%。此外，将文中方法与Prophet和SARIMA模型预测结果进行了对比，结果表明，文中方法的预测精度比另外两种模型分别高2.57%和9.23%，验证了该方法电能预测的准确性。关键词：内核时变回归模型（KTR）；电能负荷预测；核回归模型；贝叶斯时变系数模型；时间序列预测；贝叶斯框架中图分类号：TN20634 文献标识码：A 文章编号：1004373X（2023）24010906Analysis and research on electric energy prediction based on kernelbased timevarying regression modelTIAN Ye1,WANG Dapeng2,LIU Rongquan3,ZHONG Jiachen3(1.NARI Technology Nanjing Control Systems Co.,Ltd.,Nanjing 211106,China;2.State Grid Inner Mongolia East Electric Power Co.,Ltd.,Power Supply Service Supervision and Support Center,Tongliao 028000,China;3.College of Artificial Intelligence,Nanjing Agricultural University,Nanjing 210095,China)Abstract：In order to realize the double carbon development goal and meet new power system applications require,accurate forecasting of power consumption is need to conduct.In order to cope with the long period and large variation of data,the KTR(kernelbased timevarying regression model)model is applied to the actual scenario of electric energy load forecasting.The model is improved on the method of timevarying coefficient regression,which can cope with longer time series and avoid overfitting.The different kernel functions are used adaptively according to different data changes to ensure model learning and data feature matching.The experimental results show that the overall SMAPE of the predicted and original electric energy load data is 8.46%by means of the KTR model constructed with the best parameters for prediction.The proposed method was compared with the prediction results of Prophet and SARIMA models,and the results show that the prediction accuracy of this method is 2.57%and 9.23%higher than that of other two models,respectively.It verifies the accuracy of the proposed method in electricity prediction.Keywords：KTR;electric energy load forecasting;kernel regression model;Bayesian timevarying coefficient model;time series prediction;Bayesian framework收稿日期：20230423 修回日期：20230529基金项目：上海市大数据管理系统工程研究中心开放基金项目（HYSY21022）109109现代电子技术2023年第46卷数据驱动技术在能源负荷预测问题中应用广泛34，从技术角度可以分为两类，即传统方法和现代方法。其中，传统方法包括回归分析法5、时间序列法6和灰色模型法78。在相关研究中，苏振宇等提出了一种结合季节调节和 HoltWinters方法的月度负荷预测方法，实现了较高的预测精度9。李震等提出了一种基于数据驱动线性聚类和自回归积分滑动平均法进行长期电力负荷预测的方法，解决了负荷波动大导致的长期负荷预测精度低的问题10。现有方法包括人工神经网络1114、模糊控制、支持向量机15和组合模型。J.Munkhammar等使用马尔科夫链混合分配模型（MCM）对澳大利亚住宅用电量进行超短期预测，取得了很好的效果16。徐先峰等提出了一种多层 BiLSTM 的 Seq2seq 深度学习模型（BLSeq2seq），实现了短期用电负荷预测17。但是，这些方法的局限性在于无法应用于数据周期较长的场景中。为此，魏明奎等采用 BFGSFA优化的分数阶灰色预测模型对中长期负荷进行预测。该方法利用 BFGSFA寻优算法对分数阶灰色预测模型进行优化，最后得到最优阶数的分数阶灰色预测模型18。综上，从现有的应用场景来看，绝大多数对于电力负荷的预测方法都是应用于短期内的电力变化数据，通常为某一地区在几个月内的负荷数据。这样的数据通常周期性较短且变化的幅度较小，在使用现有方法进行拟合时往往能够获得不错的效果。但是如果电力数据的周期变长，同时其中峰值低估的变化幅度也变大，则现有的许多方法效果会有所下降。现有的大多数方法中使用的核函数往往是预先设定好的，这样的设计依赖于较强的先验知识以及较大的数据量，单一的核函数无法很好地匹配多变的应用情况，导致只有与该核函数预设参数较为匹配的数据能够被很好的拟合。此外，这些方法的可解释性与操作性门槛较高，进一步限制了其大范围的推广和使用。对于周期长、变化幅度大的电能数据，需要所使用的方法能够对使用的核函数进行自适应选择，使其能够根据应用场景的数据特点来进行匹配。因此，本文采用基 于 内 核 时 变 回 归 模 型（Kernelbased Timevarying Regression Model,KTR）19，该模型将时间序列视为局部趋势、季节性和附加回归量的加法组合，这三个分量的系数都随时间变化。其使用核回归产生时变系数，用贝叶斯框架合并实验结果，从而拟合用电数据曲线。实验结果与对比分析证明了本文方法在电能负荷预测上的可行性以及准确性方面的明显优势。1 电能预测相关原理1.1 KTR预测原理传统的线性回归方法通常拟合出一维直线，核回归则可以将低维的数据上升到高维，利用核函数作为权重函数来建立非线性回归模型。而内核时变回归模型（Kernelbased Timevarying Regression Model,KTR）19则是在核回归的基础上，将时间序列作为自变量参数从而更好地获取因变量随时间变化的关系。本文将贝叶斯建模和核回归的思想结合在一起，目的是更好地结合试验结果对因变量与时间自变量之间的关系加以解释。基础的回归函数会将预测值表现为与自变量参数相关的收益递减函数形式。现有的方法中较为常见的是用公式（1）来描述电能负荷预测：yt=g(t)p=1Pft,p(xt,p),t=1,2,T （1）式中：xt,p是回归变量，在本文的研究中指不同的测量日期；yt是电能负荷的测量值；g是一个表现时间序列的过程；f指变化趋势函数；P是回归变量的个数；T是时间点的个数。本文在拟合的过程中需要对函数f进行选择，使得yt的可解释性增强，同时可以分解为不同的驱动因素。为使公式更加直观，可将其描述为如下形式：yt=elt estp=1Pxt,pt,p,0 t,p 1,t,p （2）式中：elt是非周期上的变化趋势；而est则是周期性的变化趋势；t,p是特定节点的时间变化系数。但是，传统的方法在应对时间周期过长的数据时，因为计算过于冗杂导致效率不高，计算开销较大。为此，本文使用KTR模型对电能进行预测。KTR模型是在贝叶斯框架下基于内核的时变回归模型，其核心在于：将回归系数表示为局部潜在变量的加权和，使用潜在变量来定义模型系数的平滑时变表示，而这些平滑表示形式是核平滑19。与典型的动态线性模型相比，KTR模型有着更少的参数，因此有着更快的计算速度。KTR模型将公式两边取对数，可以将其表示为：yt=lt+st+rt+t,t=1,2,T （3）1.2 时变系数回归以回归项为例，KTR 模型定义了一个潜在变量bjp作为第p个回归量在时间tj时的回归系数，p=1,2,P,j=1,2,J,tj1,2,T。对于每个回归量，共有J个潜在变量，可以将bjp视为第p个回归量分布在tj处的一个节点。因此，第p个回归量的回归系数就可以表示110第24期为J个局部潜在变量的加权和，第p个回归量的回归系数为：t,p=j=1Jwj()t bj,p（4）其次，KTR模型使用基于时间的权重函数，本文中使用t和tj距离的加权函数可以更好地获取t和tj时间点上数据的关系，公式如下：wj()t=k()t,tjj=1Jk()t,tj（5）式中k(，)为核函数，分母为标准化节点的权值。根据实际数据集中的不同，数据特征选择的核函数不同。对于趋势和周期性变化，本文所选用的核函数为：klev()t,tj=|tj+1-tti+1-ti，ti t ti+1,j i,i+1（6）对于回归，则使用高斯核，即：kreg()t,tj;=e-()t-tj222（7）式中是scale参数。将方程改写成矩阵形式，即：B=Kb（8）式中：B为 Tp的系数矩阵(元素为t,j)；K 是 TJ的内核矩阵(元素为wj()t）；b是JP的节点矩阵(元素为bjp)。因此，回归项的公式为：rt=XtBTt（9）式中：Bt=()t,1,t,2,t,p和Xt是回归或协变量矩阵的第t行。同时，在 KTR 模型中，局部趋势、周期性和回归项的区别不大，因此都有类似的表达形式。则对于趋势部分，有：lev=Klevblev（10）lt=t,lev（11）对于周期性成分，有：Bseas=Kseasbseas（12）st=Xt,seasTt,seas（13）式中：Xt,seas表示由傅里叶级数导出的季节协变量矩阵第t行。1.3 贝叶斯框架除了时变系数回归之外，KTR模型同样使用贝叶斯框架和可设置的后验进行后验采样，估计局部节点参数(b、blev和bseas)，目的是对拟合结果的可能性加以数量化的评价，使得在长期数据中进行预测更加精准，避免过拟合的情况发生。对于趋势和周期性成分，使用拉普拉斯先验（Laplace Prior）对相邻节点建模，即：bj,levLaplace()bj-1,lev,lev（14）bj,seasLaplace()bj-1,seas,seas（15）式中：初始值b0,lev和bseas可以从均值为 0 的拉普拉斯分布中采样。而对于回归，KTR模型设计了一个两层的层次结果来获得更稳健的采样，即：regN+()pool,2pool（16）bregN+()reg,2reg（17）式中：上标“+”表示折叠的正态分布(系数符号的正限制)。模型训练过程中，先对潜在变量先验进行采样获得潜 在 变 量 采 样，然 后 使 用 随 机 变 分 推 断（Stochastic Variational Inference,SVI）20估计潜在变量后验，之后继续上述的采样估计得到节点系数后验，最后利用公式（6）式（8）得到时变系数lt、st、rt的估计值，并最终在测试集上进行检验。2 处理流程设计基于内核时变回归模型的电能预测主要分为实验预处理、超参数选择、模型训练三部分，处理步骤如图 1所示。为了避免原始数据中的缺失或异常值影响模型训练的精度，首先需要对数据进行预处理，该过程包括异常值处理、填充缺失值和对数化。本文的预处理步骤为：1）原始数据存在因为记录误差导致的错误数据，会影响整体数据趋势的变化，所以需要将出错的数据删除或置0，防止实验结果被错误的极端数据所影响。2）由于设备故障等原因导致的数据缺失也会影响模型的拟合，在填充缺失数据的过程中，本文选择后项数据填充的方法，将数据的后一个应用于前列则更能体现数据的连续性。3）少数时间段的数据变化幅度会高于平均变化幅度，使得整体趋势的预测受到影响。为了减少该影响，本文对现有的数据进行对数化，缩小数据的绝对数值，将后续复杂的乘法运算转变为加法运算，降低了运算的难度。在获取经过预处理的完整数据集后，需要进行超参数选择实验，确定在模型训练中所使用的最优参数。由于本实验数据只有电能负荷数据，没有其他回归量，因此需要考虑的参数只有分段数（level segments）和迭代次数（steps）。田 野，等：基于内核时变回归模型的电能预测分析与研究111现代电子技术2023年第46卷图1 基于KTR的用电数据预测处理流程为了确保获取参数的可靠性，本研究使用回溯测试，递增每次的训练集数量，同时测试集数量保持不变。本文设定起始窗口天数为 380，每次扩展天数为 120，预测天数为 20。从完整的数据集中随机选择一名用户的用电量数据作为实验数据，在实验的过程中，每一代分别计算 SMAPE，并且判断该值是否为当前最优，最终选定获取最优 SMAPE 的参数作为正式模型训练时的参数。确定超参数之后便获得了正式训练所需要的分段数以及迭代次数，将该参数输入 KTR模型中，同时从所有完整数据集中随机选取10个用户的用电量数据分别进行训练。对每个用户数据训练所得到的模型进行测试，最终对 10个用户的测试 SMAPE值求平均作为预测结果。3 实验结果与分析3.1 实验环境与评价指标本 文 的 实 验 硬 件 环 境 为Intel Core i9 12900K，4 900 MHz；内 存 为 32 GB；NVIDIA GeForce RTX 3060 Ti（8 GB）。软件环境为Windows 10操作系统，编程语言为Python 3.7。本文使用对称平均绝对百分比误差（Symmetric Mean Absolute Percentage Error,SMAPE）作为指标来衡量模型预测的准确度，SMAPE的计算公式如下：SMAPE=1ni=1n|yi-yi()|yi+|yi2 100%（18）式中：yi是样本预测值；yi是样本真实值；n是样本数量。SMAPE越小表示预测得越准确。3.2 数据预处理本文用于实验测试的数据来源于电网，包含42 372个用户的用电量数据，电能负荷数据按天统计，范围从2014 年 1 月 1 日2016 年 9 月 9 日，共 1 036 天。数据集按照 82 划分，即 80%作为训练集，20%作为测试集。数据存在缺失值过多的情况，图 2为样本缺失数据示例。由于数据具有时序性，因此本文使用后向填充，使用缺失值后面的第1个观测值进行填补。同时，为了避免填充数据过多而影响预测效果，最终选择以 10为界限，删除连续的缺失值数大于10的样本。为了缩小数据的绝对数值同时避免伪回归，消除异方差，让数据更加符合正态分布，本实验对数据进行对数处理，处理前后效果分别如图 3和图 4所示。观察可知，取对数后的数据波动变小，样本的异方差程度显著降低。图2 缺失值过多样本的电能时间序列图图3 处理前的电能时间序列图112第24期图4 处理后的电能时间序列图3.3 超参数选择由于存在时间先后的问题，时间序列数据不能简单地使用交叉验证，会出现一些时序特征交叉的情况，如用未来的数据去预测过去的数据。因此，本文使用基于时间的交叉验证进行超参数优化选择。基于时间序列的交叉验证有扩展和滚动两种窗口，本文选择扩展窗口，即训练开始日期固定，结束日期向前扩展。对于其他参数，本文设定起始窗口为 380（以天为单位），每次扩展 120，预测 20，基于回溯的超参数最优化选择如图 5所示。图5 基于回溯的超参数最优化结果由于本实验数据只有电能负荷数据，没有其他回归量，因 此 本 文 的 KTR 模 型 的 参 数 在 分 段 数（level segments）和迭代次数（steps）上考虑优化。其中，分段数选择 10、20、30、40，迭代次数选择 301、601、901、1 201。然后使用回溯测试进行超参数选择，结果如表 1 所示，表中黑色加粗处为最优参数行。由表 1 结果可以看出，最佳参数为（30，1 201），此时的预测SMAPE值为10.29%。3.4 模型结果与评估使用超参数优化得到的最佳参数（30，1 201）构建KTR模型；然后使用与上文相同的回溯测试参数（扩展窗口，起始窗口380，每次扩展120，预测20）对时间序列进行交叉验证。本文给出最后一个模型的拟合效果，如图 6所示，其中黑点表示原始的电能负荷数据，灰色的线是使用 KTR 模型拟合得到的曲线，灰色的区域是置信区间，表示预测的上下界，竖着的虚线将数据集划分为训练集和测试集，左侧为训练集，右侧为测试集。经实验计算可得，总体的电能量数据预测值和原始值的SMAPE值为8.46%，模型拟合效果较好。表1 超参数选择结果分段数（level segments）10101010202020203030303040404040迭代次数（steps）3016019011 2013016019011 2013016019011 2013016019011 201准确度（SMAPE）/%12.0612.4212.2012.2410.7210.6410.7910.7210.4610.4210.3110.2911.3711.4411.6711.49图6 KTR模型预测整体拟合效果本 文 将 KTR 模 型 与 业 内 常 用 的 Prophet21和SARIMA 模型进行了对比。Prophet是 Facebook 开源的基于 STL分解思想的时序预测模型，具有速度快、可解释性强等优点。SARIMA 模型全称为季节性差分自回归滑动平均模型，通过对时间序列进行变换和拟合来建模，对数据的平稳性有着很高的要求。实验使用 SMAPE作为评价标准，随机选取 10组样本，取10组平均值作为最终的SMAPE。对于每组样本，田 野，等：基于内核时变回归模型的电能预测分析与研究113现代电子技术2023年第46卷训练集和测试集的划分比例为 3 2，即预测步长 h 为100，每个模型的参数设置基本一致。不同模型平均SMAPE比较结果如表 2所示。从表 2结果可以看出，本文模型的预测精度优于其他两种模型。表2 模型平均SMAPE比较%模型SMAPEKTR18.96Prophet21.53SARIMA28.194 结 语本文基于 KTR模型实现了对电能负荷时间序列的预测，并验证了该模型在电能负荷预测的可行性和准确性。通过基于时间的交叉验证，本文得到了模型在数据集上的最佳参数；然后使用该最佳参数建立模型，对电能负荷时序数据进行拟合预测，最终的模型 SMAPE 值达到 8.46%，具有较高的预测精度。此外。将本文模型与 Prophet 和 SARIMA 模型进行对比分析，结果证明本文模型的预测精度更佳。最后，通过真实电能负荷时序数据的拟合预测结果，验证了本文方法在优化电力负荷调度工作、提升电力服务质量方面是切实可行的。参考文献1 刘洲红.“双碳”背景下新型电力系统规划新问题及主要技术J.科技创新导报，2022，19（8）：2426.2 康重庆，杜尔顺，李姚旺，等.新型电力系统的“碳视角”：科学问题与研究框架J.电网技术，2022，46（3）：821833.3 朱继忠，董瀚江，李盛林，等.数据驱动的综合能源系统负荷预测综述J.中国电机工程学报，2021，41（23）：79057924.4 朱天怡，艾芊，贺兴，等.基于数据驱动的用电行为分析方法及应用综述J.电网技术，2020，44（9）：34973507.5 王雁凌，吴梦凯.经济新常态下基于偏最小二乘回归的中长期负荷预测模型J.电力自动化设备，2018，38（3）：133139.6 WANG Z,LI Q,PEI L.A seasonal GM(1,1)model for forecasting the electricity consumption of the primary economic sectors J.Energy,2018,154:522534.7 XU N,DANG Y,GONG Y.Novel grey prediction model with nonlinear optimized time response method for forecasting of electricity consumption in China J.Energy,2017,118:473480.8 黄福兴，周广山，郑宽昀，等.基于灰度模型的电能量异常数据修复研究J.华东师范大学学报（自然科学版），2020（4）：156163.9 苏振宇，龙勇，汪於.基于季节调整和HoltWinters的月度负荷预测方法J.中国管理科学，2019，27（3）：3040.10 李震，张思，任娴婷，等.基于数据驱动的线性聚类ARIMA长期电力负荷预测J.科学技术与工程，2020，20（16）：64976504.11 邹智，吴铁洲，张晓星，等.基于贝叶斯优化CNNBiGRU混合神经网络的短期负荷预测J.高电压技术，2022，48（10）：39353945.12 胡春凤.基于改进动态贝叶斯网络的月度用电量预测方法D.北京：华北电力大学（北京），2020.13 王文卿.基于卷积神经网络的电力系统短期负荷预测研究D.青岛：青岛大学，2020.14 包宇庆，李扬，杨斌，等.基于神经网络的日峰荷预测方法中日期类型系数的确定J.中国电机工程学报，2015，35（22）：57155722.15 XU Y.Prediction of global electricity generation by using least squares support vector regression with sparrow search algorithm J.Francis academic press,2021(5):040501.16 MUNKHAMMAR J,MEER D V D,WIDEN J.Very short term load forecasting of residential electricity consumption using the Markovchain mixture distribution(MCM)model J.Applied energy,2021,282:116180.17 徐先峰，王世鑫，龚美，等.引入 BLSeq2seq模型进行负荷预测J.计算机仿真，2021，38（8）：103107.18 魏明奎，周全，蔡绍荣，等.基于 BFGSFA优化的分数阶灰色模型的中长期负荷预测J.广西大学学报（自然科学版），2020，45（2）：270276.19 NG E,WANG Z,DAI A.Bayesian time varying coefficient model with applications to marketing mix modeling EB/OL.20221201.http:/arxiv.org/abs/2106.03322v2.20 邓翔，彭杰，吕一清.基于量子遗传算法优化的新 Prophet模型及其验证J.系统工程，2020，38（5）：141150.21 张家晨，左兴权，黄海，等.Prophet混合模型应用于基站网络流量长期预测J.计算机工程与应用，2022，58（14）：8088.作者简介：田 野（1988），男，山西人，助理工程师，研究方向为电能计量管理。王大鹏（1988），男，山东人，中级工程师，研究方向为营销计量、反窃降损。刘荣权（2001），男，四川人，研究方向为智能数据分析。钟佳晨（1999），男，江苏人，硕士研究生，研究方向为分布式优化、智能系统设计。114