知识和数据驱动的多时间尺度采样系统建模方法_刘洪旭.pdf

第 49 卷 第 4 期2023 年 4 月北京工业大学学报JOURNAL OF BEIJING UNIVERSITY OF TECHNOLOGYVol.49No.4Apr.2023知识和数据驱动的多时间尺度采样系统建模方法刘洪旭,韩红桂,杨洪燕(北京工业大学信息学部,北京摇 100124)摘摇 要:针对多时间尺度采样系统快采样变量的信息难以充分利用,建模信息不足的问题,提出一种知识和数据驱动的多时间尺度采样系统的模糊迁移学习建模方法,建立多时间尺度采样系统模型,提高建模精度.首先,设计滤波插补方法填补慢采样变量的空缺值,统一慢采样变量和快采样变量为慢时间尺度,利用慢时间尺度变量建立目标模型.其次,提出模型共享机制补充目标模型的建模信息,统一慢采样变量和快采样变量为快时间尺度,利用快时间尺度变量建立参考模型,将参考模型中充足的模型知识迁移到目标模型中.最后,利用参考模型的知识和目标模型的数据学习目标模型的参数,提高目标模型的精度.将提出的建模方法应用于理论数据集,实验证明该方法可以充分挖掘建模信息,建立高精度的多时间尺度采样系统模型.关键词:多时间尺度采样系统;知识和数据驱动;模糊迁移学习;滤波插补方法;模型共享机制;挖掘建模信息文献标志码:A文章编号:0254-0037(2023)04-0413-08中图分类号:U461;TP308doi:10.11936/bjutxb2022090001收稿日期:2022鄄09鄄01;修回日期:2022鄄11鄄24基金项目:国家重点研发计划项目(2018YFC1900800鄄05);国家自然科学基金资助项目(61890930鄄5,61622301)作者简介:刘洪旭(1995),男,博士研究生,主要从事迁移学习、知识建模方面的研究,E鄄mail:cd_student_lhx 通信作者:韩红桂(1983),男,教授,从事污水处理过程建模、优化与控制方面的研究,E鄄mail:rechardhan Knowledge鄄Data鄄driven Modeling Method of Multi鄄timeScale Sampling SystemLIU Hongxu,HAN Honggui,YANG Hongyan(College of Computer Science,Beijing University of Technology,Beijing 100124,China)Abstract:Multi鄄time鄄scale sampling system refers to the system with multiple sampling frequencies.Dueto the need to match between fast sampling variables and slow sampling variables,it is difficult to makefull use of the information of fast sampling variables,resulting in insufficient modeling information.Therefore,to solve this problem,a knowledge鄄data鄄driven modeling method of multi鄄time scale samplingsystem was proposed to establish the multi鄄time scale sampling system model and improve the modelingaccuracy.First,the target model was established using the slow time scale variable,and the filterinterpolation method was designed to fill the vacancy value of the slow sampling variable.Second,thereference model was established by the fast time scale variable,and the model sharing mechanism wasdesigned to transfer the sufficient model knowledge from the reference model to the target model forsupplementing modeling information.Finally,the parameters of the target model were learned by usingthe knowledge of the reference model and the data of the target model to improve the accuracy of thetarget model.The proposed modeling method was applied to theoretical datasets.The experimental resultsshow that the method can fully mine the modeling information and build a high鄄precision multi鄄time scalesampling system model.Key words:multi鄄time scale sampling system;knowledge鄄data鄄driven;fuzzy transfer learning;filterinterpolation method;model sharing mechanism;modeling information mining网络首发时间：2023-03-22 11:29:05网络首发地址：https:/ 京摇 工摇 业摇 大摇 学摇 学摇 报2023 年摇 摇 自然界现象或工程实践系统产生的时间序列数据大多具有多尺度特性1鄄3.多时间尺度采样数据生成的系统称为多时间尺度采样系统.多时间尺度采样系统的特点是系统的状态在多个不同的时间尺度上演化,导致过程变量采样频率不同.由于快采样变量和慢采样变量之间需要相互匹配,多时间尺度采样系统面对以下 2 个问题:1)在慢采样频率下,快采样变量的信息难以充分利用,导致建模信息不足;2)在快采样频率下,慢采样变量的不确定信息会导致数值病态问题.如果忽略多时间尺度特点而在单一尺度上讨论这类系统的性能,会导致错误的结论4鄄5.因此,如何建立多时间尺度采样系统模型,提高建模精度和泛化性能,是多时间尺度采样系统亟待解决的难题.为了建立多时间尺度采样系统模型,一些频率协同方法被提出,同步快采样变量和慢采样变量的时间尺度,利用相同采样频率的变量建立模型6鄄7.例如,Li 等8提出了一种多元时间序列变换方法.多元时间序列变换方法通过模糊聚类和模糊整合将多时间尺度序列转换为单时间尺度序列,建立马尔可夫模型.实验证明多元时间序列变换方法具有较好的建模性能.频率协同方法可以同步快采样变量和慢采样变量的时间尺度,建立多时间尺度采样系统模型.但是,这些方法统一采样频率的同时删除了快采样变量,快采样变量的信息难以充分利用,降低了模型的泛化性能.为了保留快采样变量,一些分层学习方法被提出,利用快采样变量建立快采样模型,慢采样变量建立慢采样模型9鄄10.例如,Han等11提出了一种分层非线性建模方法,建立快采样模型和慢采样模型来响应不同的建模目标,设计分层优化机制来调整不同采样模型的参数.实验证明分层非线性建模方法可以提高模型的泛化性能.此外,Dai 等12提出了一种自适应参数辨识方法来建立锂电池模型.自适应参数辨识方法为快采样变量和慢采样变量分别建立电池运行状态模型,根据模型特点,利用最小二乘算法学习快采样模型,采样卡尔曼滤波算法优化慢采样模型.实验证明了自适应参数辨识方法可以建立具有强泛化性能的模型,模型性能优于不考虑时间尺度的单一模型.分层学习方法可以保留快采样变量的建模信息,提高模型的泛化性能,但从快采样模型中剥离了慢采样变量,相关变量数减少,降低了模型的非线性建模能力,限制了模型的性能13鄄14.为了保留快采样变量的信息的同时利用慢采样变量的信息,一些基于统计学习的插补方法被提出填补慢采样变量,同步慢采样变量的采样频率统一到快采样的采样频率,建立多时间尺度采样系统模型15鄄16.例如,于力超17利用多重插补法,期望最大估计插补法,Bayes 插补法对协变量缺失的数据进行估计,并对几种方法进行了对比.韩帅等18提出了一种基于 K 均值聚类的插补方法对实时能源数据中的慢采样数据进行插补.实验证明了基于 K 均值聚类的插补方法具有优秀的建模性能.基于统计学习的插补方法可以充分利用慢采样变量和快采样变量的信息,提高模型的泛化性能和非线性建模能力,但上述方法仅局限于利用观测的信息进行插补,插补偏差较大.此外,上述部分方法需要满足正态分布,只适合低维数据的插补,不适用于高维复杂数据.为了提高插补精度,扩充模型的应用场景,一些基于机器学习的插补方法被提出填补慢采样变量,建立多时间尺度采样系统模型19鄄20.例如,Yang 等21提出了一种进化插补方法,该方法在空缺值附近的邻域训练若干个参考模型作为种群,利用遗传算法从种群中筛选最优解作为插补值.实验证明进化插补方法具有较小的插补偏差,提高了建模性能.此外,Chen 等22提出了一种自适应插补方法来填补传感器数据.自适应插补方法同时考虑了紧邻传感器数据,自身传感器数据和其他相关变量,设计多视角梯度强化算法来预测空缺值.实验表明自适应插补方法具有较高的插补精度,模型性能优于分层学习方法.基于机器学习的插补方法可以一定程度上提高插补精度,但该方法直接将插补后的低质量数据用于模型学习,鲁棒性较差.为了在插补信息不足时提高插补算法的精度,一些基于迁移学习的插补方法被提出.赵亚坤23提出了一种基于迁移学习的缺失值插补算法,该方法利用历史信息对当前缺失数据集进行填补,不仅填补了缺失值,还扩充了数据集信息.虽然上述方法在信息不足的情况下提高了插补精度,但仍存在以下问题:1)历史数据信息直接被用于填补缺失值,细粒度知识的过度学习会导致过拟合问题;2)历史信息的有效性未被评估,迁移错误的信息会导致消极迁移问题.本文提出了一种知识和数据驱动的多时间尺度采样系统建模方法,包括以下 3 个优势:1)该方法分别建立快采样模型和慢采样模型,利用慢采样模型填补了快采样模型的缺失变量,利414摇 第 4 期刘洪旭,等:知识和数据驱动的多时间尺度采样系统建模方法用快采样模型的参数补充慢采样模型的缺失信息,充分利用慢采样变量和快采样变量的信息,提高模型的泛化性能和非线性建模能力.2)该建模方法将插补后的低质量数据转换为粗粒度的参数知识形式,利用模糊神经网络作为基础模型学习参数知识,避免直接利用低质量数据进行填补带来鲁棒性较差的问题.3)该建模方法充分评估知识信息的有效性,设计知识的有效性指标和稳定性指标,通过平衡有效性和稳定性,避免知识过拟合问题.1摇 多时间尺度采样系统建模多时间尺度采样系统是具有多个采样频率的系统.多时间尺度采样系统建模是在多个采样频率下建模的过程.本节将详细描述多时间尺度采样系统的基本概念和建模的基本问题与方法.1郾 1摇 多时间尺度采样系统描述定义多输入单输出多时间尺度采样系统y=f(x1,x2,xm,xM)(1)式中 y 为系统输出向量y=yt,yt-子y,yt-Ny子yT(2)式中:y 为系统 t 时刻的输出向量;yt-Ny子y为系统 t-Ny子y时刻的输出变量;Ny为系统输出变量的样本数;子y为系统输出变量的时间尺度;xm为系统第 m个输入向量,m=1,2,M.xm=xtm,xt-子mm,xt-Nm子mmT(3)式中:xtm为系统 t 时刻的第 m 个输入变量;xt-Nm子mm为系统 t-Nm子m时刻的第 m 个输入变量;Nm为系统第m 个输入变量的样本数;子y为系统第 m 个输入变量的时间尺度.1郾 2摇 多时间尺度采样系统建模多时间尺度采样系统建模可采用频率协同法、分层建模法、基于统计学习的插补法、基于机器学习的插补法,具体表示如下.1郾 2郾 1摇 频率协同法频率协同法同步快采样变量和慢采样变量的时间尺度,利用相同采样频率的变量建立模型 郾基于频率协同法的多时间尺度采样系统建模过程表示为ytyt-子max左yt-Nmax子max=fxt1xt2xtMxt-子max1xt-子max2xt-子maxM左左左左xt-Nmax子max1xt-Nmax子max2xt-Nmax子maxM(4)式中 子max为所有变量的时间尺度的最小公倍数.1郾 2郾 2摇 分层建模法分层建模法可以分别利用快采样变量和慢采样变量建立多个模型,利用快采样变量建立快采样模型,慢采样变量建立慢采样模型 郾 基于分层建模法的多时间尺度采样系统建模过程可以表示为y1=f1(xt1,xt-子11,xt-N1子11)y2=f2(xt2,xt-子22,xt-N2子21)左yM=fM(xtM,xt-子MM,xt-NM子MM)(5)式中 yr为系统的第 r 个模型.1郾 2郾 3摇 基于统计学习的插补法基于统计学习的插补法采用统计学习方法建立多时间尺度采样系统模型,统计学习方法主要包括均值插补法、回归插补法、最近邻插补法、热卡插补法、冷卡插补法、期望最大算法插补法、多重插补法等 郾 经过统计学习插补,多时间尺度采样系统模型可以表示为ytyt-子min左yt-Nmin子min=fxt1xt2xtMxt-子min1xt-子min2xt-子minM左左左左xt-Nmin子min1xt-Nmin子min2xt-Nmin子minM(6)式中 子min为所有变量的时间尺度的最大公约数.1郾 2郾 4摇 基于机器学习的插补法基于统计学习的插补法采用机器学习方法建立多时间尺度采样系统模型,机器学习方法主要包括支持向量机、随机森林、神经网络、模糊系统、模糊神经网络等.其中模糊神经网络是模糊系统和神经网络的结合模型,具有神经网络的自适应建模能力和模糊系统的鲁棒建模和语义解释能力,既可以自适应学习多时间尺度采样数据,又可以缓解多时间尺度采样系统的数据不确定性,是一种有效的多时间尺度采样系统建模方法.经过机器学习插补,同步快采样变量和慢采样变量的时间尺度为快采样变量,因此多时间尺514北摇 京摇 工摇 业摇 大摇 学摇 学摇 报2023 年度采样系统建模过程可以表示如式(6)所示.上述 4 类方法统一了快采样变量和慢采样变量,建立多时间采样系统模型.但是存在以下问题:频率协同法删除了快采样变量,快采样变量的信息难以充分利用,降低了模型的泛化性能;分层建模法分割了模型信息,限制了模型的性能;基于统计学习和基于机器学习的插补法直接将插补后的低质量数据用于模型学习,鲁棒性较差.2摇 知识和数据驱动的多时间尺度采样系统建模摇 摇 知识和数据驱动的多时间尺度采样系统建模方法包括 3 个主要步骤.首先,根据滤波插补方法对慢采样变量数据进行采样、评估和插补,填补慢采样变量的空缺值,利用插补后的慢时间尺度变量建立参考模型.其次,设计模型共享机制,将参考模型中充足的模型知识迁移到目标模型中,利用快时间尺度数据和参考模型的参数知识建立目标模型.最后,利用慢时间尺度变量数据学习参考模型的参数,利用参考模型的知识和目标模型的数据学习目标模型的参数,提高目标模型的精度.知识和数据驱动的多时间尺度采样系统建模框架如图 1 所示.图1摇 知识和数据驱动的多时间尺度采样系统建模框架Fig.1摇Diagram of the framework for modeling a knowledgedata鄄driven multi鄄timescale sampling system2郾 1摇 滤波插补方法滤波插补方法用于填补慢采样变量的空缺值,主要包括2 个步骤.首先,统一慢采样变量和快采样变量为慢时间尺度,利用慢时间尺度变量建立目标模型.其次,利用目标模型填补慢采样变量的空缺值.2郾 1郾 1摇 建立目标模型统一慢采样变量和快采样变量为慢时间尺度,如式(3)所示.利用利用慢时间尺度变量建立基于模糊神经网络的目标模型yO(T)=移Kk=1wOk(T)仪Mm=1(exp-(xm(T)-cOkm(T)22(滓Okm(T)2移Kk=1仪Mm=1(exp-(xm(T)-cOkm(T)22(滓Okm(T)2(7)式中:T=t-Nmax子max为最大时间尺度的某一时刻;wO(T)=wO1(T),wO2(T),wOK(T)T为目标模糊神经网络的连接权值向量;K 为目标模糊神经网络的规则层神经元数;cOk(T)=cOk1(T),cOk2(T),cOkM(T)为 目标模糊神经网络的中心向量;滓Ok(T)=滓Ok1(T),滓Ok2(T),滓OkM(T)为目标模糊神经网络的宽度向量.不失一般性,目标模糊神经网络的学习算法是最小化最小二乘的准则函数,表示为EO(T)=12eO(T)2(8)式中:EO(T)为目标模糊神经网络的最小二乘准则函数;eO(T)=yO(T)-yOD(T)为目标模糊神经网络的输出误差;yOD(T)为目标模糊神经网络的期望输出.2郾 1郾 2摇 填补慢采样变量慢采样变量的空缺值由建立的目标模型填补.设计滤波填补方法,具体包括 3 个步骤:数据采样,数据评估,数据插补.1)数据采样数据采样过程表示为xlm(Z)=xm(Z-子m)+啄lm(t)(9)式中:xlm(Z)为系统 Z 时刻的第 m 个输入的第 l 个采样变量;Z=t-Nmin子min为最小时间尺度的某一时刻,l=1,2,L;L 为采样数;啄lm(t)为第 m 个输入的第 l 个采样变量的随机采样值.2)数据评估数据评估过程包括 2 个指标:614摇 第 4 期刘洪旭,等:知识和数据驱动的多时间尺度采样系统建模方法Ml(Z)=exp-(y(xl(Z)-yT(Z)2(10)Dl(Z)=exp-cos(xl(Z),(x(Z-子m)+x(Z+子m)/2)(11)式中:Ml(Z)为采样数据的有效性指标;Dl(t)为采样数 据 的 稳 定 性 指 标;xl(Z)=xl1(Z),xlM(Z)为第 l 个采样向量.根据有效性指标和稳定性指标,采样值的评估结果如下棕l(Z)=1-exp-(Dl(Z)+Ml(Z)2(12)式中 棕l(t)为第 l 个采样向量的权值.3)数据插补数据插补对采样向量进行加权求和x(Z)=移Ll=1xl(Z)棕l(Z)(13)式中 x(Z)为 Z 时刻的插补值向量.2郾 2摇 模型共享机制统一慢采样变量和快采样变量为快时间尺度,利用快时间尺度变量建立基于模糊神经网络的参考模型,设计模型共享机制,将参考模型中充足的模型知识迁移到目标模型中.2郾 2郾 1摇 建立参考模型参考模糊神经网络表示为yC(Z)=移Kk=1wCk(Z)仪Mm=1(exp-(xm(Z)-cCkm(Z)22(滓Ckm(Z)2移Kk=1仪Mm=1(exp-(xm(Z)-cCkm(Z)22(滓Ckm(Z)2,(14)式中:wC(Z)=wC1(Z),wC2(Z),wCK(Z)T为参考 模 糊 神 经 网 络 的 连 接 权 值 向 量;cCk(Z)=cCk1(Z),cCk2(Z),cCkM(Z)为参考模糊神经网络的中心向量;滓Ck(Z)=滓Ck1(Z),滓Ck2(Z),滓CkM(T)为参考模糊神经网络的宽度向量.参考模糊神经网络的学习算法是最小化最小二乘准则函数EC(Z)=12eC(Z)2(15)式中:EC(Z)为参考模糊神经网络的最小二乘准则函数;eC(Z)=yC(Z)-yCD(Z)为参考模糊神经网络的输出误差;yCD(Z)为参考模糊神经网络的期望输出.训练完毕后,由于参考神经网络得到了全信息的训练,因此参考神经网络是较为完备的,其参数被视为可共享的知识迁移到不完备的目标模型.2郾 2郾 2摇 迁移模型知识由于统一的快采样变量和慢采样变量特征维度相同,参考模型和目标模型的模型尺寸也相同,因此两个模型的参数一一对应,可以进行参数知识共享.将参考模型中充足的模型知识迁移到目标模型中,目标模型的目标函数重新表示为EO(T)=琢(T)12eO(T)2+茁(T)移Kk=1(cOk(T)-cCk(Z)2+(滓Ok(T)-滓Ck(Z)2+(wOk(T)-wCk(Z)2(16)式中:琢(T)为目标模型权值;茁(T)为参考模型权值.2郾 3摇 参数学习为了学习目标模型的参数,采用梯度下降算法对目标模型的中心、宽度和权值进行训练:cOk(T+子max)=cOk(T)-姿T鄣EO(T)鄣cOk(T)滓Ok(T+子max)=滓Ok(T)-姿T鄣EO(T)鄣滓Ok(T)wOk(T+子max)=wOk(T)-姿T鄣EO(T)鄣wOk(T)(17)式中 姿T(t)为目标模型的学习率.除了目标模型的参数,采用梯度下降算法对目标模型的超参数进行训练琢(T+子max)=琢(T)-姿T鄣EO(T)鄣琢(T)茁(T+子max)=茁(T)-姿T鄣EO(T)鄣茁(T)(18)通过参考模型的知识和目标模型的数据学习目标模型的参数,目标模型的精度得以提高.具体步骤如下.1)初始化目标模型的参数 wO(T),cOk(T),滓Ok(T),初始化参考模型的参数 wC(Z),cCk(Z),滓Ck(Z).2)用式(6)将多时间尺度采样变量统一为快时间尺度.3)对慢采样变量空缺值的采样值进行评估,根据评估结果对采样值进行整合,填补空缺值 x(Z).4)利用慢时间尺度变量建立目标模型,插补后的慢时间尺度变量和快时间尺度变量建立参考模型.5)从 参 考 模 型 中 提 取 参 数 知 识,建 立 公式(16)知识和数据驱动的目标模型优化函数,将参考模型的参数知识迁移到目标模型.6)利用式(17)(18)最小化目标模型优化函数.714北摇 京摇 工摇 业摇 大摇 学摇 学摇 报2023 年3摇 仿真实验本节利用合成数据集和实际数据集评估建模方法的性能.详细讨论了滤波插补方法算法和模型共享机制对所构建的模糊神经网络模型性能的影响.下面详细介绍仿真实验的基本设置和结果.3郾 1摇 基本设置实验的基本设置包括数据设置、方法设置、性能指标设置和参数设置.3郾 1郾 1摇 数据设置采样麦格拉斯混沌系统生成合成数据集dx(t)dt=0郾 9x(t)+cx(t-子)1+x10(t-子)(19)式中 c 为尺度系数,子=17,初始条件设为 x(0)=1郾 2.然后,将预测模型描述为x(t)=f(x(t-24),x(t-18),x(t-12),x(t-6)(20)式中:x(t-24)、x(t-18)、x(t-12)、x(t-6)为输入变量;x(t)为系统输出.为了验证方法.将麦格拉斯混沌系统描述为多时间尺度采样系统,产生不同时间尺度的数据进行填补和知识迁移,将预测模型重新描述如下.x(t)x(t-6)x(t-12)x(t-18)左=fx(t-6)x(t-12)x(t-18)x(t-24)x(t-24)x(t-28)x(t-16)x(t-24)x(t-28)x(t-32)x(t-32)x(t-36)左左左左(21)式中,麦格拉斯混沌系统的前 2 个输入变量的时间尺度为 12;后 2 个输入变量的时间尺度为 6.3郾 1郾 2摇 方法设置为了展示有效性,知识和数据驱动的多时间尺度采样系统建模方法与一些相似的多时间尺度采样系统建模方法进行对比.对比方法如下.方法 1:自适应插补方法.方法 2:基于进化插补的建模方法.方法 3:基于 K 均值聚类插补的建模方法.其中基于 K 均值聚类插补的建模方法和自适应插补方法为基于统计学习的插补方法,基于进化插补的建模方法为基于机器学习的插补方法.3郾 1郾 3摇 性能指标设置实验采用的是均方根误差(RMSE).RMSE=1NT移NTt=1(y(xT(t)-yT(t)2(22)式中 RMSE 为泛化性能的指标,可以检验对过拟合的处理能力.3郾 1郾 4摇 参数设置初始参数设为:数据驱动权重为 琢(t)=0郾 95;知识驱动权重为 茁(t)=0郾 05;源场景的学习率为姿S=0郾 1;目标场景的学习率为 姿T=0郾 1;采样次数为 N=30;迭代次数为 I=1 000;模糊规则个数为20.3郾 2摇 实验结果知识和数据驱动的多时间尺度采样系统建模的实验结果如图 2 6 所示.其中图 2 为基于模糊迁移学习的多时间尺度采样系统模型的填补值,图 3为基于模糊迁移学习的多时间尺度采样系统模型的填补误差,图 4 为基于模糊迁移学习的多时间尺度采样系统模型的训练结果,图 5 为基于模糊迁移学习的多时间尺度采样系统模型的测试值,图 6 为基于模糊迁移学习的多时间尺度采样系统模型的测试误差.从图 2、3 的填补结果可以看出,知识和数据驱动的多时间尺度采样系统建模的填补值接近真实值,并且填补误差在紧凑的范围内波动.从图4的图 2摇 知识和数据驱动的多时间尺度采样系统模型的填补值Fig.2摇 Filling values of knowledge鄄data鄄drivenmulti鄄time scale sampling system model图 3摇 知识和数据驱动的多时间尺度采样系统模型填补误差Fig.3摇 Filling error of knowledge鄄data鄄drivenmulti鄄time scale sampling system mode814摇 第 4 期刘洪旭,等:知识和数据驱动的多时间尺度采样系统建模方法图 4摇 知识和数据驱动的多时间尺度采样系统模型训练结果Fig.4摇 Training results of knowledge鄄data鄄drivenmulti鄄time scale sampling system model摇训练结果可以看出,知识和数据驱动的多时间尺度采样系统建模的训练误差减少至 0郾 06,训练过程平稳.图 5 的测试结果表明,本文提出的建模方法对麦格拉斯时间序列的预测精度高于其他方法.在图6 中,黑色线条代表知识和数据驱动的多时间尺度采样系统建模方法的误差,蓝色线条为自适应插补方法测试误差黄色线条为基于进化插补的建模方法测试误差,绿色线条为基于 K 均值聚类插补的建模方法的测试误差,测试结果表明提出的建模方法相较于其他方法具有最小的建模误差.图 5摇 知识和数据驱动的多时间尺度采样系统模型测试值Fig.5摇 Testing values of knowledge鄄data鄄drivenmulti鄄time scale sampling system model摇图 6摇 知识和数据驱动的多时间尺度采样系统模型测试误差Fig.6摇 Testing error of knowledge鄄data鄄driven multi鄄timescale sampling system model摇此外,具体实验如表 1 所示.知识和数据驱动的多时间尺度采样系统建模方法的训练 RMSE 和测试 RMSE 为 0郾 054 1 和 0郾 059 4.详细结果表明,本文提出的知识和数据驱动的多时间尺度采样系统建模方法在这些比较方法中泛化性能最好.表 1摇 知识和数据驱动的多时间尺度采样系统建模结果Table 1摇 Results of knowledge鄄data鄄driven multi鄄timescale sampling system Modeling方法训练 RMSE测试 RMSE知识和数据驱动的多时间尺度采样系统建模方法0郾 054 10郾 059 4基于进化插补的多时间尺度采样系统建模方法0郾 068 20郾 076 3基于进化插补的多时间尺度采样系统建模方法0郾 072 50郾 079 94摇 结论1)提出了一种知识和数据驱动的多时间尺度采样系统建模方法 该方法分别建立快采样模型和,慢采样模型 2 个模型相互学习 相互补充 提高建,模精度,2)提出了一种滤波插补方法,利用快采样模型的参数补充慢采样模型的缺失信息 充分利用慢采,样变量和快采样变量的信息 提高模型的泛化性能,和非线性建模能力.3)提出了一种模型共享机制,该机制将插补后的低质量数据转换为粗粒度的参数知识形式 利用,模糊神经网络作为基础模型学习参数知识 提高了,模型的鲁棒性.参考文献:1 LI Z,TENG J,QIU J,et al.Filtering design for multi鄄rate sampled鄄data systems J.IEEE Transactions onSystems,Man,andCybernetics:Systems,2020,50(11):4224鄄4232.2 LI Y,YU K,QIU J,et al.Adaptive fuzzy decentralizedsampled鄄data control for large鄄scale nonlinear systemsJ.IEEE Transactions on Fuzzy Systems,2022,30(6):1809鄄1822.3 KOELN J,RAGHURAMAN V,HENCEY B.Verticalhierarchical MPC for constrained linear systems J.Automatica,2020,113(1):108817.4 LI J,KIUMARSI B,CHAI T.Off鄄Policy reinforcementlearning:optimal operational control for two鄄time鄄scaleindustrialprocesses J.IEEETransactionsonCybernetics,2017,47(12):4547鄄4558.914北摇 京摇 工摇 业摇 大摇 学摇 学摇 报2023 年5 ZHAO G,HUA C,GUAN X.Reset control for consensusof multiagent systems with asynchronous sampling J.IEEE Transactions on Systems,Man,and Cybernetics:Systems,2021,51(8):4911鄄4919.6 HOU B,LI S,ZHENG Y.Distributed model predictivecontrol for reconfigurable systems with network connectionJ.IEEE Transactions on Automation Science andEngineering,2022,19(2):907鄄918.7 康凯.基于变采样周期的网络控制系统协同设计综述J.工业仪表与自动化装置,2015(4):16鄄19.KANG K.Survey of collaborative design of networkedcontrol systems based on variable sampling period J.Industrial Instrumentation&Automation,2015(4):16鄄19.(in Chinese)8 LI J B,PEDRYCZ W,JAMAL I.Multivariate time seriesanomaly detection:a framework of hidden markov modelsJ.Applied Soft Computing,2017(60):229鄄240.9 王秋杰,金涛,梅李鹏.基于模型分层的配电网故障诊断方法J.电力自动化设备,2020,40(1):73鄄79WANG Q J,JIN T,MEI L P.Distribution network faultdiagnosis method based on model stratification J.Electric Power Automation Equipment,2020,40(1):73鄄79.(in Chinese)10 邓明阳,郭应时,刘通.基于分层重组的不平衡数据采样 方 法 研 究 J.重 庆 理 工 大 学 学 报,2021,35(8):122鄄128DENG M Y,GUO Y S,LIU T.Study on imbalanceddata sampling method based on hierarchical recombinationJ.Journal of Chongqing University of Technology,2021,35(8):122鄄128.(in Chinese)11 HAN H G,FU S J,SUN H Y,et al.Hierarchicalnonlinear model predictive control with multi鄄time鄄scalefor wastewater treatment process J.Journal of ProcessControl,2021,108:125鄄135.12 DAI H F,XU T J,ZHU L.Adaptive model parameteridentification for large capacity Li鄄ion batteries on separatedtime scales J.Applied Energy,2016,184(15):199鄄131.13 姜飞,杨明,刘雨欣.基于支持向量机混合采样的不平衡数据分类方法J.数学的实践与认识,2021,51(1):88鄄96.JIANG F,YANG M,LIU Y X.Unbalanced dataclassification method based on mixed sampling of Supportvectormachine J.MathematicsPracticeandUnderstanding,2021,51(1):88鄄96.(in Chinese)14 张忠林,冯宜邦,赵中恺.一种基于 SVM 的非均衡数据集过采样方法J.计算机工程与应用,2020,56(23):220鄄228.ZHANG Z L,FENG Y B,ZHAO Z K.An oversamplingmethod for unbalanced datasets based on SVM J.Computer Engineering and Applications,2020,56(23):220鄄228.(in Chinese)15 邓建新,单路宝,贺德强.缺失数据的处理方法及其发展趋势J.统计与决策,2019,35(23):28鄄34.DENG J X,SHAN L B,HE D Q.Methods to deal withmissing data and their development trendsJ.Statisticsand Decision,2019,35(23):28鄄34.(in Chinese)16 晔沙.数据缺失及其处理方法综述J.电子测试,2017(18):65鄄67.YE S.Review of missing data and its treatment J.Electronic testJ.Statistics and Decision,2017(18):65鄄67.(in Chinese)17 于力超.协变量数据缺失情形下的参数估计方法J.统计与决策,2018,34(17):9鄄13.YU L C.Parameter estimation in the absence of covariatedataJ.Statistics and De