1、卡尔曼滤波优化的高斯过程回归模型徐厚宝,杨承莲,张永康(北京理工大学 数学与统计学院,北京100081)摘 要:为解决单个高斯过程回归无法对来自多个信息源的数据进行整体建模的问题,提出了卡尔曼滤波优化的高斯过程回归模型(Gaussian process regression model based on Kalman filtering,KF-GPR).该模型首先根据多个传感器获取的离散样本数据分别进行高斯过程回归,预测关键参数的均值和方差,并将其视作软传感器输出的测量值和噪声.然后利用卡尔曼滤波算法对软传感器的输出进行融合,在最小均方误差准则下,实现对多个高斯过程回归结果的融合优化,获得优化
2、后模型的输出结果.仿真实验将 KF-GPR 与平均值融合方法进行对比,结果表明 KF-GPR 能够获得拟合精度更高的预测曲线,验证了模型的有效性.最后,将 KF-GPR 应用于温度随纬度变化的实例分析中,分季节给出了纬度温度预测曲线.关键词:高斯过程回归;卡尔曼滤波;数据融合;优化模型中图分类号:O213;TP202.4 文献标志码:A 文章编号:1001-0645(2024)05-0538-08DOI:10.15918/j.tbit1001-0645.2023.211Optimization Model of Gaussian Process Regression Based onKalma
3、n FilteringXU Houbao,YANG Chenglian,ZHANG Yongkang(School of Mathematics and Statistics,Beijing Institute of Technology,Beijing 100081,China)Abstract:To solve the problem,that whole modeling can not be carried out with data from multiple informationsources,an optimization Gaussian process regression
4、 model based on Kalman filtering(KF-GPR)was proposed.Firstly,according to discrete sample data obtained from multiple sensors,the model carried through GPR,re-spectively predicted mean value and variance of the key parameters,regarding them as measurements and noiseof soft sensor outputs.Then,fusing
5、 the outputs of soft sensors based on Kalman filtering algorithm,the modelcarried out fuse optimization for the outputs of multiple GPR under the rule of the least mean square error,achieving the outputs of the optimized model.And then,some simulation experiments were carried out to com-pare KF-GPR
6、with other average value fusion methods.The results show that KF-GPR can obtain predictioncurves with higher fitting accuracy,verifying the validity of the model.Finally,KF-GPR was applied to the caseanalysis of temperature variation with latitude,presenting the latitude-temperature prediction curve
7、s according toseason.Key words:Gaussian process regression;Kalman filtering;data fusion;optimization 工程应用中的众多问题都面临着非线性和不确定性系统建模的难题,而传统的线性回归方法在处理非线性数据方面存在局限性,高斯过程回归则可以通过核函数的选择和参数的调整来处理非线性数据,并且具有良好的预测功能1.不仅如此,GPR 作为一种基于贝叶斯理论的监督学习方法,在噪声观测和不确定系统建模中有着明显的优势2,它可以通过将高斯先验分布加于非参数回归的函数空间,推导 收稿日期:2023 12 04基金项目
8、:航天应用数学基金资助项目(202221741004A)作者简介:徐厚宝(1977),男,博士,教授,E-mail:.通信作者:杨承莲(1999),女,硕士生,E-mail:.第 44 卷第 5 期北 京 理 工 大 学 学 报Vol.44No.52024 年 5 月Transactions of Beijing Institute of TechnologyMay 2024出预测目标的后验分布3.然而,由于采样环境、监测技术、费用成本等条件的限制,一些需要被监测的重要参数可能无法通过传统硬件传感器实时测量.软传感器4,又称为软测量,为此类问题提供了一种解决方法,它通过建立合理的数学模型预测重
9、要参数,不仅有效补充了传统硬件仪器对重要参数的测量,而且具有操作简单以及响应迅速的优势.因此,结合其在处理非线性和不确定系统建模方面的优越性5,高斯过程回归常被应用于软传感器的建模6、关键控制参数的优化7等领域.然而由于单一高斯过程本身无法对来自多个信息源的数据进行整体建模,且单一软传感器受自身精度、分辨率和噪声等因素的影响,计算的数据常带有较大的不确定性,甚至含有异常噪声点.所以,传统上基于高斯过程回归构建的单一软传感器,不仅难以满足系统对预测精度的要求,而且无法准确反映系统的整体性质8.基于多源数据融合的软传感器预测系统,可以使多个软传感器的预测结果相互补充、相互验证,从而能够得到比单一数
10、据源更精确的预测结果9.目前,已经有许多学者采用加权融合的方法,对多个高斯过程回归的预测结果进行组合,并在实际应用中取得了较好的预测效果.例如,NGUYEN-TUONG等10以待测样本到聚类中心距离的倒数为权值,得到了精度较高的预测结果;任江洪等11综合多个高斯过程回归预测值的方差及其分布概率,构造了权值参数,能以更快的计算速度获得预测结果;李晓燕等12基于 EM 算法,给出了泛化能力更强的自适应求解高斯过程权值的方法,推广了算法的应用范围.事实上,加权融合的方法对权值构造的合理性依赖程度较高,甚至可能存在计算复杂、运行时占用储存空间较大的问题.卡尔曼滤波(Kalman filter,KF)作
11、为一种适用于线性系统的最优估计算法,被广泛应用于控制优化和多传感器融合领域13.该算法以最小均方误差为准则,通过“估计测量更新”的递推步骤,能够对含有随机误差的系统状态进行稳定的线性无偏估计13,同时具有占用内存少,计算速度快以及自适应能力强的优势14 15.为了得到相较于单一软传感器更精确的预测结果,本文基于数据融合的思想,提出了卡尔曼滤波优化的高斯过程回归模型(KF-GPR).该模型利用高斯过程回归模型,独立地对各个信息源的数据进行软传感器建模,将 GPR 的预测均值和方差视作软传感器的信号输出(即测量值和噪声).然后,通过卡尔曼滤波算法对软传感器的信号输出进行先验估计和更新融合,在经多步
12、迭代运算后获得 KF-GPR 的输出.理论上,KF-GPR 结合了高斯过程回归和卡尔曼滤波算法两者的优势,一方面,高斯过程回归擅长解决小样本、非线性的复杂工业问题;另一方面,卡尔曼滤波算法在最小均方误差的准则下,能够实现对多个高斯过程回归模型的融合优化,弥补单个高斯过程回归无法对来自多个信息源的数据进行整体建模的缺陷.1 高斯过程回归xf(x)xmx Rmf(x),x Rm(x)k(x,x)高斯过程回归从权重空间的视角来看,是通过对特征做高维映射,使特征在高维空间上与权重参数呈现线性关系,实现特征与权重参数之间非线性情形下的回归.而从函数空间的视角,高斯过程回归则将动态过程映射为任意有限维分布
13、均为多元正态分布的回归函数3,其核心是将高斯过程中每一个参数点 上的随机变量看作函数.这里的参数点来自参数空间,其中的参数可以是一维时间参数,也可以是高维空间参数.本文研究的 是一个维的参数,相应的高斯过程记为,其性质由均值函数和协方差函数确定,具体表达式为(x)=Ef(x)(1)(x,x)=E(f(x)(x)(f(x)(x)(2)x,xf(x),x Rm式中为两个不同样本的输入向量.高斯过程可表示为f(x)GP(x),(x,x)(3)D=(xi,yi)|i=1,2,n=(X,y)xi RmmX Rmnnmnyi Rxiy=(y1,y2,yn)Rnnn给定一个训练数据集,其中为维输入向量,为
14、个输入向量构成的矩阵;为输入向量对应的输出标量,为 个输出标量构成的 维输出向量.回归模型的表达式为y=f(X)+N(0,2nIn)(4)2n式中观测误差 为均值为 0、方差为的高斯白噪声.y为简化后验概率分布的求解,通常对数据进行处理后设置均值函数为 0,于是输出向量 的先验分布为第 5 期徐厚宝等:卡尔曼滤波优化的高斯过程回归模型539y N0,(X,X)+2nIn(5)(X,X)Rnn式中:为输入向量之间协方差矩阵,可通过协方差函数计算矩阵对应元素的值.xfyf假设待测样本的输入向量为,其对应的预测值为.由高斯过程的定义,训练样本的输出向量和测试样本的预测值服从联合高斯分布,即yf N0
15、0,(X,X)+2nIn(X,x)(x,X)(x,x)(6)(X,x)=(x,X)(x,x)式中:为训练样本与待测样本的协方差矩阵;为待测样本自身的协方差矩阵.f由联合高斯分布的条件分布的相关结论12,可得到待测样本的预测值为 的后验分布为P(f|X,y,x)N(,()2)(7)=(x,X)(X,X)+2nIn1y(8)()2=(x,x)(x,X)(X,X)+2nIn1(X,x)(9)f()2f式中:为待测样本预测值的均值;为待测样本预测值的方差.在利用高斯过程回归模型进行预测时,首先需要对模型涉及到的超参数进行训练.本文采用机器学习领域中最常用的核函数平方指数(squared ex-pone
16、ntial,SE)核函数16,其表达式为(x,x)=2fexp xx22l2(10)2f,l2=2f,l2,2np(y|X)f式中为核函数中的超参数.用表示高斯过程回归的超参数,采用极大化边际似然函数的方法来对超参数 进行优化,得到最优超参数,代入式(8)、式(9)可计算得到待测样本预测值的均值和方差.2 卡尔曼滤波算法卡尔曼滤波是一种以最小均方误差为准则的递推算法,它基于信号和噪声的状态建立数学模型,能够对含有随机误差的系统状态进行稳定的线性无偏估计13,该算法实质是通过“估计实测更新”步骤来降低误差和随机干扰的影响13,递推算法的每一步主要分为两个阶段:先验估计阶段和更新阶段(后验估计).
17、先验估计阶段是在数学模型准确的情况下,通过状态方程得到当前先验估计值;更新阶段则是进一步融合状态观测值,根据卡尔曼增益修正先验估计值,得到更新后的状态估计值.XkXk|k假设为状态真实值,为卡尔曼滤波算法的kXkXk|kE XkXk|k2Pk|kk第步状态估计值,用 表示后验状态误差估计,算法目标是最小化,这等价于对后验估计协方差矩阵的迹进行最小化,由此可推导出第 步的最优卡尔曼增益为Kk=Pk|k1HTkHkPk|k1HTk+Rk(11)Pk|k1k1HkRk式中:为第步估计阶段的协方差矩阵先验估计;为观测矩阵;为观测噪声的协方差矩阵.最优卡尔曼滤波算法具体为式(12)(15).先验估计阶段
18、:Xk|k1=FkXk1|k1+Bkuk+wk(12)Pk|k1=FkPk|k1FTk+Qk(13)Xk|k1kXk1|k1k1Pk|k1k1Pk1|k1k1FkukBkukwk N(0,Qk)Qk式中:为第 步先验估计值;为第步更新阶段的状态最优估计;为第步协方差矩阵先验估计;为第步更新阶段的协方差最优估计;为状态矩阵;为控制量;为的控制矩阵;为过程噪声;为过程噪声的协方差矩阵.更新阶段:Xk|k=Xk|k1+KkzkHkXk|k1(14)Pk|k=IKkHkPk|k1(15)Xk|kkzkkKkk式中:为第步更新阶段的状态最优估计值;为第 个状态的测量值;为第 步最优卡尔曼增益.通过迭代公
19、式(12)(15)可以看到,卡尔曼滤波作为一种递推估计算法,计算相对简单,在迭代过程中只需储存前一步的计算参数,占用储存空间少.3 卡尔曼滤波优化的高斯过程回归模型高斯过程回归预测使用的是单一数据源,其本身无法对来自多个信息源的数据进行整体建模.因此以高斯过程回归建立起的单一软传感器,可能导致信息不全、代表性不足的问题,以及预测误差较大、泛化能力差的问题.为得到相较于单一软传感器更精确的预测结果,结合卡尔曼滤波数据融合可看作状态观测和状态估计问题13的特性,本文基于数据融合的思想,提出卡尔曼滤波优化的高斯过程回归模型(KF-GPR).K(X,y1),(X,yK)X=x1,x2,xnxi Rm(
20、i=1,2,n)yk Rn(k=1,2,K)Kx*对于个训练数据集,其中,,.首先,独立地对这个训练集进行高斯过程回归建模,均输入待测样本,根据式(8)、式(9)得540北 京 理 工 大 学 学 报第 44 卷Ky*1,y*2,y*Kyk N(k,(k)2),k=1,2,KKy*k N(k,(k)2)k=1,2,K到个 高 斯 过 程 回 归 预 测 结 果,其 中,.然后,采用卡尔曼滤波算法对个高斯过程回归预测结果进行递推步进式融合.由于最终融合结果与迭代顺序无关,为方便起见,按照预测结果的顺序,仍然以的下标为顺序进行算法迭代.k1 ky*1,y*2,y*kkKF-GPR 在第 步迭代运算
21、实现第个高斯过程回归预测结果的融合,并将第 步的融k+1k+1y*k+11 k+1KKy*1,y*2,y*K合结果作为第步的先验估计,在进一步融合第个高斯过程预测结果后得到第个高斯过程回归预测的融合结果,以此类推,直至第步迭代实现全部个高斯过程回归预测结果的融合.基于上述过程,KF-GPR 在最小均方误差的准则下,实现对高斯过程回归模型的优化,同时在更全面的信息下,获得多源数据的全局模型输出.图 1为 KF-GPR 的结构框图.待测样本x*数据集1:(X,y1)GP(1(x),1(x,x)y*1N(*1,(*1)2)y*2N(*2,(*2)2)y*KN(*K,(*K)2)y*KN(*K,(*K
22、)2)k|k1,2k|k1F=k|k2F=2k|ky*FN(F,(2F)k|k,2k|kk=k+1GP(2(x),2(x,x)GP(K(x),K(x,x)数据集2:(X,y2)数据集K:(X,yK)先验估计更新融合第k1次融合结果第k次融合结果高斯过程回归预测输入训练数据集卡尔曼滤波数据融合优化结果图 1 卡尔曼滤波优化高斯过程回归模型结构示意图Fig.1 Schematic structure of GPR optimized based on Kalman filtering kFk=IBk=0Qk=0Hk=0在不考虑过程误差的情况下,KF-GPR 在进行第步迭代运算时的状态矩阵,控制矩阵
23、,过程噪声的协方差矩阵,观测矩阵.根据式(12)(15)可得到 KF-GPR 的表达式为 k|k1=k1|k1(16)2k|k1=2k1|k1(17)Kk=2k|k1/2k|k1+(k)2(18)k|k=k|k1+Kkk k|k1(19)2k|k=(1Kk)2k|k1(20)k|k1k k1|k1k1 2k|k1k1 2k1|k1k1Kkk式中:为第 步先验估计;为第步最优融合值;为第步方差先验估计;为第步最优融合方差;为第 步最优卡尔曼增益.Ky*F N(F,2F)通过式(16)(20)进行迭代,完成第步运算后,即可得到 KF-GPR 的预测结果,其中 F=K|K,2F=2K|K(21)nn
24、(X,X)+2nInO(n3)卡尔曼滤波优化高斯过程回归模型的算法具体流程如表 1 所示,算法包括高斯过程回归部分和卡尔曼滤波数据融合两部分.对于高斯过程回归部分,计算核心是对 的矩阵 进行求逆运算,其时间复杂度为17.对于卡尔曼滤波数据 表 1 卡尔曼滤波优化高斯过程回归模型的算法流程Tab.1 Algorithm of GPR optimized with Kalman filtering算法算法 1:卡尔曼滤波优化高斯过程回归模型(X,y1),(X,yK)x*y*F F 2F(x,x)k=1,2,K(X,yk)x*k(X,X)(X,x*)(x*,x*)*k(x*,X)(X,X)+2nIn
25、1yk(*k)2(x*,x*)(x*,X)(X,X)+2nIn1(X,x*)0|0 20|0k K k|k1 k1|k1 2k|k1 2k1|k1Kk 2k|k1/2k|k1+(k)2 k|k k|k1+Kk*k k|k1 2k|k(1Kk)2k|k1 F K|K 2F 2K|K输入输入:训练集,待测样本输出输出:卡尔曼滤波优化结果:最优预测均值,最优预测方差/*高斯过程回归部分/1 确定高斯过程协方差函数2 foreach do3 初始化超参数,并输入训练集4 训练GPR先验模型,对超参数进行优化5 得到超参数最优值,确定后验模型6 输入待测样本7 对于给定的,分别计算,8 9 10 end
26、/*卡尔曼滤波融合部分/11 初始化和12 while do13/先验估计阶段14 15 16/更新融合阶段17 18 19 20 end21 22 第 5 期徐厚宝等:卡尔曼滤波优化的高斯过程回归模型541lO(l3)O(K1)融合部分,由于 KF 是一种递归算法,只需确定单步迭代的时间复杂度,即可确定 KF 的时间复杂度.当状态向量的维数为 时,单步迭代运算中,时间复杂度数量级最高的是两个矩阵的乘法运算以及矩阵的转置,它们的时间复杂度均为18.本文利用 KF对 GPR 的预测输出进行迭代融合,状态向量的维度为 1,因此卡尔曼滤波数据融合部分的计算复杂度为.K(X,y1),(X,yK)nO(
27、Kn3)O(n3)综合两部分的时间复杂度,若输入个训练数据集,当每个训练集的样本数量为时,KF-GPR 的时间复杂度为.4 仿真实验及分析为了验证 KF-GPR 算法的有效性,本文采用 KF-GPR 来拟合正弦函数,并与采用算术平均值法融合的方法(AVG-GPR)19进行比较.AVG-GPR 模型的表达式为yA=1KKk=1yk(22)yAy*1,y*2,y*KKyk N(k,(k)2),k=1,2,K式中:为 AVG-GPR 的预测结果;为个高斯过程回归预测结果,且,由正态分布的性质可以得到yA N1KKk=1k,1K2Kk=1(*k)2(23)GP(x),(x,x)对于一维高斯过程,按照以
28、下步骤生成仿真数据:x1,xNNx1,x2,xNX=x1,x2,xN R1N步骤 1:在拟合区间等间隔生成个采样点,记N(X,X)RNN步骤 2:计算个采样点之间的协方差矩阵.(X,X)(X,X)(X,X)=UUTU=u1,u2,uN RNNui RN(i=1,2,N)(X,X)=diag(1,2,N)1,2,Nu1,u2,uN步骤 3:对协方差矩阵进行 SVD 分解,由的对称正定性,有,其中,为的单位特征向量,,为对应于的特征值.NX=x1,x2,xN R1N步骤 4:从标准正态分布中随机生成个点,记为.UT=v1,v2,vN RNNyi=viXT+(xi),i=1,NGP(x),(x,x)
29、X步 骤 5:记,计 算,此即为在上的一组采样值.KK步骤 6:对步骤 4步骤 5 重复操作次,可获得个仿真数据集.0,1GP(x),(x,x)(x)=sin(2x)(x,x)=exp12(xx)20,1x1,x2,x10K=20,50,100KK(x)=sin(2x)为拟合均值函数为区间正弦函数的一维高斯过程,选取均值函数为,协方差函数为,并在区间上生成等间隔的 10 个采样点,按照步骤 2 步骤 3 完成协方差矩阵的计算和SVD 分解.另外,为进一步分析仿真数据集个数对KF-GPR 拟合效果的影响,本文设计了 3 种仿真数据集生成方案,即分别取,按照步骤 4、步骤 5 重复操作次得到个仿真
30、数据集.分别采用AVG-GPR 和 KF-GPR,对有限多个高斯过程回归的预测值进行纵向融合,将融合后的均值曲线作为的拟合曲线.图 2 表示分别基于 20 个训练集、50 个训练集以及 100 个训练集对高斯过程回归预测进行融合后的结果.(x)=sin(2x)(x)=sin(2x)95%对 比 KF-GPR 和 AVG-GPR 对的拟合效果(见图 2),可以看出,随着训练集个数 K 的增 加,AV-GPR 和 KF-GPR 的 拟 合 曲 线 均 与逐渐逼近,拟合误差均逐渐减小.但对比 KF-GPR 和 AVG-GPR 的 预 测 标 准 差,当 K=20 和 K=50时,从图 2 可以明显看
31、出 KF-GPR 的置信区间均比 AVG-GPR 的窄.KMSE(K)MAE(K)为了进一步比较 AVG-GPR 和 KF-GPR 两种模型的预测性能,本文采用均方误差(MSE)以及平均值误差(MAE)作为衡量指标进行对比.不同下MSE 和 MAE 的值分别记为和,计算公式如下MSE(K)=vuuuuutMi=1(yiyi,K)2M(24)MAE(K)=1MMi=1?yiyi,K?(25)yiyi,KKMM=1 000式中:为实际值;为模型的拟合值;为仿真数据集的个数;为测试样本的个数(本文取).K图 3 给出了 AVG-GPR 和 KF-GPR 的拟合情况对比,可以看出,随着训练集个数的增加
32、,AVG-GPR和 KF-GPR 的误差波动都更平稳,但 KF-GPR 的拟合效果更好,与真实值的误差更小.K=20表 2 给出了 AVG-GPR 和 KF-GPR 的拟合精度指标值.对比两种模型的拟合精度指标值,可以发现,KF-GPR 的拟合效果比 AVG-GPR 更好.当训练集个数时,KF-GPR 的MSE 值为0.087 9,较AVG-GPR降低了 2.87%;KF-GPR 的 MAE 值为 0.215 4,较 AVG-542北 京 理 工 大 学 学 报第 44 卷KGPR 降低了 14.93%.随着训练集个数的增加,KF-GPR 的 MSE 和 MAE 仍能具有较小的值.上述结果表明
33、,KF-GPR 的拟合误差较小,且误差波动范围更小;并且随着训练组数的增加,KF-GPR 的预测结果仍然能保持较小的误差.综合以上仿真实验结果,可以发现 KF-GPR 相比 AVG-GPR 能够获得拟合精度更高的拟合曲线,且拟合值的置信带更窄,验证了 KF-GPR 的有效性.5 应用实例纬度是影响气温变化的重要因素之一,气温随纬度变化的趋势预测对于天气预报、气候变化研究、农业生态环境保护以及城市规划和建设具有深远的影响,有助于提高应对气候变化的科学性和保护生态环境的可持续性20.5365本文将卡尔曼滤波优化高斯过程回归模型应用于不同季节下京津冀地区(纬度范围大致为 35N43N)的气温随纬度变
34、化预测问题中.固定经度为京津冀地区的经度中心 116E,以(116E,35N),(116E,37N),(116E,39N),(116E,41N),(116E,43N)共5 个经纬度格点的某年的近地面日气温数据(采样时刻 14:00)为样本数据集,该数据集包括条数 1.51.00.5AVG-GPRAVG-GPR 95%置信区间f(x)=sin(2x)输出000.20.4输入(a)K=20:AVG-GPR拟合结果(b)K=50:AVG-GPR拟合结果(c)K=100:AVG-GPR拟合结果(d)K=20:KF-GPR拟合结果(e)K=50:KF-GPR拟合结果(f)K=100:KF-GPR拟合结果
35、0.60.81.00.51.01.51.51.00.5AVG-GPRAVG-GPR 95%置信区间f(x)=sin(2x)输出000.20.4输入0.60.81.00.51.01.51.51.00.5AVG-GPRAVG-GPR 95%置信区间f(x)=sin(2x)输出000.20.4输入0.60.81.00.51.01.51.51.00.5f(x)=sin(2x)输出000.20.4输入0.60.81.00.51.01.51.51.00.5f(x)=sin(2x)输出000.20.4输入0.60.81.00.51.01.51.51.00.5f(x)=sin(2x)输出000.20.4输入0
36、.60.81.00.51.01.5KF-GPRKF-GPRKF-GPRKF-GPR 95%置信区间KF-GPR 95%置信区间KF-GPR 95%置信区间图 2 AVG-GPR 与 KF-GPR 拟合正弦函数的结果Fig.2 Results of fitting the sine function with AVG-GPR and KF-GPR 0.500.50.5AVG-GPRKF-GPR误差误差误差00.50.5000.20.4输入0.60.81.000.20.4输入0.60.81.000.20.4输入(a)K=20(b)K=50(c)K=1000.60.81.00.5图 3 AVG-GP
37、R 和 KF-GPR 拟合误差对比图Fig.3 Fitting accuracy comparison of AVG-GPR and KF-GPR 表 2 AVG-GPR 和 KF-GPR 拟合正弦函数的精度指标值Tab.2 Accuracy index values for AVG-GPR and KF-GPR fit-ting sinusoidal functionsK模型MSEMAE20AVG-GPR0.090 50.253 2KF-GPR0.087 90.215 450AVG-GPR0.019 10.106 9KF-GPR0.017 40.103 6100AVG-GPR0.005 50
38、.062 7KF-GPR0.005 10.060 2第 5 期徐厚宝等:卡尔曼滤波优化的高斯过程回归模型543据.将日期按照春季(3 月5 月)、夏季(6 月8 月)、秋季(9 月11 月)、冬季(12 月2 月)划分为 4 个时期,形成 4 个子数据集.由于每个数据集仅包含京津冀地区纬度覆盖范围的 5 个纬度点的气温采样值,为了预测气温随纬度变化趋势,需要先采用高斯过程回归来预测纬度覆盖范围内的其他纬度点的气温值,然后利用卡尔曼滤波算法对高斯过程回归的预测值进行融合,最终得到的 KF-GPR 的预测结果如图 4 所示.17.016.516.0KF-GPR95%置信区间KF-GPR95%置信区
39、间KF-GPR95%置信区间KF-GPR95%置信区间温度/15.515.014.514.013.53638纬度/N(a)春季:纬度温度预测曲线(b)夏季:纬度温度预测曲线(c)秋季:纬度温度预测曲线(d)冬季:纬度温度预测曲线404229温度/28272625243638纬度/N404220温度/24683638纬度/N404217.016.516.0温度/15.515.014.514.013.513.03638纬度/N4042图 4 KF-GPR 在不同季节的纬度温度预测曲线Fig.4 Latitude-temperature prediction curves of KF-GPR in
40、different seasons 6 结论本文基于数据融合的思想,提出了一种基于卡尔曼滤波优化的高斯过程回归模型(KF-GPR),并基于均方误差(MSE)以及平均值误差(MAE)两个指标,从数值实验的角度说明了 KF-GPR 的优越性,表现为:拟合误差较小,误差波动范围小,并且随着训练组数的增加,KF-GPR 的预测结果仍然能保持较小的误差.最后将本文提出的 KF-GPR 应用于气温随纬度变化的预测问题中,利用 5 个经纬度格点的日气温数据,分季节给出了纬度温度预测曲线.本文提出的 KF-GPR 结合了高斯过程回归和卡尔曼滤波算法两者的优势,基于卡尔曼滤波算法对多个高斯过程回归预测的输出结果
41、进行迭代融合,解决单个高斯过程无法对多个信息源的数据进行整体建模的问题.该模型具有一定的推广应用性,对适用高斯过程回归分析的多源数据,KF-GPR 能够给出较好的回归预测结果.参考文献:FRICKER T E,OAKLEY J E,URBAN N M.MultivariateGaussian process emulators with nonseparable covariancestructuresJ.Technometrics,2013,55(1):47 56.1 SCHULZ E,SPEEKENBRINK M,KRAUSE A.A tutorial onGaussian process
42、 regression:modelling,exploring,andexploiting functionsJ.Journal of Mathematical Psychology,2018,85:1 16.2 MACKAY D J C.Introduction to Gaussian processesJ.NATO ASI series F Computer and Systems Sciences,1998,168:133 166.3 MARTIN G.Consider soft sensorsJ.Chemical Engineering 4 544北 京 理 工 大 学 学 报第 44
43、 卷Progress,1997,7:66 70.LIANG H,GANESHBABU U,THORNE T.A dynamicBayesian network approach for analysing topic-sentimentevolutionJ.IEEE Access,2020,8:54164 54174.5 王莉,孙玉梅,杨凯,等.即时学习多模型加权 GPR 软测量方法 J.北京理工大学学报,2018,38(2):196 199+204.WANG Li,SUN Yumei,YANG Kai,et al.Instant learningmulti-model weighted GP
44、R soft measureJ.Transactions ofBeijing Institute of Technology,2018,38(2):196 199+204.(in Chinese)6 YUAN J,WANG K,YU T,et al.Reliable multi-objectiveoptimization of high-speed WEDM process based on Gaussianprocess regressionJ.International Journal of Machine Toolsand Manufacture,2008,48(1):47 60.7 L
45、I N,LI S,XI Y.A multiple model approach to modelingbased on LPF algorithmJ.Journal of Systems Engineeringand Electronics,2001,12(3):64 70.8 王振,白星振,马梦白,等.一种基于数据预处理和卡尔曼滤波的温室监测数据融合算法 J.传感技术学报,2017(10):1525 1530.WANG Zhen,BAI Xingzhen,MA Mengbai,et al.Agreenhouse monitoring data fusion algorithm based o
46、n datapreprocessing and Kalman filteringJ.Journal of SensingTechnology,2017(10):1525 1530.(in Chinese)9 NGUYEN-TUONG D,SEEGER M,PETERS J.Modellearning with local Gaussian process regressionJ.AdvancedRobotics,2009,23(15):2015 2034.10 任江洪,陈韬,曹长修.混合高斯过程回归模型在铁水硅含量预报中的应用 J.重庆大学学报,2012,35(2):123 127.REN J
47、ianghong,CHEN Tao,CAO Changxiu.Application ofhybrid Gaussian process regression modeling to the predictionof silica content in molten ironJ.Journal of ChongqingUniversity,2012,35(2):123 127.(in Chinese)11 李晓燕,李弢,马尽文.高斯过程混合模型在含噪输入预测策略下的煤矿瓦斯浓度柔性预测 J.信号处理,2021,37(11):2031 2040.LI Xiaoyan,LI Tao,MA Jinw
48、en.Gaussian process mixturemodel for flexible prediction of coal mine gas concentrationunder noisy input prediction strategyJ.Signal Processing,2021,37(11):2031 2040.(in Chinese)12 王志福,田昊,黄丽敏,等.基于卡尔曼观测器的电机模拟器 13 接口电流自抗扰无差拍预测控制算法 J.北京理工大学学报,2023,43(9):912 925.WANG Zhifu,TIAN Hao,HUANG Limin,et al.Kal
49、manobserver-based self-imposed disturbance-free beat predictioncontrol algorithm for motor simulator interface currentJ.Transactions of Beijing Institute of Technology,2023,43(9):912 925.(in Chinese)高强,朱玉川,罗樟,等.高速开关阀控液压缸的位置控制半实物仿真研究 J.北京理工大学学报,2019,39(10):1091 1096.GAO Qiang,ZHU Yuchuan,LUO Zhang,et
50、 al.Semi-physicalsimulation study on position control of high-speed switchingvalve-controlled hydraulic cylinderJ.Transactions of BeijingInstitute of Technology,2019,39(10):1091 1096.(inChinese)14 王震坡,薛雪,王亚超.基于自适应无迹卡尔曼滤波的分布式驱动电动汽车车辆状态参数估计 J.北京理工大学学报,2018,38(7):698 702.WANG Zhenpo,XUE Xue,WANG Yachao
©2010-2024 宁波自信网络信息技术有限公司 版权所有
客服电话:4008-655-100 投诉/维权电话:4009-655-100