联合半参数和长短期记忆神经...的全球电离层TEC短期预报_罗小敏.pdf

第 卷 第期 年月地球物理学报 ，罗小敏，曹光胤，潘雄等 联合半参数和长短期记忆神经网络的全球电离层 短期预报地球物理学报，（）：，：，.（），（）：，：联合半参数和长短期记忆神经网络的全球电离层 短期预报罗小敏，曹光胤，潘雄，边少锋，李扬，张旭焱中国地质大学（武汉）地理与信息工程学院，武汉 中国科学院精密测量科学与技术创新研究院大地测量与地球动力学国家重点实验室，武汉 武汉纺织大学计算机与人工智能学院，武汉 摘要半参数球谐函数（，）模型能减少电离层预报模型误差以及残余周期带来的系统误差 但是半参数球谐函数模型中窗宽参数的选取会带来一定的估计偏差，本文利用长短期记忆神经网络（，）在非平稳性时间序列预报中的良好适应性，提出了一种联合 与 （）的全球电离层 短期组合预报模型，适用于天的短期预报 模型通过预报球谐函数系数解算全球电离层 ，利用二次多项式和半参数核估计方法分别拟合球谐系数趋势项和周期项，最后基于 对拟 合 残 差 进 行 补 偿 预 报 本 文 利 用 欧 洲 定 轨中心（，）球谐函数系数产品，采用单天预报和多天预报两种实验方案验证 模型的有效性实验结果表明，相比于 模型和综合半参数与自回归模型，模型的单天全球 预报残差 值分别提升了 和 ；误差小于 占比分别提升了、基于 模型的多天全球 预报残差 值分别提升了 和，误差小于 占比提升了 和 同时，半参数 组合预报模型每预报一天耗时约在以内关键词 ；电离层 预报；半参数核估计 ：中图分类号 收稿日期 ，收修定稿基金项目国家自然科学基金（，），中国科学院精密测量科学与技术创新研究院大地测量与地球动力学国家重点实验室开放基金资助项目（），武汉大学测绘遥感信息工程国家重点实验室开放研究基金（）资助第一作者简介罗小敏，男，年生，副教授，主要从事 电离层与 精密定位方面的研究 ：通讯作者潘雄，男，年生，教授，博士，主要从事现代测绘数据处理与应用的研究 ：，（），（），地 球 物 理 学 报（）卷 ，（），（），（）（），；引言电离层总电子含量（，）是描述电离层活跃程度的重要参数，可间接反映电离层对无线电信号传播延迟的大小 获取 的时空变化对于研究电离层的变换规律与特性至关重要，并 在 全 球 导 航 卫 星 系 统（，）精 密 定 位 中 应 用 广 泛（，；李子申等，；，）目前全球高精度 产品主要是基于事后电离层建模获取，一般需天的时间延迟 而电离层 实时产品甚至电离层 预报产品可用于电离层的实时监测与预警，而且在单频 实时导航定位、震前电离层扰动探测（，；，）等方面应用广泛，是目前国内外研究的热点（，；张小红等，；汤俊等，）目前国内外学者基于直接预报和间接预报两种模式开展了电离层 的预报研究 直接预报法是指基于全球电离层地图（，）中格网点上的 进行逐点预报主要的方法有自回归移动平均模型（，）（，；，）、灰色模型（，）、神经网络（，；，；，；，；张富彬等，）、普通克里金（）（，）等方法 模型与灰色模型建模相对简单，其中 模型在电离层平静期预报天的平均相对预测精度可达 （，），而灰色模型 适 用 于 小 数 据 量、单 调 变 化 的 电 离 层 预 报（，）随着计算机科学的快速发展，神经网络模型也正逐渐应用于电离层预报 目前主要的神经网络模型有：长短期记忆神经网络（，）（，）、序列到序列模型（，）、卷积长短期记忆神经网络（，）（，；张富彬等，）、非线性带外部输入自回归神经网络（，）各种神经网络模型都有不同的特点以应对不同的电离层状态及预报需要，比如：对非平稳性时间序列有较好的预报效果（，），基于在图像处理方面的优势可以对 进行整体预报（，；张富彬等，）此外，在磁暴 期 间 电 离 层 预 报 方 面，优 于 、方法（，）然而，在直接预报法中使用传统 需要对每个格网期罗小敏等：联合半参数和长短期记忆神经网络的全球电离层 短期预报点进行训练，具有多达 个格网点，故而使用传统 直接预报全球电离层可行性不强 而 有效 地 解 决 了 这 一 问 题，但 是 因 为 其 将 作为图像进行预报，计算格网点以外的 值时需要进行插值，易造成一定程度的精度损失间接预报法是指预报电离层建模中得到的电离层模型系数，进而使用模型计算 上各格网点的电离层 ，最终获得完整的 ，是目前各国际电离层分析中心主要采用的方法 这种方法依赖准确有效的电离层模型，而电离层模型一般可以分为经验模型和非经验模型 经验模型主要是基于长期数据的统计分析而建立，具有代表性的有：国际参考电离 层 模 型（，）、模 型、模 型 等 模 型 与 模型基于大量的外部观测数据建立，模型较为复杂；模型较为简单，但模型精度不高，比如 年全年平均误差为 （朱永兴等，）非经验模型主要有球谐函数模型、广义三角级数模型、多项式模型等（，；，）其中，球谐函数模型已被广泛应用于全球和区域电离层 建模，全球电离层模型常使用 阶球谐函数模型，而区域电离层模型通常采用低阶球谐函数模型目前，具有代表性的电离层 产品是基于 阶球谐函数模型建立，故而间接预报法一般通过预报球谐函数系数达到预报电离层 的目的 常用的球谐函数系数预报方法有最小二乘配置（，）、自适应自回归模型（，）、（，）、半参数核估计（王喜江等，）等方法 作为新兴的神经网络技术，在球谐系数预报中有着较好的效果，但是在有限的神经网络训练过程中，仍然会存在神经网络模型无法充分拟合真实数据的问题而半参数核估计方法考虑到预报中存在预报模型误差以及原始数据误差等系统误差，结合参数项和非参数项，将系统误差归入非参数项，并利用核估计方法进行解算有效减少了系统误差带来的影响，在钟差预报等领域得到了有效利用（李文涛等，；，）王喜江等（）结合半参数核估计方法提出了半参数球谐函数模型（，）模型有效减少了预报过程中残余周期和预报模型误差造成的系统误差，改善了电离层 预报的精度但是，在半参数核估计理论中，窗宽参数是一个非常关键的平滑因子，它不能使参数估计偏差和非参数估计偏差同时变小（潘雄等，），所以半参数球谐函数模型对电离层 预报依然存在偏差 为了减少半参数球谐函数模型中的偏差，同时进一步提高电离层 短期预报的精度，可以结合其他时间预报模型提取半参数球谐函数模型拟合残差中的有效信息，主要的模型有自回归模型（，）（邱封钦等，）、（，）、灰色模型（，）等 其中 模型对于非平稳性时间序列需要进行多次差分平稳化，平稳性检验准则决定了 模型的精度 此外，差分次数的增加也造成了信息的损失 相较于 模型，适用于非平稳性时间序列的 残差预报（，），并在球谐函数系数的预报过程中拥有较好的效果（，）同时考虑到半参数球谐函数可以修正系统误差并改善了 短期预报精度（王喜江等，），本文建立一种综合 和 的组合预报模型（），并利用实测数据验证其在电离层预报中的效果模型构建 半参数球谐函数模型球谐函数模型的一般形式可以表示为 （，）?（）（），（）式中，和分别表示电离层穿刺点的地磁纬度和地磁经度；和 为球谐函数系数，为球谐函数模型的阶数；?（）（，）（），其中，（）表示和阶的归一化勒让德多项式，（，）数学表达式为（，）（）！（）（）（），（）式中，为克罗内克函数，在利用式（）对全球电离层 建模时，得到的函数系数 和 都含有电离层 所包含的周期性变化特征 利用快速傅里叶变换（，）对每个球谐函数系数长期时间序列进行处理，可以获得 和 的周期与振幅，然后将振幅较高的个主周期归入趋势函数中，将剩余周期归入随机信号，即可建立半参数模型 球谐函数系数的时间序列可以表示为（）（）（）（），（）地 球 物 理 学 报（）卷式中，（）为球谐函数系数中所包含的趋势项，可表示为如式（）的一元二次多项式；（）为基于 获得的主周期项，可表示为如式（）的三角级数形式；（）是包含剩余周期的随机信号，是非参数分量；为观测噪声（），（）（）（）（）（），（）式中，为基于 获取的球谐函数系数主周期个数；和为待求参数；为对应周期长度，对于相同阶数的 和，相同；由于第 与 阶的 和 对 计算结果影响很小，为了提高效率，它们的相同首先对（）进行去趋势处理，即利用式（）进行拟合并得到拟合残差（），同时将式（）改写为矩阵形式并结合式（），可得到（）（），（）其中 ，式（）的误差方程为（）（）.（）本文使用核估计方法对待估参数和非参数分量进行求解，假设已知，基于，（），定义随机信号?（）的核估计数学表达式为?（）（）（），（）式中，（）为核权函数，数学表达式为（）（）（），（）式中，（）为核函数，是窗宽参数 本文依据文献（王喜江等，）选择下式作为核权函数，同时使用最小均方误差法确定的取值（杨玉锋等，）（）（）（.），（）将式（）代入式（），并根据最小二乘准则可得?为?（）（）（）（），（）式中表示单位矩阵将式（）代入式（）中，可以得到随机信号?的估值：?（?），（）最后，结合式（）（）、（）、（）代入式（）中，实现对球谐函数系数的拟合与预报，建立半参数球谐函数模型 组合预报模型在半参数核估计方法中核权函数（）对随机信号?的估计有重要影响，影响最终的 预报精度 同时，窗宽参数作为一个惩罚因子在分离参数分量和非参数分量时会产生估计偏差，为了减少估计偏差的影响和不当窗宽参数的误差，需要对拟合残差中的有用信号进行分离，将球谐系数时间序列和半参数球谐函数模型拟合值作差可以得到拟合残差序列：.（）通过 模型等预报模型可以修正窗宽参数引起的估计偏差，但是 模型对于非平稳性时间序列需要进行多次差分平稳化，平稳性检验准则决定了 模型的精度，同时对时间序列差分也意味着潜在有用信号的损失 鉴于 适用于非平稳性时间序列的残差预报，且在电离层 多天滑动预报过程中拥有更好的稳定性，故而利用 对上述残差序列进行预报和拟合 是一种特殊的循环神经网络（，），由一系列 单元构图 单元内部结构图 成，其链式结构如图所示 图中和均为隐藏单元；和为单元状态；表示激活函数，本文使用 作为激活函数；表示中时刻的拟合残差；是一种门机制，表示两者之间的单位乘相较于 ，增加了一种传输状态，解决了长序列训练过程中的梯度消失和梯度爆炸的问题 从图可以看出，单元主要由三个遗忘期罗小敏等：联合半参数和长短期记忆神经网络的全球电离层 短期预报门、输入门与输出门三部分构成 遗忘门主要基于输入的和判断中哪些部分将被用于计算 输入门将输入的和使用单元状态更新激活函数 计算单元状态更新值，结合遗忘门计算后的可以得到 输出门主要计算隐藏单元，同时可以计算出预测值?：?（），（）式中，为权矩阵 综上，基于连续的 单元可以构成 球谐函数系数补偿预报模型 本文中的 方法为经典 方法，神经网络模型由一个序列输入层、一个 层、一个全连接层和一个回归输出层构成，其中 层拥有 个隐藏单元神经网络模型训练次数为 次；梯度阈值为；初始学习率为 ；学习率下降期为 ；学习率下降率为；使用串联式组合将两种预报模型组合：?，（）式中，?为组合预报模型预测值；为半参数球谐函数模型预测值；?为 球谐函数系数补偿预报模型预测值 将?带入式（），则可以计算 ，进而实现全球电离层 预报算例分析 数据来源及实验方案本文以欧洲定轨中心（，）发布的高精度球谐函数系数数据作为样本序列，选取时间段为 年月日至月日共计 天的 阶球谐函数系数作为观测值，采样频率为，每个时刻共计 个的球谐函数系数 同时，以 发布的最终 产品（下文统称 值）作为参考值计算精度 全球格网数据的纬度分辨率 ，经度分辨率，采样间隔为，每一时刻共计 个 值 为了验证 模型的有效性，采用单天预报和多天预报两种实验方案单天预报方案使用 发布的 年月日至月 日共计 天的球谐系数，以前 天预报后天的模式，预报 年月 日内逐小时的球谐函数系数并以此计算 ；多天预报方案利用 年月日至 日共计 天的球谐系数，以前 天预报后天的模式滑动预报天，即预报 年月日内逐小时的球谐函数系数并以此计算 精度评估中，本文使用均方根误差（）和平均相对精度（）作为精度评定指标，具体公式如下：（?），（）（?），（）式中，表示 中全球格网点个数，值为 ；?为第个组合预报 值；为第个 发布的 值 单天预报为了检验预报精度，将 发布的一天预报产品（下文称 值）、半参数球谐函数预报值、半参 数 球 谐 函 数 与 自 回 归 组 合 模 型（，）预报值、预报值分别与 值作差，可以得到一天内每小时全球 差值图，如图所示从图 不难看出，值的误差主要分布在两极与 赤 道 地 区，同 时 在 协 调 世 界 时（，）左右，大西洋南北半球中纬度地区的误差开始大幅度上升 对比图、的 模型预报值在两极地区相较于 值有明显改善，但是，在太平洋区域出现较大误差，在 ，同样出现明显误差上升，但相较于 值误差上升幅度较小 相比于 模型，模型在一天各时 段预 报 精 度 均 有 改 善，其 中 在 改善较为显著，但是，未能解决 后误差大幅度上升的问题，后全球整体误差也有小幅度上升 从图 可以看出，模型在 后全球整体误差无明显上升，误差范围相较于 模型更小综合来看，在 时间段，四种模型的预报精度均出现精度大幅下降的问题，主要原因为这一时间段海域均有较大 值，而海域缺少有效的 观测值，使得 电离层产品精度较低，从而导致四种模型在 的预报误差较大此外，四种模型的预报误差会随着时间的累计而逐渐增大 模型中的非参数分量有效地修正了系统误差，改善了两极地区的预报精度 两种组合预报模型在前 提升明显；模型相较于 模型有小幅度改善，主要体现在精度随时间下降幅度更小，误差分布扩大范围更小地 球 物 理 学 报（）卷表给出了四种模型单天预报的精度统计，表中表示模型与参考值的误差 从表中可以看出，相比于 、模型和 模型，模型单天预报 的精度更高 通过全球 统计，模型单天预报精度相比于其他三个模型，其改善率分别为 、和 从误差统计率来看，模型误差分布在 以内占比 ，以内占比 ，以内占比 ，均优于 模型表 值、模型、模型、模型预报值残差分析 ，模型全球（）北半球（）南半球（）（）（）（）（续图）期罗小敏等：联合半参数和长短期记忆神经网络的全球电离层 短期预报图 值、模型、模型、模型单天预报残差全球分布图（）单天预报残差分布；（）模型单天预报残差分布；（）模型单天预报残差分布；（）模型单天预报残差分布（从左至右，从上至下子图对应的时间分别是 ），（）；（）；（）；（）（，）图为四种模型单天预报的残差密度统计 其中不 难 看 出 模 型 残 差 分 布 明 显 优 于 值，这说明了预报过程中的系统误差得到了有效改善；模型相较于前两种模型则更为集中于 内；而 模型相较于 模型在 内更为集中，且大部分集中于 上述结果证明了 有效修正了窗宽参数引起的误差，改善了地 球 物 理 学 报（）卷图 、模型、模型、模型残差密度统计图中两条辅助线分别对应、值 ，模型的预报精度 相比于 模型，在组合预报精度随时间下降幅度更小，误差分布扩大范围更小（见图），说明 模型在残差预报上更优 此外，四种预报模型在南半球的预报精度均低于北半球，可能的原因是 年月份太阳直射点位于南半球，电离层活动相较于北半球更活跃此外，南半球海洋面积占比较大，缺少 观测站导致相应 精度较低为了统计不同纬度下四种模型的预报精度，本文进一步选取南北半球 、共条纬度带进行精度统计，其结果如图、表所示 从图中可以看出，在高纬度地区，值有较大的误差，其三种模型均有明显提升，但是精度基本一致 对于中纬度地区，模型和 均有一定误差，模型在北半球中纬度地区相对较好，值则在南半球有一定优势，而两种组合预报模型精度相近，但比前两种模型有一定的改善 对于低纬度地区，模型和 值均存在一定的误差，而两种组合预报模型精度较为接近表给出了四种模型各纬度带单天预报精度统计，从表中可以看出，除 外，模型相较于 模型在各纬度带均有改善，其中在四条中低纬度带 提升幅度较大，从北至南分别为 、，同时平均相对精度也分别提高了 、纬度带的误差可能是因为该纬度带零值较 多 导 致 预 报 模 型 存 在 一 定 的 误 差 相 较 于 模型，模型在中低纬度地区有小幅优势综 合来看，模型相较于 图 模型、模型、模型各纬度带残差统计 ，期罗小敏等：联合半参数和长短期记忆神经网络的全球电离层 短期预报表 值、模型、模型、模型各纬度带单天预报精度统计 ，评定指标模型 （）（）模型单天预报结果有较大改善，在中低纬度带有 的改善，相较于 模型在 、等中低纬度带有一定优势 同时，在整体预报精度上，模型单天预报效果最优，为 ，相较于其他三种模型，其改善率分别为 、和 多天预报多天预报同样使用 值作为参考值 由于 长期保存的预报电离层产品为天预报产品和天预报产品，天预报产品仅为实时发布，在迭代更新后不作长期保存，因此在多天预报实验中我们使用 模型预报值、模型作为对比值 图给出了三种预报模型每天的残差统计结果 从图可以看出，模型和 模型在第、天预报结果较为接近，其中 模型相较于 模型在第天有较大改善 第五天具体统计结果如表所示 根据表，模型相较于 模型在南半球有一定的改善效果，同时其他精度指标均有小幅度提高第五天 模型效果最优，为 相较于 模型、模型分别提高 和 模型误差小于 占比 ，相较于 模型、模型分别提高 和 ，同时其误差小于 占比 ，证明了 模型大部分误差在 以内，表明该预报模型天预报的有效性图 模型、模型、模型预报 统计 ，图给 出 了 模 型、模 型和 模型滑动预报天的残差概率密度统计，结合表不难看出三种模型预报残差主要分布在 以内，大于 的残差值所占比例很小，说明三种模型用于全球电离层 预报的可靠性 同时，依据两条辅助线，可以发现 模型整体误差分布相较于 模型和 模型更为集中为了统计不同纬度下三种模型的预报精度，选取南北半球 、共条纬度带进行精度统计，其结果如图所示根据图，第一天在中低纬度地区，两种组合预报模型均对误差进行了有效的表 模型、模型、模型第五天预报值残差分析 ，模型全球 （）北半球 （）南半球 （）（）（）（）地 球 物 理 学 报（）卷图 模型、模型、模型残差密度统计图中两条辅助线分别对应、值 ，图 模型、模型、模型各纬度带残差统计 ，期罗小敏等：联合半参数和长短期记忆神经网络的全球电离层 短期预报改正 第天，模型在中低纬度带有较好的改正效果，在 略差于其他模型，而在 略好于其他两种模型 而 模型相较于 模型在第天有小幅度提高，在天则基本与 模型一致 从不同纬度带来看，高纬度带中两种组合预报模型改正相对较小，这主要由于 对负值格网点采取赋零值的策略，同时海洋和两极地区由于缺少 观测站易产生负值表给出了三种模型各纬度带五天预报精度统计，从表中可以看出，除 外，模型相较于 模型在各纬度带均有改善，其中在四条中低纬度带 提升幅度较大，从北至南分别为 、，同时平均相对精度也分别提高了 、纬度带的误差可能是因为该纬度带零值较多导致，虽然三种预报模型在该纬度带预报精度不同，但是总体精度基本一致综合来看，模型相较于 模型五天预报结果有较大改善，在中低纬度带有 的改善，相较于 模型在 、等中低纬度带有一定优势，分别提高了 、同时，在整体预报精度上，模 型 五 天 预 报 效 果 最 优，表 模型、模型、模型各纬度带五天预报精度统计 ，纬度模型评定指标天数 均值 （）（）（）（）（）（）（）（）（）（）（）（）（）（）（）（）（）（）（）（）（）（）（）（）（）（）（）（）（）（）（）（）（）（）（）（）地 球 物 理 学 报（）卷为 ，相较于 模型、模型分别提高了 和 为了充分反映本文方法的特点，以及在时效上的损失，表给出了各个方法的耗时表各模型单天、多天预报耗时 模型单天预报（）多天预报（）从表不难看出，三种预报模型随着复杂度的增加，耗时也在不断增加，模型单天预报延时约在以内，多天预报延时约在以内 以月 日为例，的月 日月日的预报产品在月 日 点 分一并上传，可以近似认为 的天预报产品约有 的时延 当然，这其中也包含了除计算以外的耗时，同时也应该考虑到，不同的计算机硬件和不同算法语言也对耗时较大影响，本文实验使用的算法语言为 语言，主要 硬件有：内 存 显卡为核心显卡，相较于 等 分析中心，算法语言效率和硬件均有较大的提升空间综合来看，本文提出的方法预报一天耗时约在以内，结合 等分析中心的时延，不难看出在短期预报中，通过适当增加模型的复杂度以换取精度的提升具有一定的可行性总结本文在 模型的基础上，通过使用 对 模型残差进行预报，建立了 模型 模型，在利 用 模型削弱了系统误差的同时，减少了窗宽参数引起的估计偏差 最终基于真实数据证明了组合预报的有效性，主要结论如下：（）模型在 年月 日单天预报中，为 ，误差分布在 以内占比 ，以内占比 ，以内占比 ，均优于 模型和 模型；在滑动五天预报中，模型的 为 ，相较于 模型、模型分别提高了 和，误差小于 、占比 、，其中误差小于 相较于 模型、模型分别提高 和 （）单天预报中，模型相较于 模型在北半球 提升了 ，全球提升了 ，误差小于 占比提升了，说明了 模型对于 模型残差这类时间序列有较好预报结果（）模型相较于 模型在 、等中低纬度带有一定优势，分别提高了 、，同时在单天预报和多天预报均优于 模型，说明了 改善了拟合残差可能为非平稳性时间序列时的预报精度致谢感谢 提供的相关电离层数据产品 ，（）：，：，：，（），（）：，：，（）：，（），（）：，：，：，（）：，.，（）：，：，（）：期罗小敏等：联合半参数和长短期记忆神经网络的全球电离层 短期预报 ，（），（）：，（）：，：，（），（）：，：，（），（）：，（），（）：，：，：，（），（）：，：，（）：，（）：，（），（）：，：，.，（）：，：，（）：，（），（）：，（）：，（），（）：，（）：，（），（）：，（），（）：，（）：，（）：，：，（），（）：附中文参考文献李文涛，颜雄，夏磊等 卫星钟差半参数平差模型异常数据探测与处理测绘学报，（）：李子申，王宁波，李敏等 国际 服务组织全球电离层 格网精 度 评 估 与 分 析地 球 物 理 学 报，（）：，：潘雄，吕玉婷，汪耀等 基于半参数平差模型的粗差定位与定值研究武汉大学学报信息科学版，（）：邱封钦，潘雄，罗小敏等 综合半参数核估计和自回归补偿的全球电离层总电子含量预报模型地球物理学报，（）：，：汤俊，姚宜斌，陈鹏等 利用 方法改进电离层 预报模型武汉大学学报信息科学版，（）：，王喜江，边少锋，李子申等 利用半参数核估计法预报全球电离层总电子含量地球物理学报，（）：，：伍丰丰，黄海军，任青阳等 综合半参数核估计与正则化方法的航空重力向下延拓模型分析武汉大学学报信息科学版，（）：杨玉锋，潘雄，卿晨昕等 基于半参数均值漂移模型的 卫星钟差异常探测与修复仪器仪表学报，（）：张富彬，周晨，王成等 基于深度学习的全球电离层 预测电波科学学报，（）：张小红，任晓东，吴风波等 自回归移动平均模型的电离层总电子含量短期预报测绘学报，（）：朱永兴，谭述森，任夏等 全球广播电离层模型精度分析武汉大学学报信息科学版，（）：（本文编辑胡素芳）