基于LSTM的GPS卫星钟差预测算法.pdf

舰 船 电 子 工 程2023 年第 9 期1引言随着全球卫星导航系统的不断发展与完善，卫星导航与授时的应用已经深入社会发展的各个层面。随着社会的不断发展，对导航定位和授时精度的要求也越来越高，卫星导航定位的精度本质上也是对时间的高精度测量。但卫星提供时间的精度程度受到众多条件制约，如卫星钟本身的精确程度、实时精密卫星钟差、大气延迟修正和卫星自身硬件条件等。虽然目前国际上已经出现了光钟的系统误差的不确定度达到9E-19量级1，但卫星钟的系统误差还达不到如此高的精度，如在现有条件下提高卫星导航、定位和授时的精度，就需要尽可能提高卫星钟差预测的精度，为进一步提高卫星导航、定位和授时精度创造条件。目前导航卫星上使用的大部分还是铷原子钟2，现有条件下常用的提高定位和授时精度的方法是通过合适算法对钟差等主要误差进行预测，进而提高导航、定位和授时精度。在卫星钟差预测领域，目前使用的较为广泛的预测模型包括多项式模型3和灰色模型45等，但是其预测精度不能满足在特定条件下的应用需求，LSTM算法是一种时间循环神经网络，非常适用于对时间序列中的间隔和延迟较长事件的处理和预测6，因此本文将重点分析利用LSTM应用在钟差预测中的算法，并期望可以实现对卫星钟差更好的预测。2多项式模型多项式模拟是一个对时间序列的特定趋势进行了很好逼近的数学模型，能够运用在短时预报和收稿日期：2023年3月10日，修回日期：2023年4月20日作者简介：李旻，男，高级工程师，研究方向：舰船电子装备。基于 LSTM 的 GPS 卫星钟差预测算法李旻（海军装备部驻无锡地区军事代表室无锡214105）摘要针对GPS卫星钟差的超快速预报部分的精度不能满足特定要求等问题，提出基于长短时记忆（LSTM）算法的钟差预测算法。首先对钟差数据进行基于改进中位数的异常值探测，之后利用部分时间序列数据用LSTM进行训练，并对之后的钟差进行预测；最后将基于LSTM算法的预测结果与多项式模型和灰色模型的预测结果进行对比。结果表明，基于LSTM算法的钟差预测结果更优。关键词GPS卫星钟差；长短时记忆算法；数据预处理中图分类号TP301.6DOI：10.3969/j.issn.1672-9730.2023.09.011GPS Satellite Clock Error Prediction Algorithm Based on LSTMLI Min（The Military Delegate Office of the Naval Equipment Department in Wuxi Area，Wuxi214105）AbstractIn order to solve the problem that the accuracy of the ultra-fast prediction part of GPS satellite clock difference cannot meet the specific requirements，a clock difference prediction algorithm based on short and long time memory（LSTM）algorithmis proposed.First，the clock difference data are detected by outliers based on the improved median，and then part of the time seriesdata is trained by LSTM，and the subsequent clock difference is predicted.Finally，the prediction results based on LSTM algorithmare compared with those of polynomial model and grey model.The results show that the clock error prediction based on LSTM algorithm is better.Key WordsGPS satellite clock error，long and short-term memory algorithm，data preprocessingClass NumberTP301.6总第 351 期2023 年第 9 期舰 船 电 子 工 程Ship Electronic EngineeringVol.43 No.949总第351期长时间预测中，尤其是在短期预报中有着良好的拟合精度。多项式模型在钟差预测的研究中得到广泛的应用，其中的二次多项式模型（QP模型）在钟差的预测中最为常用，其结构简单，且其确定性参数在钟差的预报中具有实际的物理意义。QP模型的观测方程为Ti=a0+a1()ti-t0+a2()ti-t02+D(i=012n)（1）其中，vi=a0+a1()ti-t0+a2()ti-t02-Ti为vi=a0+a1()ti-t0+a2()ti-t02-Ti时的卫星钟差；vi=a0+a1()ti-t0+a2()ti-t02-Ti为参考时间（一般取为数据序列的初始时刻）；vi=a0+a1()ti-t0+a2()ti-t02-Ti为当前钟差时间；vi=a0+a1()ti-t0+a2()ti-t02-Ti、vi=a0+a1()ti-t0+a2()ti-t02-Ti和vi=a0+a1()ti-t0+a2()ti-t02-Ti为模型的待求数据，分别表示参考时刻vi=a0+a1()ti-t0+a2()ti-t02-Ti的卫星钟差、钟速以及卫星钟的频漂变化；vi=a0+a1()ti-t0+a2()ti-t02-Ti为观测误差，人们通常认为它是正态分布79。根据观测方程可以得到对应的误差方程为vi=a0+a1()ti-t0+a2()ti-t02-Ti（2）按照最小二乘的平差原理，当钟差数超过三个时，即可解得参数的最或然值为a=()BTB-1BTT（3）其中：a=a0a1a2B=1t1-t0()t1-t021t2-t0()t1-t021tn-t0()t1-t02T=T1T2Tn。则可以得到钟差预报的QP模型为Ti=a0+a1()ti-t0+a2()ti-t02ft（4）3长短时间记忆网络（LSTM）循环神经网络（Recurrent Neural Network，RNN）是一种用来处理时间顺序信息的神经网络10。RNN最早应用于自然语法处理领域，随着深度学习的推广，被应用于电力系统的负荷预测等领域。普通的神经网络模型结构由输入层、隐藏层和输出层组成，因为输入层、隐藏层和输出层是单向的，而在隐藏层的节点之间又是没有联系的，所以普通的神经网络通常都不用来保存序列数据。但因为RNN中在当前时间输出的序列，也会与在当前时刻输出的序列相关联，所以隐藏层之间的节点也并非是无连接的，而是有连接的，同时隐藏层的输入也不仅包括当前时间输入层的输出，而且包括当前一时间隐藏层的输出。由于循环神经网络的结构难以训练，使得在实际应用中很难解决对这种结构长时间的依赖，于是由 Hocheriter和 Schmidhuber联合提出了一种经改进后的循环神经网络：长短期记忆网络11。LSTM目前已在自然语言处理、图像描述、语音识别等领域成功的应用12。原始RNN的隐藏层只有一组状态h，它对短期的输入变化非常敏感。而 LSTM增加了一组状态c，利用c可以维持更长期的状态，c称为单元状态（cell state）。LSTM 单元只有三种性质的门，分别为遗忘门ft、输入门it和输出门ot。门实际上是一层全连接层，因为它的输入是一个向量，而输出则是01之间的实数向量。当输出值为0时，表示输入的信息不能通过。当输出为1时，表示输入的所有信息可以通过。LSTM对信息的记忆与更新由这三种门控制实现。门的一般形式可以表示为g()x=()Wx+b（5）其中，W 是门的权重向量，b 是偏置项。为 sigmoid函数，值域是()0，1。遗忘门和输入门用来管理单元状态 c 的信息。遗忘门决定上一时刻的单元状态ct-1有多少保留到当前时刻ct；输入门决定当前时刻的输入xt有多少保存到单元状态ct。此外，还有输出门来控制单元状态ct下有多少能够输出到LSTM的当前输出值ht13。下文中，分别以f、i和o代表遗忘门、输入门和输出门。LSTM单元内传播结构如图1所示。图1LSTM单元内传播结构从上图，可以得出遗忘门、输入门和输出门以李旻：基于LSTM的GPS卫星钟差预测算法50舰 船 电 子 工 程2023 年第 9 期及当前输入的单元状态ct的前向运算步骤如式（6）式（10）所示：ft=()Wfht-1xt+bf（6）it=()Wiht-1xt+bi（7）ct=tanh()Wcht-1xt+bc（8）ct=ftct-1+itct（9）ot=()Woht-1xt+bo（10）上式中，表示非线性因素的激活函数sigmoid函数，tanh函数也为激活函数，W为各个门的权重矩阵，b为各个门的偏置项，ht-1xt表示把二个失量连接成一个更大的矢量，表示按元素乘。LSTM最终的输出由输出门和单元状态共同确定：ht=ottanh()ct（11）LSTM的训练方法和 RNN同样是反向传播方法，包括三个阶段：1）前向计算每个神经元的输出值，式（6）式（10）即为LSTM的前向计算过程。2）通 过 反 向 计 算 每 个 神 经 元 的 误 差 项RMS=k=1n()xk-xk2n值。反向传递方法有两个方向，一种是按时刻的反向传递，从当前时间开始计算各个时间的误差项；另一种是将误差项向前一层传递。3）根据相应的误差项，获得每个权重的梯度。4算例与分析4.1数据来源为检验 LSTM 模型的准确性，从 IGS 服务器（https：/cddis.nasa.gov/archive/gps/products/）可下载2021年9月12日至2021年9月13日一共两天的钟差产品的预报实验，数据的采样间隔为 5min。目前在轨的GPS卫星共有30颗可用，各卫星钟的类型如表1所示。表1卫星钟类型卫星钟类型Block II R RbBlock IIR-M RbBlock IIF RbBlock IIF CsBlock III RbPRN2，13，16，19，20，21，225，7，12，15，17，29，311，3，6，8，9，10，25，26，27，30，32244，18，23，14由表1可知，30颗在轨工作卫星共分为四种类型，其中Block IIF中有一颗Cs钟，其他的卫星钟均为 Rb 钟，所以进行实验的卫星钟数据选择为PRN2，PRN1和PRN4号卫星钟。4.2建模方案用12h的钟差数据进行建模后预报，选用二次多项式模型（QP）、灰色模型（GM（1，1）和长短时间记忆网络模型（LSTM），用12h的钟差数据建模，分别预报未来1h和3h的钟差数据。4.3预报结果和分析本试验中所用的资料是由IGS服务器下载的事后钟差产品，它自身的时间偏差值较小，在本试验中可以作为“真值”使用。另外采用RMS作为统计量，去衡量模型的优劣程度，计算公式如式（12）所示：RMS=k=1n()xk-xk2n（12）其中，xk为各模型预报值的卫星钟差，xk为IGS公布的卫星钟差，n为观测历元的实际数量。实验结果如图27所示。图2PRN1用12h数据建模预报1h的预报误差图3PRN1用12h数据建模预报3h的预报误差51总第351期图4PRN2用12h数据建模预报1h的预报误差图5PRN2用12h数据建模预报3h的预报误差图6PRN4用12h数据建模预报1h的预报误差图7PRN4用12h数据建模预报3h的预报误差表2RMS的精密卫星钟差预报结果（单位：ns）卫星序号PRN 1(IIF-Rb)PRN 2(IIR-Rb)PRN 4(III-Rb)预测模型QPGM(1,1)LSTMQPGM(1,1)LSTMQPGM(1,1)LSTM方案1 h0.490.250.070.200.640.150.130.100.133h0.520.180.060.730.600.270.330.080.07结合图2图7和表2可知：利用少量数据（12h时钟数据）进行模拟，对未来1h3h的卫星钟差进行预报时，二次多项式模型预报偏差的平均均方差分别为0.27ns和0.53ns；灰色模型预报偏差的平均均方差分别为 0.33ns 和0.29ns；长短时间记忆网络模型预报偏差的平均均方差分别为0.12ns和0.13ns。建模数据量较少时，GM（1，1）模型和LSTM模型的预报性能均好于QP模型，在建模数据量小时GM（1，1）模型具有一定的优势，在建模的数据量增加时LSTM模型的优势会逐渐显现出来。5结语关于GPS卫星钟差的超快预测产品的精度不能达到一定要求的问题，本文给出了基于LSTM模型的钟差预报方法，在建模数量较多时更能展示出优势。与QP模型和GM（1，1）模型相比，LSTM模型大大提高了钟差的预报性能，进一步提高卫星钟差的预报精度，进而增强了导航与定位的准确度。在未来利用更长数据进行建模，进一步验证LSTM模型的预报优势，可以进一步提高钟差预报的性能。参 考 文 献1王强，李烨，袁小迪，等.中国计量院第一套锶原子光晶格钟最新进展 J.计量技术，2020（05）：3-6.2梅刚华，赵峰，祁峰，等.用于北斗三号卫星导航系统的星载铷原子钟特性 J.中国科学：物理学、力学、天文学，2021，51（1）：114-120.3王旭，柴洪洲，石明琛，等.卫星钟差预报模型的分析与比较 J.测绘科学技术学报，2021，38（04）：350-354.4杨承午，刘志平，徐永明.L-M算法优化的灰色模型在GPS卫星钟差预报中的应用 J.河南理工大学学报（自李旻：基于LSTM的GPS卫星钟差预测算法52舰 船 电 子 工 程2023 年第 9 期然科学版），2020，39（02）：47-52.5于烨，张慧君，李孝辉，等.基于GM（1，1）和MECM组合模型的GPS卫星钟差中短期预报 J.天文学报，2018，59（03）：19-30.6 王鑫，吴际，刘超，等.基于LSTM循环神经网络的故障时间序列预测 J.北京航空航天大学学报，2018，44（4）：13.7郑作亚，陈永奇，卢秀山.灰色模型修正及其在实时GPS卫星钟差预报中的应用研究 J.天文学报，2008（03）：306-320.8王宇谱.导航卫星原子钟钟差预报理论与方法研究D.郑州：解放军信息工程大学，2014.9于合理，郝金明，刘伟平，等.卫星钟差超短期预报模型分 析J.大 地 测 量 与 地 球 动 力 学，2014，34（01）：161-164.10马洋锦.矿用馈电开关综合保护与远程监控系统研究D.淮南：安徽理工大学，2021.11Huang Z，Xu W，Yu K.Bidirectional LSTM-CRF models for sequence taggingJ.ArXiv Preprint ArXiv：1508.01991，2015.12Greff K，Srivastava R K，Koutnk J，et al.LSTM：Asearch space odyssey J.IEEE Transactions on NeuralNetworks and Learning Systems，2016，28（10）：2222-2232.13陈卓，孙龙祥.基于深度学习LSTM网络的短期电力负荷预测方法 J.电子技术，2018，47（01）：39-41.版 权 声 明本刊已许可万方数据库、中国学术期刊(光盘版)电子杂志社在中国知网及其系列数据库等产品中以数字化方式复制、汇编、发行、信息网络传播本刊全文。作者向本刊提交文章发表的行为即视为同意我编辑部上述声明。舰船电子工程 编辑部投 稿 指 南1.文稿要求主题突出、论点明确、论据充足、数据准确、层次清晰、文字简练、结论明确，文稿（包括图表）一般控制在4页6页左右。2.文稿内容必须包括中、英文题名、作者姓名（包括汉语拼音）及单位（含城市名和邮编）、中英文摘要、中英文关键词（3个6个）、正文、参考文献和作者简介。3.摘要为200字300字左右，主要反映论文研究对象、研究方法、原理及特点、结果与结论，应尽可能多地给出原文中的定性、定量结果和主要创新内容，并将其译成相应的英文。4.参考文献需12篇以上，其中大部分应为近3年5年出版的期刊或会议论文、论著，并有一定比例的外文参考文献。5.若来稿属基金资助项目，本刊将优先安排发表，请作者在首页注明论文所属项目名称及其编号。6.在文稿结尾处，请注明作者简介，包括姓名、性别、职称、学历或学位、主要研究方向以及E-mail地址、联系电话等信息。7.文稿中的计量单位请采用 中华人民共和国法定计量单位。53