基于残差神经网络和LSTM的飞行轨迹预测.pdf

总第352期1引言飞机的飞行安全问题是世界各国高度关注的问题之一，容易受到天气、设备、自身完好性、飞行员操纵时机等多个方面因素的影响。对飞机的飞行轨迹进行预测，可以辅助地面工作人员对飞机进行引导，在飞行过程中及时提醒飞行员调整航向，有利于规避空中流量拥堵和飞行事故，对提高飞行的安全性具有重要意义。当前，深度学习迅速发展，卷积神经网络和长短期记忆网络被广泛应用于轨迹预测领域。针对飞机的航迹预测也提出了许多新的方法，李楠等1提出了一种基于反向神经网络的航空器飞行轨迹预测方法，采用模糊C均值聚类对轨迹进行分类，利用BP神经网络对短期飞行轨迹的多维特征进行预测；Xu等2提出了一种Social-LSTM模型用于航收稿日期：2023年4月8日，修回日期：2023年5月15日基金项目：国家自然科学基金项目（编号：91538201）；泰山学者工程专项经费基金项目（编号：ts201511020）；信息系统安全技术重点实验室基金项目（编号：6142111190404）资助。作者简介：方伟，男，教授，研究方向：装备仿真与虚拟现实等。汤淼，男，硕士研究生，研究方向：信息系统仿真与智能处理。闫文君，男，副教授，研究方向：智能信息处理。张婷婷，女，硕士研究生，研究方向：智能空战。基于残差神经网络和 LSTM 的飞行轨迹预测方伟1，2汤淼1闫文君1，2张婷婷1（1.海军航空大学烟台264001）（2.海战场信息感知与融合技术国家级实验教学中心烟台264001）摘要针对飞行轨迹预测精度不足和误差大的问题，提出了将残差神经网络与LSTM结合起来的飞行轨迹预测算法。首先，利用坐标转换将经度、纬度和海拔高度数据转化为飞机在地面坐标坐标系下的位置坐标，再对坐标数据进行归一化处理；其次，通过残差神经网络来读取序列并自动学习内部特征，最后用LSTM来处理数据的时间序列信息。实验结果表明，该模型与LSTM、CNN+LSTM模型相比损失函数、均方根误差和平均绝对误差更小，效果更好，预测轨迹能够反映真实轨迹的航迹变化。关键词轨迹预测；时间序列；残差神经网络；长短期记忆网络中图分类号TP183DOI：10.3969/j.issn.1672-9730.2023.10.010Flight Trajectory Prediction Based on Residual Neural Network andLSTMFANG Wei1，2TANG Miao1YAN Wenjun1，2ZHANG Tingting1（1.Naval Aviation University，Yantai264001）（2.National Experimental Teaching Center of Marine Battlefield Information Perception and Fusion Technology，Yantai264001）AbstractAiming at the problem of insufficient accuracy and large error in flight trajectory prediction，a flight trajectory prediction algorithm combining residual neural network and LSTM is proposed.Firstly，the longitude，latitude and altitude data areconverted into the position coordinates of the aircraft in the ground coordinate system by coordinate conversion，and then the coordinate data are normalized.Secondly，the residual neural network is used to read the sequence and automatically learn the internalcharacteristics.Finally，the LSTM is used to process the time series information of the data.The experimental results show that compared with LSTM and CNN+LSTM models，the loss function，root mean square error and average absolute error of this model aresmaller，and the effect is better.The predicted trajectory can reflect the track changes of the real trajectory.Key Wordstrajectory prediction，time series，residual neural network，long short-term memory networkClass NumberTP183舰 船 电 子 工 程Ship Electronic Engineering总第 352 期2023 年第 10 期Vol.43 No.1042舰 船 电 子 工 程2023 年第 10 期空器的轨迹预测；代翔3提出了一种基于注意力循环网络的 4D 轨迹预测模型来获取轨迹的时空特征，采用正则化的方法对轨迹进行重构，使用长短期记忆网络进行时空特征提取，最后利用注意力机制实现对飞行轨迹的高精度和实时预测；刘龙庚等4提出了基于卷积 LSTM 模型的航空器轨迹预测，用改进的聚类算法处理航迹数据，构建了StackLSTM和基于卷积LSTM的预测模型。张宗腾等5提出了一种双向门控循环单元的无人机飞行轨迹预测方法，分别对三个坐标轴的坐标进行预测得到最终的三维坐标信息，实现对无人机飞行轨迹的精准预测。本文基于飞机平飞改航阶段的飞参数据，提出了将残差神经网络与 LSTM相结合的飞行轨迹预测算法。首先，利用坐标转换将经度、纬度和海拔高度数据转化为飞机在地面坐标坐标系下的位置坐标，再对坐标数据进行归一化处理，由于平飞改航阶段飞机的高度坐标变化不明显，因此仅将归一化后的x、y坐标作为模型的输入。通过残差神经网络来提取时间序列的特征信息，利用长短期记忆网络来实现对降落轨迹的正确预测。在相同的数据集下，与LSTM、CNN+LSTM网络进行比较，损失函数、均方根误差和平均绝对误差叫小，效果较好，预测轨迹也能较好反映原轨迹的航迹变化。2飞参数据预处理本文重点对飞机降落前的平飞改航阶段进行研究，采用的数据为单架飞机在平飞改航过程中各个时刻的飞参数据组成的轨迹点信息，每条飞参数据包括经度、纬度、海拔高度、航向、速度等信息。在平飞改航阶段，飞机要不断调整航向角直至航向稳定对准跑道中央，高度变化并不明显。为降低后续算法的复杂度和计算量，将飞参数据中的经度、纬度和海拔高度（L，B，H）转化为飞机在地面坐标坐标系下的位置坐标（X，Y，Z）。仿真轨迹示意图如图1所示。由于坐标数据量纲过大，因此为了消除不同指标之间量纲和奇异样本数据的不良影响，使得预处理的数据被限定在一定范围内，对数据进行归一化处理，数学表达式如下：x=x-xminxmax-xmin（1）其中，x为经过归一化处理后的样本数据，x为原始的样本数据，xmax、xmin分别为样本数据中的最大值与最小值。-2000-2970-2975-2980-2985-2990-2995-3000-3005-3010Z/mY/mX/m104-4000-6000000.511.52图1平飞改航阶段仿真轨迹3残差-LSTM预测模型3.1残差神经网络残差神经网络（ResNet6）是由何凯明等在2015年提出的，主要是因为传统的神经网络要想获得更好的学习效果只能不断增加卷积层和池化层的层数，但随着网络层数的加深，梯度信息反向传递时梯度值越来越趋近于0（梯度消失）或梯度值越来越大（梯度爆炸），预测结果也会越来越差。残差神经网络可以让神经网络的某些层进行隔层连接，弱化每层之间的强联系，较好地解决了梯度消失和梯度爆炸的问题。ResNet的残差结构如图2所示。图2残差块结构假设残差块的输入为x，一路经过两次加权运算被映射为F(x)，一路通过恒等映射直接跳过本层运算直接连接到下一层与残差映射F(x)相加，最终得到残差块的输出H(x)=F(x)+x，求解残差块的输出H(x)可以转化为求解网络的残差映射F(x)=H(x)-x。3.2长短期记忆网络飞机降落过程中采集的飞参的数据具有严格的时间特性，前后的数据有着明显的相关性。神经网络中的序列模型能够突出数据的前后序列关系，43总第352期不同的顺序，得到的结果也是不同的。循环神经网络（RNN）就是典型的序列模型，它将前部序列的信息处理后，作为输入信息传递到后部序列中去，能够较好地解决具有顺序关系的相关问题，在语音识别7、机器翻译8、自然语言处理9、文本相似度计算10、行为预测等领域得到广泛应用。但普通的RNN前部序列在传递得到后部的同时，信息权重会下降，导致重要信息丢失，存在长期依赖的问题11。长短期记忆神经网络（LSTM）12增加记忆细胞，重点记录前部序列的重要信息，且在传递过程中信息丢失较少，可以有效解决循环神经网络的上述问题。LSTM的网络结构主要由细胞状态、遗忘门、输入门和输出门四部分构成，具体结构如图3所示。图3LSTM网络结构图3中细胞状态是长短期记忆神经网络的核心部分，LSTM通过三个门控单元（遗忘门、输入门和输出门）对细胞状态进行调节，完成信息的删除或添加。利用前一时刻的预测和新的输入信息作出新的预测并将新的预测循环回模型当中。长短期记忆神经网络首先需要通过遗忘门的sigmoid激活函数来决定丢弃哪些信息。t时刻输入xt与t-1时刻的输出ht-1共同作为遗忘门的输入经过 sigmoid操作得到门的输出值ft（数值大小在01之间），ft的大小决定了信息Ct-1是否被删除、完整保留还是部分保留。数学表达式为ft=()Wfht-1xt+bf（2）式中，表示sigmoid激活函数。下一步是给细胞状态添加信息和更新信息。ht-1和xt通过输入门来决定更新哪些信息，通过tanh函数得到候选细胞信息Ct，该信息可能会更新到细胞状态中去用于生成新的信息。数学表达式为it=()Wiht-1xt+biCt=tanh()WCht-1xt+bC（3）之后通过上一层细胞信息Ct-1与遗忘门的输出值ft相乘来忘记部分的旧细胞信息，再与输入门选择更新的部分信息it与候选细胞信息Ct的乘积相加完成新信息的更新，数学表达式为Ct=ft*Ct-1+it*Ct（4）最后将xt和ht-1经过输出门的sigmoid激活函数得到的判断条件ot与细胞状态Ct经过tanh操作后得到的向量相乘最终得到网络的输出ht。数学表达式为ot=()Woht-1xt+boht=ot*tanh()Ct（5）3.3模型建立飞机在飞行过程中产生的飞参数据具有严格的时间特性，本文将飞机在地面坐标系下的x、y坐标归一化处理后作为模型的输入，通过残差神经网络来读取序列并自动学习其内部存在的显著特征，然后用 LSTM 来处理数据的时间序列信息，LSTM具有记忆功能并且内部结构较为简单，能够相对准确地对时间序列进行预测，最后经过一个全连接层来输出未来飞机降落的轨迹特征。网络结构如图4所示。残差神经网络主要由卷积层、残差层、丢弃层和全连接层组成。输入的特征信息经过两个残差模块，每个残差模块都由一个11的卷积层和两个残差单元组成，每个残差单元都包含有两个卷积核大小为22的卷积层，残差单元的结构如图5所示。图4轨迹预测网络结构方伟等：基于残差神经网络和LSTM的飞行轨迹预测44舰 船 电 子 工 程2023 年第 10 期图5残差单元结构卷积层和残差层的作用是完成输入特征信息的提取；丢弃层在卷积层和残差层之后，防止训练过程中发生过拟合的现象；Reshape层将残差神经网络提取到的特征信息维度进行通道数的调整得到长短期记忆网络的输入维度，经过3个LSTM层、丢弃层和全连接层后输出预测结果，全连接层的神经元的数量与预测值的维度相同。模型预测步骤如下：1）获取实验所需数据，利用坐标转换将经纬度数据转化为飞机在地面坐标系下的坐标并进行归一化处理。2）将数据集划分为训练集与测试集。3）建立残差-LSTM网络模型，选取合适的网络参数。4）对网络模型进行训练，利用优化函数对模型进行优化，得到最终的飞行轨迹预测模型。5）对测试集数据进行预测，将输出的预测结果通过反归一化得到坐标数据，建立预测轨迹在三维坐标系下的航迹图。6）对测试结果进行评价和分析。4实验设置4.1参数设置本文采用的数据集是由5300个点迹组成的飞机降落轨迹，将其中的 90%作为训练集，剩余的10%作为测试集。在残差神经网络中，残差块的卷积层的单元数设置为 64，卷积核的大小设置为22。在LSTM网络中，采用3层LSTM去完成飞机降落轨迹预测。训练时将x、y坐标归一化处理后输入模型中，输入序列长度的大小设为6，即轨迹的前6个点作为输入样本来预测下一个轨迹点，迭代训练次数为 100 次，每次输入的样本数设置为64。4.2评估指标本文采用均方根误差（Root Mean Square Error，RMSE）与平均绝对误差（Mean Absolute Error，MAE）作为评价指标来评估飞机的预测轨迹与真实轨迹之间拟合程度。RMSE是真实值与预测值之间差值的平方和的平方根，MAE是真实值与预测值之间绝对误差的平均值。计算公式如下：RMSE=1ni=1n(Ai-Fi)2（6）MAE=1ni=1n|Ai-Fi（7）式中，Ai表示在i时刻的真实轨迹，Fi表示在i时刻的预测轨迹，RMSE与MAE的值越小，说明预测轨迹与真实轨迹之间的误差越小，预测结果越精确。5实验结果与过程分析5.1损失函数比较为了验证本文算法的有效性，将其与 LSTM、CNN+LSTM进行对比实验。将飞机在地面坐标系下的 x、y 坐标归一化处理后分别输入到 LSTM 网络、CNN+LSTM网络和本文算法中，三者采用相同的训练环境与训练参数，训练过程中的损失函数变化对比图如图6 所示。根据图6可知，三种算法的收敛速度相差不大，训练20轮后，损失函数值都基本稳定。LSTM算法的损失函数值为0.123，CNN+LSTM算法的损失函数值为0.127，本文算法的损失函数值为0.112，损失函数为三者中最小的。算法的收敛速度与较小的损失值表明了本文算法要优于其他两种算法。0102030405060708090100训练轮数/次0.1450.140.1350.130.1250.120.1150.11损失函数值LSTMCNN+LSTM本文算法图6损失函数曲线5.2度量误差比较对三种算法的预测结果反归一化后得到 x、y坐标，根据预测坐标值和真实坐标值可以得到均方根误差 RMSE和平均绝对误差 MAE的值，将三者的两个误差值进行对比，对比结果如表1所示。根据表 1 可知，本文算法的 RMSE 值比 LSTM 小了87.31，比CNN+LSTM小了42.18；MAE值仅为8.56，比LSTM小了13.41，比CNN+LSTM小了4.29，预测轨迹点更接近于真实轨迹点，两者间的距离误差更小，得到的预测结果更好，能够满足飞机轨迹预测45总第352期的要求。表1算法误差对比算法LSTMCNN+LSTM本文算法RMSE/m158.36113.2371.05MAE/m21.9712.858.565.3可视化分析为了更好地表明算法的预测效果，对其在测试集上的表现进行可视化分析。利用该模型对测试集进行预测，预测得到的数据为01之间的归一化数据，需要对其进行反归一化从而得到测试集中各轨迹点的x、y坐标数据，加入高度数据后重新建立飞机在三维空间中的飞行轨迹图。图7表示为预测轨迹与实际轨迹在三维坐标系下的曲线图，图中predict表示预测轨迹，actual表示真实轨迹。从图7中可以看出，预测轨迹与真实轨迹的趋势大致相同，能够反映出飞机平飞改航过程中航向的变化，航向稳定后两者基本稳定在同一条线上，更接近于实际轨迹，误差很小。因此，从预测轨迹的三维位置中可以表明该算法能够较为准确地预测飞机的位置信息。-4600-3000-3000.2-3000.4-3000.6-3000.8Z-4800-5000-5200YX104-52001.91.9522.052.1actualpredict图7轨迹预测结果从上述分析中可以得出，本文算法在对飞机在平飞改航阶段的飞行轨迹的预测效果要优于LSTM和 CNN+LSTM算法，预测轨迹能够真实反映真实轨迹的航迹特征，取得了不错的预测效果。6结语本文针对飞机平飞改航阶段飞行轨迹预测精度不足和误差大的问题，提出了将残差神经网络与LSTM结合起来的飞行轨迹预测算法。实验结果表明，该模型的损失函数稳定为 0.112，均方根误差为 71.05，平均绝对误差为 8.56，与 LSTM、CNN+LSTM模型相比，损失函数、均方根误差和平均绝对误差明显更小，预测精度更高，在测试集上的预测轨迹也能较好地反映原轨迹的特征。但算法也有局限性，对单一特征预测效果不好。下一步将优化算法，使其具有更好的通用性并将其应用于降落点的预测上。参 考 文 献1李楠，强懿耕，焦庆宇，等.一种基于反向神经网络的航空器飞行轨迹预测 J.科学技术与工程，2019，19（21）：330-335.2Xu Z，Zeng W，Chu X，et al.Multi-aircraft trajectory collaborative prediction based on social long short-term memory network J.Aerospace，2021，8（4）：115.3代翔.基于注意力循环网络的4D轨迹预测模型 J.电讯技术，2022，62（1）：39-45.4刘龙庚，翟俐民，韩云祥.基于卷积LSTM模型的航空器轨迹预测 J.计算机工程与设计，2022，43（04）：1127-1133.5张宗腾，张琳，汪文峰，等.一种基于双向GRU的UAV飞行轨迹预测方法 J.电光与控制，2022，29（3）：11-15，26.6He K，Zhang X，Ren S，et al.Identity Mappings in DeepResidual Networks J.European Conference on ComputerVision，2016，9908：630-645.7Chen S H，Liao Y F，Chiang S M，et al.An RNN-BasedPre-classification Method for Fast Continuous MandarinSpeech Recognition J.IEEE Transactions on Speech andAudio Processing，1998，6（1）：86-90.8Ashengo Y A，Aga R T，Abebe S L.Context based machine translation with recurrent neural network for English-Amharic translation J.Machine Translation，2021：1-18.9Mohamed M.memory unit for recurrent neural networkswith application to natural language processing J.Neurocomputing，2018，314：48-64.10Neelakantan A，Roth B，Mccallum A.CompositionalVector Space Models for Knowledge Base CompletionJ.Computer ence，2015：1-16.11Bengio Y，Simard P，Frasconi P.Learning long-term dependencies with gradient descent is difficult J.NeuralNetworks，IEEE Transactions on，1994，5（2）：157-166.12Hochreiter S，Schmidhuber J.Long short-term memoryJ.Neural computation，1997，9（8）：1735-1780.方伟等：基于残差神经网络和LSTM的飞行轨迹预测46