基于残差修正CNN-BiLSTM的空中目标航迹短期预测算法.pdf

（）指挥控制与仿真 引用格式：王硕，吴楠，黄洁，等基于残差修正 的空中目标航迹短期预测算法指挥控制与仿真，（）：，（）：基于残差修正 的空中目标航迹短期预测算法王 硕，吴 楠，黄 洁，王建涛（信息工程大学，河南 郑州）摘 要：针对因深度学习自身局限性和递归预测策略产生的累积误差，导致航迹预测精度不高的问题，提出了一种基于残差修正 的空中目标航迹短期预测算法。首先，引入卷积模块用于提取航迹数据之中具有潜在关联的空间位置特征，利用双向长短时记忆网络提取航迹数据中的时序特征，并实现对空中目标的实时单步预测和多步超前预测；其次，引入整合移动平均自回归为残差修正模型，对实时单步预测产生的残差建模，计算混合神经网络模型多步超前预测时的残差值；最后，将混合神经网络模型和残差修正模型的输出结果进行融合，得到最终的航迹预测值。实验结果表明，该算法大大降低了神经网络因自身局限性产生的误差和因递归策略预测产生的累积误差，能够显著提高空中目标航迹短期预测的精度。关键词：残差修正；短期预测；中图分类号：；文献标志码：，（，）：，：；收稿日期：修回日期：作者简介：王 硕（），男，硕士研究生，研究方向为目标信息获取与处理。吴 楠（），男，博士，讲师。航迹短期预测是通过推理计算预测空中目标未来十分钟内的三维位置（经纬高），提供精确的空中目标飞行轨迹的过程。高精度的航迹短期预测在指挥决策系统中具有重要的意义，通过对空中目标的预测航迹与真实航迹的对比，在军事上有助于判断目标的作战意图，辅助指挥决策系统做出有利的判断；在民用上可以用于避撞预警、异常检测、冲突检测与解脱等应用，保障空中交通的安全运行。目前针对航迹短期预测主要有 种方法：基于状态估计模型、基于空中目标动力学模型以及基于深度学习模型。基于状态估计模型的预测方法，汤新民等提出了一种多模式交互的航迹短期预测算法，利用多个运动模式去匹配空中目标的飞行状态；张军峰等提出了一种改进的交互式多模型算法（，），重新定义了似然函数来完成空中目标飞行模式概率的更新，消除 算法中模式集合的不完备性，以便及时地检测目标飞行模式转换，提高航迹预测精度。但是该方法在飞行模式检测时仍存在一定的滞后性。另一方面，虽然基于状态估计模型的方法可以对未来时刻空中目标可能会出现的位置进行估计，但是该方法考虑的因素过多，如风速、风向、气温以及驾驶员的实际操作习惯等，当缺乏这些影响因素的数据时，不利于实现短期航迹的精确预测。王 硕，等：基于残差修正 的空中目标航迹短期预测算法第 卷而基于空中目标动力学模型主要是将空中目标看作一个质点，构建其飞行时的运动模型，对目标未来的短期航迹进行预测依赖动力学公式完成，其中程序化建模方法（，）应用最为广泛。等提出了一种基于随机混合系统模型的空中目标跟踪和预计到达时间预测算法，推导了空中目标多种飞行状态的非线性动力学模型，利用连续状态转移概率对飞行模式之间的离散转移进行建模，进而完成目标未来时刻位置的预测。但基于动力学模型的预测方法的通用性不足，对于机动性较强的空中目标建立空气动力学模型比较困难，且对每一种飞行状态都建立动力学模型的计算复杂度高，不易于实现实时地预测未来航迹。利用深度学习模型的空中目标航迹短期预测方法，主要是借助神经网络能够在大量历史航迹数据中学习到数据之间潜在关联的能力。为了提高实时航迹的预测精度，石庆研等提出了一种在线更新的长短时记忆（，）网络预测目标短期航迹，能够实时预测目标未来时刻点的位置；刘珊珊等提出了一种混合深度学习网络模型预测目标航 迹，综 合 利 用 了 卷 积 神 经 网 络（，）和双向长短时记忆网络（，）各自的优点，预测船舶未来的航行轨迹；同样，刘龙庚等提出了一种卷积 的混合神经网络模型。但是由于神经网络模型自身存在局限性，例如网络训练的精度限制以及参数设置等，误差不可避免地存在，降低网络模型的预测精度。针对上述问题，作者提出了一种具有残差修正混合神经网络模型的空中目标航迹短期预测算法，以降低神经网络因自身局限性所产生的残差。该方法综合利用了整合移动平均自回归模型（，）和 网络来提高空中目标航迹短期预测的精度。混合模型相关理论 混合模型由 模块和 模块组合而成。模块主要作用是提取航迹数据之间的潜在空间位置特征，提高输入数据的有效性；模块负责空中目标航迹数据中时序特征的提取。模块卷积神经网络（，）模块的主要结构由卷积层、池化层以及全连接层组成，如图 所示。本文主要用到 模块的卷积层和池化层，通过卷积计算和降采样处理实现航迹数据中潜在特征的提取。图 网络基本结构 卷积层的功能是对输入数据进行位置特征提取，内部包括多个具有稀疏连接和参数共享功能的卷积核，这使得卷积层所需要学习的参数数量大幅减少的情况下，仍可以提取丰富的特征。池化层中采样模式为平均池化，平均池化层通过将卷积层输出的特征向量划分为矩形池化区域并计算每个区域的平均值来执行下采样，进一步体现提取的特征向量。模块 单元的基本结构由两个 组成，一个负责正向输入运算，一个负责反向输入的运算，能够同时获得正向和反向两个方向上的信息，有效减少提取数据时序特征时丢失有用信息量，这样可以提高预测结果的精度。所以采用 获取两个方向上航迹数据的时序特征。是传统循环神经网络（，）的优化版本，可以解决 在误差反向传播时的梯度消失或爆炸的问题，能够捕获时间序列数据中长期依赖关系，提高网络的学习效率。网络结构如图 所示，比 多了 个控制门机制，分别为遗忘门、输入门、输出门。遗忘门作用是选择或遗弃部分信息，使得 可以克服梯度消失和梯度爆炸问题，具有长期记忆的能力，其表达式如式（）所示；输入门和输出门负责信息的输入和输出，其表达式分别如式（）和式（）所示。图 模型结构 第 期指挥控制与仿真 前向传递算法如公式（）（）所示。（，）（）（，）（）（，）（）（）（，）（）（）（）式中，表示两个元素向量连接，实现维度延伸；表示矩阵乘法；表示矩阵中的每个元素对应相乘，为函数，为双曲正切激活函数，为细胞状态，表示短时记忆；代表权重系数；代表偏置，代表网络的输出。模块的结构如图 所示，输出，（）式中，为前向隐藏层在每个时刻的输出值，在前向网络层中随着顺序时刻从前往后计算一遍所得；，为后向隐藏层在每个时刻的输出值，在后向网络层中随倒序时刻从后往前计算一遍。最后根据式（）输出前向网络层和后向网络层在每个时刻的综合输出。图 模型结构 混合模型本文预测算法中 混合神经网络模型的主体结构如图 所示。首先，算法利用 模块对输入数据进行位置特征提取，并在卷积层后加入了批归一化处理层（，），用来加快卷积神经网络的训练并降低对网络初始化的敏感性，激活函数选用指数线性单元（，），以实现卷积输出的非线性变换；其次，通过 模块进行时序特征学习，该模块由 层和 层组成；最后，通过训练集建立输入输出之间的规律之后输出航迹的预测结果。残差修正 网络模型 残差修正模块影响空中目标航迹预测精度有多种因素。数据质图 混合神经网络模型结构 量的好坏对模型的输出有很大的影响，所以需要对原始航迹数据做预处理，剔除数据中的野值、填补空缺值，以提高数据质量。此外，由于网络模型自身的局限性，如网络训练精度限制以及参数设置，误差同样不可避免地存在。针对后者产生的误差，作者提出了基于 的残差修正策略。模型是时间序列预测传统算法，由自回归移动平均（，）模型优化所得。模型包括自回归过程（）和移动平均过程（）和差分模型（），将预测目标随时间推移而形成的残差序列视为一个随机序列（），并构建合适的数学模型来近似描述（），前提是该序列是平稳的。模型可表示为 （）（）模型在 的基础上可表示为（，）（）（）（）（）式（）（）中，为训练 模型时使用的滞后观测数目（滞后阶数）；为移动平均窗口的大小；，为自回归系数，为移动平均系数；为白噪声序列；为差分因子，为序列差分的阶数。残差修正模型的实现包括以下步骤：王 硕，等：基于残差修正 的空中目标航迹短期预测算法第 卷）判断残差序列是否平稳。根据 检验（）和 检验原理，检验残差序列的平稳性；）非平稳序列的平稳化处理。非平稳序列会存在一定增长或下降趋势，如果残差序列是非平稳的则需要对残差序列进行多阶差分处理，直至序列平稳为止；的取值根据序列平稳时做了几阶差分决定；）模型定阶。根据序列的自相关函数和偏自相关函数选择滞后阶数 和移动平均阶数；）参数估计。利用最大似然估计 模型的参数；）假设检验，判断残差序列是否为白噪声，如果不是白噪声则认为步骤）选定的参数不可取，然后返回步骤）重新定阶，直到满足残差序列的白噪声检验；）模型预测。利用已通过检验的模型进行残差预测分析。航迹短期预测算法模型空中目标航迹短期预测算法模型由 混合神经网络和残差修正模型 结合而成。模块负责提取目标航迹数据之间的特征向量；模块负责获取航迹数据之间的长期依赖关系；模块负责模型预测时残差预测分析；个模块相互作用，提高空中目标航迹预测的精度。航迹短期预测算法框架如图 所示。图 航迹短期预测算法框架 首先将归一化处理后的历史航迹数据输入 模型中训练学习，建立输入输出特征之间的规律。然后 把 实 时 航 迹 数 据 集 输 入 训 练 好 的 模型中，设定好网络模型每次读取数据的窗口值，即用测试集中 个航迹值预测第（）个航迹点；然后窗口后移，算法接收到第 个真实航迹值，输出第（）个预测值；以此类推，直到不再接收新的真实航迹值，得到一组单步实时预测的航迹值。该组预测值与真实值之间存在一定的预测误差，也是一组时间序列，即（）；最后，用 模型对（）进行建模，计算 模型在不接收真实航迹值的情况下产生的多步超前预测误差，并将该预测误差与 模型的多步超前航迹预测值相加，作为最终的预测结果。仿真实验分析 数据来源和数据预处理 数据来源本文在 的环境中分别对民航客机和军用飞机做了验证。实验数据来源于公开网站，该网站提供了军机、民航等多种空中目标的航迹数据，可为航迹预测研究提供数据支撑。实例：民航客机 在 年 月 日至 月 日期间从机场 到机场 的历史数据，共 条航迹、条记录，将前 条的数据作为训练集，第 条的飞行数据作为测试集。实例：某型军用空中目标在 地区 年 月 日至 月 日期间的历史航迹数据，共 条航迹、条记录，前 条数据作为训练集，第 条的飞行数据作为测试集。航迹数据结构可表示为：（，）（）（，），（）式中 为第 条完整的目标航迹的时间和三维位置信息，表示总的航迹序列条数，表示每条航迹序列中的第 个航迹点。数据归一化处理为了降低量纲和取值范围对模型性能的影响，在模型训练之前，首先采用 方法对航迹数据进行归一化处理：（）式中，、分别为航迹数据每个维度上的最大值和最小值，为归一化处理后的数据。归一化处理可以实现在消除数据间量级影响的同时不破坏数据之间存在的潜在关系。第 期指挥控制与仿真 模型评价标准与超参数设置 评价标准为了分析网络模型的预测精度，比较预测值和真实值之间的偏差，选用均方根误差（，）和平均绝对百分比误差（，）来评价各个维度上模型的预测精度。能够衡量预测值与真实值之间的误差，常用来作为深度学习模型预测结果的衡量标准，表达式如式（）所示。是一种相对误差度量值，使用绝对值可以避免正负误差相互抵消的问题，能够比较网络模型预测的准确性，表达式如式（）所示。（，）（），（）式中，为真实航迹值，为预测航迹值，为预测的未来航迹点数。和 的值均是越小越好，值越小说明预测值越接近目标的真实值，精度越高。超参数设置本文模型选择 优化算法，初始学习率为，每次迭代将学习率降低 倍，迭代 次，每次训练迭代中的小批量大小为，权重衰减因子为，梯度平均衰减率为 。每次读取数据窗口大小 为待定参数（与多步超前预测的步长一致）。模块中卷积核滤波器的深度为，为，步长为，设置为，采用 函数作为激 活 函 数，平 均 池 化 层 的 大 小 为，步 长 为。的隐藏单元数为，随机丢失率设为 ，防止出现过拟合的现象。对比实验为了验证残差修正后的 模型的有效性，本文搭建了、分别对两个实例数据进行预测，并对比分析了实验结果。残差序列平稳性分析由于 残差修正模型的输入只能为平稳的时间序列，所以需要将网络模型输出的残差序列做平稳性分析。如果残差序列不平稳，则进行多阶差分处理，直到序列平稳，并记录差分的阶数。图 分别为是对实例 做 步超前预测时的纬度、经度和高度方向上的残差序列平稳性分析。图 纬度方向残差平稳性分析 图 经度方向残差平稳性分析 王 硕，等：基于残差修正 的空中目标航迹短期预测算法第 卷图 高度方向残差平稳性分析 由图可知，无论在哪个维度上、空中目标的飞行状态是否急剧变化，网络模型产生的残差值均为非平稳序列。利用 检验值和 检验值作为序列平稳性的判定依据，当 ，时序列才是平稳的，如果不是上述结果组合，则继续差分。在实例 中，纬度和高度方向上均做了两次差分才使残差序列平稳，此时 模型中 ；在经度方向上只做了一次差分序列就趋于平稳，那么。模型修正后实验结果对比图 为经残差修正后四个模型对于实例 经纬高 个方向上预测结果的平均绝对误差值，图 为经残差修正后 个模型对于实例 经、纬、高 个方向上预测结果的平均绝对误差值。图 模型修正后的平均绝对误差对比（实例）（）对空中目标未来 个时刻点的位置进行预测，以 数据中航迹点之间的最大间隔 为标准，个时刻点间隔为 。随着预测步长的增加，累积误差增大，但修正后的 网络模型的预测误图 模型修正后的平均绝对误差对比（实例）（）差要小于其他 种模型。尤其在实例 中，的最大误差仅为 ，考虑到目标自身的大小，该误差在空中目标的可达区域的范围之内。表 和表 分别为两个实例在经纬高 个维度上的 和，标黑的字体为最小值。从实验结果可知，模型的预测结果优于其他 种网络模型，有更高的精度和泛化能力。模型修正前后误差对比在实例 的基础上验证了残差修正前后 模型的结果的优劣，预测步长为 步，网络模型的参数相同。在纬度、经度和高度方向上的对比结果如图 中）、）、）所示。由图 中）、）以及）可知，修正后的空中目标航迹预测结果的精度大幅提高，更加逼近空中目标的真实航迹，在纬度方向上修正后的最大误差仅为 ，换算为距离为 ，经度方向上最大误差为 ，高度方向上最大误差为 。进一第 期指挥控制与仿真 步证明了本文所提出的基于残差修正的 模型的有效性。表 模型修正后 和 对比（实例）（）评价标准 表 模型修正后 和 对比（实例）（）评价标准 不同预测步长下误差对比由于递归策略预测未来多个时刻点的位置，误差会随时刻点的增加而累积，不利于精准预测目标可能会出现的位置，所以需要确定预测空中目标未来多少个时刻点的位置较为合适。由表 可知，随着预测步数的增加，累积误差越来越大，未来每一时刻点的值，都受到前几个时刻点的影响。预测步数越长，用到的真实值就越少，从而出现用模型输出的预测值继续预测空中目标未来时刻点的位置问题，这是误差越来越大的根本原因。所以选择合适的预测步长，是递归策略预测目标位置的关键。步长太短，则不具备显示意义；太长，则误差过大，不利于指挥决策系统做出有效的判断。表 修正前后，不同预测步数的绝对误差值 步数（）（）针对预测误差和现实意义两个方面考虑，选择预测步长为 步，可以预测未来 空中目标可能会出现的位置，符合航迹短期预测的时间要求。图 中）、）以及）分别为未来步长 步空中目标在纬度、经度、高度 个维度上，种模型的预测航迹对比。由图 可知 模型和 模型在经纬高三个 方 向 上 误 差 都 很 大；模 型 与 模型相差不多，但 模型要略优于前者，比其他三种模型的预测精度高，更加逼近真实航迹，能够适用于空中目标三维空间位置的多步超前预测。结束语为了提高空中目标航迹短期预测的精度，本文提出了一种基于残差修正 算法。首先利用 模块提取输入航迹数据之间的位置特征；其次，送入 模块中继续挖掘航迹数据之间的时序特征；最后，利用 模型对该混合神经模型输出的结果加以修正，得到最终的预测航迹。实验结果表明，修正后的 的预测精度被大幅提高，且 模型要优于对比实验中的其他模型。研究人员下一步拟采用多变量预测的策略，探索更优的空中目标航迹预测算法。王 硕，等：基于残差修正 的空中目标航迹短期预测算法第 卷图 模型修正前后对比 参考文献：，：，：吕小平 中国民航新一代空中交通管理系统发展总体框架 中国民用航空，（）：图 四种模型预测 步结果对比 ，（）：徐正凤，曾维理，羊钊 航空器轨迹预测技术研究综述 计算机工程与应用，（）：，第 期指挥控制与仿真 ，（）：汤新民，李腾，陈强超，等 基于交互式多模型的短期 航迹预测 武汉理工大学学报：交通科学与工程版，（）：，（），（）：，（），（）：，：，：，（）：，（）：蒋通，崔良中，刘立国，等 基于聚类分析和 的舰船航迹预测方法 计算机仿真，（）：，（）：，陈玉立，佟强，谌彤童，等 基于注意力机制和生成对抗网络的飞行器短期航迹预测模型 计算机应用，（）：，（）：胡丹，孟新，路帅，等 一种并行 模型在船舶航迹预测中的应用 控制与决策，（）：，（）：石庆研，王文青，韩萍 基于在线更新 网络的短期 航迹预测算法 信号处理，（）：，（）：刘姗姗，马社祥，孟鑫，等 基于 和 的船舶航迹预测 重庆理工大学学报：自然科学，（）：，（），（）：刘龙庚，翟俐民，韩云祥 基于卷积 模型的航空器轨迹预测 计算机工程与设计，（）：，（）：梁天宇，高永，刘军民，等 基于误差修正 神经网络的无人机航迹预测 工程数学学报，（）：，（）：杨明，丁婷婷，于一潇，等 一种基于误差修正的短期风电功率集成预测方法及系统 高电压技术，（）：，（）：，：，（）：（责任编辑：胡前进）