高斯变分推理的无人机状态与轨迹估计方法.pdf

云南民族大学学报（自然科学版），（）：收稿日期：基金项目：国家自然科学基金（）作者简介：（），女，硕士研究生 主要研究方向为机器学习与人工智能通信作者：刘久富（），男，博士，副研究员，硕士生导师 主要研究方向为机器学习与人工智能高斯变分推理的无人机状态与轨迹估计方法 ，汪恒宇，刘久富，谢晖，刘向武，王志胜（南京航空航天大学 自动化学院，江苏 南京 ）摘要：针对目前的状态估计算法在面对非线性大批量状态时，存在的误差过大、算法迭代次数过多等问题，通过引入变分推断方法，提出了无人机轨迹的高斯变分推断（，）精确估计方法 该方法首先通过提出基于高斯变分推断的损失函数，将状态估计问题转化为利用数据对后验进行近似的问题 然后，采用牛顿式更新以及梯度下降法的思想对损失函数、均值以及协方差矩阵进行优化迭代 使用该算法对无人机的状态以及轨迹进行估计，仿真结果表明，本算法精度较高 同时，本算法与最大后验估计（，）算法相比，能够有效降低损失函数值，提高轨迹估计的精确性关键词：高斯变分推断；轨迹预测；批量状态估计中图分类号：文献标志码：文章编号：（）状态估计是无人机系统导航的核心部分 状态估计的目标是通过已知的能观测到的状态估计出系统中无法观测到的状态当无人机系统模型参数较复杂、系统参数随着传感器变化而变化，且状态具有非线性、批量化等特点时，传统的状态估计方法存在误差大、算法迭代次数多等缺陷 状态估计可以看作是对非线性系统的识别，可以使用机器学习方法来进行处理 机器学习方法的优点在于不用对估计对象进行精确完整地建模，不考虑对象的运动细节，单纯从数据的角度出发，在估计对象模型以及运动简单时，这种方法能够精确地估计出运动对象的状态，但是当运动对象模型以及运动复杂时，无法进行长期稳定有效的状态估计另一种方法是对运动对象进行概率状态估计，运用卡尔曼滤波、贝叶斯滤波、滤波、粒子滤波、高斯过程回归、最大后验估计（，）和高斯变分推断（，）等方法估计运动对象在空间中移动时的状态 这些方法在点云对齐、位姿图松弛、光束平差法以及同时定位与地图构建等方面得到了重要应用 文献 以及文献 使用循环置信传播对机器人问题进行大规模高斯推断 ，利用 散度（）构建泛函，文献 继续将该方法应用于高斯过程回归 ，但在面对大批量状态时不能保证精确性 针对无人机模型以及系统参数非线性、批量化的特点，框架计算效率高、误差小，缺点是无法估计大批量状态 传统的 方法的特点是初始就确定优化目标的最佳均值和协方差，如果均值维数为 ，协方差矩阵将变为 的矩阵，优化计算复杂度将会大幅提高为了改进 算法使其适用于批量状态估计，将 方法的算法结构结合到 方法中以构建完整的优化迭代算法 改进后的 方法将以小幅增加计算成本为代价，提高批量状态估计的精确性，进而进一步近似完整的贝叶斯后验改进后的 方法通过 散度找到最接近完整贝叶斯后验的高斯近似 与传统的 方法不同，本文将在算法中使用自然梯度下降法对均值以及协方差进行迭代更新，使改进后的 方法能够进行批量状态估计 相比于文献中提到的方法，改进后的 方法因为其在精确性方面有更好的表现，所以将该批量状态估计与轨迹预测方法应用到无人机轨迹预测 中 高斯变分推断批量状态估计方法 损失函数变分推断方法的目的是将真实贝叶斯后验 （）和后验的估计 （）之间的 散度最小化 是希望估计的状态，是已知观测到的状态 假设状态 满足如下所示的高斯分布：（）（，）（）槡 （）（()）（）由于 散度的不对称性，需要选择使用 （）或 （）（）（）（）（()）（）（），（）（）（）（）（()）（）（）（），代表期望 选择 （）的原因是式中的期望是后验估计值 （）的期望，利用该性质为 （）设计的迭代方案能够更加有效地近似后验将公式（）中的 散度写为：（）（，）（）()（）（）（）()是高斯分布的信息熵，（）是常数 将 散度转化为损失函数，定义如下：（）（）()（）公式（）中，（）（，），计算逆协方差矩阵 比直接计算协方差矩阵简便 优化过程损失函数 （）关于高斯参数 和 的导数如下：（）（）（），（）（）（）（）（）（），（）（）（）（）（）（）（）将（）和（）进行比较：（）（）（）（）的泰勒级数展开式如下：（）（）（）（()）（）（()）（）（）()（）（）（），（）（）()（），是优化方案的迭代指数 为了将损失函数 （）最小化，需要选择合适的 以及 对于协方差 ，将公式（）中的导数 （）设为 ，得到：（）（）（）（）联立公式（），使用公式（）的迭代方案后，逆协方差变化量表示为：()（）（）（）()（）（）云南民族大学学报（自然科学版）第 卷使用 方法中的高斯非线性批量状态估计框架以及牛顿式更新求均值 为了确定最小值，对 取导数并令其为 ，使得 的线性方程组转化为如下形式：（）（()）（）（()）（）将 和 的优化方案代入损失函数的损耗近似（）中，得到：（）（）()（）（）（）()（）当满足 和 不都为 ，且关于 和 的导数不都为 时，（）的损耗将在迭代过程中减少 自然梯度下降法更新使用自然梯度下降（，）更新 和 ，该方法利用信息的效率比常规的梯度下降法更高 （）运算符将变分参数集中到单个列向量 中，将矩阵转化为向量：()，()（）（）（）（）()（）（）是损失函数 （）关于 的梯度 将 更新方案定义为：（）（）是变分参数 的 信息矩阵 结合公式（）、（），得到：()()（）（）()（）是克罗内克内积 将单个更新提取：（）（）()()（）()（）根据 （）（）（），得到更新：（）（）（）（）最终，将迭代更新方案表示为：（）（），（）（）（）其中，一直增加，直到损失函数相比于前一次迭代的值下降为止 实验仿真与分析 无人机动力学模型在实际飞行中，无人机的运动模型具有连续性以及非线性的特点，对其进行轨迹估计的前提是对无人机的运动参数进行状态估计即对无人机的位置、速度以及对应的加速度进行状态估计为提升状态估计与轨迹估计的精度，首先对无人机进行建模，假设无人机模型满足如下条件将无人机视作刚体，忽略旋翼旋叶的振动以及产生的形变；第 期 ，汪恒宇，刘久富，等：高斯变分推理的无人机状态与轨迹估计方法将无人机机身视作绝对对称，质量均匀的物体，同时重心与坐标原点重合；忽略地面效应作用在无人机上所产生的影响；忽略地球的自转，重力加速度保持恒定，将地面坐标系视作惯性坐标系在惯性坐标系 中，假设无人机位于空间内任意一点，坐标为 ，欧拉角为 ，其动力学方程式为 ，（），（），（）式中，表示无人机速度；，分别表示无人机切向过载以及法向过载；表示重力加速度，取 无人机结构参数与力学常量如表 所示，包括无人机的质量、轴半径、轴、轴以及 轴的转动惯量表 无人机结构参数与力学常量质量 轴半径 轴转动惯量（）轴转动惯量（）轴转动惯量（）无人机轨迹精确估计为了评估 方法在轨迹估计方面的性能表现，将无人机作为研究对象对其进行轨迹预测 本实验将无人机飞行高度进行锁定，可以看作定高飞行在轨迹估计实验中，需要测量无人机的位置信息以作为真实值来与估计值进行对比，所以本文采用惯性导航元件 定位系统来对无人机进行定位，采集无人机的位置；以及读取无人机姿态角信息获取无人机姿态 除此之外，无人机的状态是进行估计的必须数据集，包括无人机的速度、以及角速度，本文通过无人机地面站 对应通道的传感器读取相应的数据整个数据集包含 ，个时间步长，将其分为 个子集，每个子集包含 ，个时间步长需要估计的状态为，（）其中，是无人机状态，对 个子集都有 ，分别是无人机在 轴、轴的位置以及无人机偏航角；，分别是对应的速度以及角速度对于无人机状态的线性先验因子，有以下形式：（）（），（）（），（）云南民族大学学报（自然科学版）第 卷其中，()，（，）（）是离散时间采样周期，是功率谱密度，是各个量对应的方差无人机非线性里程因子是（）（），（）其中，（，），（）包括无人机的前向速度、侧向速度以及偏航角速度；，是测量噪声方差状态 数据的联合似然函数 （，）（）将此似然函数代入式（）组成损失函数进行迭代（）轴误差 轨迹估计精度对比分析为了验证 方法在无人机轨迹估计方面的性能表现，实验结果如图 、图 所示图 展示了实验中 方法以及 方法预测轨迹中 轴、轴以及偏航角 相较于真实位置的误差 图 （）中 方法估计出的 轴位置在 、以及 处误差（）轴误差达到了 ，方法估计出的 轴位置误差基本小于 ，并且波动更小；图 （）中 方法估计的 轴位置在 、以及 时误差达到 ，而 方法仅在 时出现较大误差，为 ，且波动较小；图（）偏航角 误差图 位置以及角度误差（）中 种方法估计偏航角均在 时出现了较大误差，达到了 ，其余时间表现几乎相同，原因是在无人机转弯时各参量变化较大且变化速度较快，影响了估计的精确性 综合图 的实验结果，方法在轨迹估计时比 有更好的精确性图 表示了实验中 方法与 方法估计的轨迹与真实轨迹，实线为真实轨迹，虚线为 方法估计出的轨迹，点线为 方法估计出的轨迹 方法估计的轨迹更加接近真实轨迹，方法估计的轨迹偏离真实轨迹更多 在真实轨迹出现较大弯曲处，方法估计的轨迹偏离真实值更多无人机轨迹估计实验中损失函数值与迭代次数的标准箱线图如图 所示第 期 ，汪恒宇，刘久富，等：高斯变分推理的无人机状态与轨迹估计方法图 方法与 方法估计出的轨迹与真实值比较结果图 中实线箱线与虚线箱线分别为无人机轨迹估计实验中 方法与 方法的损失函数值及迭代次数 图 （）中 方法与 方法损失函数上边缘值分别为 和 ，上四分位值分别为 和 ，中位数分别为 和 ，下四分位值分别为 和 ，下边缘值分别为 和 对比数据得到 方法的损失函数值小于 方法，方法能使损失函数收敛于更小的值 图 （）箱线表示了 方法相比于 方法需要多迭代 次才能达到收敛，原因是为了保证轨迹估计的精确性，方法的计算复杂度有所增加，综合图 、图 以及图 ，计算复杂度增加带来的精确性提升是明显且有效的（）损失函数值（）迭代次数图 无人机轨迹估计实验中 与 的损失函数值以及迭代次数 收敛性分析针对损失函数 （），方法与 方法分别在非线性模型中进行数次迭代后的收敛性如图 所示图 与 方法的收敛性分析图 中实线与虚线分别为为 方法与 方法的损失函数值 在前 次迭代中，条曲线斜率相同，收敛速度相同；第 次迭代结束后，方法的损失函数值为 ，方法的损失函数值为 ；在第 次迭代时，方法已经达到收敛，方法在进行到第 次收敛时达到收敛，说明了 方法的收敛性更好，收敛速度更快 结语）采用自然梯度下降法对 方法进行改进，实现了对非线性系统进行批量状态估计的目标）针对无人机运动模型进行轨迹估计实验，并且将 方法与 方法的性能表现相比较，证明了 方法能对无人机进行轨迹估计，并且实验结果证明了 方法的精确性相比于 方法有较大优势）针对无人机运动模型进行收敛性分析，结果表明 方法比 方法有更好的收敛性）本文算法是在 框架下的状态估计算法，在无人机轨迹精确估计方面有较好的性能表现 但是由于该算法的计算较为复杂，所以要达到较为精确的轨迹估计需要更多的迭代次数以及更长的计算时间，相比于 方法，这是 方法的劣势所在，为了解决这一问题，在今后的研究工作中，拟通过利用逆协方差矩阵的稀疏性来达到简化计算的目的参考文献：，（），：云南民族大学学报（自然科学版）第 卷 ，：，：马彪，周瑜，贺建军 面向大规模类不平衡数据的变分高斯过程分类算法 大连理工大学学报，（）：，：，：，（）：，（）：，（）：卫昱含，及春宁 基于高斯过程回归的机器学习方法在圆柱流致振动数值模拟中的应用 水动力学研究与进展，：，：，：，（）：黄亚东 基于目标轨迹估计的无人机航路规划方法 西安：西安电子科技大学，：程媛，迟荣华，黄少滨，等 基于非参数密度估计的不确定轨迹预测方法 自动化学报，（）：，（）：张悦 基于概率模型的运动轨迹状态估计方法及应用研究 哈尔滨：哈尔滨工业大学，马阳 基于手机内置传感器的室内目标运动轨迹估计方法研究 西安：西北大学，：云超，李小民，郑宗贵，等 中小型无人机建模分析与仿真研究 计算机仿真，（）：郑涛 无人机系统的仿真建模研究 西安：西北工业大学，：，（，）：，（），（），：；（责任编辑段鹏）第 期 ，汪恒宇，刘久富，等：高斯变分推理的无人机状态与轨迹估计方法