基于改进生成对抗网络的国产民机航材消耗预测方法.pdf

第 卷第 期 年 月系统工程与电子技术 文章编号：（）网址：收稿日期：；修回日期：；网络优先出版日期：。网络优先出版地址：基金项目：国家自然科学基金（）资助课题通讯作者引用格式：曾浩然，冯蕴雯，路成，等基于改进生成对抗网络的国产民机航材消耗预测方法系统工程与电子技术，（）：犚犲 犳 犲 狉 犲 狀 犮 犲犳 狅 狉犿犪 狋：，（）：基于改进生成对抗网络的国产民机航材消耗预测方法曾浩然，冯蕴雯，路成，潘维煌（西北工业大学航空学院，陕西 西安 ）摘要：为解决航材消耗预测影响因素较多、时间相关性复杂、实际消耗样本少等问题，鉴于现有方法难以捕捉小样本航材消耗数据在时间顺序上的逐步依赖关系，提出了基于改进生成对抗网络生成模型和循环神经网络预测模型的航材消耗预测方法。该方法将自回归学习有监督训练与对抗学习无监督训练相结合，进一步挖掘航材消耗数据的潜在静态分布和时态逐步依赖分布，从而生成更加接近真实数据的样本，达到扩充样本量、提高航材消耗预测精度的目的。以某型国产民机部件消耗数据为案例，利用降维可视化方法和预测分数评价模型的生成性能和预测精度。通过与其他方法对比，所提方法预测值的平均绝对误差减少了，验证了所提方法解决航材预测问题的有效性。关键词：国产民机；航材消耗预测；时间序列；生成对抗网络中图分类号：文献标志码：犇犗犐：犛 狆 犪 狉 犲狆 犪 狉 狋 狊犮 狅 狀 狊 狌犿狆 狋 犻 狅 狀犳 狅 狉 犲 犮 犪 狊 狋犿犲 狋 犺 狅 犱犫 犪 狊 犲 犱狅 狀犻 犿狆 狉 狅 狏 犲 犱犵 犲 狀 犲 狉 犪 狋 犻 狏 犲犪 犱 狏 犲 狉 狊 犪 狉 犻 犪 犾狀 犲 狋 狑狅 狉 犽犳 狅 狉犱 狅犿犲 狊 狋 犻 犮犮 犻 狏 犻 犾犪 犻 狉 犮 狉 犪 犳 狋 ，（犛 犮 犺 狅 狅 犾狅 犳犃犲 狉 狅 狀 犪 狌 狋 犻 犮 狊，犖狅 狉 狋 犺狑犲 狊 狋 犲 狉 狀犘狅 犾 狔 狋 犲 犮 犺 狀 犻 犮 犪 犾犝狀 犻 狏 犲 狉 狊 犻 狋 狔，犡犻犪 狀 ，犆犺 犻 狀 犪）犃犫 狊 狋 狉 犪 犮 狋：，犓犲 狔狑狅 狉 犱 狊：；（）第 期曾浩然等：基于改进生成对抗网络的国产民机航材消耗预测方法 引言目前，全球民用飞机领域储存了大约 亿美元的航材，约占航空公司库存资金的。现代航空业库存管理落后于欧美国家，存在紧急缺货和库存长时间积压问题，这直接造成飞机停场和资金积压浪费问题，导致航空公司运营成本常年居高不下，由此凸显航材精确化保障在降低库存管理成本、优化资金分配、提高飞行安全等方面的重要作用。而航材消耗预测准确性是实现精确化保障的基础。随着计算机性能跨越式提升和计算机科学的快速发展，机器学习预测技术逐渐表现出相较前两种预测方法在高维数据分析与挖掘方面的优势，越来越多的学者对比展开相关研究与应用。支持向量机和神经网络作为典型的机器学习方法在预测问题上已取得了大量研究成果。文献利用粗糙集理论在处理不完备信息系统问题上的优势，剔除了冗余的航材消耗影响因素，建立融合了粒子群优化算法的支持向量机航材消耗预测模型。文献利用灰色关联度分析影响因素并引入活性因子和非线性惯性的改进粒子群算法，用以优化支持向量机，实现航材消耗预测。文献利用 优化神经网络模型并输入与航材消耗量相关的个影响因素（共 组原始数据）训练模型，取得了较好的预测精度。文献针对航材消耗数据样本量较少的问题提出使用样条拟合数据以增加样本数，再根据航材消耗特点建立基于反向传播（，）神经网络的备件消耗模型，并验证了模型的可行性。文献利用灰色系统模型的特点优化神经网络模型，提高了神经网络的鲁棒性和学习性能。飞机备件非计划拆换数据是一种典型的时间序列数据，上述研究主要集中在建立消耗量与其影响因素的关系模型，未能充分挖掘时间序列数据在时间维度的潜在相关性。循环神经网络（，）理论的不断发展以及生成对抗网络（，）的提出，为深入挖掘数据时间维度的相关性信息提供了理论基础。由两个神经网络模型交替训练并且不断博弈，从而实现生成十分逼近真实样本的数据，同时也可应用于数据回归预测，已在各个领域得到广泛应用，如图像超分辨率重建、医疗数据生成、金融序列预测、信息安全、异常检测 等。一些衍生模型中也包含了学习时间序列潜在信息的结构：连续（，）的生成器与判别器的构建使用了长短时记忆（，）网络进行，以提高模型对时间序列数据的泛化能力。循环条件（，）同样采用类似的思想以增加潜在逐步依赖分布的学习能力 。本文在以上研究的基础上，从挖掘航材消耗数据潜在时间相关性的角度出发，以提高航材消耗量预测精度为目标，将时序数据特征分为静态特征与时态特征，提出一种基于改进时间序列（）的生成模型和预测模型的航材消耗预测方法。本文充分考虑了航材消耗特点，生成模型用实际消耗时序数据集进行监督训练以学习时间依赖关系，再使用合成消耗时序数据集和实际消耗时序数据集进行无监督训练，以学习时序数据整体分布，引入了联合训练损失，使该方法能够协调无监督训练和有监督训练，能更好地捕捉数据中的逐步依赖条件分布，提高模型生成接近真实数据的能力，从而提高了预测模型的预测准确度。本文主要阐述基于改进时间序列生成网络的消耗数据生成模型方面的研究，通过算例分析对所提出的方法进行了有效性验证。航材消耗特点分析飞机机队航材消耗数据通常由飞机使用方进行统计，通常包括机队飞行数据、维修数据。飞行数据包含各架飞机的空中飞行时间、累计飞行小时数、累计飞行循环等。维修数据包括部件拆换时间、拆换地点、故障描述、处理措施等，各项数据均为典型的时间序列数据，且部件拆换与该部件可靠性设计指标和累计使用时间密切相关。某一部件消耗影响因素主要包含两个维度。（）机队飞机运行架数。飞机运行架数主要受飞机计划停产和定期检查影响，其数值不随时间波动、较为稳定，故可将机队运行架数划分为航材消耗数据的静态特征和时态特征。静态特征和时态特征共同包含了影响航材消耗量的主要信息。（）飞行小时和飞行循环。机队飞行小时、飞行循环随时间的波动变化具有季节性、周期性等特点，故将飞行小时、飞行循环划分为航材消耗数据的时变特征。时变特征中包含了影响航材消耗量的周期性、累计性信息，这些信息是静态特征不具备的。本文以航材消耗数据的静态特征和时变特征为出发点，分别挖掘消耗总体分布与时间逐步依赖分布，航材消耗静态特征和时态特征如图所示。图航材消耗静态特征和时态特征 改进犌犃犖原理本文将时序数据特征划分为两种：静态特征和时态特征。静态特征不因时间大幅改变，其与时态特征共同含有数据的整体分布；时态特征随时间推移而改变，其包含数据时间逐步依赖分布。多维向量犖犑，犑，犑，犛，犛，犛表示时序数据集单样本，其中向量犑犑，犑，犑为个静态特征，向量犛犛，犛，犛由个时态特 系统工程与电子技术第 卷征组成，?，?分别为静态特征向量空间和时态特征向量空间，犑?，犛?。训练样本集犇（犑狀，犛狀，：犜狀）犖狀包含犖条时序样本，狀，犖，每条时序数据包含犜个相邻时刻的静态特征和时态特征。将真实时序数据服从的分布定义为狆（犑，犛：犜），将模型训练后生成的合成时序数据服从的分布定义为狆（犑，犛：犜），模型学习到的逐步条件分布为狆（犑狘犛：犜）狆（犑）狋狆（犛狋狘犑，犛：狋），该分布使得任何时刻上的狆（犑，犛：犜）更接近狆（犑，犛：犜）。将 模型的学习目标分解为整体分布学习目标与时态逐步依赖分布学习目标。整体分布学习目标为：狆（狆（犑，犛：犜）狆（犑，犛：犜）（）逐步依赖分布学习目标：狆（狆（犑狋犑，犛：犜）狆（犛狋犑，犛：狋）（）模型由嵌入网络、恢复网络、时间序列生成网络和时间序列判别网络构成。将自编码网络（前两个）与（后两个）进行联合训练，使得模型实现整体分布、逐步条件学习、静态时态特征生成以及交替训练。其模型结构和各部分功能及联系如图所示。图模型架构、各部分功能和联系 ，嵌入网络和恢复网络嵌入网络和恢复网络的作用，一是对航材消耗数据特征降维，形成低维潜在空间；二是获得特征和隐含空间之间的映射关系；三是在低维特征空间中学习消耗数据集的潜在逐步依赖分布。本文分别使用和带有前馈输出层的双向 构建嵌入网络和恢复网络。?，?犛表示?，犛对应的隐含向量空间，嵌入函数犲：犑狋犛将静态特征和时态特征变换为隐含空间编码犺?，犺：犜犲（犑，犛：犜），犲?：犑犎?和犲犛：?犛犛?分别为静态特征嵌入函数和时态特征嵌入函数。犺?犲?（犑）犺狋犲犛（犺?，犺狋，犛狋烅烄烆）（）恢复函数狉?：?狋?犛?狋犛则与相反嵌入函数功能相反，将隐含空间编码映射到特征空间：犑，犛：犜狉（犺?，犺：犜），狉?：?和狉犛：犎犛犛分别为静态特征和时态特征的恢复函数。犑狉?（犺?）犛狋狉犛（犺狋烅烄烆）（）嵌入网络和恢复网络的训练目标是从隐含空间编码犺犛，犺：犜中更加精确地重建原始数据犑，犛：犜。嵌入网络和恢复网络的目标函数定义为重建损失：?犑，犛：犜犑犑狋犛狋犛狋（）生成网络和判别网络生成网络生成无限接近真实数据整体分布和逐步依赖分布的合成数据，而判别网络则努力区分其输入是否是真实数据。生成网络和判别网络分别通过和带有前馈输出层的双向循环网络实现。犣?，犣犛表示高斯分布的向量空间，从犣?和犣犛中随机取一个静态特征向量和时态特征向量，输入生成函数犵：犣?狋犣犛?狋?犛后生成潜在空间编码犺犑，犺：犜犵（狕?，狕：犜）。犵?：犣?是静态特征生成网络，犵犛：?犛犣犛?犛为时态特征生成网络。犺犑犵犑（狕?）犺狋犵犛（犺犑，犺狋，狕犛烅烄烆）（）判别函数犱：?狋?犛，狋，输入潜在空间静时态编码，输出分类结果狔 犑，狔：犜犱（犺犑，犺：犜）。狌狋犮犛（犺犑，犺狋，狌狋）和狌狋犮犛（犺犑，犺狋，狌狋）分别表示前向和后向隐藏状态序列，犮犛，犮犛为循环函数，犱犑，犱犛为输出层分类函数。狔犑犱犑（犺犑）狔狋犱犛（狌狋，狌狋烅烄烆）（）判别网络，则最大化判别输入数据是否真实的准确性：?犝犑，犛：犜狆 狔犑狋 狔狋犑，犛：犜狆（狔犑）狋（狔狋）（）为了更有效地激励生成网络捕获数据中的逐步依赖条件分布，通过附加最大似然监督损失以约束生成网络，进一步降低了分布狆（犎狋犎犑，犎：狋）和狆（犎狋犎犑，犎：狋）之间的差异：?犛犑，犛：犜狆狋犺狋犵犛（犺犑，犺狋，狕狋）（）图描述了模型训练的机制。训练过程采用 优化器更新网络参数，学习率取 ，训练次数为 ，取，。第 期曾浩然等：基于改进生成对抗网络的国产民机航材消耗预测方法 图 联合训练流程 模型建立 模型主要由门控循环单元（，）构成，单元相比单元简化了网络参数量，提高了网络训练速度，其模型结构详细设置如表和表所示。表嵌入网络、恢复网络、生成网络结构犜 犪 犫 犾 犲犛 狋 狉 狌 犮 狋 狌 狉 犲 狊狅 犳犲犿犫 犲 犱 犱 犻 狀 犵狀 犲 狋 狑狅 狉 犽 狊，狉 犲 犮 狅 狏 犲 狉 犻 狀 犵狀 犲 狋 狑狅 狉 犽 狊犪 狀 犱犵 犲 狀 犲 狉 犪 狋 犻 狀 犵狀 犲 狋 狑狅 狉 犽层数名称参数数值输入层 神经元个数 激活函数 神经元个数 激活函数 神经元个数 激活函数 全连接层神经元个数 激活函数 表判别网络结构犜 犪 犫 犾 犲犇 犻 狊 犮 狉 犻 犿 犻 狀 犪 狋 犻 狀 犵狀 犲 狋 狑狅 狉 犽狊 狋 狉 狌 犮 狋 狌 狉 犲层数名称参数数值输入层 神经元个数 激活函数 神经元个数 激活函数 神经元个数 激活函数 全连接层神经元个数激活函数航材消耗预测实现 基于改进犜 犻 犿犲 狊 犲 狇 狌 犲 狀 犮 犲犌犃犖的航材预测实现流程基于改进 的航材消耗预测实现流程如图所示，具体步骤如下。步骤收集整理航材历史消耗数、飞行小时数、飞行循环，使用位移采样划分出训练样本，对训练样本进行归一化处理；步骤设置网络超参数，将训练样本输入模型进行训练；步骤模型输出航材消耗预测数据；步骤采用评估指标对预测结果进行评价分析。图基于改进 的航材消耗预测实现流程 评估指标无监督训练模型测试常因生成数据没有对应的真实标签而难以用常规指标评价模型性能。本文使用（，）思想建立定量评价方法，辅以可视化降维 （）方法作为定性分析方法，综合评估 模型，解决民机航材消耗预测的时间顺序数据预测问题的性能。（）是一种可视化非线性降维方法，在二维或三维的低维空间中表示高维数据集，主要用于验证无监督学习算法的有效性以及实现可视化。（）预测分数使用评价方法，向几种不同模型输入同一训练样本，分别得到几组生成数据，然后将各组生成数据分别训练一个同架构同初始参数的，再分别向各个训练后的输入真实样本预测下一时间步长的值，计算得到几组预测值绝对误差的均值和方差，共同作为表征模型学习航材消耗数据整体分布和逐步依赖分布能力的评分，评分用表示。绝对误差：犲犻狔犻狔犻（）绝对误差均值：犻犲犻犖（）绝对误差方差：犻（犲犻）犖（）系统工程与电子技术第 卷案例分析 训练数据处理（）划分训练样本某型国产民机机队维修数据包含 年月至 年 月期间机队飞机架数、月飞行小时数、月飞行循环数和主起机轮月拆换次数共 期数据，部分数据展示如表所示。表前起机轮消耗数据犜 犪 犫 犾 犲犉 狉 狅 狀 狋犾 犪 狀 犱 犻 狀 犵犵 犲 犪 狉狑犺 犲 犲 犾 狊犮 狅 狀 狊 狌犿狆 狋 犻 狅 狀犱 犪 狋 犪时间运行飞机架数飞行小时数飞行循环数拆换次数 为使嵌入网络恢复网络学习逐步依赖条件分布，采用位移采样法将维修数据划分训练样本。以表展示数据为例，各样本设置 时间步长，单次位移量为，以 期数据为位移采样起始点，经过次位移采样处理得到组训练样本，分别对应图中黄、绿、蓝和紫框数据。图位移采样法示意图 （）数据归一化将航材消耗训练样本进行最大、最小归一化处理，将训练样本数值转化为，范围内的无量纲值。狓犻狓犻狓 狓 狓 （）预测结果及评估（）图中，蓝点和红点分别表示模型训练某型国产民机前起机轮消耗样本后生成数据的二维空间映射数据和真实数据。通过图可知，模型的红点集与蓝点集有大量重合，表明模型生成数据的分布与真实分布非常接近，具有一定适用性。图 模型 分析结果 （）预测分数本文选用原理类似的 模型和 模型作为对比对象。向 、和 模型输入某型国产民机前起机轮训练样本，分别得到组生成数据，用组生成数据分别训练个双层构成的预测模型，分别向预测输入真实样本预测下一时间步长的值，计算得到组预测值绝对误差的均值和方差，如表所示，加粗项表示性能最好。表不同模型预测分数犜 犪 犫 犾 犲犉 狅 狉 犲 犮 犪 狊 狋狊 犮 狅 狉 犲 狊狅 犳犱 犻 犳 犳 犲 狉 犲 狀 狋犿狅 犱 犲 犾 狊模型预测分数（越低越好）通过表可知，与 以及相比，模型在预测上都有着更好的分数，平均绝对误差降低了，模型学习数据整体分布和潜在逐步依赖分布的能力相比其他模型均有所提高，符合定性分析 的结果，表明 模型在航材消耗时间序列数据潜在信息利用方面有更高的效率。同时，该实验验证了该模型在时间序列预测问题，特别是航材消耗预测问题上有更好的精度。第 期曾浩然等：基于改进生成对抗网络的国产民机航材消耗预测方法 结论本文从时间序列预测的角度对航材消耗预测问题进行了建模，针对航材消耗预测问题影响因素多，常用模型难以捕捉航材消耗数据在时间顺序上逐步依赖关系等问题，提出基于改进 模型，用于民用飞机航材消耗预测，主要特点如下：（）融合了自回归模型有监督训练与对抗学习无监督训练的灵活性。（）基于验证思想，以和 为对比对象，分别从定性与定量的角度对 模型解决航材消耗预测问题的性能进行评价。（）在某型国产民机机队的前起机轮历史消耗数据集上进行实验验证，模型生成数据集分布与真实数据集分布较为接近，预测性能评估分数相较和 的平均绝对误差降低了，表明其有着更好的预测精度。本文通过实验验证了 模型解决航材消耗预测问题的有效性，可为民用飞机航材精确化保障工作提供理论支撑，以达到降低库存管理成本、优化资金分配、提高飞行安全的目的。参考文献谭怡航空维修企业成本管控问题浅析中国市场，（）：，（）：冯蕴雯，陈俊宇，刘佳奇，等民用飞机航材预测与配置管理技术综述航空工程进展，（）：，（）：孙绳山，徐常凯，何亚群基于 的航材消耗预测模型南京航空航天大学学报，（）：，（）：李黄琪，蔡开龙，郝明，等基于 的航材携行需求预测研究航空工程进展，（）：，（）：陈余胜，徐贵强基于人工神经网络的后续航材需求预测研究航空维修与工程，（）：，（）：王艳艳，刘金波，孙志红基于样条神经网络的新机航材备件消耗预测舰船电子工程，（）：，（）：，陈博，徐常凯，任佳成基于灰色神经网络的携行航材消耗预测指挥信息系统与技术，（）：，（）：，（）：，：，：，：，（）：，：，：赵凡，金虎基于的通信干扰波形生成技术系统工程与电子技术，（）：，（）：，：，（）：，：张恩琪，顾广华，赵晨，等生成对抗网络的研究进展计算机应用研究，（）：，系统工程与电子技术第 卷 ，（）：，：，：闫保中，苏邓军基于网络的时间序列预测算法应用科技，（）：，（）：，（）：，（）：作者简介曾浩然（），男，硕士研究生，主要研究方向为飞机运行支持、航材规划管理。冯蕴雯（），女，教授，博士，主要研究方向为飞机可靠性维修性工程、系统工程。路成（），男，博士后，主要研究方向为可靠性分析、维修性工程。潘维煌（），男，博士研究生，主要研究方向为飞机运行支持、航材规划管理。