基于对抗式域适应网络的气体传感器漂移补偿算法_任青颖.pdf

第 卷 第 期 年 月传 感 技 术 学 报 .项目来源：国家自然科学基金项目（）；江苏省自然科学基金项目（）；南京邮电大学教改课题项目（）收稿日期：修改日期：，（，；，；，）：，：；：基于对抗式域适应网络的气体传感器漂移补偿算法任青颖，张 钰，蔡炜铭，唐玉林，薛 梅，（南京邮电大学，电子与光学工程学院，江苏 南京；南京邮电大学电子科学与技术国家级实验教学示范中心，江苏 南京；南京邮电大学信息电子技术国家级虚拟仿真实验教学中心，江苏 南京）摘 要：气体传感器漂移现象严重限制了其广泛应用。为降低漂移问题对气体传感器工作性能的影响，提出一种基于对抗式域适应网络的漂移补偿方法。该方法将域适应学习和对抗学习相结合，利用关联对齐（，）距离对齐源域和目标域的数据分布，从而使得源域样本训练的分类模型可以更好地在目标域样本上使用。利用该算法在公开数据集上进行漂移补偿实验，其识别气体的平均精度达到了，表明该方法可以有效补偿气体传感器的漂移，提高传感器的可靠性。关键词：漂移补偿；域适应；对抗学习；气体传感器；电子鼻中图分类号：文献标识码：文章编号：（）气体传感器在生产生活的各个领域具有广泛的应用，如：环境监测、医疗卫生、食品安全以及航空航天等。电子鼻系统是气体传感器阵列与模式识别的结合，克服了单一传感器对气体种类、浓度等信息无法自动识别的困难，使得气体检测更加智能化。气体传感器作为电子鼻的重要组成部分，往往会由于外界环境（如温度、湿度等）变化，以及传感器自身老化等问题，而出现漂移现象，即传感器响应偏离基准值，这会导致后续的模式识别结果不准确。这种现象是不可避免也是不容忽视的，因此，对气体传感器进行漂移补偿，以获得更稳定、更可靠的输出结果具有重要意义。目前，常用的补偿方式有两种：一种是从硬件角度出发，优化传感器结构或气敏材料；另一种是利用模式识别算法对漂移信号进行校正。第二种方法较第一种更加灵活，是目前较为热门的补偿方式，等将 分类器与循环神经网络结合，提高了模型对长期漂移的补偿能力。等采用局部线性嵌入的方法对高维数据进行降维，并利用循环神经网络作为分类器，提高了模型的准确率和稳定性，缩短了响应时间。等提出域正则化成分分析法，将源域和目标域映射到相同特征子空传 感 技 术 学 报第 卷间，以提高数据分布一致性，从而改善了分类器在漂移样本的识别效果。本文基于迁移学习的思想，提出一种对抗式域适应网络（），将关联对齐（，）距离作为域间差异的度量，以对抗的训练方式减小该距离，提高域间分布一致性，进而使得电子鼻系统在传感器发生漂移的情况下也可以稳定地输出识别结果。域适应漂移补偿方法受各种因素影响，使用相同测量设备采集到的传感器响应数据也难免存在差异。传统的机器学习假定训练集和测试集满足独立同分布，由于传感器漂移导致分布差异，先前训练的模型在测试时准确率下降，模型泛化能力也会降低。域适应方法是一种在训练集与测试集不满足独立同分布条件下的机器学习技术，将训练集和测试集分别作为源域和目标域，域适应学习可以有效解决源域和目标域概率分布不一致的问题。鉴于这一优势，基于域适应的漂移补偿方法逐渐成为气体传感器漂移补偿领域的主流。如基于域分布差异的漂移补偿方法，该方法通常会引入衡量域间分布差异的准则，并将其加入模型的损失函数，经过模型的训练，实现域间分布差异最小化。等在该思想的基础上提出一种基于“搬土”距离（）的漂移补偿方法，提高了模型的识别准确率。此外，还有基于子空间学习的方法、基于域重建的补偿方法等。本文提出的 网络结合了领域分布差异补偿方法和对抗学习，自适应地实现传感器的漂移补偿。对抗式域适应网络的构建方法 域对抗神经网络生成 对 抗 网 络（，）由 等在 年提出，该网络由两部分组成，分别为生成器和判别器。生成器生成的样本要尽可能混淆判别器，而判别器则要尽可能分辨出生成器样本和真实样本，两者互相对抗。年，等将对抗的学习方式加入到域适应训练中，提出域对抗神经网络（，），其结构如图 所示。网络采用带标签的源域样本和不带标签的目标域样本进行训练，该模型的目标是提取域不变特征。在该模型中生成器变为特征提取器（），判别器变为域分类器（）：特征提取器提取的特征要使得域判别器无法判别出其属于源域还是目标域，域判别器则要尽可能准确地分辨出特征的域标签，两者相互对抗。此外，这些特征也要用来区分样本类别，即同时实现标签分类器（）的损失函数最小化，域分类器（）的损失函数最大化。图 模型结构 关联对齐距离关 联 对 齐 距 离（，）是无监督域适应学习中常用的域间距离度量准则。它衡量了源域和目标域间协方差的差异：（）式中：、分别表示源域和目标域的协方差矩阵，为线性变换矩阵，为线性变换后的源域协方差矩阵，表示矩阵范数的平方。通过缩小域间协方差距离来实现域对齐，相较于子空间对齐方式，方法更通用、更简单，并且成本更低，它同时考虑了协方差矩阵的特征向量和特征值，不需要选择子空间维数以及控制子空间维度的超参数等，减少了预期设定的负担。图 对抗式域适应网络结构 对抗式域适应网络的构建 网络等价于最小化源域和目标域特征的 散度，当两个分布无重叠时，散度为常量，会导致梯度消失。因此，本文在借鉴 网络思想的基础上，利用 距离作为域间差异的度量，其结构如图 所示。在该网络中，样本空间包括：带标签的源域（，）、以及无标记目标域样本（）。利用、训练模型，并利用 验证模型准确率。在训练阶段，源域样本和目标域样本首先会经过共享特征提取网络（；）的映射转换为一个特征向量，接着网络出现分支：源域样本的特征经过分类网络（；）的映射，输出样本类别标签，第 期任青颖，张 钰等：基于对抗式域适应网络的气体传感器漂移补偿算法 同时，所 有 样 本 的 特 征 都 会 进 入 域 判 别 网 络（；），经过映射输出域间 距离。训练结束后，将未标记目标域样本输入到网络中，对其类别标签进行预测。模型的损失函数由两部分组成：分别是样本的分类损失和两个域之间的 损失。源域样本的分类损失 可以表示为式（），函数为预测标签与源域标签的交叉熵损失函数，梯度更新使其最小化。（，），（），）（）域判别网络用来度量两个域间的 距离，为使域判别网络更好地区分源域和目标域，训练时要令其最大化。将 加入到深度神经网络中，构建可微的 损失函数，单层的域间损失可以表示为式（），为样本的维度：（）域判别网络通过学习参数 最大化域判别损失：（）最后，结合 距离的对抗式域适应网络的损失函数可以表示为式（），参数 用于控制训练中两个损失函数间的平衡：，（）（）该模型的训练目标是使得特征提取网络输出的向量同时具备域不变特性和类别可区分能力。损失函数可以通过最大最小化方式训练，也可加入梯度反转层来实现域判别器反向传播时的梯度反转。使用梯度反转层可以通过一次前向和后向传播完成对抗训练，本文采用的是加入梯度反转层的训练方式。基于对抗式域适应网络的气体传感器漂移补偿分析 实验参数设置本模型采用 语言在 上编程实现。模型建立过程中使用了（）机器学习框架和（）机器学习库。为实现最佳实验效果，结合 距离的对抗式域适应网络（，）结构如下：特征提取网络包含一个 维的输入层和一个 维输出层，分类网络各层神经元节点数分别为、。分类网络的输出层为 维，对应气体种类，激活函数为 函数，其余层激活函数为 函数。域判别网络各层神经元节点数分别为、，激活函数都为 函数，并在最后一层处使用 损失函数。模型的最大训练次数设置为，为避免过拟合，实验采用了“早停法”：训练过程中，当模型的总损失值连续三次不再降低，训练将提前终止。模型训练 时，采 用 小 批 量 随 机 梯 度 下 降（，）方式更新网络，小批量参数（）设为。数据集介绍本文所使用的数据集为气体传感器阵列漂移数据集。该数据集由 等创建，收录于加州大学欧文分校（，）机器学习数据库。数据集中包含了同一气体传感器阵列连续三年内的 组测量值。该传感器阵列由 个 型气体传感器组成，这些传感器均由日本 费 加 罗 公 司 生 产，型 号 分 别 为、和。前两种传感器的浓度敏感范围为，其余两种的范围为 。实验中利用该传感器阵列测试不同浓度的 种气体，每次测量时随机组合气体种类和浓度。图 数据集稳态特征和瞬态特征数据集中每组测量值同时包含响应过程的稳态特征和瞬态特征，如图 所示。稳态特征指传感器响应中阻值最大值与基准阻值的差值以及该差值与基准阻值的比值。瞬态特征通过引入指数移动平均（，）方法对收集到的传感器响应时间序列进行处理，平滑系数 分别为、和，分别取传感器吸附和解吸附过程，即图（）曲线上升过程的最大值和下降过程的最小值（图（）图（）中圆圈处的极值）作为瞬态特征值，用以反映传感器响应的上升和下降部分。故每个传感器取 个响应特征，每组测量值包含 个传感器的共 维特征。这些数据按照时间顺序传 感 技 术 学 报第 卷被分为了 个批次，表 给出了各批次中不同类型的气体的测量次数以及总的样本数量等信息。表 气体传感器阵列漂移数据集样本组成批次乙醇乙烯氨乙醛丙酮甲苯合计 实验结果及分析本节根据数据集特点设计了实验方案：每次选用相邻两个批次数据参与训练，前者作为源域，后者作为目标域。训练结束后，使用目标域测试模型的识别准确率。为验证模型的有效性，本文将对抗式域适应网络（）的测试结果与几种常用的气体传感器漂移补偿方法进行了对比，包括域正则化成分分析法（）、基于深度信念网络的支持向量机（）模型、基于主成分分析的成分校正（）方法以及 网络。图 给出了模型训练时的收敛曲线，表 列出了相同实验设定下对比算法和 方法的气体识别结果。对比其他漂移补偿算法，本文提出的基于 距离的方法获得了最高的平均识别精度。除批次 外，模型在各批次的识别准确率均达到 以上，初步验证了模型的可行性。批次 的数据是电子鼻系统断电 个月，传感器受到严重污染后采集的数据，因此数据漂移更加严重，且批次 和批次 的特征分布差异更大，模型的补偿能力下降，但仍获得 的识别精度，与其他对比算法相比，漂移补偿效果更优，进一步证明了该模型可以有效拉近源域和目标域的特征分布。图 模型训练的 曲线表 各算法分类精度对比方法批次（源域）批次（目标域）（）（）（）（）（）（）（）（）（）平均值图 各批次原始数据分布 此外，为了更加直观地对比引入 距离后模型整体的漂移补偿效果，实验还对训练前后各批次的数据特征进行了可视化。利用主成分分析法（）将数据降至三维空间，并绘制出三维特征的散点图，如图 和图 所示。图 为各批次原始的数据分布，对比可知其分布差异较大。第 期任青颖，张 钰等：基于对抗式域适应网络的气体传感器漂移补偿算法 在本文的实验设定下，经过模型的漂移补偿后，各批次的特征分布如图 所示。通过对比可以看出：源域和目标域的特征分布差异减小，即特征提取器提取到了域不变特征。因此，即使模型的分类网络在训练过程中的样本空间由源域主导，在测试时的目标域特征空间内也能实现较好的识别效果。图 模型补偿后的各批次数据分布 结论针对电子鼻系统中存在的气体传感器漂移问题，本文提出一种结合 距离的对抗式域适应网络（）的漂移补偿方法。并通过对 数据库中的传感器漂移数据集进行补偿，以验证模型有效性。研究结果表明：该模型可以有效地对齐源域和目标域的特征分布，改善域间分布差异，提高气体传感器在漂移状况下的识别准确率。该模型为离线模型，需在同时拥有带标记源域样本和无标记目标域样本时使用，与在线模型相比在应用场景上有一定局限性。本文方法可为气体传感器漂移问题的解决提供一定参考。参考文献：，（）：，：，（），：，：，（）（）：，：，（）：，：刘辉翔 型电子鼻关键问题研究及其应用北京：北京科技大学，传 感 技 术 学 报第 卷 ，（）：，（）：，：，（）：范苍宁，刘鹏，肖婷，等 深度域适应综述：一般情况与复杂情况 自动化学报，（）：，（）：，（）：，（）：，：，：，：，：，：，：，（）：，：，（），任青颖（），女，博士，南京邮电大学讲师。主要研究方向为微纳气体传感器器件设计与优化，；张 钰（），女，硕士研究生，主要研究方向为传感器信号补偿算法研究、机器学习、传感器信号采集与处理，；蔡炜铭（），男，硕士研究生，主要研究方向为传感器器件设计与研究、传感器外围补偿电路计与分析，；唐玉林（），女，南京邮电大学本科生，主要研究方向为基于机器学习的气体识别算法研究，；薛 梅（），女，硕士，南京邮电大学高级实验师，主要研究方向为电子电路设计、仪表设计与开发，。