基于数据增强和特征嵌入的自动调制识别.pdf

DOI:10.20079/j.issn.1001-893x.220304002引用格式:谭凯文,闫文君,宫跃,等.基于数据增强和特征嵌入的自动调制识别J.电讯技术,2023,63(7):927-932.TAN K W,YAN W J,GONG Y,et al.Automatic modulation recognition based on data enhancement and feature embeddingJ.Telecommunication Engineering,2023,63(7):927-932.基于数据增强和特征嵌入的自动调制识别谭谭凯凯文文,闫闫文文君君,宫宫 跃跃,张张婷婷婷婷(海军航空大学 航空作战勤务学院,山东 烟台 264001)摘 要:基于端到端的深度学习模型已经被广泛应用于自动调制识别。现有的深度学习方案大多数依赖于丰富的样本分布,而大批量的标记训练集通常很难获得。提出了一种基于数据驱动和选择性核卷积神经网络(Convolutional Neural Network,CNN)的自动调制识别框架。首先开发深度密集生成式对抗网络增强 5 种调制信号的原始数据集;其次选择平滑伪 Wigner-Ville 分布作为信号的时频表示,并将注意力模块用于聚焦时频图像分类中的差异区域;最后将真实信号输入轻量级卷积神经网络进行时间相关性提取,并融合信号的时频特征完成分类。实验结果表明,所提算法提高了在低信噪比情况下的识别精度,表现出较强的鲁棒性。关键词:自动调制识别;卷积神经网络;生成式对抗网络;注意力机制;数据增强开放科学(资源服务)标识码(OSID):微信扫描二维码听独家语音释文与作者在线交流享本刊专属服务中图分类号:TN971 文献标志码:A 文章编号:1001-893X(2023)07-0927-06Automatic Modulation Recognition Based on Data Enhancement and Feature EmbeddingTAN Kaiwen,YAN Wenjun,GONG Yue,ZHANG Tingting(Aviation Combat Service College,Naval Aviation University,Yantai 264001,China)Abstract:The end-to-end deep learning model has been effectively applied in automatic modulation recognition(AMR).Most deep learning schemes need a large number of training samples,and a large number of labeled training sets are usually difficult to obtain.The authors propose an automatic modulation recognition framework based on data-driven and selective kernel convolution neural network(CNN).Firstly,a deep dense generative adversarial network(GAN)is developed to enhance the original data set of five modulation signals.Secondly,the smooth pseudo Wigner-Ville distribution is selected as the time-frequency representation of the signal,and the attention block is used to focus the difference region in the time-frequency image classification.Finally,the real signal is input into lightweight CNN for time correlation extraction,and the time-frequency characteristics of the signal are fused to complete the classification.Experimental results show that the proposed algorithm improves the recognition accuracy in the case of low signal-to-noise ratio and shows strong robustness.Key words:automatic modulation recognition;convolutional neural network;generative adversarial network;attention mechanism;data enhancement729第 63 卷 第 7 期2023 年 7 月电讯技术Telecommunication EngineeringVol.63,No.7July,2023收稿日期:2022-03-04;修回日期:2022-04-10基金项目:国家自然科学基金资助项目(91538201);“泰山学者”工程专项经费基金(ts201511020);信息系统安全技术国家重点实验室基金资助课题(6142111190404)通信作者:谭凯文0 引 言自 动 调 制 识 别(Automatic Modulation Recognition,AMR)是指对截获信号调制类型的检测,是解调接收信号和进一步提取信息的基础。AMR 在频谱监测、认知无线电1和分布式信号处理2等领域具有重要应用。一般来说,早期的 AMR方案可分为两种类型,即基于传统似然比估计3-4的算法和专家特征提取5-6的方法。Shi 等人7采用基于相位的最大似然方法识别线性调制信号,并分析了星座调制分类的性能。Majhi 等人8利用接收信号的基本累积量和循环累积量,建立了在分层假设下的 AMR 理论框架,并证明了相移、频移和衰落信道下的可行性。然而,传统的手工提取特征的方法依赖大量的先验知识,且对于调制类型识别的泛化性较差,而且手工设计特征往往会导致重要细节的丢失,降低识别精度。近年来,深度学习凭借其强大的非线性特征映射能力在 AMR 领域成为研究热点。与上述两种方法相比,基于深度学习的 AMR方案无需手动设计特征,因此在未知信号概率密度的复杂场景中表现出巨大潜力。Tunze 等人9设计了由多个基本模块组成的稀疏连接卷积神经网络(Sparsely Connected Convolutional Neural Network,SC-CNN),有效避免了网络深度增加导致的信号细节特征丢失。Li 等人10提出胶囊网络用于解决样本较少情况下的 AMR 问题,并分析了模型在样本较少情况下的适应性。Wang 等人11提出一种基于CNN 和 多 输 入 多 输 出(Multiple-Input Multiple-Output,MIMO)系统结合的 AMR 算法,融合多天线接收机的识别结果进行协同分类。训练样本充足的情况下,基于深度学习的 AMR 算法对于提取大量同分布的高维数据特征具有较强的鲁棒性。但在实际应用中,由于电磁环境的复杂性和侦察目标的不合作性等因素,很难获得大批次的高质量样本。为此,本文提出了一种基于数据增强和时频特征相结合的 AMR 方案。首先,设计了一种包含多个完全连接层的密集连接生成式对抗网络(Deep Dense Generative Adversarial Network,DD-GAN),用于生成样本以扩展丰富原始有限样本的特征;其次,为了有效提取信号的时域和时频域特征,充分利用数据形式的互补性,设计了两路并联的轻量 CNN 分支 其中一个 CNN 的输入为时域I/Q 信号,另一个分支的输入为信号的时频图像;最后,对 Softmax 层的输出概率进行融合,获得可靠的分类结果。1 信号模型和时频特征分析1.1 信号建模在 AMR 框架中,来自辐射源的接收信号通常可表示为r(t)=s(t)h(t)+n(t)。(1)式中:s(t)代表发射信号;h(t)为等效的信道脉冲响应;n(t)为加性噪声;r(t)为复基带信号,可表示为r(t)=ri(t)+jrq(t)。(2)式中:ri(t)和 rq(t)表示接收信号的同相分量和正交分量。因此接收的正交采样信号可表示为r(N)=ri(N)rq(N)=ri(0),ri(1),ri(N-1)rq(0),rq(1),rq(N-1)。(3)1.2 时频特征分析平滑伪 Wigner-Ville 时频分布(Smooth Pseudo Wigner-Ville Distribution,SPWVD)是 一 种 基 于Wigner-Ville 分布的优化 Cohen 时频分析方法,能够有效消除交叉项干扰,用来获取信号的时间-频率二维联合分布。通过提取接收信号的 SPWVD 图像,能够最大程度保留细微调制信息的同时提高信号的区分度。平滑伪 Wigner-Ville 分布的定义为SPWVDx(t)(t,f)=x(t-u+2)x(t-u-2)g(u)h()e-j2ddu。(4)式中:x(t-u+2)为接收信号 r(t)的解析信号;x(t-u-2)为共轭解析信号;g(u)为时域窗口;h()为频域窗口。1.3 基于数据增强和时频特征的 AMR 框架本文所提出的 AMR 框架在图 1 中给出。电讯技术 2023 年图 1 基于数据增强和时频特征结合的自动调制识别框架2 基于 DD-GAN 的特征增强2.1 提出的 DD-GAN 框架GAN12是指基于对抗训练不断优化生成模型和判别模型的网络架构,其优势在于当先验假设未知时挖掘样本的潜在分布规律,并通过无监督学习生成新数据从而丰富样本特征。GAN 由判别器和生成器组成,其目标函数可表示为minGmaxD V(D,G)=Expdata(x)lb D(x)+Ezpz(z)lb(1-D(G(Z)。(5)式中:pz(z)表示噪声向量的先验概率密度,噪声通过生成器映射成为 G(z);D(x)表示鉴别器输出的判别概率,x 来源于真实数据。判别器的训练目标是有效区分真实数据和生成数据,以实现 V(D,G)的最大化。生成器的训练目标是欺骗判别器。当判别器和生成器的模型都是多层感知器(Multi-layer Perception,MLP)时,相邻完全连接层的节点相互连接,将前端的分布特征映射到样本的标签空间。因此可以直接将 5 种调制信号的包络输入 DD-GAN以充分捕捉原始信号相邻采样点之间的时序关系。2.2 DD-GAN 网络结构对于生成器而言,其输入为 1256 的高斯向量,输出是经过多个全连接层后的 1512 的序列。除最后一层外,采用 LeakyReLu 函数激活增加负部分的导数,减少“静默”神经元,解决全连接结构中的梯度消失。LeakyReLu 函数的负激活值设置为0.2。在全连接层(Fully Connected,FC)后加入批量归一化(Batch-Normalization,BN)层,以加速模型的收敛。最后一个输出层由 tanh 函数激活,用于将生成信号的幅度限制为-1,1。对于判别器,其输入是维度为 1512 的真实信号样 本 和 生 成 样 本,在 经 过 多 个 全 连 接 层 和LeakyRelu 函数激活后利用 Sigmoid 输出判别概率,生成器和判别器的结构如表 1 和表 2 所示。表 1 生成器参数层激活函数归一化 输出维度输入噪声向量1256Dense.1LReLUBN1256Dense.2LReLUBN1512Dense.3LReLUBN11 024Dense.4LReLUBN1512Dense.5LReLUBN1256Dense.6LReLUBN1128Dense.8LReLUBN164Dense.9tanh1512表 2 判别器参数层激活函数输出维度Input signal1512Dense.1LReLU11 024Dense.3LReLU12 048Dense.4LReLU11 024Dense.5LReLU1512Dense.6LReLU1256Dense.7Sigmoid1 通过选择合适的激活函数并利用 MLP 的非线性拟合能力,DD-GAN 可以完成对任何非线性函数的逼近,从而充分利用实际输入信号样本之间的时间相关性。损失函数设置为交叉熵,网络由 Adam929第 63 卷谭凯文,闫文君,宫跃,等:基于数据增强和特征嵌入的自动调制识别第 7 期优化,学习率设置为 0.002,batch-size 设置为 128。3 分类器构建3.1 注意力模块不同大小的卷积核对不同尺度的目标会产生不同的影响。Selective Kernel 模块是一种为不同尺度的感受野动态选择卷积核的结构。在 Selective Kernel 模块(如图 2 所示)中,输入 X 表示大小为 chw 的特征图。该结构涉及的操作主要包括分割、融合和选择。分割是用不同尺寸的核卷积原始特征图的过程,融合指的是赋予卷积核权重,选择是通过具有不同权重的卷积核获取新特征映射的过程。图 2 Selective Kernel 模块首先,使用大小分别为 33 和 55 的卷积核进行卷积运算F()和F()。其次,使用门控机制融合两个通道的信息,并添加输出特征映射。通过全局池化生成通道统计信息:sc=FGP(Uc)=1hwhi=1wj=1Uc(i,j)。(6)经过全连接层降维后,输出特征 z 可以表示为z=Ffc(s)=(B(WS)。(7)式中:()是 Relu 激活函数;B()是批量标准化;z 的维数是卷积核数目;WSR RdC。引入压缩因子 r 来确定全连通维数 d 对网络效率的影响,如下所示:d=max(Cr,L)。(8)式中:L 是尺寸的最小值。最后,采用 Softmax 函数将自适应校准后的权重特征 z 加载到特征图U 和U 中,并添加输出特征V=V1,V2,VC,其中 VC=aCUC+bCUC。3.2 SK-CNN 结构调制类型的时频分布中的有用信息往往集中在关键区域,为了提高网络针对这些区域的“注意力”,在轻量级 CNN 中引入 Selective Kernel 模块构造 SK-CNN。用于分类的 CNN 仅由 4 个卷积层和 3个完全连接层组成,用于避免在有限样本上出现过拟合。每个卷积层中的卷积核数分别设置为 32、64、128 和 256。卷积核大小设置为 33,选择 ReLu函数对神经元进行激活,并在各自的卷积层之后添加最大池化层,池化尺寸为 22,步长为 2,网络的输入为维度为 224224 的三通道时频图像,最后通过 Softmax 层输出对于 5 种调制信号的识别向量。3.3 用于 I/Q 信号分类的 IQ-CNN在图 1 中,用于识别 I/Q 信号的 CNN 由 2 个卷积层和 4 个全连接层组成,其结构如表 3 所示。每层的激活函数设置为 ReLu,最后一层的 Softmax 用于输出识别信号样本的概率分布矩阵,损失函数设置为交叉熵,用于标记真实标签和预测标签之间的误差。本文采用 dropout 操作尽可能多地保留信号的细微特征,并在一定程度上有效地避免过拟合。为了有效利用 SPWVD 时频图像中的个性信息,对两个分支网络输出的判别概率矩阵进行分段融合,最终输出可靠的识别结果。表 3 IQCNN 参数层激活输出维度Input signal12256Conv2D-1ReLU1281121Dropout1281121Conv2D-2ReLU644114Dropout644114Flatten29 184Dense-1 ReLU7 296Dropout7 296Dense-2ReLU256Dropout256Softmax54 实验与讨论4.1 仿真环境设置本文利用基于 Keras 2.3.1 和 Tensorflow 2.2 的深度学习框架搭建、训练和测试网络。向已调的基带信号中加入高斯白噪声来模拟不同的信道环境,信噪比范围设置为-10 20 dB,步长为 2 dB,每个信噪比下的样本长度为 180 000 点。训练集和测试集的划分比例为 7 3。信号的载波频率设置为2040 MHz,采样频率为 200 MHz,带宽设置为 810 MHz。两类 FSK 信号的上下调频取值为 2080 MHz 和 20160 MHz,BPSK 信号的巴克码组 Code取值为 7、11 和 13 位。在测试过程中,将信号样本分为三部分,第一部分作为测试集,第二部分作为原始训练集,第三部分直接输入 DD-GAN 生成新样本并扩电讯技术 2023 年展原始训练集。为了验证生成对抗模型对识别性能的改善程度,将增强比(Enhancement Ratio,ER)定义为生成数据量与原始训练数据量的比值:ER=Mi=1Gz(i)xtrain。(9)式中:Gz(i)表示 DD-GAN 的单次输出;xtrain表示原始训练数据。4.2 增强数据集的识别性能图 3 中显示了不同 ER 对于模型识别性能的影响,结果表明经过 DD-GAN 的数据增强后,5 类信号的识别准确率相比于增强前均有提升。尤其在低信噪比下,针对于 BFSK 和 BPSK 信号的识别精度明显提高。这说明信噪比较低时,适当规模样本的增加能够赋予网络更多的特征,降低模型过拟合的概率。在 ER=0.1 的情况下,与增强前的数据相比,5种调制信号的整体识别准确率提高了 3%7%;而当 ER=0.2 时,准确率也有一定程度的提高,这表明所提出的 DD-GAN 可以有效地扩展样本并丰富数据集特征。图 3 不同增强比对于识别精度的影响4.3 识别混淆矩阵在 4.2 节中,当 ER=0.1 和 0.2 时,数据增强后5 类信号的整体识别精度都有所提高。在 SNR 为-10 dB 和 10 dB 时,混淆矩阵如图 4 所示。由图 4可知,当 SNR 为 10 dB 时,所提出的 AMR 框架能够准确识别 5 种调制方案,准确率基本为 100%。当信噪比极低(-10 dB)时,ER=0.2 的整体识别效果比 ER=0.1 的差。这是因为 DD-GAN 生成的数据当中引入了噪声,而过多噪声的干扰将会降低识别的准确率。因此,在实际应用中,可以采用变增强比策略,针对于不同分布的数据采用不同的扩展策略,在丰富样本特征的同时不引入过多噪声,充分弥补特定背景下训练样本不足的缺点,从而提高整体识别精度。图 4 不同信噪比和增强比下的混淆矩阵139第 63 卷谭凯文,闫文君,宫跃,等:基于数据增强和特征嵌入的自动调制识别第 7 期4.4 识别性能比较表 4 给出了本文提出的时域-时频域联合特征提取算法与不同方案的总体识别性能比较,增强比为 0.1。表 4 不同调制识别方法的识别准确率比较信噪比/dB识别准确率/%SK-CNNSE-CNNLSTM-20232014-16373817-12454528-8818271091898349392888969290表 4 的结果表明,所提出的基于 I/QCNN+SK-CNN 的 AMR 框架在 SNR 为-208 dB 范围内的总体识别精度高于 LSTM 方案13和 I/QCNN+SE-CNN14,说明本文提出的特征融合算法可以弥补时域信号时间相关性的不足,将信号中隐含的时频信息提取为显著特征用于分类,从而提高网络识别的效率。5 结束语本文在基于数据增强和时频特征嵌入的 AMR系统中,首先采用密集连接层搭建的 DD-GAN 扩充原始数据集,并将其与增强数据集合并作为训练集。经过增强后的信号样本被发送到两个分支(一个分支直接使用 2D 卷积层用于提取 IQ 信号的时间关联性,另一个分支则引入注意力机制用于识别SPWVD 时频图像),目的是揭示信号中隐含的时频关系。实验结果表明,所提出的 AMR 框架对 5 种调制方案具有较强的泛化能力,可以用于解决缺失样本或有限样本情况下的自动调制识别问题。未来的工作是进一步丰富信号调制方式的数据集,增加调制信号的种类,例如 16QAM、256QAM 等复杂的高阶调制类型,提高模型的实用性与泛化性。参考文献:1 SHIEH C S,LIN C T.A vector neural network for emitter identificationJ.IEEE Transactions on Antennas and Propagation,2002,50(8):1120-1127.2 DOBRE O A,ABDI A,BAR-NESS Y,et al.Survey of automatic modulation classification techniques:classical approaches and new trendsJ.IET Communications,2007,1(2):137-156.3 ZHU D,MATHEWS V J,DETIENNE D H.A likelihood-based algorithm for blind identification of QAM and PSK signals J.IEEE Transactions on Wireless Communications,2018,17(5):3417-3430.4 WANG F,DOBRE O A,CHAN C,et al.Fold-based Kolmogorov-Smirnov modulation classifier J.IEEE Signal Processing Letters,2016,23(7):1003-1007.5 BU K,HE Y,JING X,et al.Adversarial transfer learning for deep learning based automatic modulation classificationJ.IEEE Signal Processing Letters,2020,27:880-884.6 ZENG Y,ZHANG M,HAN F,et al.Spectrum analysis and convolutional neural network for automatic modulation recognition J.IEEE Wireless Communications Letters,2019,8(3):929-932.7 SHI Q.Automatic modulation identification based on the probability density function of signal phase J.IEEE Transactions on Communications,2012,60(4):1033-1044.8 MAJHI S,GUPTA R,XIANG W,et al.Hierarchical hypothesis and feature based blind modulation classification for linearly modulated signals J.IEEE Transactions on Vehicular Technology,2017,66(12):11057-11069.9 TUZNE G B,HUYNH-THE T,LEE J M,et al.Sparsely connected CNN for efficient automatic modulation recognition J.IEEE Transactions on Vehicular Technology,2020,69(12):15557-15568.10 LI L,HUANG J,CHENG Q,et al.Automatic modulation recognition:a few-shot learning method based on the capsule network J.IEEE Wireless Communication Letters,2020,10(3):474-477.11 WANG Y,WANG J,YANG J,et al.Deep learning-based cooperative automatic modulation classification method for MIMO SystemsJ.IEEE Transactions on Vehicular Technology,2020,69(4):4574-4579.12 GOODFELLO I J,POUGET-ABADIE J,MIRZA M,et al.Generative adversarial networksJ.Advances in Neural Information Processing Systems,2014(3):2672-2680.13 任思睿,黄铭.基于改进的长短期记忆网络的调制识别算法J.云南大学学报(自然科学版),2021,43(1):39-45.14 JIE H,LI S,GANG S,et al.Squeeze-and-excitation networksJ.IEEE Transactions on Pattern Analysis and Machine Intelligence,2020,42(8):2011-2023.作者简介:谭凯文 男,1998 年生于山东威海,硕士研究生,主要研究方向为频谱感知、特定辐射源识别。闫文君 男,1986 年生于山东烟台,副教授,主要研究方向为空时分组码检测、基于深度学习的信号处理技术。宫 跃男,1986 年生于安徽阜阳,硕士研究生,主要研究方向为战场环境仿真。张婷婷 女,1994 年生于吉林长春,硕士研究生,主要研究方向为智能空战决策、计算机兵力生成。电讯技术 2023 年