基于DSGD的分布式电磁目标识别.pdf

第 卷第 期 年 月系统工程与电子技术 文章编号：（）网址：收稿日期：；修回日期：；网络优先出版日期：。网络优先出版地址：基金项目：电子信息控制重点实验室开放基金；国家自然科学基金（，）资助课题通讯作者引用格式：王宏安，黄达，张伟，等基于的分布式电磁目标识别系统工程与电子技术，（）：犚犲 犳 犲 狉 犲 狀 犮 犲犳 狅 狉犿犪 狋：，（）：基于犇犛犌犇的分布式电磁目标识别王宏安，黄达，张伟，潘晔，王祥丰，邵怀宗，顾杰（电子科技大学信息与通信工程学院，四川 成都 ；电子信息控制重点实验室，四川 成都 ；华东师范大学计算机科学与技术学院，上海 ）摘要：分布式电磁目标识别利用分布式最优化和分布式计算等技术实现传统集中式电磁目标识别。分布式最优化方法结合分布式计算架构实现对最优化问题的分布式求解，以分布式实现从问题信息、数据到最优目标识别模型的映射。利用去中心化随机梯度下降方法这一经典分布式最优化方法，建立面向电磁目标识别的分布式计算架构和分布式电磁目标识别方法。实际电磁信号数据验证了所提算法的有效性。在分布式电磁目标识别算法与集中式识别算法性能均保持在 以上时，单节点训练时间下降 以上，显著提升了训练效率。关键词：电磁目标识别；分布式；去中心化；随机梯度下降；一致性约束中图分类号：文献标志码：犇犗犐：犇 犻 狊 狋 狉 犻 犫 狌 狋 犲 犱犲 犾 犲 犮 狋 狉 狅犿犪 犵 狀 犲 狋 犻 犮狋 犪 狉 犵 犲 狋犻 犱 犲 狀 狋 犻 犳 犻 犮 犪 狋 犻 狅 狀犫 犪 狊 犲 犱狅 狀犱 犲 犮 犲 狀 狋 狉 犪 犾 犾 犻 狕 犲 犱狊 狋 狅 犮 犺 犪 狊 狋 犻 犮犵 狉 犪 犱 犻 犲 狀 狋犱 犲 狊 犮 犲 狀 狋 ，（犛 犮 犺 狅 狅 犾狅 犳犐 狀犳 狅 狉犿犪 狋 犻 狅 狀犪 狀犱犆狅犿犿狌 狀 犻 犮 犪 狋 犻 狅 狀犈狀犵 犻 狀 犲 犲 狉 犻 狀犵，犝狀 犻 狏 犲 狉 狊 犻 狋 狔狅 犳犈 犾 犲 犮 狋 狉 狅 狀 犻 犮犛 犮 犻 犲 狀 犮 犲犪 狀犱犜犲 犮 犺 狀 狅 犾 狅 犵狔狅 犳犆犺 犻 狀 犪，犆犺 犲 狀 犵犱 狌 ，犆犺 犻 狀 犪；犛 犮 犻 犲 狀 犮 犲犪 狀 犱犜 犲 犮 犺 狀 狅 犾 狅 犵狔狅 狀犈 犾 犲 犮 狋 狉 狅 狀 犻 犮犐 狀 犳 狅 狉犿犪 狋 犻 狅 狀犆 狅 狀 狋 狉 狅 犾犔犪 犫 狅 狉 犪 狋 狅 狉 狔，犆犺 犲 狀 犵犱 狌 ，犆犺 犻 狀 犪；犛 犮 犺 狅 狅 犾狅 犳犆狅犿狆狌 狋 犲 狉犛 犮 犻 犲 狀 犮 犲犪 狀犱犜犲 犮 犺 狀 狅 犾 狅 犵狔，犈犪 狊 狋犆犺 犻 狀 犪犖狅 狉犿犪 犾犝狀 犻 狏 犲 狉 狊 犻 狋 狔，犛犺 犪 狀犵犺 犪 犻 ，犆犺 犻 狀 犪）犃犫 狊 狋 狉 犪 犮 狋：，犓犲 狔狑狅 狉 犱 狊：；第 期王宏安等：基于的分布式电磁目标识别 引言电磁目标识别根据通信侦察设备侦测到的目标通信信号参数，识别、确定通信目标的类别、种类和属性。该技术在民事领域已被广泛应用于频谱管理、干扰识别以及认知无线电等。而在军事领域，它可提供全面、完善的战场目标信息，有助于作战人员及时掌握战场态势、减少友军误伤。目前针对电磁目标识别的机器学习方法多是在集中式场景下进行的。针对分布式场景下的电磁目标识别的研究较少。然而随着军民用电磁装备的数量、类型以及更新速度快速增长，自适应对抗技术飞速发展以及电磁系统数字化程度越来越高，电磁环境呈现出高度复杂化、动态化的特征。这造成采集信号数据量剧增（达、甚至级），庞大的数据存储和计算在单机上是远远做不到的，且硬件支持的有限性使得在单机上进行大数据处理十分吃力，将计算模型或者数据分布式地部署到多台、多类型机器上，分别在不同的计算节点上学习，能够在硬件上实现水平拓展，突破设备硬件限制，提高数据计算的速度和可扩展性，减少任务的耗时。本文结合电磁目标识别技术及分布式最优化理论，提出了一种基于去中心化随机梯度下降（，）的电磁目标识别方法。并在手机电磁数据上进行了实验验证，将数据分布到多个节点中，通过相邻节点间传递梯度，然后使用去中心化随机梯度下降的方法更新本地节点模型。同时，将所提方法与集中式场景的单机训练进行了对比，验证了该方法的有效性。相关工作 电磁目标识别电磁信号识别是从源电磁信号样本中识别出对应样本类别，从而完成相应的识别任务。早期，对电磁信号识别任务使用的是采用信号处理方式直接进行识别。但随着现代社会和战场上电磁信号数量的急剧增加，信号密度呈指数级增长，信号形式日趋复杂。传统电磁目标识别方法难以快速有效应对日益复杂的电磁环境，结合机器学习方法进行电磁目标识别逐渐成为趋势。等运用将复值神经网络和网络压缩相结合的方法，既提高了识别性能，又降低了模型复杂度和尺寸。等利用动态曲线拟合和反向传播神经网络组成的反馈分类算法，根据信号指纹特征实现了移动电磁目标的无监督识别。文献通过在时域和频域注意机制中使用一种新颖的复数傅里叶神经算子块，可以从不同领域充分学习特征。等利用信号的双谱和模糊函数作为特征，通过深度学习网络对特征进行识别，提高了电磁目标识别的性能。等提出一种多域特征融合与集成学习相结合的方法，提高了标记样本较少的通信辐射源的识别。等提出一种辐射源二维双谱与卷积神经网络（，）相结合的方法。相比其他结合双谱特征的算法，该方法在精度和复杂度上都有优势。文献利用孪生网络来解决电磁目标跨模式识别的问题，相较于传统，效果提升了。蒋季宏等 运用不同信号分析处理方法得到的特征进行拼接融合，实现了电磁信号的小样本识别。文献 利用电磁信号的特性，设计了一种基于高阶累积量的树形干扰识别分类器，该分类器具有极高的识别率。文献 将决策树与 结合用于雷达电磁信号识别，较好地解决了高密度信号环境下传统电磁信号识别实时性差、识别精度低的问题。文献 将雷达电磁信号转化为符号序列，提取多尺度信息熵作为识别特征，利用犓最邻近法（犓 ，）进行分类识别，具有良好的抗噪性。张思成等 将电磁信号具象化为二维图像，在保证识别率的同时极大地减少了模型参数计算的规模。分布式最优化与分布式计算分布式电磁目标识别计算框架旨在利用分布式最优化或分布式机器学习方法来分布式地实现传统电磁目标识别。分布式最优化方法是指在由多个计算节点构建的网络中进行机器学习或者深度学习，其目的为实现更大规模的训练数据和模型，加快训练效率。目前分布式最优化方法已在智能电网、信息物理融合系统、无人驾驶飞行器系统 等很多领域得到应用，但是针对电磁目标识别场景下的分布式研究应用较少。以下介绍常用的基于分布式最优化或分布式计算的方法。：该方法在每次迭代过程中，从节点将计算的参数传递给主节点，经主节点对所有节点传递过来的参数进行处理后，再将其传给每个从节点，更新从节点参数，实现参数一致性，达到加速训练的效果。文献 证明了算法的可行性，文献 使用该方法实现了分布式平台以及集群环境。：该算法将犖个节点分布在一个环上，并将每个节点的数据分成犖份。在每个循环过程中，当前节点会收到上一个节点传过来的数据，在此循环下，最终每个节点都会包含最终结果的一份，达到一致性。该方法也在文献 中用于解决图形处理器（，）之间的高效通讯。横向联邦学习：主节点将初始模型分发给从节点，然后从节点根据本地数据集分别对模型进行训练，将训练后的模型加密后传至主节点，在主节点将所有模型梯度聚合后再将其加密传回各从节点。交替方向乘子法（，）：该方法适用于大规模的分布式优化问题的分布式求解。为了处理约束，该方法结合增广拉格朗日乘子法与 计算技巧，实现分布式最优化问题的迭代求解。该方法在网络通信 等领域分布式场景中得到广泛应用。尽管国内外研究人员取得了大量的研究成果。例如随着电磁环境日趋复杂，针对传统基于信号处理的方法难以实现快速准确识别的问题，不少研究人员将机器学习的方法应用于其中以解决该问题，但都是在小样本或者数据量规模较小的场景下，使用集中式机器学习或者深度学习方法进行识别。结合分布式机器学习进行电磁目标识别的研究还较少。对于大数据背景下的电磁目标识别，分布式机器学习在识别效率高、设备计算及存储能力要求低等方面有着独特优势，将分 系统工程与电子技术第 卷布式机器学习用于电磁目标识别有着很好的应用前景。理论基础 短时傅里叶变换傅里叶变换常用于平稳信号的处理，且只能反映出信号的频域特性。在现实世界中，需要分析和处理的信号往往是时变的或是非平稳的，其统计量，如相关函数，功率谱等也都是时变函数。在这种情况下，希望得到信号频谱随时间的变化，故 于 年提出了短时傅里叶变换（，），其实质是加窗的傅里叶变换。通过窗函数的不断移动，得到整段信号的频谱随时间的变化，其计算公式如下：犉（狋，犳）狓（狋）犺（狋）犳 狋狋（）式中：狓（狋）为原始信号；犺（狋）为窗函数，表示窗函数移动的位置；犉（狋，犳）为变换后的结果。可以看出，就是先将信号狓（狋）乘以窗函数犺（狋）的共轭，再做傅里叶变换。窗函数每移动一次，就会得到一个复数值。在窗函数移动到信号尾端时，表示处理结束，最终得到一个维度为狀犿的复数矩阵。其中，狀与窗函数犺（狋）移动的次数有关，犿与窗函数的宽度有关。神经网络介绍目前的神经网络架构主要有种，基于卷积池化的残差网络（，）、基于多层感知机制（，）的 和基于注意力机制的 。本文选用前两者分别作为训练网络，以探究不同网络架构在分布电磁目标识别中影响。通过引入残差连接，很好地解决了由于神经网络加深而引起的网络退化问题。用 作为训练网络，由 个模块加上一些单独的卷积层（）、池化层和全连接层组成，其网络结构如图所示。图残差网络 是一种完全基于的网络结构。在将输入数据分为多个 后，输入进一个全连接层，再经过多个混合层后，进行全局平均池化，最后再经过一个全连接层后输出类别。其中，每个混合层使用了两种类型的层、通道混合层和位置混合层。通道混合层通信不同通道上的信息，位置混合层通信不同空间位置上的信息。的网络结构如图所示。图 第 期王宏安等：基于的分布式电磁目标识别 分布式架构对于分布式系统架构，其网络拓扑结构的决定因素是系统设计实现的分布程度。根据具体场景不同，分布式系统的拓扑结构可以设计为星型拓扑、树型拓扑及点对点型拓扑。分布式拓扑结构示意图分别如图（）图（）所示。其中，星型拓扑（见图（）采用严格的分层方法进行聚合，聚合发生在单个中心位置；树型拓扑（见图（）允许中间的节点进行聚合操作，通过每层之间数据信息的计算与传递完成分布式感知任务。由于每个节点只需与其父节点和子节点通信，所以树状拓扑具有易于扩展和管理的优点；点对点型拓扑（见图（）中的每一个节点都相对独立，系统没有为某些节点分配特定的任务，每个节点都拥有完整的信息，并且可以与任何其他节点进行通信。点对点型的拓扑结构比前两种拓扑结构具有更高的可伸缩性和鲁棒性，不容易因单个节点被影响而影响到整个系统。但相应地，系统的通信量也会很大，需要根据实际情况来设计满足场景需要的分布式拓扑结构。由于本文针对的是去中心场景，所以采用点对点型的拓扑结构。图分布式拓扑结构 算法设计 算法介绍在本文场景中，由于电磁数据采集设备分布有多个并放置于不同地点，导致数据分散存储，并且采集的数据规模较大。如果使用网络传输，数据在通信过程中容易受到网络的波动，而导致数据不能实时共享。另外，中心化分布式方案采用的是主节点从节点的模式运行系统。在这种情况下，如果主节点发生故障，很有可能导致系统崩溃。而去中心化的分布式方案刚好能够规避上述问题。由于去中心化分布式方案在训练过程中可以只在邻居节点间传递参数，大大减少了网络中的通信量，而且去中心化的分布式方案没有主节点，该方案中每个节点的地位都是等同的。理论上而言，任意节点宕机都不会造成系统的崩溃。采用去中心化的分布式训练方案，更适合本文的应用场景。本文算法是去中心化分布式方案的一种，它由狀个工作节点组成一个连通的点对点型网络，并协作解决一个一致优化问题。狓犚犳（狓）狀犻犳犻（狓）（）式中：犳犻为工作节点犻上待优化的目标模型，犳犻仅保留在工作节点犻上，其他工作节点不可获取；狓为模型参数。为解决上述优化问题，本文算法的所有工作节点仅和相邻节点进行信息交换，不需要一个融合中心（如参数服务器）来进行参数的同步，降低了拓扑网络的通信压力。去中心化梯度下降不依赖于融合中心，它以下列方式执行梯度下降：（）让每个工作节点犻持有本地参数狓（犻）；（）让每个工作节点犻根据本地参数狓（犻）计算梯度犳犻（狓（犽）；（）让每个工作节点犻将本地梯度犳犻（狓（犽）更新为其相邻节点梯度的加权平均值；（）让每个工作节点应用犳犻（狓（犽）更新本地模型参数。算法流程算法介绍了单个工作节点具体识别的算法流程，其中犽为当前迭代序号，犻代表当前节点序号，犾表示总的迭代轮次。算法基于的电磁目标识别工作节点犻（犻，狀）采集信号数据狊犻对采集信号数据狊犻进行预处理：滤波、能量检测、数据归一化、切片等，得到狊 犻对狊 犻进行变换，生成数据集犇犻初始化模型参数狓（犻）（），设置初始学习率 犽，犾节点犻根据本地数据集犇犻计算梯度犳犻（狓（犻）（犽）系统工程与电子技术第 卷发送梯度犳犻（狓（犻）（犽）到邻居节点；接收邻居节点梯度，并进行加权平均：犳犻狓（犻）犽（）烄烆烌烎狀犼狑犻 犼犳犼（狓（犼）（犽）更新本地参数：狓（犻）（犽）狓（犻）（犽）犳犻狓（犻）犽（）烄烆烌烎 本文采用点对点型的分布式拓扑结构，在算法的流程中，当且仅当节点犻与节点犼相邻时，狑犻 犼，本文设置狑犻 犼。从上述算法中可以看出去中心化的梯度下降过程只依赖于相邻节点的参数数据，而不依赖于全局分布式节点的范围。在整个迭代过程中，每个节点仅需要发送本地模型梯度到邻居节点，且通信只存在于相邻节点之间，极大地减少了通信量。虽然整个模型迭代的时间变长，但是避免了传统中心化中需要向中心节点传递参数而造成的网络大量通信的问题和节点故障的容错性问题。实验与结果分析在本节中，本文在采集的手机电磁目标数据上进行实验验证，主要从收敛速度、训练时间、内存占用和识别准确率这几个方面对比集中式方法和方法。数据说明本次实验使用部手机作为识别目标，分别为两部荣耀 手机，一部华为 手机，两部苹果手机，一部魅族手机，一部小米手机。在屏蔽箱内采集手机发出的电磁信号，时域 点数据，共采集个批次、每个目标每个批次 条样本，取前个批次的数据作为训练集，即训练集个目标共 条样本，将第个批次的数据作为测试集，即测试集共个目标共 条样本。在算法流程中介绍到，在对电磁目标信号数据进行训练之前，需要做相应的预处理。本文采取的预处理方式包括滤波、能量检测、数据归一化、切片，以及对信号进行特征提取。在对每条样本进行变换后，会生成一个 的复数矩阵，本文将实部和虚部分开，最终生成维度为 的样本。图分别是部手机一条样本的原始时域图和后的时频图。第 期王宏安等：基于的分布式电磁目标识别 图时域波形图及时频图 实验设计本文总共进行了次实验，分别为集中式场景次，分布式场景次，均在搭有块 的服务器上进行。在集中式场景下，仅使用块。网络分别选用 和 以进行实验。在分布式场景下，为了探究不同节点数的影响，本文进行了狀、这种不同节点数的实验；为了探究对于不同神经网络的适用性，分别选取了 和 进行实验。在该场景下，每次实验选用狀块来分别代表狀个节点，并将数据均分到狀个节点上，搭建如图（）和图（）的点对点型通信拓扑结构。其中，每个节点向邻接节点广播本节点的模型参数梯度值，在节点接收到所有邻接节点的模型参数梯度值后，再进行本地模型参数的更新，具体更新方法见第 节算法介绍。为了便于对比集中式场景和分布式场景的实验结果，保证实验的有效性，本文在每次实验中的硬件选择和网络参数设置保持一致。具体设置如表所示。表参数设置犜 犪 犫 犾 犲犘 犪 狉 犪犿犲 狋 犲 狉狊 犲 狋 狋 犻 狀 犵训练方法优化器损失函数学习率批量大小集中式交叉熵 分布式交叉熵 神经网络环境均为 、，每次实验共训练 轮。结果及分析经过次实验，得到了不同场景中，分别在 和 网络下训练的平均训练时间、内存占用、识别准确率等信息，如表所示。表训练结果犜 犪 犫 犾 犲犜 狉 犪 犻 狀 犻 狀 犵狉 犲 狊 狌 犾 狋 狊训练方法单节点样本数量神经网络平均训练时间内存占用训练集准确率测试集准确率集中式 分布式（节点）分布式（节点）分布式（节点）本文对分布式场景下的多节点识别准确率进行求和平均操作，并取前 轮的结果，得到了不同训练网络各场景下识别准确率随迭代轮次的变化，如图所示。图为分布式场景下节点与集中式场景下使用 网络训练得到的训练集识别准确率的变化曲线。由图可知，在 网络下训练，模型会很快收敛，并保持 以上的识别准确率，且分布式场景下的训练效果与集中式相差不到。图训练集平均准确率变化曲线 图训练集准确率（）（）图为分布式场景下节点与集中式场景下使用 网络训练得到的训练集识别准确率的变化曲线。相比 网络下的训练过程，在采用 进行训练时，在分布式场景下收敛较慢，但最后也能达到 以上的识别效果。由表训练结果可以看出，不同的网络结构，在训练集上的识别准确率相差左右，在测试集上的识别准确率 系统工程与电子技术第 卷相差 左右。考虑神经网络容易拟合训练集上的数据，所以测试集上的准确率更有参考价值。可见本文方法可以适用于不同网络。图训练集准确率（）（）随着节点数的增加，单节点的样本数量有所减少，训练过程中占用的内存也会相应降低，也能有效减少平均训练时间，但是识别效果几乎没有下降。若单节点性能受限，可以在本文方法的基础上通过横向扩充节点数量来降低单节点上的识别压力，且不会对识别效果产生很大影响。结论在现今复杂的战场环境下，海量数据的分布式数据分析显得十分重要。战场的电磁信号是基于作战任务相关的，不同用途的雷达、通信网，不同位置、不同时间所截获的电磁信号及活动特征之间存在着密切的协同关系。准确识别电磁信号类别，对提取电磁信号，了解敌方意图、作战行动等目的十分重要。本文提出了对海量电磁信号的去中心化的分布式解决方案，能够在性能有限的分布式节点间训练出有效模型，从而为电子对抗、联合火力打击决策支持提供情报分析结果。参考文献，（）：，（）：，（）：，：，（）：，：，（）：，（）：张伟，王沙飞，林静然，等基于孪生网络的电磁目标跨模式识别算法电子学报，（）：，（）：蒋季宏，方宇轩，张伟，等小样本情景下基于特征融合的辐射源个体识别电子信息对抗技术，（）：，（）：范广伟，蔚保国，晁磊，等卫星导航电磁干扰识别分类器设计系统工程与电子技术，（）：，（）：，：，（）：王磊，张志勇，胥辉旗，等基于分解和多域联合分布的雷达辐射源识别系统工程与电子技术，（）：，（）：王枭，何怡刚，马恒瑞，等面向电网辅助服务的虚拟储能电厂分布式优化控制方法电力系统自动化，（）：，（）：，：，第 期王宏安等：基于的分布式电磁目标识别 ，：，：，：？，（）：，：，（）：，（）：，（）：李瑞泽，张双辉，刘永祥基于卷积网络的高效结构化稀疏 成像方法系统工程与电子技术，（）：，（）：，（）：，（）：，：，：，：作者简介王宏安（），男，硕士研究生，主要研究方向为分布式机器学习、辐射源识别。黄达（），男，硕士研究生，主要研究方向为群体智能。张伟（），男，高级工程师，博士研究生，主要研究方向为电子对抗。潘晔（），女，副教授，博士，主要研究方向为信号处理。王祥丰（），男，副教授，博士，主要研究方向为分布式优化、多智能体学习、可信机器学习。邵怀宗（），男，教授，博士，主要研究方向为通信、雷达信号处理。顾杰（），男，研究员，博士，主要研究方向为自适应信号处理。