单通道通信信号盲分离方法的研究进展综述.pdf

单通道盲信号分离（SCBSS）技术相关理论与实践应用不断完善，SCBSS 方法的研究取得了较大的进展。在分析国内外大量学术研究成果的基础上，基于通信信号盲信号分离（BSS）技术的应用逻辑提出了一种新的 BSS技术分类框架。该框架依据不同应用场景对 BSS 系统输出结果的要求，将 BSS 问题划分为多信号波形分离、单信号波形分离、多信号符号序列分离以及单信号符号序列分离 4 个层次，并系统性地梳理了 SCBSS 技术的研究现状。同时，综述了现有基于数据驱动的 SCBSS 研究现状，并探究了基于数据驱动的 SCBSS 技术目前亟待解决的问题和解决思路。最后，对 SCBSS 的几个潜在研究方向进行了分析和展望，旨在为 SCBSS 的研究和应用提供参考。关键词：盲信号分离；单通道；信号处理；数据驱动 中图分类号：TN92 文献标志码：A DOI:10.11959/j.issn.1000436x.2023138 Overview of research progress on blind separation methods for single channel communication signal DENG Wen1,HUANG Zhitao2,WANG Xiang1 1.College of Electronic Science and Engineering,National University of Defense Technology,Changsha 410073,China 2.College of Electromagnetic Countermeasure,National University of Defense Technology,Hefei 230088,China Abstract:Significant progress has been made in the research of single channel blind signal separation(SCBSS)methods,as the theoretical and practical applications of SCBSS technology have been continuously improved.A new classification framework for blind signal separation(BSS)of communication signal problems was proposed based on an analysis of a large number of academic research results from both domestic and international sources.The division of SCBSS prob-lems into four levels:multi-signal waveform separation,single-signal waveform separation,multi-signal symbol se-quence separation,and single-signal symbol sequence separation was determined by taking into consideration the demand for output results of BSS systems in different application scenarios.Subsequently,the research status of SCBSS methods was systematically reviewed.Furthermore,the current research status of data-driven SCBSS was summarized,and the problems and solutions that needed to be addressed in data-driven SCBSS technology were explored.Finally,several po-tential research directions for SCBSS were analyzed and forecasted.The aim is to provide a reference for the research and application of SCBSS.Keywords:blind signal separation,single channel,signal processing,data-driven 0 引言 随着电子信息技术的迅速发展，用频设备数量呈爆炸式增长。信息传输系统经常处于时域高度密集、频域严重重叠、空域相互交织且随时间动态变化的复杂电磁环境中，导致各种电磁信号严重混收稿日期：20230425；修回日期：20230715 通信作者：黄知涛， 基金项目：国家自然科学基金资助项目（No.62271494）Foundation Item:The National Natural Science Foundation of China(No.62271494)180 通 信 学 报 第 44 卷 叠。这给信息接收方的信号处理任务带来了巨大挑战。例如，2.4 GHz 频段是国际通信联盟无线电通信局规定的工业、科学和医疗（ISM,industrial scientific medical）频段，允许各个国家开放使用。基于 IEEE 802.11 标准的无线局域网设备及蓝牙设备都工作在这一频段，当它们在同一狭小空间范围内同时工作时，二者的接收端都会接收到时频严重混叠的干扰信号1。在卫星通信领域，如星载船舶自动识别系统（AIS,automatic identification system）2等，转发干扰是很难处理的一种信号，因为它与通信信号频率相同，且统计相关，而功率往往比通信信号大很多，严重影响正常通信3。此外，基于成对载波多址（PCMA,paired carrier multiple access）的通信系统允许不同终端基于完全相同的频率、时隙及扩频码相互通信4。对该类信号进行侦察时，很难对同一链路中来自不同通信终端的信号进行参数分析及信息提取。面对这些复杂情况，传统的时频域滤波方法无法发挥作用，而在只有一个接收天线的单通道情况下，基于波束成形的空域滤波方法也将失效。因此，迫切需要一种可以有效应对多信号时频混叠场景的新技术，从而提升各类系统对复杂电磁环境的适应能力。盲信号分离（BSS,blind signal separation）是解决复杂电磁环境下混叠信号处理问题的一种很有前途的技术。BSS 技术可以在传输信道参数未知的情况下，仅基于对期望信号较少的假设条件（如非高斯性、统计独立性、循环平稳性、稀疏性等），实现混叠信号分离5。BSS 技术对混叠信号的频谱关系没有要求，信号可以是不同频率的，也可以是同频率的，这对时频域高度混合的信号的处理非常有吸引力。然而，BSS 的理论框架是建立在传感器数目不小于源信号数目的基本假设之上的。在实际应用场景中，一些通信系统由于受到体积、成本等方面的限制，信号接收端往往只有一个接收天线，因此单通道观测条件下的 BSS（SCBSS,single channel BSS）技术研究将更具有现实意义。为此，研究人员在这一领域做了许多探索工作。此外，随着计算硬件的不断发展和深层网络训练方式的优化，深度神经网络在许多数据处理领域表现出了强大的复杂问题建模能力和优异性能。近年来，深度学习（DL,deep learning）技术6-7在语音信号处理、自然语言处理等领域表现出优异性能8-13，在通信信号处理领域也出现了基于数据驱动技术的算法14，如信号检测15-16、调制识别17-18、信道估计19等。而基于数据驱动的 SCBSS研究目前仍处于起步阶段。对于 SCBSS 而言，DL技术为突破传统 SCBSS 方法模型优化难、计算复杂度高、分离性能差等局限性提供了一种新的手段，即利用海量的数据寻找和建立信号内部特征关系，进而完成问题求解。数据驱动方法不需要考虑通信信号模型，而是将深度神经网络（DNN,deep neural network）视为黑盒，通过大量数据实现非线性拟合，训练完成的网络模型仅需要一次前向计算便可实现分离，弱化了模型失配带来的影响，同时避免了复杂的模型优化和参数选取过程。因此，基于数据驱动的 SCBSS 是一个极具应用前景的研究方向。本文将对单通道观测条件下通信信号盲分离的工作进行分析和总结，并在此基础上，综述现有基于数据驱动的 SCBSS 研究现状，并探讨该技术目前亟待解决的问题和解决思路。最后，本文将展望 SCBSS 未来的发展趋势，旨在帮助后续研究人员更好地理解基于数据驱动的 SCBSS 技术，并为其提供相关思路，以促进该领域的进一步发展。1 SCBSS 问题模型 假设在时刻n，包含N个信号的矢量为T11()(),()NNns nsns，包含一个观测的矢量为1 1()nx，则 SCBSS 问题模型可表示为 ()()()nAnnxsv(1)其中，()A 表示广义混叠信道，决定了各信号与其在观测中对应分量的关系；1 1()nv表示观测通道内存在的噪声及扰动成分。BSS 问题中的“盲”强调的含义如下：1)参与混叠的信号未知；2)混叠信道未知。严格意义上的 BSS 指的是在这 2 个条件下，仅基于混叠观测完成对其中包含的所有信号的分离的过程。具体而言，其核心在于寻找某个分离系统()W，使仅以()nx为输入的该分离系统的输出()ny是()ns的良好估计()ns，即满足 ()()()()nWnnnyxss(2)SCBSS基本流程如图1所示。BSS问题的分类可以根据研究问题的角度和所关注问题场景的不同而灵活设定多种标准。BSS问题分类框架如图2所示。现有的BSS问题分类标准第 8 期 邓文等：单通道通信信号盲分离方法的研究进展综述 181 包括接收通道数、混叠信道类型和目标信号类型。多通道BSS可以根据接收通道数M与信号数N的关系进一步划分为超定BSS（MN）、正定BSS（MN）和欠定BSS（2MN）。根据是否考虑同一信号到达不同通道的时延差异以及同一信号到达同一通道的多径效应，线性混叠信道可以被划分为 3 种：线性瞬时混叠信道、线性时延混叠信道和线性卷积混叠信道。BSS 的目的是从混叠观测中恢复各个期望信号。一般而言，用期望信号的估计值与真实值进行对比，以评价算法的性能。根据应用场景的不同，分离系统输出恢复的信号形式一般分为信号波形和信号符号序列。因此，现有 BSS 算法的性能评价指标可分为波形恢复质量评价指标和符号序列恢复质量评价指标两类。表 1 展示了 BSS 算法的性能评价指标。在不同场景下的分离系统中，需要选择相应的评价指标，以更准确地评估分离算法的性能。同时，也可以结合多种评价指标进行综合评价，以更全面地了解算法的性能表现。表 1 BSS 算法性能评价指标 评价角度 指标 波形恢复质量 相关系数 性能指标 均方误差 信干噪比 信息传递精度 解调误符号率 解调误比特率 2 SCBSS 技术研究进展 本节首先介绍基于应用逻辑的 BSS 技术分类框架，然后详细梳理 SCBSS 技术的研究进展，并分析当前研究中存在的不足。重点关注以时频混 图 1 SCBSS 基本流程 图 2 BSS 问题分类框架 182 通 信 学 报 第 44 卷 叠的数字通信信号为分离目标信号的现有 SCBSS技术。2.1 基于应用逻辑的 BSS 技术分类框架 在严格的 BSS 问题中，通常要求分离系统输出目标信号的时域波形，其中包含较完整的目标信号信息。然而，在实际 BSS 系统中，输出结果的形式会因目标信号类型和具体信号分析/信息提取需求的不同而发生相应的变化。具体而言，一方面，信息的完整性意味着对信号时域波形的精确获取（恢复）往往难度较大；另一方面，实际 BSS 应用对输出结果的后续分析或信息提取一般只关注某一方面或某一维度的目标信号信息，例如，参数分析中的谱峰信息或合作通信中的数字通信信号调制符号信息，而时域波形中包含的完整信息将大概率存在冗余或无用的部分。具体而言，在频谱管理和特定信号检测等应用中，分离系统输出结果中所包含信号的参数信息（如载频、带宽和调制样式等）更受关注。为了满足获取该层次目标信号信息的需求，通常首先获取其时域波形，然后采用经典参数估计算法基于时域波形估计信号参数。而在合作/非合作通信中的一些典型 BSS 问题场景下，相较于目标信号参数信息，更多关注的是数字通信信号调制符号信息。上述场景常见于以下三类典型 BSS 问题中。1)合作通信中的通信抗干扰问题。由于合作通信的重点在于实现通信信息的传输，且目标信号参数均已事先准确获知，因此直接基于混叠观测对目标信号符号序列进行估计（分离）将更具有实际意义。2)非合作通信中的公开样式信号侦察问题。在对 AIS 信号或其他格式固定且公开的目标信号进行侦察时，对其信号参数的估计无法带来有效信息增量，同时更多情况希望基于已知信号参数及格式对其中加载的调制信息进行解译，因此进行 BSS 时的分离输出一般为直接对目标信号符号序列的估计20。3)非合作通信中的特定信号控守侦察问题。在此类问题中，由于持续关注特定目标信号，且前期已对其开展了充分的参数估计、样式分析等工作，因此在后期对同一目标信号进行 BSS 时，往往不再关注其信号参数，而将进一步尝试获取其搭载的调制信息。因此，分离系统的输出形式应针对不同的应用需求进行定制化处理，而非仅限于获取时域波形，以便更好地提升分离质量和效率。而这一般有助于降低分离难度，同时拓宽问题解决思路。综上，BSS 技术可以根据分离系统的应用逻辑进行分类。一般而言，分离系统的输出形式应该与后续信号分析/信息提取中主要关注的目标信号信息层次和内容匹配。当目标信号为数字通信信号时，BSS 任务可根据分离输出形式大致分为 2 种：波形分离和符号序列分离。前者指分离系统输出时域波形形式的情况，后者则指分离系统直接输出符号序列形式的情况。基于应用逻辑的 BSS 技术分类框架如图 3 所示。多通道 BSS 算法通常基于信号的统计独立性、稀疏性等假设，对不同类型的信号具有一定的普适性。这是因为多通道观测提供的信息相对充分，可以在关于目标信号的弱先验信息的帮助下完成信号分离。相比之下，SCBSS 算法仅基于单通道观测，因此需要更强的关于目标信号本身的先验信息来支持信号分离。这种先验信息可以作为对单通道观测条件下缺失的空间信息的补充。因此，在 SCBSS 图 3 基于应用逻辑的 BSS 技术分类框架 第 8 期 邓文等：单通道通信信号盲分离方法的研究进展综述 183 中，对目标信号特性的分析和利用更重要。此外，SCBSS 算法在适用的目标信号类型方面具有更强的针对性，但也意味着较难从基于先验信息/假设角度对 SCBSS 算法进行系统性的划分。本文主要关注单通道观测条件下的 BSS 问题。根据新的分类框架，SCBSS 问题可被分为四类子问题，分别为：单通道观测条件下的多信号波形分离、单通道观测条件下的单信号波形分离、单通道观测条件下的多信号符号序列分离、单通道观测条件下的单信号符号序列分离。综合前述，可知此四类子问题分别关注单通道条件下混叠观测中包含的多个目标信号时域波形的分离、某一特定目标信号时域波形的分离、多个目标信号符号序列的直接分离及某一特定目标信号符号序列的直接分离。为了满足不同 SCBSS 问题场景下的需求，本文在接下来的内容中主要对这四类问题进行了深入的分析和总结，以期为后续研究提供有益参考。2.2 SCBSS 技术研究进展 本节将分别介绍不同分离任务的现有 SCBSS算法，并分析现有研究存在的不足。具体将围绕以下四类分离任务展开：多信号波形分离、单信号波形分离、多信号符号序列分离、单信号符号序列分离，并重点关注针对通信信号的 SCBSS 研究现状。SCBSS 任务及其技术研究情况如图 4 所示。2.2.1 多信号波形分离 如 2.1 节所述，多信号波形分离的任务是对混叠观测中包含的多个目标信号时域波形进行分离。由于多信号波形分离可以解决大部分 BSS 应用场景下的问题，因此是 SCBSS 中研究较多的一类分离任务。目前，已经有两大类 SCBSS 算法完成了该分离任务，分别为基于伪多通道观测构建的算法和基于参数估计与波形重构的算法。1)基于伪多通道观测构建的算法 相对于 SCBSS，多通道 BSS 算法已经较为成熟，尤其是超/正定 BSS 的研究。因此，解决 SCBSS问题的一种重要思路是通过某种方式构建伪多通道观测，然后利用成熟的多通道 BSS 算法实现多信号波形分离。由于相对 SCBSS 而言，关于多通道 BSS 尤其是超/正定 BSS 的研究已经较成熟，故解决 SCBSS问题的一类重要思路是首先通过某种途径基于单通道混叠观测构建伪多通道观测，随后借助成熟的多通道 BSS 算法实现多信号波形分离。针对时频混叠数字通信信号的多信号波形分离，文献21提出了一种将奇异值分解（SVD,singular value decomposition）技术与独立分量分析（ICA,independent component analysis）技术结合的方法。其基本思路是通过时延和 SVD 将单通道混叠观测转换为伪多通道观测，然后迭代地使用 ICA对伪多通道观测矩阵进行处理，最后通过频谱分析和组合得到多信号波形分离结果。然而，该方法存在一些不足之处。首先，对多次 ICA 分离结果的组合依赖人工分析，尤其是在各数字通信信号频谱混叠较严重时，对分离结果中分属于不同信号的分量较难区分，容易产生虚假信号。其次，多次 ICA 过程及必需的后期处理使算法整体较烦琐，且分离结果可靠性降低。文献22提出了一种逐次提取的方式来分离多个数字通信信号波形。对于每个目标信号，首先，有针对性地设计时延参数，并基于时延将单通道混叠观测转换为伪多通道观测；然后，基于ICA 对伪多通道观测进行分离，并对存在冗余的分离结果进行波形及频谱的人工分析，确定属于同一目标 图 4 SCBSS 任务及其技术研究情况 184 通 信 学 报 第 44 卷 信号的成分，将其组合得到该目标信号波形分离结果。然而，该方法对各目标信号载频差异度要求较高，且对分离结果的分析及后期处理要求较多的人工干预，分离可靠性不高。此外，其逐次提取各目标信号的过程较烦琐，需多次运用 ICA 算法。文献23提出了一种基于连续小波变换（CWT,continuous wavelet transform）实现伪多通道观测构建的方法，利用 ICA对伪多通道观测中的分量进行分离，通过频谱能量门限筛选从 ICA 分离结果中确定与目标信号相关的部分，作为多信号波形分离结果。然而，该方法的不足在于 ICA 分离得到的分量数多于实际目标信号数，需要经过后期筛选，筛选门限的确定主观性较强，从而导致其分离结果可靠性降低。针对具有恒模特性的时频混叠数字通信信号波形分离，文献24提出了一种基于集合经验模态分解（EEMD,ensemble empirical mode decomposi-tion）将单通道混叠观测分解为初始伪多通道观测的方法，并通过主成分分析（PCA,principal com-ponent analysis）对初始伪多通道观测进行降维，随后通过多次 ICA 对降维后的伪多通道观测进行分离，每次均基于目标信号恒模特性提取分离分量中能量最大的部分作为某一目标信号的波形分离结果。然而，该方法分离过程较烦琐，且仅适用于具有恒模特性的数字通信信号。为应对信号分量存在能量差异的混叠信号，文献25通过人工设置谱相关系数和中心频率双重门限的方式来添加约束，提出了一种改进的 EEMD 方法。文献26在建立伪多通道观测时，初步尝试了贴合目标信号特性的方法。该方法基于数字通信信号的自回归（AR,autoregressive）特性，提出了时域阵列（TA,temporal array）的概念，实现了仅基于时延的伪多通道观测构建。随后，利用各目标信号间统计独立的特点，直接采用经典 ICA 算法实现多信号波形分离。然而，该算法建立 TA 的前提是混叠观测中各目标信号的载频不能相同。若混叠观测中存在载频相同的情况，该算法的分离性能会显著下降，甚至失效。此外，构建 TA 的时延矢量对结果影响较大，需要根据测试数据进行人工确定。从上述总结分析中可以看出，基于伪多通道观测构建的多信号波形分离算法存在 2 个关键问题：如何构建伪多通道观测以及如何基于多通道 BSS算法分离结果获取目标信号波形。然而，现有面向时频混叠数字通信信号的该类算法在这两方面存在不足。首先，在伪多通道观测的构建过程中，现有算法对数字通信信号特性的挖掘与利用尚不充分，更多地依赖于通用数学工具，如 SVD、CWT、EEMD等，导致构建过程的物理可解释性不强且效率较低。因此，构建的伪多通道观测未能很好地拟合实际多通道观测，从而导致一般无法基于多通道 BSS算法直接实现多信号波形分离。其次，在通过多通道 BSS 算法对伪多通道观测进行分离后，分离结果往往存在冗余，需要依靠额外的人工分析与后期处理才能获取目标信号波形，使整个分离过程较烦琐且分离结果可靠性降低。对于多个目标信号波形的分离，一般需要多次运用多通道 BSS 算法，从而降低了分离效率。2)基于参数估计与波形重构的算法 对于可以基于参数化模型进行精确建模的目标信号，若能获取其模型参数，则理论上可以直接对其信号波形进行重构。实现多信号波形分离的关键在于预先建立目标信号的准确参数化模型。对于通信信号，由于其具备明确的数学表达形式，因此基于参数估计的波形重构为时频混叠通信信号的多信号波形分离提供了另一有效思路。文献27针对幅度时变及相位连续的通信信号，提出利用三阶多项式对目标信号瞬时相位进行拟合，将多信号波形分离问题转化为多个相位序列与信道参数的联合估计问题，并基于逐留存路径处理（PSP,per-survivor processing）技术进行求解，最后利用相位与信道参数的估计值对各个信号进行重构，实现多信号波形分离。针对窄带或慢变化目标信号，文献28提出在短时间内将其建模为单频信号，并利用能量算子及差分能量算子对其瞬时频率及瞬时幅度进行估计，并最终重构各目标信号。文献29提出了基于时变系数自回归模型对瞬时频率变化的非平稳信号进行建模，并假设该模型时变系数可由已知基函数加权获取，利用递归的方法对该系数进行估计，并最终对多目标信号波形进行重构。但上述算法主要适用于对模拟通信信号的分离，其对于数字通信信号尚不具备适用性。文献30提出了一种基于数据辅助信道估计的 PSP 方法，通过将长序列分割成多个片段，选择检测可靠性最高的片段拼接在一起，有效应对了采样频率偏移不相同导致的时间滑移和符号滑移问题。文献31利用时分多址（TDMA,time division 第 8 期 邓文等：单通道通信信号盲分离方法的研究进展综述 185 multiple access）移动通信系统中参与混叠的数字通信信号具有显著功率差异的特点，提出首先对较大功率信号进行解调及波形重构，随后从混叠观测中抵消该重构信号而获取较小功率信号波形。该算法在各目标信号功率较接近时，性能将明显恶化，因而适用的场景较有限。2.2.2 单信号波形分离 单信号波形分离的任务是从混叠观测中分离得到某一特定目标信号时域波形。此时，除该目标信号外，其余参与混叠的信号均可被视为干扰。在通信抗干扰、特定信号检测等应用中，进行单信号波形分离对于高效获取目标信号、提升分离质量均具有重要意义。现有基于单通道观测实现单信号波形分离的算法主要包括基于广义谱维纳滤波的算法与基于信号子空间投影的算法。1)基于广义谱维纳滤波的算法 为了解决传统时/频域滤波对于时频混叠信号的失效问题，Hopgood 等32提出了广义谱域的概念。该概念假设存在某一谱域，使各信号在其中不存在混叠。在将混叠观测转换至该谱域后，可基于线性维纳滤波分离目标信号。Gardner33在该思路的基础上，假设各信号在循环频域内不存在混叠，利用数字通信信号循环平稳特性，提出了一种线性共轭线性频移（LCL-FRESH,linear-conjugate-linear frequency shift）滤波器（简称 FRESH 滤波器），成功实现了多个时频混叠数字通信信号中特定目标信号的分离。其基本原理是通过对混叠观测的不同频移分量的滤波结果进行加权求和，在增强目标信号的频移分量成分的同时减弱干扰信号的频移分量成分。以目标信号为 QPSK 信号的情况为例，设其循环频率族为1212,rrrl （前r个循环频率为非共轭循环频率，后lr个循环频率为共轭循环频率），则将混叠观测输入 FRESH 滤波器进行单信号波形分离的过程为*11()()()()()vvwwrlvw ry nhnxnhnxn (3)其中，j2()()evvnxnx n和j2*()()ewwnxnx n分别为混叠观测的非共轭和共轭频移分量，()vhn和()whn分别为非共轭和共轭支路的线性时不变滤波器，为卷积运算。FRESH滤波器的主要不足在于其对目标信号的先验信息要求较高。具体而言，其要求目标信号循环频率族已知且与干扰信号循环频率族不存在重合，同时需要获取目标信号波形本身作为训练信号以对各支路线性时不变滤波器系数进行优化调整。这在很大程度上限制了其实用性，尤其是在非合作通信场景下。为了降低FRESH滤波器对训练信号的要求，文献34提出了一种盲自适应FRESH（BA-FRESH,blind adaptive FRESH）滤波器，直接以混叠观测的某一频移分量取代目标信号本身作为训练信号，因此相较FRESH滤波器而言，BA-FRESH滤波器实用性显著提升。然而，BA-FRESH滤波器仍要求对目标信号循环频率族的精确先验知识，其性能在循环频率存在误差时将显著下降33。同时，BA-FRESH滤波器在分离性能上较标准的FRESH滤波器存在一定的差距。2)基于信号子空间投影的算法 除了上述基于广义谱维纳滤波的算法外，还有一种重要的单信号波形分离技术思路，即信号子空间投影。其基本原理是首先基于已有的数学变换或基底学习过程构建子空间基底集，使目标信号与干扰信号在该基底集张成的子空间内尽可能正交；然后，通过将混叠观测投影到该信号子空间，实现单信号波形分离。针对通信中抗同信道干扰的问题，文献35基于目标信号符号速率信息，确定合适的小波基底，使其张成目标信号在小波域内的零空间；然后，将混叠观测投影到该小波基底上，并基于干扰信号脉冲成形函数先验信息获取干扰信号估计；最后，通过将干扰信号估计结果从混叠观测中抵消，实现目标信号波形分离。需要注意的是，该方法要求目标信号为基带信号，且目标信号与干扰信号符号速率差异极小，对一般的时频混叠数字通信信号适用性不强。针对雷达信号处理中存在的非平稳信号分离问题，文献36提出了一种基于压缩感知的单信号波形分离算法。该算法假设目标信号可以由傅里叶基底稀疏表示，在通过短时傅里叶变换（STFT,short time Fourier trans-form）将混叠观测投影至时频域后，利用目标信号与干扰信号在时频域内的正交性及时频谱分析技术将其中包含干扰信号能量的时频点移除，并最终基于压缩感知对目标信号波形进行分离。需要注意的是，该方法要求目标信号与干扰信号在时频域内具有较高的正交性，这对于时频混叠较严重的数字通信信号而言难以成立。186 通 信 学 报 第 44 卷 除了上述基于已有通用数学变换的基底构建方式，还可以通过基于训练数据的学习过程构建更具有针对性的基底集。例如，在语音信号分离中，文献37-39提出首先以纯净目标信号为训练样本学习“字典”（即基底集），并保证目标信号可在该基底集张成的子空间内得到稀疏表示；然后，通过将混叠观测在所学得的基底集上进行稀疏编码（SC,sparse coding），即投影在基底集张成的子空间，实现目标信号波形分离。然而，现有基于训练数据进行基底学习的方法主要存在以下不足：1)其要求以纯净目标信号作为构建基底的先验，这在常见的SCBSS应用场景下难以得到满足；2)传统的字典学习算法（如文献37中采用的K-SVD算法40、贪婪自适应字典学习算法41和并行码字优化算法42）均需要基于对大量训练样本的迭代优化，一般而言计算量较大，例如，K-SVD算法需要对全局误差矩阵进行K次SVD运算，其中，为字典更新迭代次数，K为字典总原子数；3)现有算法主要面向语音信号分离，尚不能较好地适用于数字通信信号单信号波形分离任务，尤其是如何利用数字通信信号的特性提升分离质量和分离效率仍然是值得深入研究的问题。文献43提出了一种基于稀疏编码和模板匹配的单信号波形分离算法。该算法假设混叠观测中存在目标信号单信号区域（SSR,single signal region)，首先，基于数字通信信号符号集的有限性，利用SC实现目标信号SSR检测；然后，直接以SSR检测结果为模板构建目标信号子空间基底，通过模板匹配过程实现混叠观测非 SSR 部分的目标信号子空间投影，从而完成目标信号波形分离。该算法不依赖纯净目标信号波形的先验信息。但是，由人工参数设置的限制，该算法难以应对干扰信号强度较大、环境噪声水平变化等场景。文献44则基于数字通信信号的AR特性，提出了一种基于字典学习及约束条件下稀疏编码的单信号波形分离算法。该算法同样假设混叠观测中存在目标信号的SSR，通过伪多通道观测构建和基于信息论准则的信号个数估计实现SSR检测；然后，以SSR检测结果为训练样本，利用经典DL技术构建目标信号子空间基底；最后，通过在传统SC中加入目标信号特性约束项的CSC过程实现混叠观测非SSR部分的目标信号子空间投影，从而完成目标信号波形分离。该算法同样不需要纯净目标信号波形的先验信息，同时人工参数明显减少。但是，当混叠信号中不存在SSR时，这2种算法的性能会急剧下降，且二者的处理过程较烦琐。综合以上分析可以看出，现有实现单信号波形分离的SCBSS算法主要存在以下不足。首先，现有算法对目标信号的先验信息依赖较强，例如，FRESH滤波器中对目标信号循环频率甚至信号波形的先验要求，以及基于字典学习与SC的算法中对纯净目标信号训练样本的要求。在实际应用中，这些先验信息难以得到充分满足，尤其是在非合作通信条件下，这限制了现有算法的实用性。其次，现有算法中基于字典学习构建基底集的过程计算复杂度较高，需要研究更高效的基底集构建方式。最后，现有算法尚未充分挖掘发挥目标信号特性在单信号波形分离中的作用，需要针对数字通信信号开发更具有针对性、更高效的分离算法。2.2.3 多信号符号序列分离 多信号符号序列分离的任务是对混叠观测中包含的多个目标信号符号序列进行直接估计。这种任务通常出现在数字通信信号的分离中。当前完成这一分离任务的主流思路是对多信号参数、信道参数及符号序列进行联合估计，具体采用的技术主要包括粒子滤波（PF,particle filtering）与PSP。粒子滤波是指通过确定一组在状态空间中传播的随机样本来近似地表示概率密度函数(|)nnp xz，其中，nx为系统在n时刻的状态，nz为n时刻的观测，通过计算样本均值来代替积分运算，进而获得对系统状态的最小方差估计的过程，这些随机样本被形象地称为“粒子”45。其具体数学过程如下。对于一个平稳随机过程，设1n时刻系统的后验概率密度为11(|)nnp xz，在n时刻可对选取的k个粒子进行观测及状态更新，并假设更新后k个粒子的后验概率密度为(|)nnp xz。随着粒子数目的增加，粒子的后验概率密度将逐渐趋近系统状态的真实概率密度，PF将可达到最优贝叶斯估计的效果46。针对符号速率相同的两数字通信信号的符号序列估计问题，文献47引入PF技术，首先对单通道混叠观测进行符号速率采样，将两目标信号符号序列与信道参数等作为状态变量进行联合建模；经过粒子重要性采样及权值更新，对状态变量后验概率分布进行估计，以符号序列后验概率分布期望为多信号符号序列估计结果。文献48进一步对文献47算法第 8 期 邓文等：单通道通信信号盲分离方法的研究进展综述 187 在数学上进行了完善，使粒子重要性采样及权值更新的公式更完备准确。但早期基于PF的多信号符号序列估计方法受限于各目标信号符号速率相同的场景。针对符号速率不同的两数字通信信号符号序列估计问题，文献49对单通道混叠观测的建模进行调整优化，给出了新模型下的状态空间转移方程，并推导了信号符号速率不同条件下的重要性采样及权值更新公式，实现了各目标信号符号速率不同场景下的多信号符号序列估计。除此之外，为解决基本PF中难以避免的粒子数匮乏问题，研究者还提出了诸多改进PF算法50-52，以进行更高质量的重采样。但实际应用中，由于需基于大量粒子才能实现对系统状态后验概率密度的良好近似，故PF主要受限于其极高的计算复杂度。为建立更高效、更具实用性的问题解决框架，文献53针对符号速率相同的两四相相移键控（QPSK,quadrature phase shift keying）信号的符号序列估计问题，首次提出了基于PSP的解决方案。该方法仍基于目标信号符号序列与信道参数联合估计的思路，主要包括基于最小均方（LMS,least mean square）准则的参数更新及判决反馈。基于PSP算法的多信号符号序列估计技术提出后引发广泛关注，研究者在文献53基础上提出了一系列改进算法。例如，为降低截断信道冲激响应对PSP算法性能的影响，文献54提出基于Viterbi检测获取预判决，并以其为基础合成信道冲激响应尾部造成的符号串扰。针对两高斯最小频移键控（GMSK,Gaussian minimum shift keying）信号的符号序列估计问题，Wu等20提出将目标信号特性约束项引入传统LMS算法中，有效提升了PSP算法收敛速度及符号序列估计质量。文献55在基本PSP算法基础上，分析了采用“判决反馈”序列估计技术对符号序列估计性能的影响，并通过优化采样时刻提升了基本PSP算法性能。文献56在原有PSP算法的基础上，通过跟踪或估计载波残余带来的相位变化，提升了其在存在载波残余条件下的性能。在此，将两目标信号混叠场景下的基本PSP算法步骤归纳如下53。步骤 1 将经符号速率采样的单通道混叠观测建模为 1 T12T2()()kkkkkkxvRcRc(4)其中，kx表示单通道混叠观测第k个采样值，T()1,2ikiR（）为将目标信号参数、信道冲激响应等考虑在内的广义信道冲激响应矢量的第k个元素，1,2iki c（）为目标信号符号序列矢量的第k个元素，kv为噪声分量。步骤 2 对目标信号的幅度、载频等进行估计，并基于估计结果对T()1,2ikiR（）进行初始化。步骤 3 对当前所有候选路径，选择其最优符号序列延伸分支。即在当前T()1,2ikiR（）下，确定可使重构误差最小的所有目标信号下一符号组合，并更新1,2iki c（）。在选择最优符号序列延伸分支时，基于式(5)中的1()kk 对各分支进行度量。2111()kkkkkkee（）（）1 T12T2111()()()()kkkkkkkkkxRcRc(5)其中，1kk表示从状态k到状态1k的转换，即将待度量的各信号符号组合并入当前候选路径的过程。步骤 4 基于经典LMS算法对T()1,2ikiR（）进行更新，并返回步骤3。步骤 5 在步骤3和步骤4经过充分迭代后（一般是符号序列候选路径