基于改进深度残差收缩网络的心电信号分类算法.pdf

应用数学和力学编委会，：基于改进深度残差收缩网络的心电信号分类算法龚玉晓，高淑萍（西安电子科技大学 数学与统计学院，西安）摘要：心电信号分类是医疗保健领域的重要研究内容 针对大多数方法不能很好地降低样本数量少的类别漏诊率，以及降低预处理操作的复杂性问题，提出了一种基于改进深度残差收缩网络（）的心电信号分类算法（即 算法）首先，使用合成少数类过采样技术（）扩充数量少的类别样本，从而解决了类不平衡问题；其次，利用改进深度残差收缩网络提取空间特征，其残差模块可以避免网络层加深造成的过拟合，压缩激励和软阈值化子网络可以提取重要局部特征并自动去除噪声；然后，通过长短期记忆网络（）提取时间特征；最后，利用全连接网络输出分类结果 在 心律失常数据集上的实验结果表明，该算法的分类性能优于、分类算法 关 键 词：心电信号；合成少数类过采样技术；深度残差收缩网络；压缩激励；长短期记忆网络中图分类号：；文献标志码：，（，）：（），应用数学和力学 卷 期 年 月 ，收稿日期：；修订日期：基金项目：国家自然科学基金项目（）；高等学校学科创新引智计划（计划）（）作者简介：龚玉晓（），女，硕士生（：）；高淑萍（），女，教授，博士，硕士生导师（通讯作者：）引用格式：龚玉晓，高淑萍 基于改进深度残差收缩网络的心电信号分类算法 应用数学和力学，（）：；引 言根据世界卫生组织提供的资料显示，心血管疾病是危害人类生命最严重的疾病之一，每年因心血管疾病死亡的人数约占世界死亡人数的 心电图（，）以其简单、无创的特点被广泛应用于诊断各种心脏异常、预测心血管发病率和死亡率 其诊断需要临床医生仔细检查和识别搏动间和搏动内的模式，这个过程既耗时又容易出错 因此，设计一种高准确率、低漏诊率的心电信号分类算法显得尤为重要 目前，国内外研究者们已提出了多种心电信号分类算法，可分为基于波形形态、波形特征和深度学习三类 基于波形形态的分类算法是利用心电图的 波、波以及 波群等特征进行分类 例如，李胜蓝等使用形态学方法对 波群进行描述，提取了有效特征信息，并使用模糊网络和神经网络对心律失常进行识别，在 类心律失常识别中达到了 的准确率 但该分类算法对噪声敏感，准确率较低，不利于应用于实际 基于波形特征的分类算法是通过高阶统计特征、系数、小波变换等算法提取心电信号特征，再通过多层感知机或支持向量机（，）等算法进行分类 例如，等通过小波变换、局部二值模式和高阶统计特征进行特征提取，并使用 进行分类，在 类心电信号分类中达到了 的准确率 但此类分类算法需要较多的先验知识，且鲁棒性较差，也不利于广泛应用于实际 基于深度学习的分类算法是通过搭建端到端的神经网络进行分类，其具有较好的特征提取能力和泛化能力，越来越多的研究者将卷积神经网络（，）、残差网络（，）、长短期记忆网络（，）等应用在心电信号分类领域中 例如，陈鹏等提出了一种基于 和 的心电信号分类算法（），该算法通过 生成高质量合成样本，实现了二维心电图的样本类别平衡，实验验证了样本类别平衡有助于提高分类性能 等提出了一种基于 和 的混合神经网络心律失常识别模型（），该模型可以自动提取信号的空间特征和时间特征，实验验证了其比单一 模型的分类性能好 提出了一种基于 和 的混合神经网络心电信号分类算法（），该算法在预处理阶段使用小波阈值变换和合成少数类过采样技术（，）进行去噪处理与样本类别平衡，并将注意力机制嵌入到 上为重要时间特征赋予较大权重，在 心律失常数据库上取得了较好的分类性能 郭炜伦等提出了一种基于 的心电信号识别算法，该算法将压缩激励（，）模块嵌入到 和 中进行心电信号的分类，在 心律失常数据库上取得了 的准确率 由于 在深层网络结构中需要训练大量可学习参数，且容易出现梯度消失和网络退化等现象，许多研究者也常使用 代替 进行空间特征提取，其可以减轻深度网络的训练难度 例如，等提出了一种多导联残差神经网络心电图识别模型（），其考虑了心电信号的多导联，提高了算法的泛化性能，在 数据库中取得了 的准确率 秦博等提出将残差结构和注意力机制结合进行心电图分类（），其使用注意力机制解决了 对任何位置特征相同处理的问题，大大提高了样本数量少的类别敏感性 上述基于深度学习的分类算法虽然取得了较好的分类结果，但仍存在一些不足之处：当以一维心电信号作为输入时，需要在预处理阶段进行小波变换或其他去噪操作，其通常需要大量先验知识且去除噪声后可能会改变心电信号的含义 当以二维图像作为输入时，需要将一维心电信号数据转化为二维图像，并建立多个复杂的生成模型进行数据类别平衡，操作繁琐且模型复杂耗时，不利于应用于实际 对此，本文根据心电信号的特点对深度残差收缩网络（，）进行改进，使其可以在高噪声心电信号中提取重要局部特征并达到自动去除噪声的目的，并将改进深度残差收缩网络（，）与、结合，提出了一种基于改进深度残差收缩网络（）的心电信号分类算法 该算法不仅可以降低样本数量少的类别漏诊率，还能降低预处理操作的复杂性，同时也避免了因网络应 用 数 学 和 力 学 年 第 卷层加深造成的网络退化现象 相关理论知识 为了加强深度神经网络从含噪声信号中提取有用特征的能力，等以残差网络为基础，融合注意力机制和软阈值函数，提出了，其结构图如图 所示 该网络结构是在经典残差网络的输出之前嵌入一个压缩激励和软阈值化子网络 其中 可以解决网络层加深导致的梯度消失和网络退化问题 网络通过学习通道特征的相关性评估通道的重要程度，从而得到一组阈值 软阈值函数通过将部分特征置为 实现对噪声和冗余信息的抑制 具体实现过程如下：变换 使用堆叠两层卷积而成的 学习残差信息，记 的输入特征为 ，第一层卷积输出特征为 ，第二层卷积特征输出为 ，即 单元的输入特征 ，（）其中，分别表示特征矩阵的高度、宽度和通道数；表示卷积乘号；和 分别为两次卷积的二维卷积核 压缩操作 使用绝对值函数与全局平均池化（）将每个通道上的全局空间特征通过空间维度 压缩生成通道描述符，该描述符的统计信息表示此通道的全局特征，从而得到一个 的通道统计量 的第 个元素计算如下：（）（，），（）激励操作 通过 映射的门控机制对通道之间的相关性进行计算，得到每个通道的阈值算子 （如式（）所示）为了限制模型的复杂度以及强化泛化能力，使用两个全连接用于降维和升维 （，）（，）（，），（）其中，为 映射；，分别是降维和升维层的可学习参数，为降维层的缩放比，该参数用于降低计算量 阈值计算 将通道特征 和阈值算子 乘积得到该通道的阈值（如式（）所示），从而得到通道阈值 ，该阈值是通过神经网络训练自主学习得到的，其不需要先验知识人工设置，阈值的高低与通道特征的重要程度成正相关，阈值越接近，通道特征越不重要 （）软阈值化 软阈值函数的导数为 或，在神经网络中可以有效地防止梯度消失 使用网络训练学习到的阈值 对残差信息 进行软阈值处理（如式（）所示），从而去除大部分噪声和冗余信息，得到去除噪声的残差特征 ，（，）（，）（，），（）其中，（）表示符号函数 输出特征 将去除噪声的残差特征 和输入特征 结合得到得输出特征 （如式（）所示）当残差特征为 时，表明网络达到最优，且不会随着网络层的加深而减低模型的表达能力 ，（）为了解决循环神经网络梯度消失或爆炸和长期依赖问题，等提出了 模型，其引入了门控机制和细胞状态两个概念 单元结构如图 所示 单元由三种不同的门和两种不同的状态组成：输入门，遗忘门，输出门，细胞状态 和隐藏状态 其中输入门 决定哪些信息应该被添加到当前细胞状态中；遗忘门 用来丢弃前一刻细胞状态中无用的信息；输出门 决定当前细胞状态中哪些第 期 龚玉晓，等：基于改进深度残差收缩网络的心电信号分类算法信息应该被输出；输入门 和遗忘门 共同更新 时刻的细胞状态；输入门、遗忘门 和输出门 共同决定 时刻输出的隐藏状态 单元一次更新过程如下：（），（），（），（），（），（）其中，为 积，和 为非线性激活函数，（），（），（）式中，为权重矩阵；，为偏差向量 图 结构图 图 单元内部结构图 应 用 数 学 和 力 学 年 第 卷 本文提出的 分类算法 网络的提出是应用于机械故障检测中，处理的是机械振动信号，其阈值是自动获取的，不需要人工设置 大量实验证明了其对含有噪声的数据训练效果好 心电信号是一种频率范围为 的非线性毫伏级别生理信号，在采集过程中会产生基线漂移、工频干扰和肌电干扰等噪声，研究者通常需要在预处理阶段对这些噪声进行处理 因此，本文首先使用 对小样本类别数据进行数据扩充 其次根据心电信号自身特点以及其与机械振动信号的不同之处对 网络进行改进，使其可以在高噪声心电信号中提取重要局部特征并达到自动去除噪声的目的 将改进 与 结合，提出了一种基于 的心电信号分类算法 的结构如图 所示，其中（）网络用于前后通道数一致时，可用于提取深层特征；（）网络用于通道数不一致时，可用于减低模型复杂度 主要改进之处如下：机械信号值是连续跳跃变化的，平均池化可以统计机械信号中跳跃值的平均情况 而心电信号数据是连续且呈现近似周期性变化的，在一个心拍周期内有持续增长到波峰再下降的情况，故在压缩操作 中使用全局最大池化（）代替（如式（）所示），其有利于提取通道数中的波峰特征 （）（，），（）考虑到心电信号部分波段电压值为负数，本文使用 激活函数代替 函数（如式（）所示），保留心电信号的负值特征以及避免网络的稀疏性 （），（）由于心电信号是一维数据，所有网络层在训练时均使用一维类型，在 变换中卷积层的卷积核大小取（，），其可以加快训练速度，缩短训练时间 图 直观地展现了 分类算法的结构流程 网络主要由输入层、个 层、个 层、个 层和 个 层组成，每层结构详细描述如下：输入层 将预处理后的心电心拍数据与 合成心拍数据进行融合，作为 网络的输入 其可以使训练样本达到类别平衡状态，从而降低样本数量少的类别漏诊率 层 对输入的心拍数据使用一维 层和 层提取特征 为了避免第一次卷积提取的信息丢失，在 层后使用 函数作为激活函数（）（）结构图（）（）第 期 龚玉晓，等：基于改进深度残差收缩网络的心电信号分类算法（）（）结构图（）（）图 结构图 层 心电信号具有高噪声且不同类别心拍之间存在明显的局部性差异，在 层后使用（）网络和（）网络交替堆叠的 层 网络来学习心电信号的局部特征 层 心电信号具有时序性，在 层后使用 用于挖掘心电信号的时间特征 层 该层可以综合 层输出的主要特征信息并输出最终的分类结果 图 算法流程图 算法步骤如下：（数据预处理）对心电信号数据进行归一化，心拍分割，训练集样本类别平衡等预处理操作 其中，采用分层采样方法将样本类别平衡前的心拍数据按 的比率划分为训练集、验证集和测试集（训练 网络）将类别平衡后的训练集数据输入到 网络中，并使用 优化器进行训练（调节网络层数与超参数）训练 网络得到验证集数据的 值以及准确率，根据其变化趋势以及数值大小调整网络中的卷积核个数，卷积窗口大小，神经元数量，训练批大小，迭代次数，学习率等超参数，并反复实验确定超参数值和网络层数，减少无用的学习，从而得到最佳 模型（输出分类结果）将测试集数据输入到训练好的 模型中，得到分类结果 应 用 数 学 和 力 学 年 第 卷 实验及其结果分析 数据来源与性能评价指标本文实验数据来自 心律失常数据集，该数据集包含 条时长为 、采样频率为 的心电信号记录 每条心电信号记录均是由两个导联组成，两位专家对其进行 峰标记和注释 由于，和 这 条心电信号记录包含起搏器节律，因此本文使用 条记录中的 导联心电信号记录作为本文的数据集，并按照美国医疗仪器促进协会标准（，）将心律失常分为 种类别：正常心跳（）、室上性异位心跳（）、室性异位心跳（）和融合心跳（）具体分类标准如表 所示 表 标准以及 种心拍类别的样本数量 （）（）（）（）（）（）（），（）（）（）（）（）（），（）（）（），（）（）本文使用混淆矩阵以及分类性能评价指标对心电信号分类性能进行评估，其中混淆矩阵可以清晰地展现出每个类别的详细分类结果 具体分类性能评价指标有：准确率（，）、敏感性（，）、特异性（，）和阳性预测值（，）个性能评价指标值均为越接近 分类性能越好，其中敏感性指标值对小样本类别分类性能影响较大，具体计算如下：，（），（），（），（）式中，指样本实际属于目标类别，分类结果也属于目标类别的心拍数；指样本实际属于目标类别，分类结果不属于目标类别的心拍数；指样本实际不属于目标类别，分类结果也不属于目标类别的心拍数；指样本实际不属于目标类别，分类结果属于目标类别的心拍数 数据预处理（归一化）为消除不同被测主体造成的影响，对心拍数据进行 归一化处理，具体计算如下：，（）第 期 龚玉晓，等：基于改进深度残差收缩网络的心电信号分类算法其中，为心电信号数值，和 分别是心电信号数值的最大值和最小值（心拍分割）根据专家标记的 峰信息对心电信号进行心拍分割，每个心拍由 个采样点组成（峰前 个采样点，峰后 个采样点），每条心电记录的前 个心拍和最后 个心拍舍弃 根据 标准，本文提取了正常心跳（）、室上性异位心跳（）、室性异位心跳（）和融合心跳（）种类别的 个心拍，如表 所示（数据集划分）随机选择 个 类样本与全部的、类样本作为实验数据集，并按照 分层采样划分为训练集、验证集和测试集，如表 所示（训练集样本平衡）使用 技术将训练集中的、类样本数量扩充到 个使训练集达到样本平衡，如表 所示 表 类别平衡前后的数据集 参数设置在 网络训练过程中有许多超参数，这些超参数的设置会影响最终的分类结果 本文在已有文献的超参数设计基础上，利用验证集 值与实验法找到 网络的最优超参数，其中 模块的压缩激励操作中的缩放比为 时，模型在复杂度和精度之间可以取得较好的平衡 具体超参数设置如表 所示，其中 表示卷积核数，表示卷积窗口大小，表示填充方式，表示正则化方式，表示池化层大小，表示步长，表示激活函数，表示输出的通道数量，表示神经元数量 表 网络的超参数设置 （）（）（）（）（）（）（）（）（）（），“”，（）（，），（，），“”，“”“”，“”，（）“”，本文利用 优化器和交叉熵损失函数求解模型的最优权重矩阵以及偏差向量，共迭代 次，每批次训练 个样本 初始学习率为，迭代次数每增加 次，学习率变为原来的 倍，可减少因轮数增加导致网络陷入局部最优的问题 使用 正则化以避免网络过拟合，其权重衰减系数设置为 在 层中使用 激活函数，保留心电信号负值特征，避免神经元无法学习的问题 结果分析本文使用 对训练集进行样本类别平衡，验证集和测试集不做处理，以体现模型真实的泛化能力，类别平衡数据如表 所示 将类别平衡数据输入到 网络中训练，为了使模型简单的同时又能够提取到深层特征，最终设置 层 提取空间特征 为了缩短网络训练时间，设置 为，训练过程中应 用 数 学 和 力 学 年 第 卷的 值（）变化和准确率变化如图 和图 所示 可以看出，该模型结构对该数据集的训练收敛速度快且无大幅度震荡，在 次迭代之后 值和准确率均趋于水平状态，模型拟合效果较好 图 值与迭代次数的关系图 准确率与迭代次数的关系 将测试集数据输入到训练好的 模型中得到分类结果，其混淆矩阵如图 所示 通过观察可以看出，算法在该数据集上可以正确识别大多数的心电样本类别 通过计算性能评价指标得到各类别的，值，其中各性能评价指标的平均值作为总体评价结果 由表 可知，平均，值分别为，由于 类的真实训练数据和测试数据最少，其敏感性和阳性预测值均不到，类与 类波形差异较小，部分 类被划分为 类，造成其敏感性仅达到 图 混淆矩阵 表 算法在测试集上的分类结果 为验证 模型和 模型的有效性，本文进行了一组模型结构消融实验，实验结果如表 所示，其中加黑部分为最优值，后同 该消融实验是基于、和本文所提出的 三种模型展开的 是根据心电信号特点对 进行改进得到的模型，通过对比可以看出其提高了准确率、敏感性和特异性 是通过 模块从高噪声的心电信号中提取重要局部特征，然后使用 获得特征中的长第 期 龚玉晓，等：基于改进深度残差收缩网络的心电信号分类算法期依赖关系，其获得了最优的准确率，相对于单一的 模型也获得了更好的敏感性和特异性，降低了漏诊率 表 算法与其消融实验的总体分类性能比较 为了验证 算法的有效性，本文将其与文献，中的算法进行对比，为了使比较结果更具有说服力，所有算法均在表 数据集上进行实验，需要样本平衡的算法均仅对训练集进行平衡，保持验证集和测试集一致 总体性能比较结果如表 所示，对比文献，中的算法，本文所提的 算法具有最优的准确率、特异性以及阳性预测值，仅敏感性低于 算法，由于本文算法可降低预处理操作的复杂性，且分类性能不受 层数的加深的影响，因此本文算法更适合应用于实际 表 算法与其他算法的总体分类性能比较 由于 类心电信号与正常心电信号（类）的差异较小，若算法对 类的识别较差，则对患者而言是非常危险的，因此正确识别 类心电信号类别也是检验算法有效性的重要指标 表 为上述 种算法的 类分类性能的比较结果 通过观察得知本文所提的 算法具有最好的准确率和敏感性，特异性和阳性预测值仅低于 算法 由于漏诊率是医务人员最关注的评价指标，而 算法比 算法的敏感性高，因此本文算法对 类分类总体更优 表 算法与其他算法的 类分类性能比较 结 束 语面对高噪声、大规模、类别不平衡的一维心电信号数据集，本文提出了一种基于 的心电信号分类算法 该算法使用 解决了心电数据类不平衡问题，降低了样本数量少的类别漏诊率 根据心电信号特点改进了 模型，使其可以在高噪声信号中提取重要局部特征达到自动去除噪声的目的，降低了预处理操作过程的复杂性，同时也避免了因网络层加深造成的网络退化现象 最后，结合 提取了局部特征的依赖关系 在 数据集上进行了分类实验，实验表明，算法可以有效地提高分类准确率、敏感性、特异性和阳性预测值，分类总体性能优于其他 种算法 应 用 数 学 和 力 学 年 第 卷本文在预处理阶段将心电信号按心拍进行了等长分割，忽略了心拍与心拍之间的特征信息，且在实际临床诊断时不同心拍的长度是非等长的 因此，研究使用非等长心电信号作为模型输入的识别分类算法是笔者下一步的工作 参考文献（）：，：，：，（）：，（）：李胜蓝，辛继宾，莫梅琦，等 基于 波群的心律失常辅助诊断模型研究 生物医学工程学进展，（）：（，（）：（），（）：，（）：，（），（）：，：陈鹏，刘子龙 基于 的心律失常识别 电子科技，（）：（，（）：（），：，：，：，：郭炜伦，方钰敏，徐海蛟，等 基于 的心电识别算法 电脑知识与技术，（）：（，（）：（），：，：秦博，黎明，黎天翼，等 基于注意力残差模型的心律失常分类研究 湖北师范大学学报（自然科学版），（）：（，（），（）：（）刘小靖，周又和，王记增 小波方法及其力学应用研究进展 应用数学和力学，（）：（，（）：（），（）：，：，：洪奇峰，施伟斌，吴迪，等 深度卷积神经网络模型发展综述 软件导刊，（）：（第 期 龚玉晓，等：基于改进深度残差收缩网络的心电信号分类算法，（）：（），：，：吴爱华，彭金喜 基于深度残差收缩网络的信号调制类型识别 电子信息对抗技术，（）：（，（）：（），（）：张巧灵，高淑萍，何迪，等 基于时间序列的混合神经网络数据融合算法 应用数学和力学，（）：（，（）：（）韦张跃昊，钱升谊 基于滤波重构和卷积神经网络的心电信号分类 电子科技，（）：（，（）：（），：，：李兴秀，唐建军，华晶 结合 与双向 的心律失常分类 计算机科学与探索，（）：（，（）：（）石洪波，陈雨文，陈鑫 过采样及其改进算法研究综述 智能系统学报，（）：（，（）：（）黄莹 基于深度残差收缩网络的心律失常分类算法研究 硕士学位论文 南宁：广西大学，（：，（）应 用 数 学 和 力 学 年 第 卷