一种基于小波处理的SVM数据分类算法.pdf

Telecom Power Technology 14 Aug.10,2023,Vol.40 No.15 2023 年 8 月 10 日第 40 卷第 15 期设计应用技术DOI：10.19399/ki.tpt.2023.15.005一种基于小波处理的 SVM 数据分类算法汪思冒，陆格格，郝广凯，魏 祎，雷 鸣（上海航天电子技术研究所，上海 201109）摘要：文章研究了一种基于小波处理的支持向量机（Support Vector Machine，SVM）分类算法，该算法能够通过小波分析对输入信号进行去噪和特征提取，使用 SVM 进行机械学习，并对目标信号进行精准分类。同时，该算法能够实现自动计算和高精度分类，完成难以通过人工手段实施的小信号精准判别。此外，经过参数的调整选取，该算法具有强鲁棒性与高灵敏度，可良好应用于微小信号识别中，大大提高分类准确性，减少分类所需时间。关键词：小波处理；支持向量机（SVM）；分类算法A SVM Data Classification Algorithm Based on Wavelet ProcessingWANG Simao,LU Gege,Hao Guangkai,WEI Yi,LEI Ming(Shanghai Institute of Aerospace Electronics Technology,Shanghai 201109,China)Abstract:This paper studies a Support Vector Machine(SVM)classification algorithm based on wavelet processing,which can denoise and extract features of input signals through wavelet analysis,use SVM for Rote learning,and accurately classify target signals.At the same time,this algorithm can achieve automatic calculation and high-precision classification,completing precise discrimination of small signals that are difficult to implement through manual means.In addition,after parameter adjustment and selection,the algorithm has strong robustness and high sensitivity,which can be well applied in small signal recognition,greatly improving classification accuracy and reducing classification time.Keywords:wavelet processing;Support Vector Machine(SVM);classification algorithm0 引 言由于航天领域对航天器机械磨损自动化纠正和航天员心率监测识别等技术的需求增加，对信号分类的精准性要求也逐渐提高。与大功率有序信号相比，该类信号无明显标记或为微小信号，其特征不明显且受噪声影响大，难以在未经处理的情况下进行判别。目前，随着分类算法的高速发展，已有许多分类器得到应用，如神经网络（Neural Network，NN）、随机森林、K 最近邻（K-Nearest Neighbor，KNN）等。这些分类算法性能良好，但在高精度需求和缩短模拟时间方面仍可进一步优化。例如：随机森林系统的精度足以达到航天标准，但计算时间较长，无法实时传输数据；与随机森林系统相反，卷积神经网络系统由于其特殊的非线性拟合能力，可以快速得出结果，但当数据库不够大时，模型无法正常工作。通过比较，小波分析和支持向量机（Support Vector Machine，SVM）算法分别在预处理和分类方面具有优异的性能，可较好解决常见的微小信号分类问题。该背景下，文章提出一种基于小波处理的 SVM数据分类算法。该算法可以通过小波变换预处理信号，为样本信号建立数据库和滤波，再根据信号特性选取相应的窗口并提取特征值，去噪后的信号可以在高信噪比状态下保持原始特征。完成预处理后，使用 SVM 对数据库进行机械学习，建立分类模型。此外，在 SVM 算法基础上加入主成分分析（Principal Components Analysis，PCA）技术可以提高模型精度。该组合算法可以增强分类的可靠性，并且分类速度快，灵活性高，适用于各种场景。1 算法方案算法方案构建步骤如下：步骤一，建立本地样本数据库，分离出 1/2 数据作为算法模型学习依据，剩余样本作为后期验证数据；步骤二，使用小波对学习样本进行时域和频域处理，将有效信号与噪声分离；步骤三，对分离后数据使用软阈值进行标记，同时进行滤波去噪与特征向量提取；步骤四，使用不同大小窗口提取特征向量，不断循环直到找出最优窗口；步骤五，使用主成分分析-支持向量机（Principal components Analysis-Support Vector Machine，PCA-SVM）分类器对信号与提取向量值进行机械学习，建立完整的算法模型；步骤六，算法模型建立完成后，使用模型对验证样本进行分类且与已知结果进行比对，得到算法准确度；步骤七，若准确度不满足要求，则对步骤 4 步骤 6 进行迭代，直至得到最优准确度。2 小波预处理传统的信号分析通常以傅里叶变换为基础，然而该方法会导致时域信息出现丢失，且傅里叶分析采收稿日期：2023-04-19作者简介：汪思冒（1995），女，江西上饶人，硕士研究生，工程师，主要研究方向为数据传输、信息处理。2023 年 8 月 10 日第 40 卷第 15 期 15 Telecom Power TechnologyAug.10,2023,Vol.40 No.15 汪思冒，等：一种基于小波处理的 SVM 数据分类算法用全局变换，得到的结果具有信号统计特征，无法精准表达信号在特定时刻的时频特性。使用小波函数可以较好地解决该问题。小波函数可以在时域和频域上同时对信号进行局部化分析，经过小波变换后，信号在低频时具有较高的频率分辨率和较低的时间分辨率，在高频时具有较高的时间分辨率和较低的频率分辨率1。通过伸缩平移运算对信号逐步进行多尺度细化，最终能够自动适应时频信号的分析要求。小波变换分为连续小波变换和离散小波变换，早期通常使用连续小波变换处理数据，但连续小波算法存在计算量大且占用时间长的问题。为解决该问题，利用多分辨率分析的特点构造了一种二进制离散小波变换算法，即 Mallat 算法2。Mallat 算法先分离高频与低频信号，然后提取分离后的高频信号并进行下一级分离，不断迭代，直至目标信号达到理想状态。大多数微小信号中，数据的有效分量在低频处，高频分量为混入的噪声信号。基于该特性，通过设置阈值，对每一级高频信号进行滤波，可以有效去除大部分 噪声3。小波的选取原则包括自相性原则、判别函数原则、支级长度原则。文章以航天员心电信号为自相性原则选取基础，对 sym、coif、dB5 小波进行了判别，根据支级长度 5 9 最优原则，最终选择了 dB5 离散小波对微小信号进行去噪处理。使用 MATLAB 对样本数据库（采用麻省理工提供心电失常信号库 MIT-BIH为数据库）内随机选取的 20 组信号进行仿真，对不同小波滤波后的样本数据信噪比进行比较，仿真结果如表 1 所示。表 1 不同小波滤波后信噪比对比小波类型平均信噪比/dBsym142.571 6coif159.273 9dB5165.783 3经比对可知，滤波后 dB5 小波信噪比最高，滤波效果好，可有效预防航天空间恶劣环境带来的接收信号质量下降情况。小波的滤波阈值设置包含“硬阈值”和“软阈值”2种方式。硬阈值计算公式为 1111 111,0,=（1）式中：1表示硬阈值时小波系数；1表示硬阈值。软阈值计算公式为 ()()22222222,0,sign=（2）式中：2表示软阈值时小波系数；2表示软阈值。硬阈值中，阈值 1为确定值，由前期根据信号特性分析直接给出。而软阈值中，小波系数参与滤波阈值设置，每级信号阈值不同，滤波更为精准。针对不同类型样本数据特征，2 种阈值设置方式各有优点。文章中的微小信号在不同层级中阈值相差较大，且通过 MATLAB 仿真比较软阈值和硬阈值的设置结果得出，软阈值滤波效果更优，因此本模型采用软阈值进行预处理。滤波后的小波去噪效果图如图1 所示。0-0.500.51.02004006008001 000时间/ms信号幅度/mV1 200 1 400 1 600 1 800 2 000 （a）原始信号0-0.500.51.02004006008001 000时间/ms信号幅度/mV1 2001 400 1 6001 8002 000 （b）去噪后信号图 1 小波去噪效果图3 特征提取特征提取旨在提供信息和非冗余的派生值，该步骤直接决定了后续信号分类的准确度。目前，常用的特征提取方法包括短时傅里叶变换、小波变换、自相关检测法等。因为航天员心电信号是动态实时变化的信号，单一频域提取方法不适用，所以根据样本数据特性，本模型继续采用小波算法进行特征提取。对比几种不同小波算法，最终选择墨西哥帽小波作为特征向量提取函数。墨西哥帽小波对获胜节点有最大权值调整量，可根据节点距离动态调整权值，有助于突出信号的特征，微小信号可以通过墨西哥帽函数实时调整阈值迅速找到特征点4。同时，为防止样本信号与额外的脉冲混合导致误判，算法中添加了辅助筛选条件，如2 个峰值位置小于 1 个周期距离，则较小的峰值将被删除。4 SVM 分类器文章建立的模型核心是分类器，由于微小信号波形种类繁多，不通类型的信号可能包含多个相同的 2023 年 8 月 10 日第 40 卷第 15 期Aug.10,2023,Vol.40 No.15Telecom Power Technology 16 特征向量导致难以判别，且分类器需要在正确分类的同时尽可能减少计算量。为满足该条件，本模型使用了 SVM 算法解决该类问题。SVM 是一种耗时短且精度高的机械学习模型。根据结构风险最小化理论，SVM 在特征空间中建立一个最优超平面，使学习者能够得到全局优化。SVM可以同时应用于线性和非线性情况，当特征向量不可分时，非线性映射算法将样本从低维转移到高维，形成线性空间。当特征向量可分离时，SVM 算法可以通过训练 2 组数据建立模型，并在它们之间找到最优分类超平面5。SVM 分类中包含多种函数，核函数是常用的函数之一。文章模型选择了 RBF 核函数，该函数对参数修改量较少，且计算质量优异。通常的 SVM 是针对二进制分类，若为多特征值信号则需要进一步转化为多类分类器6。本模型采用一对一（One Vs One，OVO）方法解决多类分类问题，该方法设置了多个二进制分类器，使用投票机制得到多类分类结果7。5 PCA-SVM 分类器在高标准情况下，仅使用 SVM 算法一般无法达到预估值，可加入 PCA 算法优化结果。PCA 算法的基本原理是将矩阵中的样本数据投影到一个新的空间。投影过程以标准正交基为基础，将特征根和特征向量对角化。特征值对应于特征向量方向上的投影长度，该方向包含了更多的原始数据信息8。使用 PCA 算法将样本重新构建矩阵后，可在原特征向量提取结果上突出分类所需要的主要数据，从而使 SVM 学习更加简单和准确。6 结果分析6.1 去噪结果分析使 用 去 噪 前 后 信 噪 比（Signal-Noise Ratio，SNR）衡量去噪结果。通常情况下，未经处理的航天员心电信号受宇航服、四肢运动、呼吸等干扰，SNR 远低于识别的最低要求 70 dB。使用 MATLAB对 MIT-BIH 数据库中随机抽取的机组信号仿真可知，使用小波去噪后，样本数据信噪比均在 139 167 dB范围内，且使用均方误差对仿真结果进行评估，计算值在 0.001 3 0.002 0 范围内。具体结果如表 2 所示。结果表明，使用 dB5 小波处理数据能够有效滤除噪声，信噪比良好且效果稳定。6.2 特征值提取分析特征值提取的准确度可通过与实际样本库提供的特征标记进行比对得出。对样本数据内的 R 波提取进行仿真，仿真结果如表 2 所示，提取的特征向量匹配度均在 99.8%以上。因此，墨西哥帽小波提取特征值正确率高，可较好地建立目标标记点。表 2 小波去噪后信噪比与均方差序号样本在 MIT-BIH 库中标号SNR/dBMSE1111154.891 10.001 52115167.838 20.001 63118156.537 90.001 74232139.125 50.001 35208149.421 60.001 86213145.892 40.001 87107146.173 20.002 08104146.215 80.001 6表 3 小波提取特征值结果序号样本在 MIT-BIH 库中标号R 波实际数量标记正确 R 波数量正确率/%11112 1242 12399.90621151 9521 952100.00031182 2782 27599.86842321 7801 780100.00052082 9532 95399.93262133 2513 251100.00071072 1262 12699.95381042 2312 23199.8216.3 分类结果分析分类模型完成后，使用平台对验证数据进行训练，SVM、PCA-SVM、Hopfield 神 经 网 络（Hopfield Neural Network，HNN）以及反向传播神经网络（Back Propagation Neural Network，BPNN）的分类结果精度与训练耗时如表 4 所示，其中神经网络模型分类结果由已有成熟平台训练得出10。表 4 分类结果精度与耗时算法类型精度/%时间/sSVM97.813 5PCA-SVM99.162 5HNN98.000 1BPNN99.000 600通过对比表 4 数据可以得出，针对航天员产生的微小信号，使用小波去噪后，PCA-SVM 组合算法精度更高，耗时更短，适用于高标准的未知信号分类。6.4 结论分析使用小波算法进行预处理后，SNR得到明显提升，且特征向量提取准度高，为后续的机械学习及样本训练提供了坚实的基础。PCA 算法在特征矩阵中进一步突出特征值，保留原始信号的同时降低非噪声不明显特征数据的权值，使得分类平面构建更加简便准确。2023 年 8 月 10 日第 40 卷第 15 期 17 Telecom Power TechnologyAug.10,2023,Vol.40 No.15 汪思冒，等：一种基于小波处理的 SVM 数据分类算法7 结 论文章提出了一种基于小波处理的 SVM 数据分类算法，通过小波进行预处理，去噪后信噪比与特征提取正确率明显改善。同时，加入主成分分析的 SVM算法也将分类正确率从 97.8%提高至 99%以上，分类时间控制在5 s内，满足对心电信号实时分类的要求。综上所述，该组合算法性能优越，是一种精度高、耗时短的综合性算法。参考文献：1 杜浩藩，丛 爽.基于 MATLAB 小波去噪方法的研究 J.计算机仿真，2003，20（7）：119-122.2 王明祥，宁宇蓉，王晋国.基于 Mallet 算法的一维离散小波变换的实现 J.西北大学学报（自然科学版），2006，36（3）：364-368.3 潘 泉，张 磊，孟晋丽.小波滤波方法及应用 M.北京：清华大学出版社，2005.4 薛泽春，李永刚，李连之，等.应用连续墨西哥帽小波变换对弱信号提取分析研究 J.重庆文理学院学报（自然科学版），2012，31（5）：79-82.5 封 筠，陈志军，李莉蓉.基于修正核函数的SVM 分类器研究 J.系统仿真学报，2006（3）：570-572.6 陆 兵，周国华，顾晓清，等.迁移拉普拉斯总间隔支持向量机 J.南京理工大学学报（自然科学版），2020，44（1）：40-48.7 王 冲，马晓楠，宋冬慧.SVM 一对一多分类的图像反馈检索优化 J.计算机工程与设计，2019，40（1）：173-178.8 王华忠，俞金寿.基于 PCA-SVM 的软测量建模方法与应用 J.自动化仪表，2004（2）：18-21.9 刘祝华.图像去噪方法的研究 D.南昌：江西师范大学，2005.10 唐 云，罗俊松.基于粗糙集和 BP 神经网络的文本分类研究 J.计算机仿真，2011，28（6）：219-222.模拟系统正常运行状态下高峰的监控采集测试，包括性能指标采集、告警指标采集、指标分析以及告警生成。测试结果如表 1 所示。每秒钟 1 000 个监控指标同时采集的情况下，每个监控指标采集、分析、告警的平均时间为 2 s，服务器 CPU 实用率为 45.94%，服务器内存使用率为47.91%。根据测试结果显示，每秒钟可以满足 1 000个监控指标的并发采集。根据系统的采集响应时间，可以将采集划分为 4 个级别：优秀指系统采集响应时间小于 2 s；良好指系统采集响应时间为 2 5 s；一般指系统采集响应时间为510 s；较差指系统采集响应时间大于10 s。经过压力测试，每户整体性能以及各功能模块的采集响应时间在 2 s 内，达到良好等级。6 结 论通过研究 SNMP 等网络诊断技术在广域网中的应用，分析 SNMP 等技术的工作机制，针对系统功能的实现进行了技术分析，给出了技术实现过程及方法。针对不同场景，提出了不同解决方案，并在测试环境下验证了线路性能指标、告警指标等监控指标采集的有效性。生产环境中，运维人员可利用主动监控系统，通过可视化热力图发现网络异常，查看历史告警，输出网络运行分析报告，全面提升组织的网络管理数字化水平。参考文献：1 曹建业，董永吉，冶晓隆，等.基于 NetFlow的流量统计系统的设计与实现 J.计算机工程与设计，2014，35（2）：381-385.2 李春平，王 东，张淑荣，等.基于 Netflow 的网络流量监测与分析 J.现代计算机，2022，28（4）：45-51.3 赵 罡.简单网络管理协议的 ARP 欺骗防御机制 J.武汉工程大学学报，2011，33（4）：103-105.4 蒋 冉.基于 SNMP 的光传输设备网元软件系统的设计与实现 D.上海：华东师范大学，2021.5 李 杰.IT 运维监控系统的设计与实现 D.成 都：电子科技大学，2020.（上接第 13 页）