低秩约束核非负张量分解在高光谱解混中的应用.pdf

叶曳 2023 年第 5 期一尧引言高光谱遥感图像具有丰富的图谱信息袁 因而被广泛用于军用袁民用等领域1-2遥 高光谱遥感图像中的像元通常是以混合像元的形式呈现2-3袁这主要是因为地面环境的复杂多样和空间分辨率的各种限制遥 而混合像元解混的目的就是从中提取出相应的地物信息(端元)袁 及这些端元所占像元的比例(丰度)袁 从而减少对先验知识的依赖遥 非负矩阵分解(NMF)与线性混合的高光谱模型比较一致袁因此在高光谱解混中被广泛应用遥 近年来袁 随着科研工作者开始利用核函数将经典的线性特征提取与分类识别的方法推广到一般的情况4袁使得核函数理论和NMF 理论相结合得以实现袁并且成为高光谱解混的重要研究方向遥 目前基于核函数的核非负矩阵分解渊Kernel NMF,KNMF冤算法5主要有院核非负矩阵分解渊no-pure-pixels KNMF,npKNMF冤6袁 该算法不包含纯像元遥约束的核非负矩阵分解渊Constrained KNMF,CKNMF冤7袁 双目标非负矩阵分解 渊Bi-objectiveNMF冤8等遥 但是袁基于传统的高光谱分解方法往往忽略了在典型的高光谱图像渊HI冤中观察到的光谱特征具有潜在变异性袁 从而导致这种分解存在很大的误差9遥 为了克服这一问题袁通常根据数据所具有的不同属性袁 将其分成不同的子空间袁 进而得到高阶数据的推广应用袁非负张量分解算法渊Non-nega鄄tive Tensor Factorization,NTF冤遥 该方法构建的张量空间能够充分的挖掘数据中潜在的信息袁 因此张量分解在许多领域得到广泛应用10遥1963 年袁Tucker11提出了 Tucker 分解算法遥 所以袁 矩阵-张量分解的光谱解混分为典型多态分解(Canonical Polyadic Decomposition袁CPD)12尧Tucker 分解(Tucker Decomposition袁TD)以及 BTD 分解(BlockTerm Decompositions袁BTD)13遥张量结构存在于许多现实数据中袁例如图像数据中的图像值袁所以袁HIS 自然地被表示并视为张量袁因此袁基于高光谱图像的张量分解得以广泛应用遥 但是袁它们将解决方案限制在低阶张量上袁 而低阶张量往往不能代表现实世界场景的复杂性袁同时袁它们缺乏保证最终成员和丰度能被正确地分解在各自的张量中遥 因为袁高阶渊2冤张量的摘要院文章提出了一种基于核张量非负矩阵分解的高光谱图像非线性解混方法袁将核 NMF 理论与张量理论结合袁通过将原始的高光谱数据以张量的形式在 NMF 算法中表达出来袁再映射到 Hilbert 空间中袁并施加低秩约束得到低秩约束核非负张量分解算法袁让非线性数据在高维空间中变得线性可分袁很好地解决了非线性光谱解混问题遥模拟和真实高光谱数据的实验结果表明袁该算法能够很好地处理高阶非线性的张量数据袁提高了解混精度的同时袁具有良好的去噪能力遥关键词院低秩约束曰核函数曰张量分解曰高光谱解混中图分类号院TP751文献标识码院A文章编号院1672-0547渊2023冤05-0099-006收稿日期院2022-10-15基金项目院安徽省教育厅重点科研项目野基于射线跟踪算法的室内外协同覆盖策略的研究冶渊KJ2020A0788冤曰安徽新华学院校级质量工程项目野空间加权 NMF 在高光谱解混中的应用研究冶(2022zr013);国家自然科学基金资助项目野基于非负张量分解的高光谱图像解混研究冶(61701215)作者简介院刘雪松渊1993-冤袁男袁安徽合肥人袁助教袁硕士袁研究方向院数字信号处理尧图像处理曰姚玲渊1984-冤袁女袁安徽合肥人袁副教授袁硕士袁研究方向院无线通信曰彭天亮渊1984-冤袁男袁江西南昌人袁讲师袁博士袁研究方向院数字信号处理尧图像处理遥低秩约束核非负张量分解在高光谱解混中的应用刘雪松1,2姚玲1彭天亮2渊 1.安徽新华学院 移动通信实验室袁安徽 合肥 230088曰2.江西省水信息协同感知与智能处理重点实验室袁江西 南昌 330099 冤工程科技99-叶曳 2023 年第 5 期低秩分解倾向于捕捉张量结构中的同质性袁 所以让低秩张量分解这种策略对 HU 更有吸引力遥 ULTRA-V 这种算法9被提出袁它通过正则化来施加低秩结构袁其严格性由标量参数控制遥 该方法与最先进的解释光谱变异性的解混算法相比具有更高的精度遥 为了寻求张量低秩分解的广泛应用袁 一些学者开始将张量分解在低秩上的表现与核函数相结合袁 如 Pan等提出了一种基于字典学习的双张量核表示方法(LRR-TTK)14袁Xiao 等提出了基于核函数的低秩表示方法(RKLRR)15遥但是袁上述方法都存在以下问题院基于核空间下的 NMF 模型存在参数难以确定问题曰基于张量分解下的解混算法复杂度高袁并且运行效率低遥 因此袁有必要针对非线性光谱混合模型存在参数难以确定尧自身复杂度及高光谱图像渊HI冤中的光谱特征具有潜在变异性等问题来深入研究高光谱解混算法之间的联系袁改善解混算法性能方面的应用潜力遥二尧基于核方法的 NMF渊一冤线性混合 NMF 解混模型目前袁较为应用最广泛的混合像元分解模型是线性光谱混合模型袁该模型表示如下院X=AS+n渊1冤其中 X=x1,x2,噎袁xMT为单个像素点的接收谱传感器信号袁M 为谱通道数袁渊 窑 冤T是转置遥 A 是端元矩阵袁其大小为 M伊P,P 是端元的个数袁S=s1,s2,噎袁spT为丰度向量,n 为相应的噪声向量遥 写成矩阵形式可以写成如下院X=AS+N渊2冤上述模型求解的目标函数如下院minA,SJ(A,S)=12椰X-AS椰2Fs.tA逸0,S逸0,1TpS=1N 窑渊3冤渊二冤核空间下的线性核NMF 模型核方法的一般过程为首先将模式分析算法调整为输入向量內积的形式袁然后将分析算法与核函数相结合袁利用核函数计算特征空间中两个输入向量映射的內积16遥 其表示形式为院渊4冤将 NMF 理论和核函数理论结合袁得到核 NMF 理论17-18遥 其代价函数为院渊三冤核空间下的多项式核 NMF 模型多项式核理论院k渊an,z冤=渊zTan+c冤d袁其中 c 是非负常数袁c 是用来平衡核函数中从高阶到低阶项的影响遥 对其求梯度得院渊6冤通过前面更新规则算法的分析袁进而可得出基于加性和乘性更新规则的多项式核 NMF渊PLKNMF冤袁C为常数遥渊1冤加性更新院d 一般取 2,替代从而得到院Snt=Snt-浊nt(Nm=1移Smt渊琢n琢mT+c冤2-渊琢nxt+c冤2)琢n=琢n-浊nTt=1移Snt渊2Nm=1移Smt渊琢mT琢n+c冤琢m-2渊xt琢n+c冤xt冤渊7冤渊2冤乘性更新院Snt=Snt伊渊xTt琢n+c冤2Nm=1移Smt渊琢n琢Tm+c冤2渊8冤三尧张量分解模型及其改进算法渊一冤NTF 模型根据 LMM袁每个像素由所有端成员的线性组合形成遥 因此袁已知的高光谱数据 X沂Rh1,h2,h3袁X 中的每个像素可 Xn以表示为院Xn=A+Sn+n渊10冤其中袁A沂Rhl伊p是端元矩阵袁Sn是在 A 中对应的系数向量袁n 为噪声遥 h1,h2,h3,p 分别是高光谱数据的长度尧宽度尧波段数和端元数遥 对于整个 HSI袁它被认为是一个三维张量 X袁 端元是一个二维矩阵A袁因此袁丰度 S 和噪声 n 也应该是张量的形式遥 它可表示为院X=Sx3A+n渊11冤其中 Sx3是张量 S 的模 3 展开遥 因此袁在 NTF 框架下的目标函数为院minA,SJ渊A,S冤=12椰X-Sx3A椰2Fs.tS逸0,Sx11P=1h1伊h2渊12冤其中 Sx1是张量S 的模 1 展开袁1p和 1h1伊h2表示一个 p 维向量和一个 h1伊h2大小的矩阵袁每个元素为 1遥渊二冤低秩张量解混算法曾有学者为了解决 HU 问题袁捕获 HIS 的低维结构袁在 NTF 的基础上提出了一个有效策略将低秩结构强加给丰度张量和端元张量袁通过在四维端元张量上引入了一个新的低秩正则化袁该张量包含每个像素的一个端元矩阵袁以考虑端元的可变性9遥 低秩张量T渊5冤渊9冤TT100-叶曳 2023 年第 5 期分解的代价函数为院J渊S袁A冤=12N1h1=1移N2h2=1移椰Xh1,h2:-Ah1,h2,:,:Sh1袁h2,:椰2Fs.t rank(A)=KA,A逸0rank(S)=Ks,S逸0,Sx31p=1N1伊N2渊13冤为了有效地施加低秩约束袁实现规律性袁并保持建模的小变化和细节的灵活性遥 参考已有学者通过引入新的正则化项来修改式渊13冤袁新的代价函数产生了一种迭代算法9袁称为低秩张量正则化算法(ULTRA-V)遥 在每次迭代中袁ULTRA-V 更新丰度和端元张量的估计以及它们的低秩近似遥 其代价函数为院J渊S袁A,P,Q冤=12N1h1=1移N2h2=1移椰Xh1,h2:-Ah1,h2,:,:Sh1袁h2,:椰2F+姿A2椰A-P椰2F+姿S2椰S-Q椰2Fs.t A逸0,S逸0,Sx31p=1N1伊N2渊14冤四尧基于核函数与张量模型的 KTNMF 算法考虑核 NMF 和低秩张量分解算法在高光谱解混中的优势袁所以袁我们将张量模型引入到核非负矩阵分解中去袁将 X 和 A 以张量形式映射到特征空间 H袁得到 X椎h1,h2,L和 A椎h1,h2,L,P袁 此时端元是一个 4-D 张量遥则得到 KTNMF 的代价函数模型院J(S,A)=12N1h1=1移N2h2=1移椰Xh1,h2-Ah1,h2,:,:Sh1,h2,:椰2Fs.t A逸0,S逸0,Sx31p=1N1伊N2渊15冤其中袁N1袁N2袁L分别为HSI的长尧宽和波段数曰P为端元数遥 对端元张量和丰度张量求导袁得到梯度公式如下院同理袁为了优化上述问题袁根据梯度下降理论袁得到基于线性核张量非负矩阵分解算法 渊LKTNMF冤的加性更新规则院加性更新规则虽然简单袁但是其收敛速度与步长取值有关袁并且步长的确定比较困难袁为此袁我们对加性更新规则进行改进袁进而提高收敛速度袁避免参数的选择遥 令式渊18冤中的浊h1,h2,p=Sh1,h2,pN1m1=1移N2m2=1移Sm1,m2,pK(Am1.m2,:,pAh1,h2,:,p)袁进而可得出 LKTNMF丰度张量的乘性更新规则院同理袁可得端元张量的更新规则遥类比上述式子的推导方法袁 将其思想引入到多项式核非负矩阵分解中袁 同样可以得到多项式核张量非负矩阵分解算法渊PLKTNMF冤的加性更新规则遥再由加性更新规则袁设置步长袁简化计算和参数选择袁推导出相应的乘性更新规则如下院总结上述描述袁算法 1 中给出了核张量非负矩阵分解渊KTNMF冤算法的流程袁另外袁在算法中设置了两个终止条件袁第一个是误差容忍程度袁如果算法在实验中连续迭代误差的结果都在容忍误差之内袁则迭代终止遥第二个是迭代次数袁当迭代次数达到上限袁迭代也会停止遥渊16冤渊17冤渊21冤渊20冤TT渊22冤渊23冤TTTT渊25冤渊24冤TT渊18冤渊19冤TTTT101-叶曳 2023 年第 5 期五尧实验结果与分析实验方面袁本节分别利用一个模拟的高光谱数据和一个真实的高光谱数据验证所提算法的性能袁并分别与 L1/2NMF19尧LKNMF16尧PLKNMF16尧MV-NTF20和ULTRA-V9方法获得的结果进行比较袁其中袁L1/2NMF尧LKNMF尧PLKNMF 是基于 NMF 基础作框架袁 而 MV-NTF 和 ULTRA-V 则是基于 NTF 基础作为框架的遥所有的算法都是采用 VCA-FCLS 进行初始化的袁另外袁对于 ASC 的约束袁根据取值与计算量的关系袁在实验中设置为 10遥 每个实验都在相同条件下进行了150 次平均计算后作为结果遥为了验证所提算法的有效性袁实验用光谱角距离(SAD)和均方根误差(RMSE)的均值来评价解混的精度和效果遥SAD 表示第 P 个真实端元 Ap与其相应的估计端元A赞p之间的相似程度遥SADp=arccos渊ATp窑 A赞p椰Ap椰椰A赞p椰冤渊26冤RMSE 用于度量真实丰度与估计丰度的相似性遥RMSEp=渊渊1N渣Sp-S赞p渣2冤冤12渊27冤渊一冤模拟数据实验从美国地质勘测局渊USGS冤公布的矿物光谱库中选择具有六个光谱特征的模拟数据集遥 所选光谱数据包含 224 个光谱带袁波长在 380耀2 500 nm 之间21遥 如图 1 所示袁 该数据集由六个特征组成袁CarnalliteNMNH98011尧Ammonio-jarosite SCR-NHJ尧Almandine尧WS478尧Brucite HS247.3B尧Axinite HS342.3B尧ChloriteHS179.3B遥然后袁用六个光谱特征生成数据立方体袁该过程 Miao 等已用于创建合成图像4遥 然后袁为确保模拟图像中不存在纯像素袁 丢弃纯度大于 0.8 的丰度分数遥 最后袁将零均值高斯噪声添加到数据中以模拟可能出现的噪声破坏袁加入的噪声通过信噪比控制遥实验选取的高光谱图像空间分辨率为64伊64袁 端元数为6遥 实验中七种算法的初始化都是通过VCA-FCLS进行的遥 实验中袁 信噪比分配给 10dB袁20dB袁30dB 和40dB遥 结果如图2所示遥 从整体趋势来看袁几种算法的SAD和RMSE随着信噪比的增加而降低袁混合像元分解的结果越来越好遥 与其他五种算法相比袁PLKTNMF 和LKTNMF 在所有情况下都能得到最小的 SAD 和RMSE袁所以其对噪声有较强的鲁棒性袁算法性能最优遥在SAD部分袁L1/2NMF较好袁MV-NMF和LKNMF次之袁UL鄄TRA-V和PLKNMF最差遥在RMSE方面袁L1/2NMF较好袁PLKTNMF 和 ULTRA-V尧LKNMF 和 MV-NMF 相差不大袁PLKNMF最差遥 信噪比在20dB左右是一个临界点遥为了更直观的比较几种算法的性能袁图 3 展示了几种算法在信噪比为 30dB 时袁解混第 5 个端元的丰度图遥 从中可以发现 LKTNMF 和 PLKTNMF 算法估计的丰度图最接近真实的丰度图遥其他算法受噪声影响要大于这两种算法遥这也证明了将张量模型引入核空间中袁得到的核张量非负矩阵分解算法能够提升解混的精度袁并具有一定的抗噪性遥Algorithm1院KTNMF 算法伪代码输入院高光谱数据 X,并转换成 Xh1,h2,L袁端元数 P曰初始化院 通过 VCA 和 FCLS 分别初始化 A 和 S并转换成Ah1,h2,L,P和 Sh1,h2,P曰循环院1 根据公式(25)更新端元张量2 根据公式(24)更新丰度张量直到满足停止条件输出院端元张量 Ah1,h2,L,p袁丰度张量 Sh1,h2,p渊接下页图 3冤102-叶曳 2023 年第 5 期渊二冤真实数据实验仿真数据是采用 Jasper-Ridge 高光谱数据库进行真实实验仿真袁 该高光谱图像记录的范围是380耀2 500nm袁由 224 个波段组成遥由于密集的水蒸气和大气效应袁 所以在移除通道 1耀3袁108耀112袁154耀166和 220耀224 后袁保留了 198 个通道遥 所以袁最终图像的大小为 100伊100伊198遥 在这些数据中共有 4 个目标院野裕1 Road冶野裕2 Soil冶野裕3 Water冶和野裕4 Tree冶遥将七种算法在 Jasper-Ridge 数据库上分别执行遥实验所得数据均进行了 150 次计算袁 取平均值为 4袁SNR 为 30dB遥 表 1 为 Jasper 高光谱数据相应算法下混合像元分解的 SAD 和 RMSE 的精度值遥 从表 1 可以得出院PLKTNMF 和 LKTNMF 算法相对其他五种算法在端元提取上明显占有优势袁精度很高遥 图 4 和图5 是对七种算法解混结果的可视化比较袁 基于 KTN鄄MF 的算法渊LKTNMF袁PLKTNMF冤在所有的端元图和丰度图中都最接近真实的端元曲线和丰度图遥 在 Soil端元图中袁虽然优势并不明显袁但是依旧能保证解混的稳定性遥 其他算法在整体上都能大致反映真实情况遥 在丰度图中袁个别端元比较模糊袁有相互交融现象遥 所以袁从这个实验可以看出基于 KTNMF 的算法渊LKTNMF袁PLKTNMF冤 相比其他算法在解混精度上更具优势遥六尧结论与展望本文结合张量分解理论和核 NMF 理论袁 提出了一种新的核张量非负矩阵分解框架遥给出了相应算法下的代价函数模型袁 并推导了和的张量型迭代公式遥所提的核张量非负矩阵分解渊KTNMF冤算法相比几种代表性的 NMF 和 NTF 拓展算法能够进一步改善解混精度遥相对于前人的研究成果袁本文主要从两个方面进行了改进院1.LKTNMF 和 PLKTNMF 算法模型以核非负矩阵分解和张量模型为基础提出袁不仅避免了核 NMF 算法中参数难以确定的问题袁 同时降低了基于张量分解下的算法复杂度袁增强了 NMF 解混模型对高光谱遥感数据的表征能力曰2.将张量模型引入核 NMF 中袁放弃了在目标函数中添加低秩约束的做法袁简化了算法模型袁同时规避了列于参考文献中第九个文献在处理大规模复杂图像面对较大秩估计时袁CPD 处理不佳的问题遥最后应当指出袁虽然施加低秩约束算法具有一定的局限性袁但是如何在核张量算法中添加其它的约束项袁从而使算法的性能更加优越稳定袁拓展其适用范围袁将是今后研究工作的主要方向遥参考文献院1张静炎.基于空谱结构信息挖掘的高光谱遥感影像解混研究D.西安院西安电子科技大学,2021.表 1 不同方法在 Jasper-Ridge 数据下的 SAD 和 RMSE 结果渊粗体表示最好袁要要要次之冤方法L1/2NMF LKNMF PLKNMF MV-NTF ULTRA-V LKTNMF PLKTNMFTree0.111 20.136 80.239 10.144 20.190 30.026 30.023 7Soil0.281 30.229 20.073 80.289 70.339 90.225 50.038 1Water 0.103 40.847 50.177 00.114 90.095 80.072 80.022 0Road0.125 60.144 10.202 40.146 30.222 00.089 90.038 1MeanRMSE0.155 30.175 30.339 40.170 20.173 10.229 50.173 80.251 00.212 00.225 50.103 60.095 10.030 50.132 6103-叶曳 2023 年第 5 期2汤辉袁孟莎莎袁彭天亮袁等.基于 Hessian 图正则稀疏 NMF 的高光谱解混J.计算技术与自动化,2023,42(1):153-159.3刘雪松,谭文群,段卓镭,等.基于 L0稀疏约束的近似NMF高光谱解混J.南昌工程学院学报,2021,40(1):7-9.4林娜,杨武年,王斌.利用核方法进行高光谱遥感图像线性解混J.武汉大学学报(信息科学版),2017,42(3):355-361.5ZHANG D Q袁ZHOU Z H袁CHEN S.Non-negative matrix fac-torization on kernelsC/9th Pacific Rim International Confer-ence on Artificial Intelligence Proceedings.Guilin院Springer袁2006:404-412.6厉小润袁伍小明袁赵辽英.非监督的高光谱混合像元非线性分解方法J.浙江大学学报(工学版)袁2011袁45(4)院607-613.7LI X袁CUI J袁ZHAO L.Blind nonlinear hyperspectral unmixingbased on constrained kernel nonnegative matrix factorizationJ.Signal袁Image andVideo Processing袁2014袁8(8)院1555-1567.8ZHU F袁HONEINE P.Biobjective nonnegative matrix factorization:linear versus kernel-based models J.IEEE Trans GeosciRemote Sens袁2016袁54(7)院4012-4022.9IMBIRIBA T,BORSOI R A,BERMUDEZ J.Low-rank tensormodeling for hyperspectral unmixing accounting for spectralvariability J.IEEE Transaction on Geoscience and RemoteSensing,2020,5(8)院1833-1842.10熊李艳袁何雄袁黄晓辉袁等.基于张量分解的鲁棒核低秩表示算法J.科学技术与工程袁2018袁18(21)院56-62.11孙扬.基于 tucker 分解的小波支持张量机模型及其应用D.昆明院云南财经大学袁2022.12ZHANG Q,WANG H,PLEMMONS R J,et al.Tensor methodsfor hyperspectral data analysis:a space object material identification studyJ.Journal of the Optical Society of America,2008,25(12):3001-3012.13FAVIER G,ALMEIDA A L D.Overview of constrained PA-RAFAC models J.Eurasip Journal on Advances in SignalProcessing,2014,2014(1):1-25.14PAN Y Q袁JIANG M.Low-rank representation based on twintensor kernel dictionary learning for face recognition J.IETBiometrics袁2016袁8(6):165-172.15XIAO S袁TAN M袁XU D袁et al.Robust kernel low-rank repre-sentationJ.IEEE Transactions on Neural Networks&learningSystems袁2016袁32(6):2268-2281.16ZHU F,HONEINE P.Kernel nonnegative matrix factorizationwithout the curse of the pre-image application to unmixinghyperspectral imagesJ.ArXiv Preprint,2014,1407-4420.17海晨袁王生旗袁胡学友.基于局部截断核范数的高光谱图像去噪优化J.激光与光电子学进展袁2022袁9(40):1-18.18秦进春袁余旭初袁谭熊袁等.基于 SVM 核函数评价的高光谱遥感影像核分类方法比较研究J.测绘通报,2012(S1):356-358.19QIAN Y,JIA S,ZHOU J,et al.Hyperspectral unmixing viaL1/2 sparsity constrained nonnegative matrix factorizationJ.IEEE Transaction on Geoscience and Remote Sensing,2011,49(11):4282-4297.20QIAN Y,XIONG F,ZENG J,et al.Matrix vector nonegativetensor factorization for blind unmixing of hyperspectral imageryJ.IEEE Transaction on Geoscience and Remote Sensing,2017,55,1776-1792.21WANG X,ZHONG Y,ZHANG L,et al.Spatial group spar-sity regularized nonnegative matrix factorization for hypers-pectral unmixing J.IEEE Transaction on Geoscience andRemote Sensing,2017,(55):6287-6304.Application of Nonnegative Tensor Decomposition of Low Rank Constrained Kernel inHyperspectral UnmixingLIU Xue-song1,2,YAO ling1,PENG Tian-liang2渊1.Mobile Communication Laboratory of Anhui Xinhua University,Hefei Anhui 230088,China曰2.Jiangxi Province Key Information Engineering Laboratory of Water Information Cooperative Sensing and Intelligent Processing袁Nanchang Jiangxi 330099袁China)Abstract:This paper proposes a non-linear unmixing method for hyperspectral images based on kernel tensor non-negative matrixfactorization,combining kernel NMF theory with tensor theory,and expressing the original hyperspectral data in the form of tensors inthe NMF algorithm.It is then mapped to the Hilbert space,and apply a low rank constraint to obtain(Linear-Kernel Tensor NMF,LKTNMF;Polynomial-Kernel Tensor NMF,PLKTNMF)algorithm.so that the nonlinear data becomes linearly separable in the high-dimensional space,which solves the problem of nonlinear spectral unmixing.The experimental results of simulation and realhyperspectral data show that the algorithm can handle high-order nonlinear tensor data well.It improves the mixing accuracy and ismore robust to noise.Key words:low rank constraint;kernel function;tensor factorization;hyperspectral unmixing104-