自适应图正则化稀疏编码算法.pdf

第 卷第期陕西师范大学学报(自然科学版)V o l N o 年月J o u r n a l o fS h a a n x iN o r m a lU n i v e r s i t y(N a t u r a lS c i e n c eE d i t i o n)S e p,人工智能专题(主持人:谢娟英)引用格式:余沁茹,卢桂馥,李华自适应图正则化稀疏编码算法J陕西师范大学学报(自然科学版),():YU QR,L UGF,L IH G r a p hr e g u l a r i z a t i o ns p a r s e c o d i n gw i t ha d a p t i v en e i g h b o u rJ J o u r n a l o fS h a a n x iN o r m a lU n i v e r s i t y(N a t u r a lS c i e n c eE d i t i o n),():D O I:/j c n k i j s n u 收稿日期:基金项目:国家自然科学基金(,);安徽省自然科学基金(MF )通信作者:卢桂馥,男,教授,博士,主要从事模式识别、机器学习与计算机视觉等方面的研究.E m a i l:l u g u i f u_j s j c o m自适应图正则化稀疏编码算法余沁茹,卢桂馥,李华(芜湖职业技术学院,安徽 芜湖 ;安徽工程大学 计算机与信息学院,安徽 芜湖 )摘要:在G r a p h S C算法中,拉普拉斯图是预先定义并且固定不变的,并不会参与之后对于字典与稀疏编码的学习过程,而预先定义的拉普拉斯图往往不是最合适的.针对此问题,提出了自适应正则化稀疏编码(g r a p hr e g u l a r i z a t i o ns p a r s ec o d i n gw i t ha d a p t i v en e i g h b o u r,G r a p h S C AN)算法.该算法使用自适应方法构建合适的局部拉普拉斯图,然后将其加到S C的目标函数中;从而将图的构建和稀疏编码纳入到统一框架中,使得图的构建与稀疏编码的运算同时迭代进行.在CMU人脸数据与C O I L 数据上进行的图像聚类实验结果验证了G r a p h S C AN算法的有效性.关键词:图正则化;稀疏编码;图聚类;自适应聚类中图分类号:T P 文献标志码:A文章编号:()G r a p hr e g u l a r i z a t i o ns p a r s ec o d i n gw i t ha d a p t i v en e i g h b o u rYU Q i n r u,L UG u i f u,L IH u a(W u h u I n s t i t u t eo fT e c h n o l o g y,W u h u ,A n h u i,C h i n a;S c h o o l o fC o m p u t e r a n d I n f o r m a t i o n,A n h u i P o l y t e c h n i cU n i v e r s i t y,W u h u ,A n h u i,C h i n a)A b s t r a c t:I nt h eG r a p h S Ca l g o r i t h m,t h eL a p l a c i a ng r a p hi sp r e d e f i n e da n df i x e d,a n dw i l ln o tp a r t i c i p a t e i nt h e s u b s e q u e n t l e a r n i n gp r o c e s so f t h ed i c t i o n a r ya n ds p a r s e c o d i n g,t h ep r e d e f i n e dL a p l a c i a ng r a p hi s n tt h e m o s ts u i t a b l e G r a p h r e g u l a r i z a t i o n s p a r s ec o d i n g w i t h a d a p t i v en e i g h b o u ra l g o r i t h m(G r a p h S C AN)i sp r o p o s e dt os o l v et h ep r o b l e m T h ea l g o r i t h m u s e sa na d a p t i v em e t h o d t oc o n s t r u c t a s u i t a b l e l o c a lL a p l a c i a ng r a p h,a n d t h e na d d s i t t o t h eS Co b j e c t i v ef u n c t i o n G r a p h S C AN i n c o r p o r a t e s g r a p h c o n s t r u c t i o n a n d s p a r s e c o d i n g i n t o a u n i f i e df r a m e w o r k,s ot h a tg r a p hc o n s t r u c t i o na n ds p a r s ec o d i n go p e r a t i o n sa r ei t e r a t i v e l yp e r f o r m e ds i m u l t a n e o u s l y T h e e x p e r i m e n t a l r e s u l t so f i m a g e c l u s t e r i n go nCMUf a c ed a t aa n dC O I L d a t as u p p o r t t h ee f f e c t i v e n e s so f t h eG r a p h S C ANa l g o r i t h mK e y w o r d s:g r a p hr e g u l a r i z a t i o n;s p a r s ec o d i n g;i m a g ec l u s t e r i n g;a d a p t i v ec l u s t e r i n g在图像处理过程中,图像本身的表示形式是影响处理结果的关键因素.稀疏表示已被证明是一种极有效的图像表示算法.近年来,为了实现稀疏表示,研究人员已经开发出例如稀疏主成分分析(P C A)、稀疏非负矩阵分解(NMF)等多种算法.作为稀疏表示最典型的方法之一,稀疏编码(s p a r e sc o d i n g,S C)在机器学习、信号处理和神经科学 等领域中得到了广泛的关注.陕西师范大学学报(自然科学版)第 卷S C是利用过完备字典来线性表示图像的编码过程,其中的非零元素只占所有元素的极小部分,体现了编码的稀疏性.S C具有众多优点,如:稀疏表示时其每个数据点都表示为少量基本矢量的线性组合,表示方式更简洁;编码状的稀疏表示可以允许数据快速检索等.S C算法目前已被应用于如图像恢复、信号分类、人脸识别 和图像分类 等多个领域中.近年来,研究人员针对S C的部分缺点提出了改进算法.对于S C计算复杂度过高的问题,文献 提出了一种迭代的软阈值方法,该方法在负梯度方向上取B a r z i l a i B o r w e i n步长,然后将软阈值算子应用于结果,提升了S C的计算速率.L e e等 提出了一种特征符号搜索方法,将不可微L范数问题简化为L正则化最小二乘问题,从而加快了优化过程.在传统方法中,S C的字典选择也是影响算法效果的一个关键因素,然而其字典一般是从标准库中选择的,甚至是从随机矩阵 中生成的.因此,有些学者试图通过为稀疏编码设计一个更合适的字典来提升S C的性能.A h a r o n等 提出的K S V D方法不同于之前利用标准库获得数据稀疏表示的算法,该 算 法 使 用 正 交 匹 配 追 踪 算 法(o r t h o g o n a lm a t c h i n gp u r s u i t,OMP)或基追踪算法(b a s i sp u r s u i t,B P),作为其学习词典迭代过程的一部分.还有些学者致力于将稀疏编码与经典机器学习方法相结合以提出新的理论框架.文献 将线性判别分析(l i n e a rd i s c r i m i n a n ta n a l y s i s,L D A)与稀疏表示相结合提出了稀疏主成分判别分析的方法(s p a r s el i n e a rd i s c r i m i n a n ta n a l y s i s,S D A),该方法可以通过重建特性、辨别力和稀疏性来进行分类.文献 提出了一种新的判别方法,称为监督字典学习算法(s u p e r v i s e dd i c t i o n a r yl e a r n i n g,S D L),有效地利用图像分类任务中相应的稀疏信号分解去学习共享字典和判别模型.以上研究都在克服原始稀疏编码的不同缺点,但是都没有考虑到数据中潜在的几何结构.K a v u k c u o g l u等 提出了几种稀疏编码方法的变体,这些算法通过增加一些稀疏编码系数的附加约束来捕获数据中的结构,即它们可以通过添加额外的空间一致约束来学习,以获得局部不变的稀疏表示.G a o等 首次提出了使用流形学习算法学习数据几何结构的方法,但未明确提出详细的优化方案,所提方法的性能仅在图像分类任务上进行了评估.Z h e n g等 在文献 的基础上提出了一种新的算法,称为图正则化稀疏编码(g r a p hr e g u l a r i z a t i o ns p a r s ec o d i n g,G r a p h S C),该算法明确考虑了数据的局部几何结构.G r a p h S C通过构建一个近邻图来编码数据中的几何信息,并使用谱图理论中的图拉普拉斯算子作为光滑算子来保留局部流形结构.与传统的S C算法相比,G r a p h S C具有更强大的分类能力.基于文献 的研究,G a o等 基于直方图交点的度构建相似度图,利用超图捕获样本之间的高阶关系,进一步提升了G r a p h S C的性能.此后,S h a等 提出将低秩表示(l o w r a n kr e p r e s e n t a t i o n,L R R)引入图正则化的处理过程,并就此提出了低秩正则化稀疏编码算法(l o w r a n kr e g u l a r i z e ds p a r e sc o d i n g,L o g S C).由 于 添 加 了 低 秩 约 束,L o g S C在部分任务中获得了较G r a p h S C更优秀的性能.然而,G r a p h S C及其改进方法中的拉普拉斯图都是预先定义且固定不变的,并不会参与之后对于字典与稀疏编码的学习过程,而预先定义的拉普拉斯图往往不是最合适的.针对这个问题,我们对G r a p h S C算法进行了改进,提出了自适应正则化稀疏编码(g r a p hr e g u l a r i z a t i o ns p a r s ec o d i n gw i t ha d a p t i v en e i g h b o u r,G r a p h S C AN)算法.我们假设数据指向较小的距离代表更可能成为邻居,因此G r a p h S C AN可以从自适应性分解的结果中学习局部流形结构,并重新构造以保留精炼的局部结构,根据每个数据点的本地连通性选择自适应近邻(a d a p t i v en e i g h b o r,AN)以获得相似度图,然后将AN s正则化约束合并到G r a p h S C中.G r a p h S C AN将图的构建和稀疏编码纳入到统一框架中,使得内部局部结构学习的过程和图稀疏编码的过程同时进行,并最终提高了G r a p h S C的性能.相关工作 稀疏编码(S C)S C的目的是对于给定的一个数据矩阵,找到一组捕获高级语义的基础向量(即字典),并输出数据的稀疏表示.给定 一 个 数 据 矩 阵Xx,x,xnRnm,X的每一列都是样本矢量.令Aa,a,ak Rnk为字典矩阵,其中ai表示字典中的基础向量.令Ee,e,emRkm为系数矩阵,其中每一列都是数据点的稀疏表示.每个数据点都可以表示为字典中基向量的稀疏线性组合.稀疏编码的目标函数定义如下:m i ns t aic,i,kXA EFmif(ei).()式中:F表示矩阵的F范数;f是度量的稀疏性第期余沁茹 等:自适应图正则化稀疏编码算法 函数,其最直接的选择是e的L范数.然而,当固定字典B时,系数e的极小化问题被证明是一个N P困难问题.因此,可以转而讨论这个问题的近似或松弛.近似求解该问题有种常用的方法,即匹配追踪(m a t c h i n g p u r s u i t,MP)和 基 追 踪(b a s i sp u r s u i t,B P).MP以贪心的方式一次只寻找一个条目的解,而B P用L范数代替L范数对原问题进行凸松弛.因此,由文献,可令f为f(ei)ei,此时目标函数化为m i ns t aic,i,kXA EFmiei.()由于()式中的目标函数可能仅A或E是凸的,个变量不能同时为凸.因此,可以通过固定一个变量、最小化另一个变量来迭代优化目标函数().图正则化稀疏编码(G r a p h S C)G r a p h S C将拉普拉斯图引入S C算法,并使用图拉普拉斯正则项来保留数据局部流形结构.对于给定一组n维数据点x,x,xm,构造一个有m个顶点的最近邻图G,其中每个顶点代表一个数据点.令W为图的权重矩阵,若xi是xj的最近邻或者xj是xi的最近邻,那么Wi j,否则Wi j.定 义xi的 度 为dimjWi j,且Dd i a g(d,d,dm).图正则化目标函数 可表示为mi,j(eiej)Wi jt r(ETL E),()式中L是图拉普拉斯矩阵,LDS.由()、()式可得G r a p h S C的目标函数为m i ns t aic,i,kXA EFmieit r(ETL E).()自适应图正则化稀疏编码算法及其求解利用数据的局部几何结构,G r a p h S C算法提升了S C算法的计算能力.但G r a p h S C使用的拉普拉斯图会在全局计算前预先定义且固定不变,并不参与之后对于字典与稀疏编码的学习过程.我们提出自 适 应 方 图 正 则 化 稀 疏 编 码 的 算 法(g r a p hr e g u l a r i z a t i o ns p a r s ec o d i n gw i t ha d a p t i v en e i g h b o u r,G r a p h S C AN)对G r a p h S C所存在的这个问题进行了改进.G r a p h S C A N的算法模型设输入的原始数据集为X,X中的任意一数据点xi都有所有数据点x,x,xn可以作为近邻与之连接,连接的概率为si j.基于数据点间的欧几里得距离构造邻域矩阵,距离越小则成为最近邻的可能性越大.本文算法的求解形式如下:m i ns t aic,sTi,siXA EFnj(xixjsi j si j)nieit r(ETLSE).()()式第项对原始数据集X求其字典及其稀疏编码,其中矩阵X为原始数据集,A代表字典阵,E代表其稀疏阵.()式第项是自适应正则化函数,使用其完成自适应相似矩阵的构造.其中和均为正则化参数,si Rn 表示向量,其第j个元素为si j.在所有xi有相同的概率即n时,第二项可写作m i nsTi,sinj(xixjsi j si j),()式中是正则化参数.因此,可以将()式重新表示为m i nsTi,sisidXi.()通过求解()式获得的矩阵SRnn,可被视为相似度矩阵 .可通过以下步骤来表示数据平滑度:ni,jeiejsi jni,jeisi jeTini,jeisi jeTjni,jei(Ds)i ieTini,jeisi jeTj t r(ETDSE)t r(ETWSE)t r(ETLSE).()()式第项是度量第一项中稀疏矩阵E稀疏度的函数,设f(ei)ei作为度量函数.()式第项是局部图拉普拉斯约束函数,使用其增强传统低秩表示模型的局部性和稀疏性.其中LS是Si的拉普拉斯矩阵,LSDSWS,t r()表示矩阵的迹.G r a p h S C A N的算法求解本节提出求解G r a p h S C AN的更新算法,该算法通过固定其他变量更新一个变量的值来优化目标,此过程重复直到收敛.陕西师范大学学报(自然科学版)第 卷 固定A、E更新S观察()式不难发现,在固定A、E时更新S,最小化()式可等价于解决下式:m i nsni,j(xixjsi j si j)t r(ETLSE),s t sTi,si,()式中.由()式结合()式有m i nsni,j(xixjsi j si jeiejsi j),s t sTi,si.()可通过逐个求解的方式求解()式,此时()式等价于m i nsini,j(xixjeiej)si j si j),s t sTi,si.()令dXi j xixj,dEi jeiej,且diRn,第j个元素为di jdXi j dEi j,将其代入()式可得m i nsTi,sisidXi.()设和为拉格朗日乘子,则()式的拉格朗日函数为R(si,i)siidXi(sTi)Tisi.()根据KK T条件,满足si j,最优解可以定义为si jidXi j,()dxi,dxi,dxi n由小到大表示.如果最优si只有k个非零元素,则根据()式可知si k且si,k.因此,有idXi k,idXi,k.()由()式和sTi的约束,有kjidXi jkk ikjdXi j.()结合()和()式,可得kdXi kkjdXi jikdXi,k kjdXi j.()为了获得具有k个非零值的最优si,可以将i设置为ikdXi,k kjdXi j.()为了便于计算,可以将整体设置为,n的均值,即nnikdXi,k kjdXi j.()通过取i的平均值,所有si的平均非零元素应为k.我们不直接搜索正则化参数,而是搜索近邻数k.因为k是一个整数,并且其值是有限的(即kn),所以参数搜索会更加容易.固定S、A更新E在固定S、A时更新E,求解()式即等同于求解下式:m i n XA EFnieit r(ETLSE).()由于当si包含时,()式中的L正则化问题是不可微的,因此本文选择采用基于坐标下降的优化方法来求解.以向量形式重写后,XA EF可写为nixiA ei.()拉普拉斯正则项t r(ETLSE)可写为t r(ETLSE)t rni,jLi,jeieTj()ni,jLi jeTJeini,jLi jeTiej.()结合()、()式可重写如下:m i n xiA eiFnieini,jLi jeTiej.()在更新ei时,其他向量ejj是固定的,因此可得m i neif(ei)xiA eiFkj|e(j)i|Li jeTiejeTihi,()式中hijiLi jej()且e(j)i是ei的第j个系数.通过参考文献 中提出的有关稀疏编码的求解过程,可以将()式的求解过程总结如下.定义h(si)xiA eiF Li jeTiejeTihi,(j)i|ei|作为ei的第j个系数的可微分值.因此,实现f(si)最优值的最优条件可改写为(j)ih|ei|s i g n(e(j)i),若|ei|,|(j)ih|ei|,若e(j)i.()第期余沁茹 等:自适应图正则化稀疏编码算法 当 其 不 符 合 最 佳 条 件 时,最 佳 子 梯 度(j)if(ei)为e(j)i,(j)ih|ei|s i g n(e(j)i),(j)ih|ei|,s i g n(e(j)i),(j)ih|ei|,s i g n(e(j)i).()通过替换|e(j)i|为e(j)i(e(j)i),e(j)i(e(j)i)或(e(j)i)去掉L范数的约束.此时,原问题可以简化为标准的无约束二次优化问题(Q P)并通过线性方法求解.由此,可得算法以描述求解()式的详细算法过程.算法图正则化稀疏码算法输入:m数据点的数据集X,字典A,图拉普拉斯矩阵L,参数、.输出:最优系数矩阵Ee,e,em.步骤对所有满足im的id o;步骤初始化:ei,其中j,表示s i g n(e(j)i);步骤从ei中选择零系数、ja r g m a xj(j)ih|ei|的项.仅在提高()式局部结果的情况下改变ei;步骤)定义A是A的子矩阵,它仅包含与活动集相对应的列.令ei和hi为ei、hi的子向量,为与活动集相对应的.)计算得出结果.无约束Q P:m i neig(ei)xiAeiFTei Li ieTieieTihi.()令g(ei)ei(),可以在当前活动集下获得ei的最优值en e wi(ATA Li iI)ATxi(h)(),()式中I是单位矩阵.)在从ei到en e wi的闭合线段上执行离散线搜索.)从活动集合中去除ei的零系数并更新s i g n(ei).步骤检查最优性条件步骤)非零系数的最优性条件:(j)ih(ei)s i g n(e(j)i),e(j)i,如果不满足条件),转到S t e p(不进行任何操作);否则判断条件).)零系数的最优条件:|(j)ih(ei)|,e(j)i,如果不满足条件(),转到S t e p;否则返回ei作为解决方案,以ei表示.步骤结束 固定S、E更新A在固定S、E时更新A,最小化()等同于求解下式:m i nAXA EF,s t aic,i,k.()使用拉格朗日对偶法对()式进行求解.令,k为与不等式约束相关联的拉格朗日乘数,则拉格朗日对偶函数为g()i n fBL(A,)i n fB(XA EFkii(eic).()令为kk的对角矩阵,其对角线数i ii.那么L(A,)可写作L(A,)XA EF t r(ATA)ct r()t r(XTX)t r(ATA)t r(ETATA E)t r(ATA)ct r().()令()式 的 一 阶 导 数 等 于 零 即 可 获 得 最 佳 解A,即AE ETX ETA.()这时,有AX ET(E ET).()将()式代入()式可得g()t r(XTX)t r(X ET(E ET)E XT)ct r()t r(E ET)E XTX ET)t r(XTX)t r(X ET(E ET)E XT)c t r().()由此可得拉格朗日对偶函数m i nt r(X ET(E ET)E XT)c t r(),s t i,i,k.()()式可以通过牛顿法或共轭梯度来求解.令为最优解,那么最优AX ET(E ET).由于不能保证E ET可逆,因此本文算法使用伪逆代替直接求逆.至此,G r a p h S C AN的算法步骤可总结如下.算法自适应图稀疏编码算法输入:数据矩阵XRmn的初始值,簇号c,参数k、;输出:字典矩阵A、稀疏编码E.步骤初始化字典矩阵A、稀疏编码E;步骤重复)通过算法更新字典矩阵A;)通过()式更新稀疏编码E;)对于每个i,通过求解()式更新S的第i行.其中di Rn,第j个元素为di j xixjeiej;直到收敛;步骤求得结果.陕西师范大学学报(自然科学版)第 卷实验我们在个图像数据集(C MU P I E数据库和C O I L 图像数据库)上进行聚类实验.实验中以聚类准确率(a c c u r a c y,A C C)、标准互信息率(n o r m a l i z e dm u t u a l i n f o,NM I)个指标作为评价标准,实验环境为I n t e l(R)C o r e(TM)i G GH zC P U,G i BD D R 内存,MA T L A B b.实验步骤为了进一步评估所提出方法的性能,我们对G r a p h S C AN与一些经典算法和最新算法进行了对比实验.)k m e a n s:最 常 用 的 基 于 欧 式 距 离 的 聚 类算法.)主成分分析(p r i n c i p a lc o m p o n e n ta n a l y s i s,P C A):经典的降维方法.)S C:经典S C算法.)G r a p h S C:图正则化的S C.)L o g S C:最 新 的 基 于 拉 普 拉 斯 图 正 则 化的S C.实验中所用对比算法的参数已结合原论文进行了调节,使得其性能达到最优.图像聚类实验 CMU P I E数据集上的测试我们首 先 在CMU P I E数 据 集 上 进 行 实 验,CMU P I E人脸数据库包含 个人总共 张人脸图像.每个图像的大小为 ,每个像素 个灰度级,每个图像都由 维矢量表示.我们进行的聚类实验的簇数C范围为.对于除 以外的每个簇,对不同随机选择的簇进行 次测试运行,并通过对 个测试取平均值来获得最终的性能得分.对于每个测试,首先应用比较算法中的每个算法,学习数据的新表示形式,然后在新的表示空间中应用k m e a n s.我们用不同的初始化将k m e a n s在原数据集上重复 次,并记录关于k m e a n s目标函数的最佳结果.P C A投影降维后,维 数 为.对 于S C、G r a p h S C、L o g S C、G r a p h S C AN算法,基向量维度设为 .实验结果如表所示,本文G r a p h S C AN算法基本优于其他算法(表中加粗数据).G r a p h S C AN的A C C和NM I均值分别为 和 ,明显高于现有优秀算法L o g S C在P I E数据集上的表现.同时,基于图的S C算法结果均优于标准S C算法.这说明结合图的S C可以获得更好的性能,且通过自适应邻居获得相似度图的方法比仅使用k NN进行构造的图算法获得的结果精度更高.由于局部流形结构的学习和稀疏编码是同时进行的,即从编码的结果中自适应地学习内在局部结构,并且重新构造因子以保留数据的精炼局部结构.因此,可以更好探索数据内在局部结构.通过为每个数据点选择自适应和最佳邻居,该方法可以提高一般情况下的聚类性能.表CMU P I E数据集的聚类结果T a b C l u s t e r i n gr e s u l t so fCMU P I Ed a t a s e t单位:CA C Ck m e a n s P C AS CG r a p h S C L o g S C G r a p h S C ANNM Ik m e a n s P C AS CG r a p h S C L o g S C G r a p h S C AN 平均值 注:加粗表明本文算法优于其他算法的数据.C O I L 数据集上的测试我们 在C O I L 数 据 集 上 也 进 行 了 实 验,C O I L 图像库包含 个对象 张 的灰度图像(每个对象 个图像),每个图像由 第期余沁茹 等:自适应图正则化稀疏编码算法 维向量表示.实验设置与CMU P I E数据集上的实验基本相同,但限制于数据集大小,此处以 的簇数进行 次实验,通过对 个测试取平均值来获得最终的性能得分.对于此数据集,P C A降维后的维数为 ;对于S C、G r a p h S C、G r a p h S C AN算法,基向量维度设为 .实验结果如表所示,G r a p h S C AN的A C C和NM I均值分别为 和 .与L o g S C相比,G r a p h S C AN的性能略有提升,且二者都优于同样基于图的G r a p h S C算法.这说明将图优化的概念引入使用图方法的G r a p h S C中,可以提高原有算法的性能.结合对P I E数据集进行的聚类实验结果可以看出,通过将自适应拉普拉斯图构建的概念引入带有几何信息编码的稀疏表示中,可以有效提高学习性能.表C O I L 数据集的聚类结果T a b C l u s t e r i n gr e s u l t so fC O I L d a t as e tCA C Ck m e a n s P C AS CG r a p h S C L o g S C G r a p h S C ANNM Ik m e a n s P C AS CG r a p h S C L o g S C G r a p h S C AN 平均值 注:加粗表明最优.参数选择实验观察目标函数()可以看出,G r a p h S C AN中包含了、个参数.根据文献,中实验不难发现,虽然、取值会影响实验结果,但是由于其取值范围较小,且因其改变而影响的实验结果误差不大,故此处仅讨论对算法中参数取值范围及实验结果影响较大的参数的选择.考虑到实验数据集包含的数据量,这里选择C O I L 以 及C E U P I E个 数 据 集 及P C A、S C、G r a p h S C、G r a p h S C AN种算法进行了实验.所有实验均使用A C C、NM I指标作为算法评价标准.为了公平地比较所有方法,所有算法都在不同的参数设置下进行,且在每个参数设置下,均会独立重复实验 次.所有方法的迭代次数都根据经验设置为,G r a p h S C AN中、两个参数粗略取值为、进行实验(更好的参数调整可以给本文算法带来更优秀的性能).聚类的数量设置为真实类的数量.试验结果如图所示.可以看出,在C E U P I E数据集上当取到 时以及在C O I L 数据集上当取 到时 可 获 得 较 好 的 结 果,其 结 果 显 示G r a p h S C AN与G r a p h S C算法取到最优值过程中指标变化趋势相差较小.以上结果表明,实际对算法影响较大的部分为S C之前进行的图构造过程.结语为优化G r a p h S C算法,本文将自适应拉普拉斯图构建的方法引入G r a p h S C中,提出了自适应图正则化稀疏编码算法G r a p h S C AN.该算法通过使用自适应方法定义构建合适的局部拉普拉斯图,再使用构建好的图参与S C的运算,图的构建与稀疏编码的运算同时迭代进行.本文在个图像数据集上进行了实验,并与相关算法进行了比较分析,验证了G r a p h S C AN的有效性.陕西师范大学学报(自然科学版)第 卷图各算法中参数对性能的影响F i g T h e i n f l u e n c eo fp a r a m e t e ro nd i f f e r e n t a l g o r i t h m s参考文献:A GA RWA LS,AWAN A,R O TH D L e a r n i n gt od e t e c to b j e c t s i n i m a g e sv i aas p a r s e,p a r t b a s e dr e p r e s e n t a t i o nJ I E E E T r a n s a c t i o n so nP a t t e r n A n a l y s i sa n d M a c h i n e I n t e l l i g e n c e,():R OWE I SSEMa l g o r i t h m sf o rP C Aa n dS P C AC/P r o c e e d i n g so f t h e C o n f e r e n c e o nA d v a n c e s i nN e u r a l I n f o r m a t i o nP r o c e s s i n gS y s t e m s N e wY o r k:A CM,:HOY E R P N o n n e g a t i v e m a t r i x f a c t o r i z a t i o n w i t hs p a r s e n e s sc o n s t r a i n t sJ J o u r n a l o fM a c h i n eL e a r n i n gR e s e a r c h,():E L A D M,AHA R ON M I m a g ed e n o i s i n gv i as p a r s ea n dr e d u n d a n tr e p r e s e n t a t i o n so v e rl e a r n e dd i c t i o n a r i e sJI E E ET r a n s a c t i o n so nI m a g eP r o c e s s i n g:A P u b l i c a t i o no ft h eI E E ES i g n a lP r o c e s s i n gS o c i e t y,():YAN GJC,YUK,G ON GYH,e t a l L i n e a r s p a t i a l p y r a m i dm a t c h i n gu s i n gs p a r s ec o d i n gf o ri m a g ec l a s s i f i c a t i o nC/I E E E C o n f e r e n c eo nC o m p u t e rV i s i o na n dP a t t e r nR e c o g n i t i o n M i a m i:I E E E,:L EW I C K IM,S E J N OWS K IT C o d i n g t i m e v a r y i n gs i g n a l su s i n gs p a r s e,s h i f t i n v a r i a n tr e p r e s e n t a t i o n sC/A d v a n c e si n N e u r a lI n f o r m a t i o n P r o c e s s i n g S y s t e m s D e n v e r:N I P S O L S HAU S E N B A,F I E L D DJ E m e r g e n c eo fs i m p l e c e l l r e c e p t i v ef i e l dp r o p e r t i e sb yl e a r n i n gas p a r s ec o d ef o rn a t u r a li m a g e sJN a t u r e,():D ONOHODL,E L A D M,T EML YAK OV V N S t a b l er e c o v e r yo fs p a r s eo v e r c o m p l e t er e p r e s e n t a t i o n si nt h ep r e s e n c eo fn o i s eJ I E E ET r a n s a c t i o n so nI n f o r m a t i o nT h e o r y,():HUAN G K,AV I Y E N T ES S p a r s er e p r e s e n t a t i o nf o rs i g n a l c l a s s i