基于非负矩阵分解的人脸识别应用研究.pdf

Computer Era No.10 20230 引言人脸识别是基于人的脸部特征进行身份识别的生物技术之一1，其应用十分广泛。例如人脸识别应用在小区、公司、写字楼等场所可以为人民生命和财产安全提供保障；在日常通勤中人脸识别帮助判定乘客购票情况；在刑事侦查方面可以通过人脸识别追踪逃犯；人脸识别技术也使支付手段更加多样化，在一些场所已经开通了人脸支付的功能。人脸识别一般流程如图1所示。矩阵分解的经典方法有奇异值分解、三角分解、QR分解等，非负矩阵分解就是其中一种。非负矩阵是机械学习经典算法之一，把一个非负矩阵分解为两个同样非负的矩阵的乘积，分解后的两个矩阵与原矩阵相比维数与计算机对信息的储存都降低了。由于其分解前后矩阵都是非负的，可解释性强且具有良好的现实意义，所以用途广泛。图1人脸识别流程图1 非负矩阵分解原理非负矩阵分解（Nonnegative Matrix Factorization）简称为NMF是由Lee和Seung在自然杂志上提出的2。DOI:10.16644/33-1094/tp.2023.10.031基于非负矩阵分解的人脸识别应用研究王雨欣，张国华(湖南工业大学理学院，湖南 株洲 412000)摘要：人脸识别技术在生活中应用十分广泛，非负矩阵分解是机械学习的经典算法之一，因其良好的物理意义而被应用在人脸识别技术中。本文主要研究了非负矩阵分解在人脸识别技术中的应用，介绍人脸识别与非负矩阵分解的背景阐释其原理与迭代算法，通过实验验证了非负矩阵分解算法在人脸识别上的运用并与主成分成分分析算法进行比较。阐述了改进的非负矩阵分解在人脸识别中的应用。关键词：非负矩阵分解；人脸识别；应用；算法中图分类号：TP391.41文献标识码：A文章编号：1006-8228(2023)10-152-05Research on face recognition application based on nonnegative matrix factorizationWang Yuxin,Zhang Guohua（College of Science,Hunan University of Technology,Zhuzhou,Hunan 412000,China）Abstract：Face recognition technology is widely used in daily life,nonnegative matrix factorization is one of the classic algorithmsin mechanical learning,which has been applied in face recognition technology due to its good physical significance.In this paper,the application of nonnegative matrix factorization in face recognition technology is mainly studied,the background of facerecognitionandnonnegativematrixfactorizationisintroduced,followedbyanexplanationoftheirprinciplesanditerativealgorithms.Through experiments,the application of nonnegative matrix factorization algorithm in face recognition is verified andcomparedwithprincipalcomponentanalysisalgorithm.Theapplicationofimprovednonnegativematrixfactorizationinfacerecognition is elaborated.Key words：nonnegative matrix factorization;face recognition;application;algorithm收稿日期：2023-05-16作者简介：王雨欣（2000-）,女，河北邯郸人，硕士研究生，主要研究方向：应用数学。通讯作者：张国华（1970-），男，湖南株洲人，博士，教授，硕士生导师，主要研究方向：计算数学与大数据方面的教学与研究。152计算机时代 2023年 第10期顾名思义，对于一个各个元素都是非负的矩阵，可以分解为两个同样非负的矩阵乘积。例如，对于任意一个m n维的非负矩阵W，可以分解为非负的m r维的矩阵U和r n维的矩阵V的乘积，可表达为Wmn=UmrVrn，分解实例如图2所示。图2非负矩阵分解图图2中，U称为特征矩阵表示从原矩阵中提取出的特征，V称为系数矩阵描述原矩阵中的特征重要性，该分解的思想是局部构成整体。在投影角度上，V的每一个列向量可看作W的列向量在U上投影所得坐标系数。矩阵分解时往往要求()m+n r mn来实现对原矩阵的降维，减少计算机对信息存储。2 非负矩阵分解目标函数与迭代法则在实际中，UV相乘只能尽量逼近W，所以用Wmn UmrVrn来表示，为了刻画UV与原矩阵之间的误差，可应用以下两个目标函数。基于欧氏距离的目标函数：minUVDE()WUV=12W-UV2=12m,nWmn-()UVmn2s.t.U,V 0,m,n.基于KL散度的目标函数：minUVDKL()WUV=mnWmnlogWmn()UVmn-Wmn+()UVmns.t.U,V 0,m,n.需要注意KL散度是描述两个概率分布相似度的度量，其不是对称的，所以DKL()WUV与DKL()UVW不同。目标函数DE()WUV与DKL()WUV对于U,V中的一个是凸函数，但对于U,V来说并不同时是凸函数。一般我们采用乘性迭代法来进行优化，于是对于式有：UmqUmq()WVTmq()UVVTmqVqnVqn()UTWqn()UTUVqn对于式有：UmqUmqnVqnWmn()UVmnnVqnVqnVqnmUmqWmn()UVmnmUmq一直迭代下去就会收敛（证明略），我们也可以根据具体实验情况设计迭代次数。3 概率模型与目标函数及乘性迭代间的关系由于矩阵U,V乘积是尽量逼近矩阵W，所以我们可以把矩阵分解看成含线性噪声的线性混合体模型Wm n=Um rVr n+Em n，其中Em n为噪声矩阵3。首先假设噪声矩阵E服从高斯分布，高斯分布公式为P()Wmn|U,V=exp-12Wmn-()UVmnmn22 mn。令P()W|U,V=mnP()Wmn|U,V，其最大似然函数为L()U,V=mnP()Wmn|U,V=mnexp-12Wmn-()UVmnmn22 mn。对数似然函数最大就要求12m,nWmn-()UVmn2最小，于是得到基于欧式距离的目标函数minUVDE()WUV=12W-UV2，对其分别关于U,V求偏导，有DE()WUVUmq=-()W-UV VTmq，DE()WUVVqn=-UT()W-UVqn；梯度下降得：Umq Umq-mqDE()WUVUmq，Vmq Vmq-qnDE()WUVVqn；令mq=Umq()UVVTmq，qn=Vqn()UTUVqn；得 到 其 乘 性 迭 代 法 则Umq Umq()WVTmq()UVVTmq，Vqn Vqn()UTWqn()UTUVqn。其次假设噪声矩阵E服从泊松分布，P()Wmn|U,V=()UVWmnmnWmn!exp-()UVmn同理得到其最大似然函数，于是153Computer Era No.10 2023得到其在 KL 散度上的目标函数minUVDKL()WUV=mnWmnlogWmn()UVmn-Wmn+()UVmn，对其分别关于U,V求偏导，利用梯度下降并令mq=1nVqn，qn=1mUmq；得到其乘性迭代公式：Umq UmqnVqnWmn()UVmnnVqnVqn VqnmUmqWmn()UVmnmUmq4 实验操作4.1 人脸识别流程 通过拍摄工具对人脸图像进行采集。对采集的图片进行预处理，目的是增强人脸图像质量为之后特征提取打下基础；常见的预处理方法有去噪、增强对比度、尺寸归一化等。通过检测系统判断图片中人脸图像是否存在以及存在的位置，并对人脸上如眼睛、鼻子、嘴巴等特征明确与定位。特征提取阶段。图3非负矩阵分解实例图数据库中每张人脸图片都可转化为原始矩阵W中的列向量，其中W是非负的，特征提取就是对其进行分解。特征矩阵U由人脸中眼睛、鼻子、嘴巴等特征构成，各个特征在人脸上的重要性用系数矩阵V表示。如图3中右上角的Original图片表示经过处理后原始人脸图片，图中左边矩阵称为特征矩阵，它由数据库中所有人脸上的主要特征构成，这些特征处于不同位置有不同的形态；右边矩阵为系数矩阵表示左边矩阵中不同特征的重要性，这两个矩阵都是非负的。左右两边矩阵相乘得到眼睛、鼻子、嘴巴等特征相加构成整张人脸，体现了非负矩阵分解原理中局部构成整体的思想。同时这两个矩阵也是稀疏的，稀疏是指矩阵中大多数元素为零，体现了非负矩阵分解完之后比原来矩阵更加简单，占用内存更少的特点。信息对比识别成功或失败。将提取出的特征与数据库中已有的特征进行比对，在这之前一般会设定一个阈值，若提取出的特征与数据库中某一张人脸特征之间差距小于设定的阈值则识别成功否则识别失败。4.2 实验操作接下来运用非负矩阵分解算法在计算机上进行实际操作。数据库说明：人脸数据库Olivetti中共有400张图片，每张大小为64 64，由40个人每个人分别拍照10次得到，这些图片中有些戴眼镜有些不戴面部表情也不同，有些图片是在不同的时间段采集的。采用人脸数据库Olivetti中的六张人脸图片进行实验。实验环境：本次实验在Windows 10系统上进行，使用的编程软件为Spyder(Python 3.7)。我们的目的是利用非负矩阵分解算法对这6张图片进行特征提取，将这六张图片转化为矩阵W中的列向量，通过分解得到特征矩阵U与系数矩阵V。该算法主要步骤为读取图像数据；初始化特征矩阵与系数矩阵；按照迭代公式对特征矩阵与系数矩阵进行迭代；人脸重建。本次实验中设置的特征提取个数为7。原始的6张人脸图片如图4，部分代码展示如图5，运用非负矩阵分解算法得到的人脸图像如图6。图4原始人脸图片图5部分代码展示154计算机时代 2023年 第10期实验结果显示，运用非负矩阵分解算法得到的人脸图像中五官及脸部轮廓等都很好地还原了出来。图6非负矩阵分解算法提取的图片特征4.3 实验对比在机械学习中还有其他可用来进行人脸识别的算法，如主成分分析算法、奇异值分解算法等，其中主成分分析算法在人脸识别中运用较为广泛。主成分分析算法主要思想是用主要数据表达原始数据，关键是计算数据协方差矩阵，取该矩阵中较大的几个特征值，由这几个特征值对应特征向量构成子空间，将原始矩阵投影到子空间上得到维数降低后的矩阵。在人脸识别时需要计算由数据库中人脸矩阵构成的子空间，待检测人脸由该子空间表示，通过衡量待检测人脸与数据库中人脸在子空间上表达数据之间差距判定能否识别成功。使用主成分分析算法对这 6张图片进行特征提取，运行结果如图7所示。图7主成分分析算法提取的图片特征主观上运用非负矩阵分解算法提取出的人脸特征比主成分分析算法提取出的特征图像更清晰一些。通过图像重构误差公式Err=i,j|Fij-Gijm n，其中Fij为原始图像归一化后灰度值，Gij为重构后图像归一化后灰度值，m n为图像大小，运用非负矩阵分解算法重构误差为 0.0563 运用主成分分析算法重构误差为0.0651，与主观上观察相符。原因可能是运用主成分分析算法进行人脸识别时，会使一些具有较强辨别性的细节特征数据丢失；还有一种原因是主成分分析算法在处理人脸时并没有区分哪个特征对应哪个部位，而是把所有主要特征都体现了出来，造成提取出来的图像较为模糊。而根据非负矩阵分解原理人脸上特征都有具体的数据表达，使得局部特征更加清晰，又矩阵分解前后非负性的限制使局部之间只能相加构成整张人脸，非负矩阵分解原理以及“加”的思想使其在人脸识别中展现出一定优异性。5 改进的非负矩阵分解在人脸识别中的应用经过研究与改进学者们将非负矩阵分解分为四类4，即原始的非负矩阵分解(Basic NMF)、添加约束条件的非负矩阵分解(Constrained NMF)、结构化非负矩阵分解(Structured NMF)、广义的非负矩阵分解(Generalized NMF)以及衍生出的图正则化非负矩阵分解和局部非负矩阵分解。人脸识别中遇到的一些问题可以通过改进非负矩阵分解算法来解决。例如为使矩阵分解后特征图像表现效果更好，有学者提出了稀疏图正则化非负矩阵分解5；为解决样本数据非线性可分问题学者们提出了核局部非负矩阵分解方法6；使用L21范数作为矩阵之间度量，在保证行与列稀疏的同时还可以增强算法鲁棒性；而把原始矩阵分解为噪声矩阵与两个非负矩阵乘积的和可以在一定程度上消除噪声对数据的影响，结合上述优点得到的基于L21范数的权重稀疏图非负矩阵分解方法7比基本的非负矩阵分解增强了鲁棒性与应对噪声的能力。实际运用人脸识别时还存在许多问题，比如识别时人面部表情或脸部遮挡等会对识别产生干扰。在处理脸部遮挡问题时，一种基于局部自适应结构引导约束的非负矩阵分解方法(NMF_LASGC)不用有遮挡部位的先验信息，可以运用在有监督与无监督情况8。也有学者将非负矩阵分解与卷积神经网络(CNN)结合提出了一种深层非负矩阵分解网络(Deep SANMF)并给出了其应用在有遮挡人脸识别中的框架9。在处理人面部表情对人脸识别产生影响时，有文献结合分块加权算法优势提出了分块加权算法与稀疏矩阵分解算法融合的人脸识别方法，并在人脸数据库上得到了有效验证10。155Computer Era No.10 2023综上，通过对非负矩阵分解算法改进可以提高其在人脸识别上精确率，也可以在一定程度上解决人脸识别在实际应用中产生的问题。6 结束语本文首先介绍了人脸识别背景与非负矩阵分解算法原理、迭代法则等内容，通过实验并与其他算法比较验证了其在人脸识别上的应用，分析了其在人脸识别上展现优异性的原因，最后阐述了改进的非负矩阵分解算法在人脸识别上的应用。非负矩阵分解算法还有很多值得研究的地方，例如针对不同人脸数据库如何选择合适的特征个数，针对不同的应用场景如何选择适当的非负矩阵分解类型等，另外，矩阵分解时初始值的选择与分解后迭代算法的制定等也值得进一步探讨。非负矩阵分解算法在生物医学、语音处理、文本聚类与模式识别等领域也将会有更成功的应用。参考文献(References):1 马晓坤.人脸识别让生活拥有更多可能J.上海信息化,2018(3):60-62.2 Lee D D,Seung H S.Learn the parts of objects by non-negative matrix factorizationJ.Nature,1999,401(6755):788-791.3 周丹.非负矩阵分解及其在人脸识别中的应用D.大连:大连海事大学,2013.4 杜汉,龙显忠,李云.基于图学习正则判别非负矩阵分解的人脸识别J.计算机应用,2021,41(12):3455-3461.6 张兴.核局部非负矩阵分解算法在人脸识别中的应用D.西安:西安电子科技大学,2009.7 王丹.基于非负矩阵分解的降维方法研究与应用D.西安:西安理工大学,2021.8 刘瑾.一种基于非负矩阵分解的有遮挡人脸识别方法D.西安:西安电子科技大学,2021.9 马蕾.具有新特性非负矩阵分解用于有遮挡人脸识别D.西安:西安电子科技大学,2019.10 袁蕾.基于非负稀疏矩阵分解的人脸表情识别D.哈尔滨:哈尔滨工程大学,2013.11 郭舒婷.基于非负矩阵分解的环境音噪声抑制算法研究D.桂林:桂林电子科技大学,2022.应用与软件,2012,29(8):141-144.2 朱晶晶,赵小平,吴胜安,等.基于支持向量机的海南气温预测模型研究J.海南大学学报(自然科学版),2016,34(1):40-44.3 宋春山,林立邦,韩红卫,等.基于 BP神经网络模型黑龙江漠河段气温变化对开江影响预测J.东北农业大学学报,2020,51(8).66-73.4 陈沛,刘文奇,郑万波.基于LSTM和FNN的昆明市气候舒适度相关气象指标预测方法J.计算机应用,2021,41(S2):113-117.5 MIAO K C,HAN T T.Application of lstm for short term fogforecasting based on meteorological elementsJ.Neuro-computing,2020(408):285-291.6 董润婷,吴利,王晓英,等.深度学习在天气预报领域的应用分析及研究进展综述J.计算机应用,2023,1:1-13.7 陶晔,杜景林.基于随机森林的长短期记忆网络气温预测J.计算机工程与设计,2019,40(3):737-743.8 陈永波,李巧勤.基于动态相关性的特征选择算法J.计算机应用,2022,42(1):109-114.9 SEPP H,JUERGEN S.Long short-term memoryJ.NeuralComputation,1997,9(8):1735-1780.10 王伯民.基本气象资料质量控制综合判别法的研究J.应用气象学报,2004,15:50-59.11 任芝花,张志富,孙超,等.全国自动气象站实时观测资料三级质量控制系统研制J.气象,2015,41(10):1268-1277.12 王海军,刘莹.综合一致性质量控制方法及其在气温中的应用J.应用气象学报,2012,23(1):69-76.(上接第151页)CECE156