主成分分析与主成分回归.ppt

,我是,laozhu,高等分析化学讲稿 主成分分析,Component Analysis and Regression,物以类聚，人以群分,一系列问题？,先发布今日网络讨论题,查阅,PCA,的各种应用实例。,讨论你擅长的数据处理,/,编程方式？,如何数理解“主成分”？,2,2021/3/2,有关这个分类的一系列疑问,特征通常会很多吗？,每个特征的差异都很大吗？,要直观的分类图,维数,有限制吗？,提前的特征都像身高 那样,意义,明确吗？,许多特征到底取哪,2,个呢？,YES,NO,123,NO,新,学问,3,2021/3/2,1.Introduction,主成分分析与主成分回归,Principal Component Analysis and Regression,2.PCA,3.PCR,1.Introduction,1.1 Chemometrics,1.2 Necessary Knowledge,1.1 Chemometrics,1)1970S,发展,2),交叉学科,3),现代仪器,4),一个例子,1971,：瑞典人,S.Wold,基金项目定名时首提,1974,：,S.Wold,和,B.R.Kowalski,倡议在西雅图首开学术会议,新创学术刊物,J.Chem.Info.Comp.Sci.,J.Chemometrics,Chemom.Intell.Lab.Syst.,化学计量学与计量关系,Chemometrics Stoichiometry,需要化学计量学,获得更多信息,BACK,应用数学、统计学、与计算机科学的手段设计或优化量测方法，并通过解析数据最大限度地获取化学及相关信息。,化学,分析化学,数学 统计学,计算机科学,接口,6,2021/3/2,Hyphenated Instrument,Separation Instrument,SignalInstrument,HPLC,DAD,(diode-array detector),GC,MS,(Mass-spectrometer),7,2021/3/2,HPLC-DAD,Get more data,3D chromatogram,HPLC chromatogram of nuclueside of Cordyceps Sinensis(,冬蟲草,)at one wavelength,GC-MS,GC chromatogram of peptic powder(,平胃散,),Mass spectrum taken at retention time 10.2 minutes,BACK,Two-way data containing both,chromatography and spectra,;,Data matrix with,more than 80 Megabytes;,Data base of lots of,chemical standards,9,2021/3/2,梁逸曾教授的经历,美国标准局16组分,PAH,混合物标样,(,Sulpeco),已知峰9为苯并,a,蒽和屈,，,峰14为苯并芘和二苯并蒽的二组分重叠峰,BACK,Next,芴,、苊、菲三混合,10,2021/3/2,Peaks 5 and 6 in the plot,11,2021/3/2,峰,5,、峰,6,的特征投影图,峰,5,的,前5,个特征值依次为,16382，2436，1294，22，11,峰,6,直线表示单组分,3,个大特征值,12,2021/3/2,分辨所得,的,芴,、苊、菲、蒽,的色谱与光谱,化学学报,1998,，中国科学,1998,，,ChemLab.1999,BACK,1.2 Necessary Knowledge on Linear Algebra,线性代数,1,）,矢量,Vector,2,）,线性相关,3,）,矩阵,Matrix,4,）,秩,Rank,一组溶液的光谱集合,一条光谱,同物质不同浓度的光谱,混合溶液中的物种数,BACK,14,2021/3/2,1.2 Necessary Knowledge on Linear Algebra,矢量：,n,个有顺序的数,a,1,a,2,a,n,组成的数组,。,k,1,1,+,k,2,2,+,k,m,m,=0,线性组合：,k,1,+,k,2,。,就称为,，,的,行矢量：,（,a,1,a,2,a,n,）；,列矢量,t,。,问,：,由,组成的矩阵,rank,最大为几？,1,=(,1 2 3 4 5 6),2,=(,6 5 4 3 2 1),3,=(,1 1 1 1 1 1),1,+,2,3,=0,BACK,15,2021/3/2,Grade,d,ik,received by student,i,from professor,k,is,矩阵,:,一组相同大小的矢量组合经典例子,:,教授推荐信给学生打分,True,score,of student,i,Relative,loading,(importance)given by professor,k,j,:factors(i,e.,subjects),chem.,physics,math.,etc.,Four students three professortwo subject:Chemistry and English,Professors,1 2 3,Students,1,2,3,4,Students,1,2,3,4,Professors,1 2 3,factors,1 2,1,2,Factors,3,教授给,4,学生写留学推荐信,S,is the matrix of true scores,called the,score matrix,L,is the matrix of importance,called the,loading matrix,得分矩阵,载荷矩,阵,矩阵的秩,：,对于,A,(,m,n,),其秩是,A,中,最大线性无关的行数（或列数）。,秩组分数？,秩为几？,三种组分，吸收光谱各不相同,(,s,1,s,2,s,3,),6,组溶液，各组分浓度不同,吸光度矩阵,A,(206),Rank=Number of,Eigenvalue,秩,=,不为,0,的特征值的数目,矩阵,:,一组不同浓度组合的混合溶液测得的光谱集合,矢量,:,一条光谱,Eigenvalue,特征值,奇异值分解法,：,Y,=,U,S,V,t,S:,对角矩阵，收集了,Y,的特征值,U:,标准列正交矩阵,(Scores Matrix),V,t,:,标准行正交矩阵,(Loadings Matrix),用,Matlab,很方便！,一句话！,BACK,2.PCA,主成分分析,Principal Component Analysis,2.1,目的,1,2.2,基本步骤,2,2.3,应用实例,3,2.1,主成分分析,(PCA),的目的,BACK,现代仪器获得两维数据,(,矩阵,),矩阵处理,确定秩为多少,确定复杂分析体系中的物种数,PCA,的目的,-,定性,有几种物种,species,定性,2.2 PCA,的步骤,BACK,矩阵分解,真实误差法,收集特征值,特征值比值法,Y=USV,t,在,S,中,比较,RSD,与,RE,Max,矩阵分解,BACK,NIPALS,分解,奖金,10000,元,=,100001,50002,100100,110000,Y=TP,奇异值,(SVD),分解,S,ingle,V,alue,D,ecomposition,Y=USV,t,S:,对角矩阵，收集了,Y,的特征值,U:,标准列正交矩阵,(Scores Matrix),V,t,:,标准行正交矩阵,(Loadings Matrix),用,Matlab,很方便！,一句话！,怎么分解？,看了头大！,分解成正交矩阵的乘积,23,2021/3/2,真实误差法,-,确定主成分数,d,Y,(mn),有,d,个主成分,+,表示来自主因子,0,表示来误差,=,真实误差,RE(Real Error,可以知道,?,),RE=RSD,(,剩余标准偏差,),Residual Standard Deviation,24,2021/3/2,确定或设定,RE,d=1,n-1,计算,RSD(d),d=1,RSD(d),RE,YES,此时,d,即为主成分数,No,d=d+1,RSD,与实际误差,是否吻合,判断标准,BACK,相邻特征值比值法,出现最大值时,相应的,d,表示最小成分信号的,表示最大噪声信号的,显著差异,BACK,2.3 PCA,的应用实例,BACK,混合色素中,组分数的确定,反应过程中,组分数的确定,27,2021/3/2,一组,食用色素混合溶液,测得吸光度矩阵,Y,156,d,d,d,/,d,+1,RSD,1,4.608,4.1,0.1174,2,1.130,1.8,0.0599,3,0.6145,64.0,0.0017,4,0.0096,1.15,0.0015,5,0.0084,1.16,0.0013,PCA,结果,组分数,nc=3,722,的噪声水平,0.002,3,0,.,6145 64.0 0.0017,同样的样品,用,Agilent 8453,d,d,d,/,d,+1,RSD,1,5.736,11.7,0.0464,2,0.490,2.5,0.0195,3,0.199,64.3,0.0004,4,0.0031,2.1,0.0003,5,0.0015,1.9,0.0002,PCA,结果,组分数,nc=3,噪声水平,0.0002,3,0,.,199 64.3 0.0004,实际上有,3,种色素,胭脂红,柠檬黄,日落黄,反过来，已知主成分数时,PCA:,通常可以正确判定主成分数,根据,RSD,判断,仪器,的噪声水平,判断操作,者,的操作水平,使用,722,0.00100.0040,实验内容之一,3,种色素,看操作水平,实验数据,PCA,确定,RSD,(3),下学期完成,1,人,1,组,考核基本功,谁来挑战,记录？,BACK,31,2021/3/2,实例讨论,-,for a chemical reaction,三种化学成分,A,、,B,、,C,，,光谱线性无关,Model 1,：,Consecutive 1st order reaction,Result:,Rank,=,number of component,=,3,Matrix two-way data,光谱矩阵,S,动力学矩阵,Q,两维数据矩阵,Y,Y,=,QS,T,日落黄电解降解,最,终,产,物,无,吸,收,有,中,间,体,吗,?,日落黄电解降解,d,d,d,/,d,+1,RSD,1,4.147,6.00,0.0255,2,0.691,25.80,0.0012,3,0.0268,2.35,0.0007,4,0.0114,1.18,0.0005,5,0.0097,0.0003,组分数,d=2,PCA,结果,PCA,确定组分数,n,n,n,/,n,+1,RSD,1,23.060,10.6,0.06171,2,2.186,2.4,0.02411,3,0.910,215.7,0.00014,4,0.004,3.5,0.00008,5,0.001,1.2,0.00007,6,0.001,0.00007,最终产物,有吸收,d=,3,实例讨论,三种化学成分,A,、,B,、,C,，,光谱线性无关,Model 2,：,nc,=,3,rank=2,Y,=,QS,T,实例讨论,Model 3,：,Parallel reaction,nc,=,3,rank=?,A,C,B,o,1,o,2,o,1,=or,o,2,o,1,=,o,2,=1,k,2,q,B,-,k,1,q,C,=,0,线性相关,rank=2,实例讨论,Model 3,：,Parallel reaction,nc,=,3,rank=?,A,C,B,o,1,o,2,o,1,=0,，,o,2,=1,-dA/dt,=,k,1,+,k,2,A,dB/dt,=,k,1,dC/dt,=,k,2,A,线性无关,rank=3,PCA,确定组分数,Y=load(E:Hp8453BBOH15.txt);,U,S,V=svd(Y);,lmd=diag(S);,n=size(lmd,1);,for k=1:n-1,sumlmd=0;,for j=(k+1):n,sumlmd=sumlmd+lmd(j)*lmd(j);,end,RSD(k)=sqrt(sumlmd/(nw*(nt-k);,end,PCA,：,Conclusions,根据矩阵的秩确定化学成分,数,组分无吸收,No!,谱线性相关,亏秩！,某组分信号,太弱,复杂,!,好大学问,!,BACK,41,2021/3/2,3.PCR,回归,Principal Component Regression,3.1,概念,1,3.2,基本步骤,2,3.3,应用实例,3,3.4,提醒,3,3.1 PCR,：概念,BACK,主成分分析,PCA,PCR,多元校正之一,因子分析,FA,主成分回归,PCR,多元校正,MC,相似概念常常混用,步骤略异侧重不同,解决,多组分同时测定问题,定量,3.2 PCR,：基本步骤,K-,矩阵法,K-Matrix Method,数学模型,实验测量数据矩阵,Size:nw,ns,吸光系数矩阵,Size:nw,nc,混合浓度矩阵,Size:nc,ns,建,模,/,校正,See next,预测,已知,K,，解出未知样浓度,单样品,多样品,3.2 PCR,：基本步骤,SVD,分解,SVD,分解,分离,重组,广义,逆,建模,未知样,预报,与,K,矩阵法相比,仅一次求逆过程,剔,除了主成分模型误差,系数矩阵,P,意义不明确,但用于预报是正确的,BACK,Y,:,波长数,nw=8;,溶液数,ns=6;,组分数,nc=3,Y,V,t,U,S,nc=3,U,后,3,列,V,t,后,3,行,误差信息,剔除后,Y,0,V,*t,U,*,S,*,广义逆矩阵,多元线性回归,MLR,M,ultiple,L,inear,R,egression,K-,矩阵法,建模,相当于单波长单组分的工作曲线,矩阵除法即乘以其逆矩阵,方阵可求逆,已知,C,BACK,多元线性回归,MLR,M,ultiple,L,inear,R,egression,K-,矩阵法 建模,建,模,/,校正,(,相当于单波长单组分的工作曲线,),矩阵除法即乘以其逆矩阵,方阵可求逆,PCR：应用,BACK,光度法,多组分同时测定,速差动力学,多组分同时测定,电化学谱的分辨,及多组分测定,多元校正滴定,其他矩阵数据,49,2021/3/2,3.4 PCR,：注意,线性关系,-,比耳定律,加,和性,-,共同响应，最好无协同,正交程度,-,波谱不严重重叠,标,准集,C,-,混合组成,不必纯组分,一些作者报道了几乎完全线性相关的体系,固定系列波长,/,电位,/,时间,/pH/etc,矩阵行列,-,一一对应,3.4 PCR,：编程,clear;,nc=3;,Y=load(Y_standard.dat);,C=load(C_standard.dat);,nw,ns=size(Y);,Y_sample=load(Y_sample.dat);,U,S,V=svd(Y);,U=U(:,1:nc);,S=S(1:nc,1:nc);,V=,V(:,1:nc);,%KEY STEP,Pmat=C*V*inv(S)*U;,C_sample=Pmat*Y_sample,Y(21,7)C(37),P=CY,0+,(7,21),附数据，请解析,程序演示模块,Matlab,分解矩阵，判断主成分,Matlab,之,PCR,预报,52,2021/3/2,数据处理方法讨论,这里讨论一些方法、案例。,搜索软件,总结后网络继续讨论，今日话题,提供处理结果更好！,。,委托编程,自己动手编程,使用,excel,53,2021/3/2,数据处理方法讨论,看我们这里的程序和网络平台,excel,头尾呼应：分类红木,高斯分布与色谱分离度,回归与误差产生,See,54,2021/3/2,红木分类,色谱指纹图谱,See,55,2021/3/2,红木分类,Excel,其他应用,See,高斯分布,56,2021/3/2,Welcome to Tongji University!,Thank you for your attention!,2002.11.15,