典型相关分析与最小二乘回归.ppt

单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,*,典型相关分析与偏最小二乘回归,2014.5.9,一、典型相关分析,典型相关分析,（,canonical correlation analysis,）就是利用综合,变量,对,之间的相关关系来反映两组指标之间的,整体相关性,的,多元统计,分析方法。,基本原理是：为了从总体上把握两组,指标,之间的相关关系，分别在两组,变量,中提取有代表性的两个综合变量,U1,和,V1,（分别为两个变量组中各变量的,线性组合,），利用这两个综合变量之间的相关关系来反映两组指标之间的整体,相关性,。,典型相关分析的基本概念,典型相关分析的命令,在,syntax,（语法）窗口中输入：,方式,1,：,manova,变量,a1,变量,a2,变量,an with,变量,b1,变量,b2,变量,bn,方式,2,：,include FILE,=spss,所在路径,/anonical,correlation.sps.,cancorr,SET1=,第一组变量的列表,/SET2,第二组变量的列表,.,(,注，变量间用空格，用,/,，用“,.,”不是“。”,),二、,偏最小二乘法,1,、偏最小二乘法回归是一种新型的多元统计数据分析方法，可以根据需要任意设置变量，是一种标准的,多元建模工具,，非常适用于,预测分析,。,2,、偏最小二乘回归,多元线性回归分析,+,典型相关分析,+,主成分分析,3,、,与传统多元线性回归模型相比，偏最小二乘回归的特点是：,（,1,）是一种多因变量对多自变量的回归建模方法。,（,2,）能够在,自变量,存在严重多重相关性的条件下进行回归建模；,（,3,）允许在,样本点,个数少于变量个数的条件下进行回归建模；,（,4,）偏最小二乘回归在最终模型中将,包含原有的所有自变量；,（,5,）偏最小二乘,回归模型,更易于辨识系统信息与噪声（甚至一些非随机性的噪声）；,（,6,）在偏最小二乘,回归模型,中，每一个,自变量,的,回归系数,将更容易解释。,4,、,建模方法,设有,q,个因变量和,p,个,自变量,。为了研究,因变量,与,自变量,的统计关系，观测了,n,个,样本点,，由此构成了自变量与因变量的数据表,X,和,Y,。偏最小二乘回归分别在,X,与,Y,中提取出,t,和,u,，要求：（,1,）,t,和,u,应尽可能大地携带它们各自数据表中的变异信息；（,2,）,t,和,u,的相关程度能够达到最大。在第一个成分被提取后，偏最小二乘回归分别实施,X,对,t,的回归以及,Y,对,t,的回归。如果,回归方程,已经达到满意的,精度,，则,算法,终止；否则，将利用,X,被,t,解释后的残余信息以及,Y,被,t,解释后的残余信息进行第二轮的成分提取。如此往复，直到能达到一个较满意的精度为止。若最终对,X,共提取了多个成分，偏最小二乘回归将通过施行,yk,对,X,的这些成分的回归，然后再表达成,yk,关于原自变量的,回归方程,。,