典型相关分析的实例.ppt

单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,*,*,典型相关分析的实例PPT讲座,一,、,引言,1.两个随机变量Y与X,简单相关系数,2.一个随机变量Y与一组随机变量X1,X2,Xp,多重相关(复相关系数),3.一组随机变量Y1，Y2，Yq与另一组随机变量X1，X2，Xp,典型(则)相关系数,（一）何时采用典型相关分析,典型相关是简单相关、多重相关的推广；或者说简单相关系数、复相关系数是典型相关系数的特例。,典型相关,是研究,两组变量,之间相关性的一种统计分析方法。也是一种降维技术。,由Hotelling(1935,1936)最早提出，Cooley and Lohnes(1971)、Kshirsagar(1972)和 Mardia,Kent,and Bibby(1979)推动了它的应用。,实例（X与Y地位相同）,1985年中国28 省市城市男生(1922岁)的调查数据。记,形态指标,身高(cm)、坐高、体重(kg)、胸围,、,肩宽,、,盆骨宽分别为,X,1，,X,2，,X,6；,机能指标,脉搏(次/分)、收缩压(mmHg)、舒张压(变音)、舒张压(消音)、肺活量(ml)分别为,Y,1，,Y,2，,Y,5。现欲研究这两组变量之间的相关性。,简单相关系数矩阵,简单相关系数公式符号,Corr（,X,）R,11,Corr（,Y,）R,22,Corr（,Y,，,X,）R,21,Corr（,X,，,Y,）R,12,简单相关系数描述两组变量的相关关系的缺点,只是孤立考虑单个X与单个Y间的相关，没有考虑X、Y变量组内部各变量间的相关。,两组间有许多简单相关系数（实例为30个），使问题显得复杂，难以从整体描述。,（二）典型相关分析的思想,采用主成分思想寻找第,i,对,典型(相关)变量,（,U,i,，,V,i,）：,典型相关系数,典型变量系数或典型权重,X*,1,，,X*,2,，,X*,p,和,Y*,1,，,Y*,2,，,Y*,q,分别为,X,1,，,X,2,，,X,p,和,Y,1,，,Y,2,，,Y,q,的正态离差标准化值。,记,第一对典型相关变量,间的,典型相关系数,为：,Corr（,U,1,，,V,1,）（使,U,1,与,V,1,间最大相关）,第二对典型相关变量,间的,典型相关系数,为：,Corr（,U,2,，,V,2,）（与,U,1,、,V,1,无关；使,U,2,与,V,2,间最大相关）,.,第五对典型相关变量,间的,典型相关系数,为：,Corr（,U,5,，,V,5,）（与,U,1,、,V,1,、,U,4,、,V,4,无关；,U,5,与,V,5,间最大相关）,有：,典型相关变量的性质,典型,变量,典型相关系数,1,与,2,是三个X变项的线性组合。,1,与,2,代表两个Y变项的线性组合。,典型加权系数,（三）典型相关分析示意图,二、典型相关系数及其检验,（一）求解典型相关系数的步骤,求X，Y变量组的相关阵,R=,；,求矩阵,A、B,可以证明A、B有相同的非零特征根,；,3.求A或B的,i,（相关,系数的,平方）与,，,i1,m,，即 ；,4.,求A、B关于,i,的特征根向量即变量,加权,系数,。,（二）典型相关系数计算实例,求X，Y变量组的相关阵,R=,Corr（,X,）R,11,Corr（,Y,）R,22,Corr（,Y,，,X,）R,21,Corr（,X,，,Y,）R,12,2.求矩阵A、B,A矩阵(p,p),B矩阵(q,q),3.求矩阵A、B的,（相关系数的平方）,A、B有相同的非零特征值,B矩阵求,（典型相关系数的平方）,5个,与典型相关系数,4.求A、B关于,i,的变量系数（求解第1典型变量系数）,求解第2典型变量系数,求解第5典型变量系数,5组（标准化）典型变量系数(X),5组（标准化）典型变量系数(X),由标准化典型变量系数获得原变量X对应的粗典型变量系数,粗典型变量系数可由标准典型变量系数与相应的标准差之比获得。,5组（标准化）典型变量,加权,系数(Y),（三）典型相关系数的,特点,两变量组的变量单位改变，典型相关系数不变，但典型变量,加权,系数改变。（无论原变量标准化否，获得的典型相关系数不变）,第一对典则相关系数较两组变量间任一个简单相关系数,的,绝对值都大，即,1,max,(|,Corr,(,X,i,Y,j,)|)或,1,max,(|,Corr,(,X,Y,j,)|),max,(|,Corr,(,X,i,Y,)|),（四）校正典型相关系数,（Adjusted Canonical Correlation）,为了使结果更加明了，增加大值或小值，减少,中,间大小的值，将典型变量系数旋转，可得到校正的典型相关系数。,缺点：1.可能影响max（,U,1,V,1,）；,2.影响,（,U,1,V,1,）与其他典型变量间的独立性。,（,五,）典型相关系数的,假设检验,全部总体典型相关系数均为0,部分总体典型相关系数为0,1.全部总体典型相关系数为0,F近似检验（计算公式）,F近似检验（SAS结果）,Test of H0:The canonical correlations in,the current row and all that follow are zero,Likelihood Approximate,Ratio F Value Num DF Den DF Pr F,1 0.06798466 2.24 30 70 0.0030,2 0.28840509 1.38 20 60.649 0.1686,3 0.63195301 0.80 12 50.561 0.6504,4 0.85521598 0.54 6 40 0.7729,5 0.97803479 0.24 2 21 0.7920,多变量统计量与F近似检验,Multivariate Statistics and F Approximations,Statistic Value F Value Num DF Den DF Pr F,Wilks Lambda,0.06798 2.24 30 70 0.0030,Pillais Trace 1.71651 1.83 30 105 0.0133,Hotelling-Lawley Trace 4.95277 2.62 30 35.396 0.0032,Roys Greatest Root 3.24221 11.35 6 21 .0001,NOTE:F Statistic for Roys Greatest Root is an upper boun.,多变量统计量的计算公式,2.部分总体典型相关系数为0,仅对较小的典型相关作检验,卡方近似检验,部分总体F近似检验（计算公式）,三、典型结构分析,与原变量间的相关程度和典型变量,加权,系数有关。,典型变量与原变量的亲疏关系,原变量与自已的典,型,变量 原变量与对方的典,型,变量之间的相关系数。,原变量在典型变量上的负荷,(即原变量与典型变量间的相关系数),负荷矩阵的表达,左上角的矩阵,X,1,=0.9050,U,1,-0.0806,U,2,+0.3777,U,3,-0.1487,U,4,+0.0887,U,5,X,2,=0.8616,U,1,+0.0112,U,2,+0.4152,U,3,-0.0360,U,4,+0.2412,U,5,X,6,右下角的矩阵,Y,1,=-0.4130,V,1,-0.0848,V,2,+0.7353,V,3,+0.4530,V,4,+0.2764,V,5,Y,2,=0.4533,V,1,+0.8452,V,2,+0.0968,V,3,+0.1433,V,4,+0.2240,V,5,.,Y,5,各典型变量的意义解释,等于该变量与自己这方典,型,变量的相关系数与典则相关系数的乘积,原变量与对方典型变量的相关,原变量与对方典型变量的相关,右上角和左下角反映了原变量和对方的典型变量间关系，为利用对方的典型变量来预测原变量(回归)提供依据,。,四、典型变量的冗余分析,（Canonical Redundancy Analysis）,该方法由Stewart and Love 1968;Cooley and Lohnes 1971;van den Wollenberg 1977)发展。,以原变量与典型变量间相关为基础。,通过计算X、Y变量组由自己的典型变量解释与由对方的典型变量解释的方差百分比与累计百分比，反映由典型变量预测原变量的程度。,X,原变量的相关被典型变量解释的百分比,Y,原变量的相关被典型变量解释的百分比,U,1,，,U,2,，,U,5,并没有完全概括,X,变量的全部信息（97.24），而,V,1,，,V,2,，,V,5,却概括了,Y,变量的全部信息（100）；,V,1,，,V,2,，,V,5,中仅蕴含,X,变量信息的48.44%，而,U,1,，,U,2,，,U,5,中仅蕴含,Y,变量信息的43.96%。,实例冗余分析的解释,