主成分分析法例子之一.ppt

单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,PCA,的基本原理,PCA,的计算步骤,PCA,应用实例,主成分分析（PCA）具体例子,秦楠,1,一、主成分分析的基本原理,假定有,n,个样本，每个样本共有p个变量，构成一个,n,p,阶的数据矩阵,（1）,2,降维处理！,当,p,较大时，在,p,维空间中考察问题比较麻烦。,降维是用较少的几个综合指标代替原来较多的变量指标，而且使这些较少的综合指标既能尽量多地反映原来较多变量指标所反映的信息，同时它们之间又是彼此独立的。,3,定义：记,x,1,，,x,2,，,x,P,为原变量指标，,z,1,，,z,2,，z,m,（,m,p,）为新变量指标,(2),4,系数,lij,的确定原则：,zi,与,zj,（ij；i，j=1，2，m）相互无关；,z,1,是,x,1,，,x,2,，,x,P,的一切线性组合中方差最大者，,z,2,是与,z,1,不相关的,x,1,，,x,2,，,x,P,的所有线性组合中方差最大者；,z,m,是与,z,1,，,z,2,，,z,m,1,都不相关的,x,1,，,x,2,，,x,P,，,的所有线性组合中方差最大者。,则新变量指标,z,1,，,z,2,，,z,m,分别称为原变量指标,x,1,，,x,2,，,x,P,的第一，第二，第,m,主成分。,5,从以上的分析可以看出，主成分分析的实质就是确定原来变量,x,j,（,j,=1，2，,p,）在诸主成分,z,i,（,i,=1，2，,m,）上的载荷,l,ij,（,i,=1，2，,m,；,j,=1，2，,p,）。,从数学上可以证明，载荷,lij,分别是相关矩阵的m个较大的特征值所对应的特征向量。,6,二、计算步骤,（一）计算相关系数矩阵,r,ij,（,i,，,j,=1，2，,p,）为原变量,x,i,与,x,j,的相关系数，,r,ij,=,r,ji,，,其计算公式为：,（3）,（4）,7,（二）计算特征值与特征向量：,解特征方程，求出特征值，并使其按大小顺序排列；,分别求出对应于特征值的特征向量,，要求=1，即，其中表示向量 的第,j,个分量。,8,计算主成分贡献率及累计贡献率,贡献率:,累计贡献率:,一般取累计贡献率达,85,95%,的特征值,所对应的第一、第二、第,m,（,m,p,）个主成分。,9,（6）,各主成分的得分,10,三、主成分分析方法应用实例,表1 某农业生态经济系统各区域单元的有关数据,11,12,步骤如下：,（1）将表1中的数据作标准差标准化处理，然后将它们代入公式（4）计算相关系数矩阵（见表2）。,表2相关系数矩阵,13,（2）由相关系数矩阵计算特征值，以及各个主成分的贡献率与累计贡献率（见表3）。由表3可知，第一，第二，第三主成分的累计贡献率已高达86.596%（大于85%），故只需要求出第一、第二、第三主成分,z,1,，,z,2,，,z,3,即可。,14,表3特征值及主成分贡献率,15,（3）对于特征值=4.6610，=2.0890，=1.0430分别求出其特征向量,l,1,，,l,2,，,l,3,。,16,表4 主成分载荷,17,第一主成分,z,1,与,x,1,，,x,5,，,x,6,，,x,7,，,x,9,呈显出较强的正相关，与,x,3,呈显出较强的负相关，而这几个变量则综合反映了生态经济结构状况，因此可以认为第一主成分,z,1,是生态经济结构的代表。,第二主成分,z,2,与,x,2,，,x,4,，,x,5,呈显出较强的正相关，与,x,1,呈显出较强的负相关，其中，除了,x,1,为人口总数外，,x,2,，,x,4,，,x,5,都反映了人均占有资源量的情况，因此可以认为第二主成分,z,2,代表了人均资源量。,分析：,18,显然，用三个主成分,z,1,、,z,2,、,z,3,代替原来,9,个变量,（,x,1,，,x,2,，,x,9,），描述农业生态经济系统，可以使问题更进一步简化、明了。,第三主成分,z,3,，与,x,8,呈显出的正相关程度最高，其次是,x,6,，而与,x,7,呈负相关，因此可以认为第三主成分在一定程度上代表了农业经济结构。,19,谢谢！,20,