SPSS作聚类分析-标准化PPT.ppt

3.3,用,SPSS,作聚类分析,常言道：“物以类聚”，对事物分门别类进行研究，有利于我们做出正确的判断。日常生活中，我们不自觉地用定性方法将人分为“好人”、“坏人”；按熟悉程度分为“朋友”、“熟人”、“陌生人”等等。,数理统计中的数值分类有两种问题：,判别分析,：已知分类情况，将未知个体归入正确类别,聚类分析,：分类情况未知，对数据结构进行分类,通过分类，有利于我们抓住重点，从总体上去把握事物，找出解决问题的方法。例如将股票进行分类，可以为我们投资提供参考。,一、聚类分析（,Cluster Analysis,）简介,聚类分析是直接比较各事物之间的性质，将性质相近的归为一类，将性质差别较大的归入不同的类的分析技术。,要做聚类分析，首先得按照我们聚类的目的，从对象中,提取,出能表现这个目的的,特征指标,；然后根据亲疏程度进行分类。,聚类分析根据分类对象的不同可分为,Q,型和,R,型两大类,Q,型是对样本进行分类处理，其作用在于,:,能利用多个变量对样本进行分类,分类结果直观，聚类谱系图能明确、清楚地表达其数值分类结果,所得结果比传统的定性分类方法更细致、全面、合理,二、聚类对象,R,型是对变量进行分类处理，其作用在于：,可以了解变量间及变量组合间的亲疏关系,可以根据变量的聚类结果及它们之间的关系，选择主要变量进行回归分析或,Q,型聚类分析,聚类的主要过程一般可分为如下四个步骤：,数据预处理（标准化）,构造关系矩阵（亲疏关系的描述）,聚类（根据不同方法进行分类）,确定最佳分类（类别数）,以下我们结合实际例子分步进行讨论。,三、聚类过程与方法,为什么要做数据变换,指标变量的量纲不同或数量级相差很大，为了使这些数据能放到一起加以比较，常需做变换。,在,SPSS,中如何选择标准化方法,:,Analyze Classify Hierachical Cluster Analysis Method,然后从对话框中进行如下选择,1.,数据预处理（标准化）,例、下表给出了,1982,年全国,28,个省、市、自治区农民家庭收支情况，有六个指标，是利用调查资料进行聚类分析，为经济发展决策提供依据。,（详见文件,1982“,农民生活消费聚类,.sav”,）,从,Transform Values,框中点击向下箭头，将出现如下可选项，从中选一即可：,常用标准化方法（选项说明）：,None,：不进行标准化，这是系统默认值,Z Scores,：标准化变换,为了便于后面的说明，作如下假设：,均值表示为,标准差表示为,所有样本表示为,极差表示为,作用,：变换后的数据均值为,0,，标准差为,1,，消去了量纲的影响；当抽样样本改变时，它仍能保持相对稳定性。,Range 1 to 1,：极差标准化变换,作用,：变换后的数据均值为,0,，极差为,1,，且,|,x,ij,*,|1,，消去了量纲的影响；在以后的分析计算中可以减少误差的产生。,Maximum magnitude of 1,作用,：变换后的数据最大值为,1,。,Range 0 to 1,（极差正规化变换,/,规格化变换）,作用,：变换后的数据最小为,0,，最大为,1,，其余在区间,0,，,1,内，极差为,1,，无量纲。,Mean of 1,作用,：变换后的数据均值为,1,。,Standard deviation of 1,作用,：变换后的数据标准差为,1,。,在,SPSS,中如何选择测度,:,Analyze Classify Hierachical Cluster Analysis Method,然后从对话框中进行如下选择,2.,构造关系矩阵,描述变量或样本的亲疏程度的数量指标有两种：,相似系数,性质越接近的样品，相似系数越接近于,1,或,-1,；彼此无关的样品相似系数则接近于,0,，聚类时相似的样品聚为一类,距离,将每一个样品看作,m,维空间的一个点，在这,m,维空间中定义距离，距离较近的点归为一类。,相似系数与距离有,40,多种，但常用的只是少数,从,Measure,框中点击,Interval,项的向下箭头，将出现如左可选项，从中选一即可。,常用测度（选项说明）：,Euclidean distance,：欧氏距离,（二阶,Minkowski,距离）,Squared Eucidean distance,：平方欧氏距离,用途,：,聚类分析中用得最广泛的距离,但与各变量的量纲有关，未考虑指标间的相关性，也未考虑各变量方差的不同,用途,：,聚类分析中用得最广泛的距离,Cosine,：夹角余弦,(,相似性测度,),用途,：计算两个向量在原点处的夹角余弦。当两夹角为,0,o,时，取值为,1,，说明极相似；当夹角为,90,o,时，取值为,0,，说明两者不相关。,取值范围：,01,Pearson correlation,：皮尔逊相关系数,Chebychev,：切比雪夫距离,用途,：计算两个向量的皮尔逊相关系数,用途,：计算两个向量的切比雪夫距离,Block,：绝对值距离（一阶,Minkowski,度量）,（又称,Manhattan,度量或网格度量）,用途,：计算两个向量的绝对值距离,Minkowski,：明科夫斯基距离,用途,：计算两个向量的明科夫斯基距离,Customized,：自定义距离,用途,：计算两个向量的自定义距离,确定了样品或变量间的距离或相似系数后，就要对样品或变量进行分类。分类的一种方法是,系统聚类法,（又称谱系聚类）；另一种方法是,调优法,（如动态聚类法就属于这种类型）。此外还有,模糊聚类,、,图论聚类,、,聚类预报,等多种方法。,我们主要介绍系统聚类法,(,实际应用中使用最多,),。,系统聚类法的,基本思想,：令,n,个样品,自成一类,，计算出,相似性测度,，此时类间距离与样品间距离是等价的，把测度最小的两个,类合并,；然后按照某种聚类方法计算,类间的距离,，再按,最小距离准则,并类；这样每次减少一类，持续下去直到所有样品都归为一类为止。聚类过程可做成聚类谱系图,(Hierarchical diagram),。,3.,选择聚类方法,系统聚类法的聚类原则决定于样品间的距离（或相似系数）及类间距离的定义，类间距离的不同定义就产生了不同的系统聚类分析方法。,SPSS,中如何选择系统聚类法,从,Cluster Method,框中点击向下箭头，将出现如左可选项，从中选一即可。,1),系统聚类法的产生,Between-groups linkage,组间平均距离连接法,特点,：非最大距离，也非最小距离,方法简述：合并两类的结果使所有的两两项对之间的平均距离最小。（项对的两成员分属不同类）,Within-groups linkage,组内平均连接法,方法简述：两类合并为一类后，合并后的类中所有项之间的平均距离最小,3),常用系统聚类方法,Nearest neighbor,最近邻法（最短距离法）,特点,：样品有链接聚合的趋势，这是其缺点，不适合一般数据的分类处理，除去特殊数据外，不提倡用这种方法。,方法简述：首先合并最近或最相似的两项,Furthest neighbor,最远邻法（最长距离法）,方法简述：用两类之间最远点的距离代表两类之间的距离，也称之为完全连接法,Centroid clustering,重心聚类法,特点,：该距离随聚类地进行不断缩小。该法的谱系树状图很难跟踪，且符号改变频繁，计算较烦。,方法简述：两类间的距离定义为两类重心之间的距离，对样品分类而言，每一类中心就是属于该类样品的均值,Median clustering,中位数法,特点,：图形将出现递转，谱系树状图很难跟踪，因而这个方法几乎不被人们采用。,方法简述：两类间的距离既不采用两类间的最近距离，也不采用最远距离，而采用介于两者间的距离,Wards method,离差平方和法,特点,：实际应用中分类效果较好，应用较广；要求样品间的距离必须是欧氏距离。,方法简述：基于方差分析思想，如果分类合理，则同类样品间离差平方和应当较小，类与类间离差平方和应当较大,经过系统聚类法处理后，得到聚类树状谱系图，,Demirmen(1972),提出了应根据研究的目的来确定适当的分类方法，并提出了一些根据谱系图来分类的准则：,任何类都必须在临近各类中是突出的，即各类重心间距离必须极大,确定的类中，各类所包含的元素都不要过分地多,分类的数目必须符合实用目的,若采用几种不同的聚类方法处理，则在各自的聚类图中应发现相同的类,四、谱系分类的确定,SPSS,中其他选项（通过实例演示）,例、下表给出了,1982,年全国,28,个省、市、自治区农民家庭收支情况，有六个指标，是利用调查资料进行聚类分析，为经济发展决策提供依据。详见文件,1982“,农民生活消费聚类,.sav”,）,生成树形图,生成冰柱图,凝聚状态表，显示聚类过程,各项间的距离矩阵,类成员栏,结果分析：（方法选择如下）,通过比较，可知离差平方和法（,Wards method,）分类结果较好，将,28,各样本分为三类：,第一类包含,6,个元素：,2,、,15,、,10,、,11,、,6,、,7,第二类包含,10,个元素：,8,、,17,、,28,、,12,、,13,、,18,、,14,、,20,、,21,、,22,第三类包含,9,个元素：,3,、,16,、,23,、,24,、,4,、,27,、,5,、,25,、,26,另有三个元素,1,、,9,、,19,为孤立点。,从分类结果可以看出：,1,、,9,、,19,表示北京、上海、广东三地农民属高消费生活水平；天津等第一类的农民生活水平较高；安徽等第二类的农民生活水平为中等；陕西等地的农民生活水平较低。,试用不同方法对变量进行聚类，并分析结果的含义,