聚类分析方法与SPSS.ppt

聚类分析方法基于SPSS应用软件1（一）聚类分析的一般问题p1.聚类分析的意义n聚类分析是统计中研究物以类聚的多元统计分析方法，针对的是生活中广泛存在的聚类现象和形成的统计分析方法；n例如：市场细分和客户细分问题；n聚类分析是将一组数据（变量）按照其不同的特征（或者在样本上的不同表现）自动分成若干类，类内部有相似性，类之间有区别；2p理解聚类分析的关键 (1)首先不知道数据到底是来自几个类；(2)第二不知道每个数据到底是那一类；(3)第三也不知道类和类的界限是什么；(4)所谓亲疏程度就是两个数据（变量）综合考虑各指标后的接近程度；32.聚类分析中的“亲疏程度”的度量方法p数据中，个体之间的亲疏程度是非常重要的，因为我们正是依靠这种亲疏程度来将进行类的合并和分化；p亲疏程度的测度一般可以有两个角度：n个体间的相似程度，越相似两个体越接近，可以用相似系数来描述这种相似程度；n个体间的差异程度，即个体间的距离，距离越近则个体越接近；4p首先要将数据看成空间中的一个点，以此来定义距离，距离的定义有很多，可以分为欧氏距离，明氏距离，夹角余弦等；p根据变量的类型不同，距离的定义方式也不同，比如定距型变量和计数型变量的距离就不一样；53.聚类分析的几点说明p所选的变量应该符合聚类的要求，一定要选取与分析的目标有关的变量，而不要选取无关的变量；p各变量的变量值不应该在数量级上有差异，数量级上的差异可能带来距离上不准确从而影响聚类效果，解决的方法是先将数据标准化；p各变量间不应该有较强的线性相关关系，否则其中一个变量就没有用了；6常见的聚类分析方法有两种：层次聚类和KMean聚类，这两种方法SPSS都提供菜单操作。7（二）层次聚类 1.层次聚类的两种类型和两种方式层次聚类又称系统聚类，聚类过程按照一定的层次进行，即从小类到大类的层次，有两种类型：Q型聚类和R型聚类，聚类方式也分两种：凝聚型聚类和分解型聚类；Q型聚类是对样本进行聚类，R型聚类是对变量进行聚类；8凝聚方式聚类的思想是首先每个样本自成一类，然后按照某种方法度量个体间的亲疏程度，将其中最亲密的个体聚成一小类，然后以此继续下去，直到最后只剩下一个类；分解方式聚类的思想是首先所有个体都成为一个大类，然后按照某种方法度量亲疏程度，将最疏远的个体分离除去形成两个类，以此继续下去，知道每一个个体自成一类；在SPSS中采用凝聚方式的聚类方法92.个体与小类，小类与小类之间的亲疏程度的度量方法 SPSS提供了很多度量小类与小类之间的亲疏程度的方法，下面分别介绍几种：10“Cluster”共有七种进行聚类的方法：“Between-groups linkage”类间平均法，当两类之间所有个案之间距离的平均值最小时，这两类可以合并为一类。这是系统缺省的方法。“Within-groups linkage”类内平均法，当合并后所有个案的距离的平均值最小时，这两类可以合并为一类。“Nearest neighbor”最短距离法，当两类之间最近的个案之间的距离最小时，这两类可以合并为一类。11 “Furthest neighbor”最长距离法，当两类之间最远的个案之间的距离最小时，这两类可以合并为一类。“Centroid clustering”重心法，当两类中重心的距离最小时，这两类可以合并为一类。“Median clustering”中心法，当两类中心的距离最小时，这两类可以合并为一类。“Wards method”离差平方和法，当合并后类内部的各个个案距离的离差平方和最小时，这两类可以合并为一类。12啤酒成分和价格数据啤酒名热量钠含量酒精价格Budweiser 144.00 19.00 4.70.43 Schlitz 181.00 19.00 4.90.43 Ionenbrau 157.00 15.00 4.90.48 Kronensourc 170.00 7.00 5.20.73 Heineken 152.00 11.00 5.00.77 Old-milnaukee 145.00 23.00 4.60.26 Aucsberger 175.00 24.00 5.50.40 Strchs-bohemi 149.00 27.00 4.70.42 Miller-lite 99.00 10.00 4.30.43 Sudeiserlich113.00 6.00 3.70.44 Coors 140.00 16.00 4.60.44 Coorslicht 102.00 15.00 4.10.46 Michelos-lich135.00 11.00 4.20.50 Secrs 150.00 19.00 4.70.76 Kkirin 149.00 6.00 5.00.79 Pabst-extra-l 68.00 15.00 2.30.36 Hamms 136.00 19.00 4.40.43 Heilemans-old 144.00 24.00 4.90.43 Olympia-gold-72.00 6.00 2.90.46 Schlite-light 97.00 7.00 4.20.4713分层聚类的命令:执行AnalyzeClassifyHierarchical Cluster，1415 选择变量进入“Variable(s)”中 选择聚类类型“Cluster”(单选项)：样本聚类Cases(“Q聚类”)或变量聚类Variable(“R聚类”)“display”中可以选择(复选项)：“Statistics”只计算统计分析。“plots”只产生图像。162024/5/21 周二17按钮“Statistics”将产生输出统计量：18“Agglomeration schedule”为生成并类过程表。在表中将显示并类过程中的并类信息，包括：并类距离值、在相应值上的并类类别和类间关系。可以根据并类过程表了解聚类过程。p“Proximity matrix”产生测度矩阵。测度矩阵可以显示出并类过程中各类之间的距离或相关性。p“Cluster Membership”聚类成员关系表。在并类过程中，各个个案被并到哪一类：19“None”不显示聚类成员关系表。“Single solution”显示指定类数时聚类成员关系表。指定的类数应当是小于等于个案个数，大于等于1的整数。当聚类到达此指定的数值时，将在输出窗口显示各个个案所属的类。“Range of solutions”显示聚类成员在指定并类范围内所属类的关系表。指定的范围也应当是在个案数与1之间的整数。20按钮“Plots”将产生聚类图形21“Dendrogram”生成树状图“Icicle”生成冰柱图“All clusters”全过程冰柱图“Specified range of clusters”指定并类范围冰柱图“None”不生成冰柱图“Orientaton”图形取向：竖直的Vertical和水平的Horizontal22按钮“Method”为聚类方法选择23定义样本点间的相似度。24选择对变量作标准化处理的方法2526（三）K-Means 聚类p层次聚类执行效率不是很理想，而这方面正是K-Means聚类的特长；pK-Means聚类分析的核心步骤n第一步，指定聚类的数目，假设要分成K类；n第二步，确定类的初始中心；可以有两种方式指定类的初始中心，可以用户自定义，也可以让系统自己确定；n第三步，根据距离最近原则进行聚类；n重新确定K个类的中心；n判断是否满足停止聚类分析的条件；27K均值法（快速聚类、动态聚类）281.K-Means聚类分析的核心步骤p聚类分析终止的条件有两个：n迭代次数，当前迭代次数等于设定的迭代次数，SPSS默认迭代10次便终止聚类；n类中心点偏移的程度，以迭代前后中心点的最大偏移量是否超过预定值，默认0.02；n通过设定恰当的迭代次数和偏移标准，可以有效克服初始类中心点指定时可能存在的方差，提高聚类分析准确性；29p在Method框中是否调整类中心点，其中Iterate and classify表示由SPSS自动调整类中心，Classify表示在迭代中不更改类中心；p通过Iterate按钮去定终止聚类的条件，Maximum iteration 标志最大迭代数，在Convergence Criterion，Using running means选型可以每进入一个新数据就计算一次；2.K-Means聚类分析的基本操作30p将参与K-Means聚类分析的变量选入Variables 框中；p如果有标记变量，可以把字符型的标记变量选入Label Cases by框中；p在Number of clusters框中选择聚类数目，该数应该小于样本数，点击 Center p在Method框中是否调整类中心点，其中Stastistics表示输出统计结果，Plots表示输出图形；p还有些窗口待介绍312024/5/21 周二32