高等教育从数据到结论人民大学吴喜之教授判别分析.pptx

判别判别 有一些昆虫的性别很难看出，只有通过解有一些昆虫的性别很难看出，只有通过解剖才能够判别；剖才能够判别；但是雄性和雌性昆虫在若干体表度量上有但是雄性和雌性昆虫在若干体表度量上有些综合的差异。于是统计学家就根据已知些综合的差异。于是统计学家就根据已知雌雄的昆虫体表度量（这些用作度量的变雌雄的昆虫体表度量（这些用作度量的变量亦称为预测变量）得到一个标准，并且量亦称为预测变量）得到一个标准，并且利用这个标准来判别其他未知性别的昆虫。利用这个标准来判别其他未知性别的昆虫。这样的判别虽然不能保证百分之百准确，这样的判别虽然不能保证百分之百准确，但至少大部分判别都是对的，而且用不着但至少大部分判别都是对的，而且用不着杀死昆虫来进行判别了。杀死昆虫来进行判别了。判别分析判别分析(discriminant analysis)这就是本章要讲的是判别分析。这就是本章要讲的是判别分析。判判别别分分析析和和前前面面的的聚聚类类分分析析有有什什么么不不同同呢呢？主主要要不不同同点点就就是是，在在聚聚类类分分析析中中一一般般人人们们事事先先并并不不知知道道或或一一定定要要明明确确应应该该分分成成几几类类，完全根据数据来确定。完全根据数据来确定。而而在在判判别别分分析析中中，至至少少有有一一个个已已经经明明确确知知道道类类别别的的“训训练练样样本本”，利利用用这这个个数数据据，就就可可以以建建立立判判别别准准则则，并并通通过过预预测测变变量量来来为未知类别的观测值进行判别了。为未知类别的观测值进行判别了。判别分析例子判别分析例子数数据据disc.sav:企企图图用用一一套套打打分分体体系系来来描描绘绘企企业业的的状状况况。该体系对每个企业的一些指标（变量）进行评分。该体系对每个企业的一些指标（变量）进行评分。这这些些指指标标包包括括：企企业业规规模模（is）、服服务务(se)、雇雇员员工工资资比比例例(sa)、利利润润增增长长(prr)、市市场场份份额额(ms)、市市场场份份额额增增长长(msr)、流动资金比例、流动资金比例(cp)、资金周转速度、资金周转速度(cs)等等。等等。另另外外，有有一一些些企企业业已已经经被被某某杂杂志志划划分分为为上上升升企企业业、稳稳定定企业和下降企业。企业和下降企业。我我们们希希望望根根据据这这些些企企业业的的上上述述变变量量的的打打分分和和它它们们已已知知的的类类别别（三三个个类类别别之之一一：group-1代代表表上上升升，group-2代代表表稳稳定定，group-3代代表表下下降降）找找出出一一个个分分类类标标准准，以以对对没没有被该刊物分类的企业进行分类。有被该刊物分类的企业进行分类。该该数数据据有有90个个企企业业（90个个观观测测值值），其其中中30个个属属于于上上升升型型，30个个属属于于稳稳定定型型，30个个属属于于下下降降型型。这这个个数数据据就就是是一个一个“训练样本训练样本”。Disc.savDisc.sav数据数据 根据距离的判别（不用投影）根据距离的判别（不用投影）Disc.sav数数据据有有8个个用用来来建建立立判判别别标标准准(或或判判别别函函数数)的（预测）变量，另一个（的（预测）变量，另一个（group）是类别。）是类别。因因此此每每一一个个企企业业的的打打分分在在这这8个个变变量量所所构构成成的的8维维空间中是一个点。这个数据有空间中是一个点。这个数据有90个点，个点，由由于于已已经经知知道道所所有有点点的的类类别别了了，所所以以可可以以求求得得每每个个类类型型的的中中心心。这这样样只只要要定定义义了了如如何何计计算算距距离离，就就可可以以得得到到任任何何给给定定的的点点（企企业业）到到这这三三个个中中心心的三个距离。的三个距离。显显然然，最最简简单单的的办办法法就就是是离离哪哪个个中中心心距距离离最最近近，就就属属于于哪哪一一类类。通通常常使使用用的的距距离离是是所所谓谓的的Mahalanobis距距离离。用用来来比比较较到到各各个个中中心心距距离离的的数数学学函函数数称称为为判判别别函函数数(discriminant function).这这种根据远近判别的方法，原理简单，直观易懂。种根据远近判别的方法，原理简单，直观易懂。FisherFisher判别法判别法(先进行投影先进行投影)所谓所谓Fisher判别法，就是一种先投影的方法。判别法，就是一种先投影的方法。考虑只有两个（预测）变量的判别分析问题。考虑只有两个（预测）变量的判别分析问题。假假定定这这里里只只有有两两类类。数数据据中中的的每每个个观观测测值值是是二二维维空空间间的的一个点。见图。一个点。见图。这这里里只只有有两两种种已已知知类类型型的的训训练练样样本本。其其中中一一类类有有38个个点点（用用“o”表表示示），另另一一类类有有44个个点点（用用“*”表表示示）。按按照照原原来来的的变变量量（横横坐坐标标和和纵纵坐坐标标），很很难难将将这这两种点分开。两种点分开。于于是是就就寻寻找找一一个个方方向向，也也就就是是图图上上的的虚虚线线方方向向，沿沿着着这这个个方方向向朝朝和和这这个个虚虚线线垂垂直直的的一一条条直直线线进进行行投投影影会会使使得得这这两两类类分分得得最最清清楚楚。可可以以看看出出，如如果果向其他方向投影，判别效果不会比这个好。向其他方向投影，判别效果不会比这个好。有有了了投投影影之之后后，再再用用前前面面讲讲到到的的距距离离远远近近的的方方法法来来得得到到判判别别准准则则。这这种种首首先先进进行行投投影影的的判判别别方方法法就是就是Fisher判别法。判别法。逐步判别法逐步判别法(仅仅是在前面的方法中加入仅仅是在前面的方法中加入变量选择的功能变量选择的功能)有有时时，一一些些变变量量对对于于判判别别并并没没有有什什么么作作用用，为为了了得得到到对对判判别别最最合合适适的的变变量量，可可以以使使用用逐逐步步判判别别。也也就就是是，一一边边判判别别，一一边边引引进进判判别别能能力力最最强强的的变变量，量，这这个个过过程程可可以以有有进进有有出出。一一个个变变量量的的判判别别能能力力的的判判断断方方法法有有很很多多种种，主主要要利利用用各各种种检检验验，例例如如Wilks Lambda、Raos V、The Squared Mahalanobis Distance、Smallest F ratio或或The Sum of Unexplained Variations等等检检验验。其其细细节节这这里里就就不不赘赘述述了了；这这些些不不同同方方法法可可由由统统计计软软件件的的各各种种选选项项来来实实现现。逐逐步步判判别别的的其其他他方方面面和和前前面面的的无异。无异。Disc.sav例子例子利利用用SPSS软软件件的的逐逐步步判判别别法法淘淘汰汰了了不不显显著著的的流流动动资资金金比比例例(cp)，还还剩剩下下七七个个变变量量。用用x1,x2,x3,x4,x5,x6,x7分分别别表表示示标标准准化化后后的的变变量量is，se，sa，prr，ms，msr，cs，得得 到到 两两 个个 典典 则则 判判 别别 函函 数数（Canonical Discriminant Function Coefficients）：）：这这两两个个函函数数实实际际上上是是由由Fisher判判别别法法得得到到的的向向两两个个方方向向的的投投影影。这这两两个个典典则则判判别别函函数数的的系系数数是是下下面面的的SPSS输输出出得到的：得到的：Disc.sav例子例子根根据据这这两两个个函函数数，从从任任何何一一个个观观测测值值（每每个个观观测测值值都都有有7个个变变量量值值）都都可可以以算算出出两两个个数数。把把这这两两个个数数目目当当成成该该观观测测值值的的坐坐标标，这这样样数数据据中中的的150个个观观测测值值就就是是二二维维平平面面上上的的150个个点点。它它们们的的点点图图在在下下面面图中。图中。Disc.sav例子例子从从上上图图可可以以看看出出，第第一一个个投投影影（相相应应于于来来自自于于第第一一个个典典则则判判别别函函数数横横坐坐标标值值）已已经经能能够够很很好好地地分分辨辨出出三三个个企企业业类类型型了了。这这两两个个典典则则判判别别函函数数并并不不是是平平等等的的。其其实实一一个个函函数数就就已已经经能能够够把把这这三三类类分分清清楚楚了了。SPSS的的一一个个输输出出就给出了这些判别函数（投影）的重要程度：就给出了这些判别函数（投影）的重要程度：前前面面说说过过，投投影影的的重重要要性性是是和和特特征征值值的的贡贡献献率率有有关关。该该表表说说明明第第一一个个函函数数的的贡贡献献率率已已经经是是99%了了，而而第第二二个个只只有有1%。当当然然，二二维维图图要要容容易易看看一一些些。投投影影之之后后，再再根根据据各各点的位置远近算出具体的判别公式（点的位置远近算出具体的判别公式（SPSS输出）：输出）：Disc.sav例子例子具体的判别公式（具体的判别公式（SPSS输出），由一张分类函数表给出：输出），由一张分类函数表给出：该该表表给给出出了了三三个个线线性性分分类类函函数数的的系系数数。把把每每个个观观测测点点带带入入三三个个函函数数，就就可可以以得得到到分分别别代代表表三三类类的的三三个个值值，哪哪个个值值最最大大，该该点点就就属属于于相相应应的的那那一一类类。当当然然，用用不不着着自自己己去去算算，计计算算机机软软件件的的选选项项可可以以把把这这些些训训练练数数据据的的每每一一个个点点按按照照这这里里的的分分类类法法分分到到某某一一类类。当当然然，我我们们一一开开始始就就知知道道这这些些训训练练数数据据的的各各个个观观测测值值的的归归属属，但但即即使使是是这这些些训训练练样样本本的的观观测测值值（企企业业）按按照照这这里里推推导导出出的的分分类类函函数数来来分分类类，也也不不一一定全都能够正确划分。定全都能够正确划分。Disc.sav例子例子下面就是对我们的训练样本的分类结果（下面就是对我们的训练样本的分类结果（SPSS）：）：误判和正确判别率误判和正确判别率从这个表来看，我们的分类能够从这个表来看，我们的分类能够100%地把地把训练数据的每一个观测值分到其本来的类。训练数据的每一个观测值分到其本来的类。该表分成两部分；上面一半（该表分成两部分；上面一半（Original）是）是用从全部数据得到的判别函数来判断每一用从全部数据得到的判别函数来判断每一个点的结果（前面三行为判断结果的数目，个点的结果（前面三行为判断结果的数目，而后三行为相应的百分比）。而后三行为相应的百分比）。下面一半（下面一半（Cross validated）是对每一个观）是对每一个观测值，都用缺少该观测的全部数据得到的测值，都用缺少该观测的全部数据得到的判别函数来判断的结果。判别函数来判断的结果。这里的判别结果是这里的判别结果是100%判别正确，但一般判别正确，但一般并不一定。并不一定。Disc.sav例子例子如如果果就就用用这这个个数数据据，但但不不用用所所有有的的变变量量，而而只只用用4个个变变量量进进行行判判别别：企企业业规规模模（is）、服服务务(se)、雇雇员员工工资资比比例例(sa)、资资金金周周转转速速度度(cs)。结结果果的的图图形形和和判判别别的的正正确确与与否否就就不不一一样样了了。下下图图为为两两个个典典则则判判别别函函数数导导出出的的150个个企企业业的的二二维维点点图图。它它不不如如前前面面的的图图那那么容易分清楚了么容易分清楚了 原先的图原先的图Disc.sav例子例子下面是基于下面是基于4个变量时分类结果表：个变量时分类结果表：这这个个表表的的结结果果是是有有87个个点点（96.7%）得得到到正正确确划划分分，有有3个个点点被被错错误误判判别别；其其中中第第二二类类有有两两个个被被误误判判为为第第一一类类，有一个被误判为第三类。有一个被误判为第三类。判别分析要注意什么判别分析要注意什么？训练样本中必须有所有要判别的类型，分类必须训练样本中必须有所有要判别的类型，分类必须清楚，不能有混杂。清楚，不能有混杂。要选择好可能由于判别的预测变量。这是最重要要选择好可能由于判别的预测变量。这是最重要的一步。当然，在应用中，选择的余地不见得有的一步。当然，在应用中，选择的余地不见得有多大。多大。要注意数据是否有不寻常的点或者模式存在。还要注意数据是否有不寻常的点或者模式存在。还要看预测变量中是否有些不适宜的；这可以用单要看预测变量中是否有些不适宜的；这可以用单变量方差分析（变量方差分析（ANOVA）和相关分析来验证。）和相关分析来验证。判别分析是为了正确地分类，但同时也要注意使判别分析是为了正确地分类，但同时也要注意使用尽可能少的预测变量来达到这个目的。使用较用尽可能少的预测变量来达到这个目的。使用较少的变量意味着节省资源和易于对结果进行解释。少的变量意味着节省资源和易于对结果进行解释。判别分析要注意什么判别分析要注意什么？在计算中需要看关于各个类的有关变量的均值是在计算中需要看关于各个类的有关变量的均值是否显著不同的检验结果（在否显著不同的检验结果（在SPSS选项中选择选项中选择Wilks Lambda、Raos V、The Squared Mahalanobis Distance或或The Sum of Unexplained Variations等检验的计算机输出），以确定是否等检验的计算机输出），以确定是否分类结果是仅仅由于随机因素。分类结果是仅仅由于随机因素。此外成员的权数（此外成员的权数（SPSS用用prior probability，即，即“先验概率先验概率”，和贝叶斯统计的先验概率有区别），和贝叶斯统计的先验概率有区别）需要考虑；一般来说，加权要按照各类观测值的需要考虑；一般来说，加权要按照各类观测值的多少，观测值少的就要按照比例多加权。多少，观测值少的就要按照比例多加权。对于多个判别函数，要弄清各自的重要性。对于多个判别函数，要弄清各自的重要性。注意训练样本的正确和错误分类率。研究被误分注意训练样本的正确和错误分类率。研究被误分类的观测值，看是否可以找出原因。类的观测值，看是否可以找出原因。SPSS选项选项打开打开disc.sav数据。然后点击数据。然后点击AnalyzeClassifyDiscriminant，把把group放入放入Grouping Variable，再定义范围，即在，再定义范围，即在Define Range输入输入13的范围。然后在的范围。然后在Independents输入所有想用输入所有想用的变量；但如果要用逐步判别，则不选的变量；但如果要用逐步判别，则不选Enter independents together，而选择，而选择Use stepwise method，在方法（在方法（Method）中选挑选变量的准则（检验方法；默认）中选挑选变量的准则（检验方法；默认值为值为Wilks Lambda）。）。为了输出为了输出Fisher分类函数的结果可以在分类函数的结果可以在Statistics中的中的Function Coefficient选选 Fisher和和Unstandardized，在，在Matrices中选择输出所需要的相关阵；中选择输出所需要的相关阵；还可以在还可以在Classify中的中的Display选选summary table,Leave-one-out classification；注意在；注意在Classify选项中默认的选项中默认的Prior Probability为为All groups equal表示所有的类都平等对待，而表示所有的类都平等对待，而另一个选项为另一个选项为Compute from group sizes，即按照类的大小，即按照类的大小加权。加权。在在Plots可选可选 Combined-groups,Territorial map等。等。判别分析判别分析(Discriminant Analysis)和聚类分析的关系和聚类分析的关系判别分析和聚类分析都是分类判别分析和聚类分析都是分类.但判别分析是在已知对象有若但判别分析是在已知对象有若干类型和一批已知样品的观测干类型和一批已知样品的观测数据后的基础上根据某些准则数据后的基础上根据某些准则建立判别式建立判别式.而做聚类分析时类而做聚类分析时类型并不知道型并不知道.可以先聚类以得知类型可以先聚类以得知类型,再进行再进行判别判别.距离判别法距离判别法假设有两个总体假设有两个总体G1和和G2,如果能如果能够定义点够定义点x到它们的距离到它们的距离D(x,G1)和和D(x,G2),则则如果如果D(x,G1)D(x,G2)则则 xG1如果如果D(x,G2)0即即D(x,G1)D(x,G2)则则 xG1如果如果W(x)D(x,G2)则则 xG2如果如果W(x)=0即即D(x,G1)=D(x,G2)则待判则待判当当m m(1),m m(2),S S 已知已知时时,令令a=S S-1(m m(1)-m m(2)(a1,ap),则则显然显然W(x)为为x1,xp的线性函数的线性函数,称为线性判称为线性判别函数别函数;a称为判别系数称为判别系数.当当m m(1),m m(2),S S 未知未知时时,可通过样本来估计可通过样本来估计:判别函数为判别函数为为来自为来自Gi的样本为的样本为(i=1,2)非线性判别函数非线性判别函数:当当S S(1)S S(2)时时这是这是x的一个二次函数的一个二次函数,按照距离最近原则按照距离最近原则,判别准则仍然为判别准则仍然为如果如果W(x)0即即D(x,G1)D(x,G2)则则 xG1如果如果W(x)D(x,G2)则则 xG2如果如果W(x)=0即即D(x,G1)=D(x,G2)则待判则待判多总体时的线性判别函数多总体时的线性判别函数:当当S S(1)=S S(k)=S S时时记记相应的准则为相应的准则为:如果对一切如果对一切ji,Wij(x)0,则则 xGi如果有某一个如果有某一个Wij(x)=0,则待判则待判非线性判别函数非线性判别函数:当当S S(1),S S(k)不等时不等时相应的准则为相应的准则为:如果对一切如果对一切ji,Wij(x)0,则则 xGi如果有某一个如果有某一个Wij(x)=0,则待判则待判.当当m m(i),S S(i)未知未知时时,可通过样本来估计可通过样本来估计费歇费歇(Fisher)判别法判别法并未要求总体分布类型并未要求总体分布类型工作原理就是对原数据系统进工作原理就是对原数据系统进行坐标变换行坐标变换,寻求能够将总体尽寻求能够将总体尽可能分开的方向可能分开的方向.点点x在以在以a为法方向的投影为为法方向的投影为ax各组数据的投影为各组数据的投影为将将Gm组中数据投影的均值记为组中数据投影的均值记为 有有记记k组数据投影的总均值为组数据投影的总均值为 有有组间离差平方和为组间离差平方和为:这里这里组内离差平方和为组内离差平方和为:这里这里注注:L=|E|/|B+E|为有为有Wilks分布的检验零假设分布的检验零假设H0:m m(1)=m m(k)的似然比统计量的似然比统计量.Wilks分布常分布常用用c c2分布近似分布近似(Bartlett)希望寻找希望寻找a使得使得SSG尽可能大而尽可能大而SSE尽可能小尽可能小,即即记方程记方程|B-l lE|=0的全部特征根为的全部特征根为l l1 l lr0,相应相应的特征向量为的特征向量为v1,vr.D D(a)的大小可以估计判别函的大小可以估计判别函数数yi(x)=vix(=ax)的效果的效果.记记pi为判别能力为判别能力(效率效率),有有最大的值为方程最大的值为方程|B-l lE|=0的最大特征根的最大特征根l l1.使使m个判别函数的判别能力定义为个判别函数的判别能力定义为下面以两总体下面以两总体(k=2)为例来发现阈值为例来发现阈值.它们的均值它们的均值 的投影分别为的投影分别为当总体方差相等时当总体方差相等时阈值为阈值为总体方差不等时总体方差不等时,注意到注意到 的样本方差为的样本方差为 类似地类似地,第二组数据投影的样本方差为第二组数据投影的样本方差为于是阈值于是阈值如如判别规则为判别规则为用用m个线性判别函数个线性判别函数yi(x)=vix,i=1,m,时时,先将先将样本点在样本点在L(vi,vm)空间投影再按照空间投影再按照p1情况的情况的距离判别法来制定判别规则距离判别法来制定判别规则.判别能力为判别能力为于秀林书上介绍了对用一个和于秀林书上介绍了对用一个和m个判别函数的加个判别函数的加权和不加权方法权和不加权方法.记记y(x)=vx,其在其在Gi上的样本均上的样本均值和方差值和方差,以及总均值为以及总均值为m=1时时,不加权法不加权法:m=1时时,加权法加权法:按大小排列按大小排列Di,i+1可为相应两类的分界点可为相应两类的分界点相应的标准差为相应的标准差为 令令m1时时,不加权法不加权法:记记对对x=(x1,),yl(x)=v(l)xm1时时,加权法加权法:记记则则则则Bayes判别法判别法不用判别式不用判别式,而用而用比较比较新给样品属于各个总体的新给样品属于各个总体的条件概率条件概率P(l|x),l=1,k,的大小的大小(将新样品判归将新样品判归为来自概率最大的总体为来自概率最大的总体).先给出对于先给出对于k个总体的先验概率个总体的先验概率q1,qk.如各总如各总体密度为体密度为fk(x),则后验概率为则后验概率为(g=1,k):P(g|x)=qgfg(x)/S Si qifi(x)当且仅当当且仅当P(h|x)=maxgP(g|x),判判x来自第来自第h总体总体.也可以用使错判的损失最小来判别也可以用使错判的损失最小来判别.如果如果c(i|j)为为来自来自j总体的个体被错判到第总体的个体被错判到第i总体的损失总体的损失.定义定义平均错判损失平均错判损失(ECM)为为ECM=S Si=1 qiS SliP(l|i)c(l|i)逐步判别法逐步判别法前面判别用了所有变量前面判别用了所有变量.但是各变量所起作用并不一样但是各变量所起作用并不一样.要有进有出要有进有出,引进引进“最重要的最重要的”并剔除不显著的并剔除不显著的.根据是假设检根据是假设检验验(比如似然比检验比如似然比检验).检验的零假设是各组变量均值相等检验的零假设是各组变量均值相等.Lambda(Wilks Lambda统计量统计量)接近接近0表示组均值不同表示组均值不同,接近接近1表示组均值没有不同表示组均值没有不同.Chi-square是是lambda的卡方转换的卡方转换(Bartelett近似近似),用于确定其显著性用于确定其显著性.鸢尾花数据鸢尾花数据(花瓣花瓣,花萼的长宽花萼的长宽)5个变量个变量:花瓣长花瓣长(slen),花瓣花瓣宽宽(swid),花萼长花萼长(plen),花萼宽花萼宽(pwid),分类号分类号(1:Setosa,2:Versicolor,3:Virginica)(data14-04)StatisticsClassify Discriminant:Variables:independent(slen,swid,plen,pwid)Grouping(spno)Define range(min-1,max-3)Classify:prior probability(All group equal)use covariance matrix(Within-groups)Plots(Combined-groups,Separate-groups,Territorial map)Display(Summary table)Statistics:Descriptive(Means)Function Coefficients(Fishers,Unstandardized)Matrix(Within-groups correlation,Within-groups covariance,Separate-groups covariance,Total covariance)Save:(Predicted group membership,Discriminant Scores,Probability of group membership)鸢尾花数据鸢尾花数据(数据分析过程简明表数据分析过程简明表)鸢尾花数据鸢尾花数据(原始数据的描述原始数据的描述)鸢尾花数据鸢尾花数据(合并类内相关阵和协方差阵合并类内相关阵和协方差阵)鸢尾花数据鸢尾花数据(总协方差阵总协方差阵)鸢尾花数据鸢尾花数据(特征值表特征值表)Eigenvalue:用于分析的前两个典则判别函数的特征用于分析的前两个典则判别函数的特征值值,是组间平方和与组内平方和之比值是组间平方和与组内平方和之比值.最大特征值最大特征值与组均值最大的向量对应与组均值最大的向量对应,第二大特征值对应着次第二大特征值对应着次大的组均值向量大的组均值向量典则相关系数典则相关系数(canonical correlation):是组间平方和是组间平方和与总平方和之比的平方根与总平方和之比的平方根.被平方的是由组间差异被平方的是由组间差异解释的变异总和的比解释的变异总和的比.鸢尾花数据鸢尾花数据(Wilks Lambda统计量统计量)检验的零假设是各组变量均值相等检验的零假设是各组变量均值相等.Lambda接近接近0表示组均值不同表示组均值不同,接近接近1表示组均值没有不同表示组均值没有不同.Chi-square是是lambda的卡方转换的卡方转换,用于确定其显著性用于确定其显著性.鸢尾花数据鸢尾花数据(有关判别函数的输出有关判别函数的输出)标准化的典则判别标准化的典则判别函数系数函数系数(使用时使用时必须用标准化的自必须用标准化的自变量变量)鸢尾花数据鸢尾花数据(有关判别函数的输出有关判别函数的输出)典则判别函数系数典则判别函数系数鸢尾花数据鸢尾花数据(有关判别函数的输出有关判别函数的输出)这是类均值这是类均值(重心重心)处的典则判别函数值处的典则判别函数值这是典则判别函数这是典则判别函数(前面两个函数前面两个函数)在类在类均值均值(重心重心)处的值处的值鸢尾花数据鸢尾花数据(用判别函数对观测量分类结果用判别函数对观测量分类结果)先验概率先验概率(没有给没有给)费歇判别函数系数费歇判别函数系数把自变量代入三个把自变量代入三个式子式子,哪个大归谁哪个大归谁.Territorial MapCanonical DiscriminantFunction 2 -12.0 -8.0 -4.0 .0 4.0 8.0 12.0 趄蝌蝌蝌蝌趄蝌蝌蝌蝌趄蝌蝌蝌蝌趄蝌蝌蝌蝌趄蝌蝌蝌蝌趄蝌蝌蝌蝌 12.0 12 23 12 23 12 23 12 23 12 23 12 23 8.0 12 23 12 23 12 23 12 23 12 23 12 23 4.0 12 23 12 23 12 23 12 23 12 23 12 23 *.0 *12 23 12 *23 12 23 12 23 12 23 12 23 -4.0 12 23 12 23 12 23 12 23 12 23 12 23 -8.0 12 23 12 23 12 23 12 23 12 23 12 23 -12.0 12 23 趄蝌蝌蝌蝌趄蝌蝌蝌蝌趄蝌蝌蝌蝌趄蝌蝌蝌蝌趄蝌蝌蝌蝌趄蝌蝌蝌蝌 -12.0 -8.0 -4.0 .0 4.0 8.0 12.0 Canonical Discriminant Function 1Symbols used in territorial mapSymbol Group Label-1 1 刚毛鸢尾花 2 2 变色鸢尾花 3 3 佛吉尼亚鸢尾花 *Indicates a group centroid鸢尾花数据鸢尾花数据Territory Map(区域图区域图)Canonical Discriminate Function 1VersusCanonical Discriminate Function 2三种三种鸢尾花鸢尾花的典则变量值把一的典则变量值把一个典则变量组成的坐标平面分个典则变量组成的坐标平面分成三个区域成三个区域.*为中心坐标为中心坐标.鸢尾花数据鸢尾花数据(预测分类结果小结预测分类结果小结)可以看出分错率可以看出分错率后面是相关分析后面是相关分析(Correlation Analysis)