合理进行多元分析——度量型多维尺度分析.pdf

2023 年第 36 卷第 S1期四川精神卫生http：/合理进行多元分析度量型多维尺度分析胡纯严1，胡良平1，2*（1.军事科学院研究生院，北京 100850；2.世界中医药学会联合会临床科研统计学专业委员会，北京 100029*通信作者：胡良平，E-mail：）【摘要】本文目的是介绍与度量型多维尺度分析有关的基本概念、计算方法、两个实例以及SAS实现。基本概念包括度量型与多维尺度、应用场合、距离矩阵与相似系数矩阵、研究对象、拟合构图与构图、多维尺度分析的基本思想；计算方法涉及经典多维尺度分析和最小平方多维尺度分析；两个实例分别为“甘肃省12个主要城市之间的距离”和“8个测试项目之间的相关系数矩阵”；借助SAS软件，对两个实例分别进行了多维尺度分析，并对SAS输出结果做出了解释。【关键词】度量型；多维尺度；距离矩阵；相似系数矩阵；拟合构图中图分类号：R195.1 文献标识码：A doi：10.11886/scjsws20230726003 Reasonably carry out multivariate analysis：metric multidimensional scaling analysisHu Chunyan1，Hu Liangping1，2*（1.Graduate School，Academy of Military Sciences PLA China，Beijing 100850，China；2.Specialty Committee of Clinical Scientific Research Statistics of World Federation of Chinese Medicine Societies，Beijing 100029，China*Corresponding author:Hu Liangping，E-mail：）【Abstract】The purpose of the paper was to introduce the basic concepts，calculation methods，two examples and SAS implementation related to the metric multidimensional scaling analysis.Basic concepts included metric and multidimensional scaling，application occasions，distance matrix and similarity coefficient matrix，research objects，configuration and composition，basic ideas of multidimensional scaling analysis.The calculation method involved classical multidimensional scaling analysis and least square multidimensional scaling analysis.The data in the two examples were distance between 12 major cities in Gansu province and correlation coefficient matrix between 8 test items.With the help of SAS software，the multidimensional scale analysis was carried out on the data in the two examples，and an explanation was given for the output results of SAS.【Keywords】Metric；Multidimensional scale；Distance matrix；Similarity coefficient matrix；Configuration多维尺度分析又称为多维标度分析，是多元统计分析方法中的一个重要内容。该方法最早由Torgerson在 20世纪 50年代提出，适用于可获得研究对象之间精确的相似性或相异性数据的情形。多维尺度分析可以对数据进行探索性分析，可用来进行相似性评价，也是检验观察数据是否符合研究者提出的结构关系的一种理想方法。多维尺度分析可以分为度量型多维尺度分析和非度量型多维尺度分析。本文将结合实际问题介绍度量型多维尺度分析的基本概念、计算方法以及 SAS实现，并对输出结果进行解释。1 基本概念 1.1度量型与多维尺度所谓度量型，就是所提供的反映任何两个受试对象之间相似或相异程度的数值具有较高的精确度。所谓多维尺度，就是假定任何一个观测对象都由多个维度来决定，例如，观测了很多个体的身高、体重、胸围、心像面积，即每个个体对应着一个四维空间中的一个点。一般来说，每个个体对应着一个m维欧氏空间中的一个点。如果存在这样的两个个体，他们在m个维度上的取值都非常接近，即这两个个体在m维欧氏空间中所对应的两个点的位置十分接近，可以说这两点间的欧氏距离接近0。1.2应用场合假设：有n个个体，每个个体由m个指标（变量）反映其在m维欧氏空间的位置。但反映个体的指标个数m的具体取值不清楚，甚至指标本身是什么也是模糊的，更难以对它们进行观察或直接测量，唯一知道的是这n个个体中任何两者之间的某种距离（不一定是通常的欧氏距离）或者某种相似性或85四川精神卫生 2023 年第 36 卷第 S1期http：/不相似性，希望仅依据这样的信息就能比较准确地确定这n个个体在m维空间中的相对位置。这就是多维尺度分析要解决的实际问题。多维尺度分析就是在仅知道全部n个个体（或泛称样品）中任何一对样品之间的“相对距离”（真实距离或相似性度量或不相似性度量）的前提下，通过数学处理，计算出n个样品中每一个样品在m维空间中的坐标（通常m取2或3），再用图形将n个样品在m维空间中呈现出来。从直观角度出发，通常仅在二维空间（即二维平面）中呈现全部 n个样品。相当于把m维空间中的n个点投影到二维空间中，以便直观感受到它们之间的相对位置，是以“图示法”呈现样品聚类分析结果的一种方法。1.3距离矩阵与相似系数矩阵一个nn阶矩阵D=（dij）nn，如果满足D=D，dii=0，dij0（i，j=1，2，n），则称D为广义距离矩阵，dij为第i点与第j点之间的距离。一个nn阶矩阵C=（dij）nn，如果满足C=C，ciicij（i，j=1，2，n），则称C为相似系数矩阵，cij为第i点与第j点之间的相似系数。1.4研究对象多维尺度分析利用的是研究对象之间的近似数据，这些近似数据可以分为相异性数据和相似性数据。相异性数据是用较大的数值表示不相似，较小的数值表示相似，也称为距离数据；相似性数据则相反，数值较大表示相似，数值较小表示不相似。与这两者相对应的分别是距离矩阵和相似系数矩阵。1.5拟合构图与构图设D为基于观测的n个样品计算所得的距离矩阵，又设D为基于推算的n个样品计算所得的距离矩阵。再设与D对应的n个样品的坐标为X，用矩阵形式将它呈现出来，见式（1）。X=(x1，x2，xn)（1）则称X为D的一个近似解，或称多维尺度经典解。统计学家形象地称 X 为距离矩阵 D 的一个拟合构图（也叫感知图，即采用图形将 n个样品在一个事先确定的k维空间中的相对位置呈现出来，通常取k=2）。如果D=D，则称X为D的一个构图或精确解1-2。1.6多维尺度分析的基本思想当已知n个研究个体或样品之间的相似度（或距离）时，多维尺度分析方法可以在低维空间中找出与之相对应的n个点，使得这些点之间的距离与原来的相似度基本匹配。统计学家将这些低维空间中的点以图形的形式呈现出来，它们之间的距离就直观地反映了n个研究个体或样品之间相似程度。在分析过程中，要解决的核心问题是确定这些点的坐标，具体方法被称为“多维尺度分析法的经典解”3-4。2 计算方法 2.1概述设有n个研究对象，用ij表示第i个与第j个对象之间的相似性或相异性，该数据是已知的。X1，Xn代表m维空间中的n个点，第i个点Xi的坐标为（xi1，xi2，xim），它是未知的。任意两点Xi和Xj之间的距离为dij，一般采用欧氏距离。多维尺度分析就是要用X1，Xn分别表示待研究的n个对象，进一步将第i个和第j个对象之间的相似性或相异性ij映射成为m维空间中Xi与Xj之间的距离dij，其映射函数见式（2）。f：ij dij（2）对上述映射函数进行相应变换，得到的结果见式（3）。f(ij)=dij（3）在实际应用中，由于多维尺度分析采用了降维的技术，n个观测对象的所有信息不可能被全部保留，不同对象之间的差异也不会被完全保留。在降维的过程中，总是有少量信息损失，故一般只能得到尽可能接近的结果。在度量型多维尺度分析中，函数f可以为恒等函数、线性函数、对数函数、指数函数等，一般情况下采用单调函数。根据求解方法的不同，度量型多维尺度分析主要包括两类：经典多维尺度分析和最小平方多维尺度分析，以下分别进行讨论。2.2经典多维尺度分析对于距离矩阵D=（dij）nn，如果存在某个正整数m及m维空间中的n个点X1，Xn，使得式（4）成立，则称D为欧氏距离矩阵。d2ij=(Xi-Xj)(Xi-Xj)，i，j=1，2，n（4）862023 年第 36 卷第 S1期四川精神卫生http：/由距离矩阵D，可构造出矩阵B=（bij）nn，其中的元素由式（5）定义。bij=12(-d2ij+1ni=1nd2ij+1nj=1nd2ij-1n2i=1nj=1nd2ij)（5）一个 nn 距离矩阵 D 是欧氏距离矩阵的充要条件为B0。用X=（X1，X2，Xn）表示求得的m维空间中的n个点，这些点之间的距离矩阵D与D尽可能接近，称X为距离矩阵D的拟合构造点。如果D=D，则称X为D的构造点。当D是欧氏距离矩阵时，可以得到构造点X；当D不是欧氏距离阵时，不存在D的构造点，只能寻求D的拟合构造点。在实际应用中，即使 D是欧氏距离矩阵，它的构造点 X也是 nm阵，当 m较大时，往往没有实用的价值，这时一般用低维的拟合构造点X代替构造点X。矩阵B称为X的中心化内积阵，求B的特征根12m，对应的单位特征向量为e1，e2，em。=(e1，e2，em)是以单位特征向量为列组成的矩阵，则有X=(1e1，2e2，mem)，矩阵X中的每一行对应 m 维空间中的一个点，第 i 行即为 Xi。令=diag(1，2，m)，则有如下结果，见式（6）和式（7）。B=XX=（6）X=1 2（7）当B的所有特征根非负，表明B0，D是欧氏距离矩阵，X是D的构造点；若有负特征根，D一定不是欧氏距离矩阵，X是D的拟合构造点。基于上述思想得到的构造点或拟合构造点称为多维尺度分析方法的经典解5-6。由以上讨论，可以给出求经典解的基本步骤：由距离阵 D，根据式（5）计算bij，构造出中心化内积阵B；计算矩阵 B 的特征根和 k 个最大特征根对应的单位特征向量，k是低维空间的维数，它的确定有两种方法，一是事先确定 k=1、2 或 3，二是通过计算前 k 个大于零的特征根占全体特征根的比例，该比例相当于主成分分析中的累积贡献率，见式（8），让式（8）的计算结果大于预先给定的一个贡献率；根据式（7）计算拟合构造点X，根据X可以在k维空间中绘出每个研究对象对应的点，进而判断研究对象之间的关系。1+2+k|1+|2+|n（8）2.3最小平方多维尺度分析在度量型最小平方多维尺度分析中，通过最小化损失函数S得到低维空间中各个点的坐标7。损失函数由研究对象之间的相异性ij与低维空间中第i与第j两点之间的距离dij定义，也可以由ij的函数f(ij)与距离dij定义。损失函数有很多种形式，在多维尺度分析中，应用最广的是应力函数，此处给出Sammon建议的损失函数，见式（9）。S=i j-1ij(dij-ij)2 i jij（9）通过距离dij求损失函数关于各点坐标的偏导数并使之为0，就可得到一个以各点坐标为未知数的方程组。解出该方程组，便可获得各个点的坐标值，进而在低维空间中绘出各点。该方程组的求解需要采用数值解法，例如梯度法。3 实例与SAS实现 3.1问题与数据结构3.1.12个实际问题及数据【例1】表1列出了甘肃省12个主要城市之间的距离7。这些距离是公路里程，不是城市之间的最短距离，可视为这些城市之间的近似距离。希望利用这些距离数据绘制一张平面地图，标出这12个城市的位置，使之尽量接近表1给出的距离数据，从而反映它们真实的地理位置。【例2】一项智力测验共有8个测试项目，这些项目的相关系数矩阵见表27。试通过相关系数矩阵考查这8个测试项目之间的结构关系。3.1.2对数据结构的分析例1中，每个城市到自身的距离为0，所以主对角线上的元素都是0。表1中的数字越大，说明两个城市之间的距离越远。例2为测试项目之间的相关系数矩阵，该矩阵是对称矩阵。所有的相关系数均大于0，相关系数越大，说明项目之间的关系越紧密，相似程度越高。3.1.3创建SAS数据集分析例 1 资料，设所需要的 SAS 数据步程序如下：87四川精神卫生 2023 年第 36 卷第 S1期http：/data a1；input city$x1-x12；cards；兰州 0.敦煌 1140 0.酒泉 735 405 0.张掖 514 626 221 0.武威 276 864 459 238 0.（此处省略输入内容，见前文表1）天水 327 1467 1062 841 603 385 223 442 254 367 0.陇南 450 1590 1185 964 726 540 385 362 536 649 282 0；run；分析例 2 资料，设所需要的 SAS 数据步程序如下：data a2；input item$x1-x8；cards；1 1.00 0.40 0.25 0.12 0.67 0.39 0.26 0.192 0.40 1.00 0.31 0.39 0.50 0.24 0.18 0.523 0.25 0.31 1.00 0.46 0.28 0.38 0.42 0.494 0.12 0.39 0.46 1.00 0.20 0.14 0.29 0.555 0.67 0.50 0.28 0.20 1.00 0.38 0.26 0.266 0.39 0.24 0.38 0.14 0.38 1.00 0.40 0.227 0.26 0.18 0.42 0.29 0.26 0.40 1.00 0.258 0.19 0.52 0.49 0.55 0.26 0.22 0.25 1.00；run；3.2用SAS实现统计分析3.2.1分析例1的资料设所需SAS过程步程序如下8：proc mds data=a1 level=absolute coef=identity fit=1 formula=1 pfinal；id city；run；【SAS程序说明】proc mds语句表示调用MDS过程，该语句中的选项level决定了多维尺度分析是度量型还是非度量型。当level取值为absolute、ratio、interval或loginterval时，采用度量型多维尺度分析，不同的取值表示对距离进行不同的变换。本程序中，level=absolute表示未对距离进行任何变换。选项 coef决定采用加权多维尺度模型还是未加权模型，本资料中只有一个数据矩阵，采用未加权模型，此时coef=identity。选项fit表示使用距离、距离的平表1甘肃省12个主要城市之间的距离（km）Table 1Distance between 12 major cities in Gansu province城市兰州敦煌酒泉张掖武威白银定西合作平凉庆阳天水陇南距离兰州01 14073551427690104259334496327450敦煌04056268641 2301 2441 3991 4741 6361 4671 590酒泉02214598258399941 0691 2311 0621 185张掖02386046187738481 010841964武威0366380535610772603726白银0182349364521385540定西0308284446223385合作0542704442362平凉0162254536庆阳0367649天水0282陇南0表28个测试项目之间的相关系数矩阵Table 2Correlation coefficient matrix between 8 test items项目1234567811.000.400.250.120.670.390.260.1920.401.000.310.390.500.240.180.5230.250.311.000.460.280.380.420.4940.120.390.461.000.200.140.290.5550.670.500.280.201.000.380.260.2660.390.240.380.140.381.000.400.2270.260.180.420.290.260.401.000.2580.190.520.490.550.260.220.251.00882023 年第 36 卷第 S1期四川精神卫生http：/方、距离的n次幂还是距离的对数，本程序中，fit=1表示使用距离本身。选项formula用来指定拟合劣度标准，也就是损失函数，本程序中，formula=1规定使用未校正的平方和。选项pfinal规定输出模型中各项参数的最终估计值。【SAS输出结果及解释】例1资料迭代计算的过程和结果见表 3。经过 4次迭代，收敛标准得到满足，模型最终收敛。拟合劣度标准为0.0420.050，说明模型对资料的拟合效果较好。基于模型算出的二维拟合构图中与各地对应的坐标见表4。表4是各城市在二维空间中所对应的点的坐标，也就是拟合构图或感知图中各点的横坐标与纵坐标。这部分结果是由 pfinal 选项产生的，默认状态下它们不会被输出。各城市在二维坐标平面内相对位置的拟合构图见图1。图1中，甘肃省12个主要城市可分为四类：第一类包括庆阳、平凉；第二类包括天水、定西、白银、兰州、武威；第三类包括陇南、合作；第四类包括张掖、酒泉、敦煌。从数学角度来考量，图中各城市的位置是相对的，不一定是真实的地理位置。反映模型对资料拟合效果的散布图见图 2。横坐标代表二维空间中两点（即两个城市）之间的距离，纵坐标代表原始数据。如果模型拟合效果较好，则所有的散点应该在一条直线上。本资料中绝大部分散点基本位于同一直线上，可认为模型的拟合效果较好。3.2.2分析例2的资料设所需要的SAS过程步程序如下8：proc mds data=a2 level=ratio pfinal similar；id item；run；【SAS 程序说明】在 proc mds 过程步中，选项level=ratio表示对距离进行线性变换，也就是给距离乘以一个常数。选项 similar指定本资料中的数据为相似性数据，此时SAS系统会将原始数据进行转换，用数据矩阵中的最大值减去每一个数据，将相似性数据转化为相异性数据。【SAS 输出结果及解释】例 2 资料迭代计算的过程和结果见表 5。结果显示，经过 13次迭代，收敛标准得到了满足，模型最终收敛。拟合劣度标表3基于模型拟合例1资料的迭代计算过程和结果Table 3Iterative calculation process and results based on the model fitting example 1 data迭代01234类型InitialLev-MarGau-NewGau-NewGau-New拟合劣度准则0.0540.0420.0420.0420.042准则中的更改-0.0120.0000.0000.000收敛测度0.6080.0980.0280.0110.005表4基于模型算出的二维拟合构图中2个坐标轴上的坐标Table 4Coordinates on two coordinate axes in the two-dimensional configuration calculated based on the model地区兰州敦煌酒泉张掖武威白银dim1-93.281079.04670.44446.02201.65-106.14dim2-28.5629.3114.764.41-11.4357.86地区定西合作平凉庆阳天水陇南dim1-193.50-217.18-371.80-501.52-418.87-494.86dim2-22.36-320.26224.35337.04-3.15-281.96图1甘肃省12个主要城市的拟合构图Figure 1Configuration of 12 major cities in Gansu province图2基于多维尺度分析模型对甘肃省12个主要城市拟合的散布图Figure 2Scatter diagram of fitting 12 major cities in Gansu province based on a multidimensional scale analysis model89四川精神卫生 2023 年第 36 卷第 S1期http：/准为 0.0820.100，说明模型对资料的拟合效果较好。基于模型算出的二维拟合构图中与各地区对应的2个坐标轴上的坐标见表6。呈现各项目在二维坐标平面内相对位置的拟合构图见图3。图3中，项目1与项目5最接近，项目4与项目8比较接近，其他4个项目彼此相差很大。反映模型对资料拟合效果的散布图见图4。横坐标代表二维空间中两点（即两个项目）之间的距离，纵坐标代表原始数据。本资料中绝大部分散点基本位于同一直线上，可认为模型对资料的拟合效果较好。4 讨论与小结 4.1讨论4.1.1相似性与相异性数据的转化在进行多维尺度分析时，通常需要将相似性数据转化为相异性数据。用 dij表示第 i个对象与第 j个对象之间的相异性，cij表示两者之间的相似性，可通过以下几种形式完成从相似性到相异性的转化，见式（10）、式（11）、式（12）、式（13）。dij=1-cij（10）dij=c-cij，其中c为给定的常数（11）dij=2(1-cij)（12）dij=cii+cjj-2cij（13）4.1.2低维空间维数的确定多维尺度分析的目标是以较少的维数空间较好地拟合获得的数据。通常维数越高，空间图对资料的拟合度越高，随着维数的减少，维度的实际意义将更容易归纳，但这是以损失部分原始数据信息为代价的。所以，选择合适的维数至关重要6。在古典多维尺度分析中，可根据特征根的累积贡献率来确定空间的维数。除此之外，还可以通过专业知识、文献资料或预试验的结果确定维数。一般来说，要想解释三维以上的空间图是很困难的，所以实际应用中空间的维数通常不会超过三维，其中使用最普遍的是二维空间。表5基于模型拟合例2资料的迭代计算过程和结果Table 5Iterative calculation process and results based on the model fitting example 2 data迭代0121213类型InitialLev-MarGau-NewGau-NewGau-New拟合劣度准则0.1060.0830.0830.0820.082准则中的更改-0.0240.0000.0000.000收敛测度0.6460.1110.0690.0110.009表6基于模型算出的二维拟合构图中2个坐标轴上的坐标Table 6Coordinates on two coordinate axes in the two-dimensional configuration calculated based on the model项目12345678dim11.41-0.15-0.75-1.681.131.190.02-1.17dim20.641.18-0.620.130.71-0.94-1.630.54图4基于多维尺度分析模型对8个项目拟合的散布图Figure 4Scatter plot of fitting 8 items based on multidimensional scale analysis model图3一项智力测验中8个项目的拟合构图Figure 3Configuration of 8 items in an intelligence test902023 年第 36 卷第 S1期四川精神卫生http：/4.1.3多维尺度分析的解并不唯一由于欧氏距离在正交变换和平移变换下具有不变性，多维尺度分析的解并不唯一。多维尺度分析的解在经过上述两种变换之后，仍然是它的解。并且，用多维尺度分析法构造出的图形结构，只能确定各对象或个体之间的相对位置，其绝对位置不能完全确定。多维尺度分析法的结果是试探性的，而不是结论性的1。4.1.4权重多维尺度分析在实际应用中，有时需确定多个距离矩阵的拟合构图。例如，请20位啤酒品尝师分别对10种不同品牌的啤酒进行品尝，每位啤酒品尝师都能给出一个对10种啤酒的评价结果（1010的距离矩阵），共有20个类似的距离矩阵。将它们整合在一起进行多维尺度分析的方法，被称为权重多维尺度分析法3。4.1.5多维尺度分析与其他分析方法的关系多维尺度分析可以看成是因子分析的一种替代，目的是识别潜在的有意义的维度使得研究者能够解释被调查对象之间的相似性或相异性。在因子分析中，变量之间的相似性是用相关系数矩阵表示的，但在多维尺度分析里，研究者可以分析任何形式的相似矩阵或距离矩阵，包括相关系数矩阵7。4.2小结本文介绍了与多维尺度分析有关的基本概念、计算方法、两个实例以及使用SAS实现计算的方法。基本概念包括度量型与多维尺度、应用场合、距离矩阵与相似系数矩阵、研究对象、拟合构图与构图、多维尺度分析的基本思想；计算方法涉及经典多维尺度分析和最小平方多维尺度分析；两个实例分别为“甘肃省12个主要城市间的距离”和“8个测试项目之间的相关系数矩阵”；借助SAS软件，对两个实例中的数据分别进行了多维尺度分析，并对SAS输出结果做出了解释。参考文献1余锦华，杨维权.多元统计分析与应用 M.广州：中山大学出版社，2005：232-250.Yu JH，Yang WQ.Multivariate statistical analysis and applicationM.Guangzhou：Sun Yat-sen University Press，2005：232-250.2张润楚.多元统计分析M.北京：科学出版社，2006：288-311.Zhang RC.Multivariate statistical analysis M.Beijing：Science Press，2006：288-311.3李卫东.应用多元统计分析 M.北京：北京大学出版社，2008：239-258.Li WD.Applied multivariate statistical analysisM.Beijing：Peking University Press，2008：239-258.4Johnson RA，Wichern DW.实用多元统计分析 M.6 版.北京：清华大学出版社，2008：671-756.Johnson RA，Wichern DW.Applied multivariate statistical analysisM.6th edition.Beijing：Tsinghua University Press，2008：671-756.5何晓群.多元统计分析 M.2版.北京：中国人民大学出版社，2008：227-254.He XQ.Multivariate statistical analysis M.2nd edition.Beijing：China Renmin University Press，2008：227-254.6Armitage P，Colton T.Encyclopedia of biostatisticsM.2nd edition.New York：John Wiley&Sons，Inc，2005：3635-3643.7胡良平.面向问题的统计学：（3）试验设计与多元统计分析M.北京：人民卫生出版社，2012：303-317.Hu LP.Problem-oriented statistics：（3）experimental design and multivariate statistical analysisM.Beijing：Peoples Mental Publishing House，2012：303-317.8SAS Institute Inc.SAS/STAT15.1 users guide M.Cary，NC：SAS Institute Inc，2018：2514-2578，2997-3216.（收稿日期：2023-07-26）（本文编辑：陈霞）91