资源描述
单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,8.1,概述,8,回归分析法,回归分析是一类重要的多元统计分析方法。它的基本思路是以大量观测数据为基础,用某种最优化方法(通常为最小二乘法),研究和发现两组变量之间的统计相关关系,也就是一组变量对另一组变的依赖关系,并根据这种依赖关系,利用一组变量的值估计或预测另一组变量的值。它所找到的这种统计相关关系用一个或一组方程式表示,称为,回归方程,,也称,回归模型,。,8.1,概述,8,回归分析法,统计相关关系在自然界普遍存在。理论上任何物理过程都受物理定律支配,参与这些过程的各种因素有一定的相互依赖关系。但因过程的复杂性、未知因素及观测误差的存在,这些依赖关系较复杂,往往不能用确定的理论公式严格地表示,但可能通过统计分析来发现和表达。例如现实中,可能由于,温度随机波动及测量误差,的影响,欧姆定律也只能从统计的角度被观测到。,矿床值与地质因素之间,也会表现出统计相关。,电流,电压,欧姆定律,实际观测数据,8.1,概述,8,回归分析法,所研究的两组变量中,被估计的变量称,因变量,,而据以对因变量进行估计的变量称,自变量,。因变量和自变量都可以有,1,个或多个。如果自变量只有一个,称为,一元回归分析,;如自变量有多个,称,多元回归分析,。,回归方程,最常用的是线性方程,即方程中只含有各个自变量的一次幂和常数。这种回归分析称为,线性回归,。若回归方程中含有自变量的高次幂或其它非线性项,则统称为,非线性回归,。,在矿床统计预测中,常用的是只含有,1,个因变量的多元线性回归分析。,因变量是矿床值,自变量是各种地质因素或找矿标志。,如果找到了矿床值与地质因素之间的统计相关关系,即可根据地质因素对矿床值进行预测。,8.1,概述,回归分析方法并不保证其估计或预测结果是准确的,但可以保证预测结果是“最优”的,即“最可能、最合理、最符合观测结果”。,回归分析提供预测结果的同时,还可以提供该结果的可靠程度(置信度),以及可能的精度(置信区间)。,8,回归分析法,8.2,回归分析原理,8.2.1,一元线性回归方程,设因变量,y,和自变量,x,的观测数据如图。回归分析的任务是找到一条,最优,的直线以代表所有观测点分布的趋势。这就是要找到直线方程系数,b,和常数,a,,使,直线与所有观测点,距离总和,达到最小。,将自变量值代入回归方程得到的因变量估值称为,回归估值,。,x,i,y,=,a,+,b,x,x,y,i,i,i,-,y,i,回归方程,因变量,自变量,许多观测数据点,为求出最优直线方程,要应用,最小二乘法,原理。,8,回归分析法,回归估值,达到极小值,,从而求出,a,b,。上式中,n,为观测数据点总数。,最小二乘法令回归估值 与因变量观测数据 的,偏差平方和,8.2,回归分析原理,8.2.1,一元线性回归方程,Eq,8-1,8,回归分析法,x,i,y,=,a,+,b,x,x,y,i,i,i,-,y,i,回归方程,因变量,自变量,观测数据,回归估值,8.2,回归分析原理,8.2.1,一元线性回归方程,为求,Q,的极小值,令,即,整理得,该方程组称,正规方程组,,从中可以解出,a,和,b,。,8,回归分析法,8.2,回归分析原理,8.2.1,一元线性回归方程,正规方程组可写成矩阵形式:,或,或,若,满秩,则有:,Eq,8-2,Eq,8-3,8,回归分析法,根据,Eq8-3,用观测数据可以直接计算出回归系数,得到回归模型。,8.2,回归分析原理,8.2.2,多元线性回归方程,多元线性回归,的正规方程组与一元情况在形式上完全一样:,只是自变量个数不一样。若有,p,个自变量(,p,元线性回归):,以上用原始数据直接求出的方程系数,称,偏回归系数,,回归方程也称,偏回归方程,。偏回归方程能反映因变量与自变量之间的统计相关,偏回归系数不能具体反映各自变量与因变量的相关性。,Eq,8-4=,Eq,8-3,Eq,8-5,8,回归分析法,8.2.2,多元线性回归方程,可以用相关系数矩阵(简称相关矩阵)求回归方程,这时方程中各变量的系数称,标准回归系数,。正规方程组为,其中,r,jk,=,r,kj,是变量,x,j,和,x,k,的相关系数(,Eq,4-9,)。,r,jk,=,1,当,j,=,k,。,r,jy,是变量,x,j,和因变量,y,的相关系数。,如在做回归分析前将所有数据标准化,则用规格化后数据算乘积矩阵,Eq,8-6,8,回归分析法,标准回归系数,能具体反映各个自变量与因变量之间的相关关系。,正好是各自变量的相关矩阵,而,是各自变量与,y,的相关系数向量。,标准化的计算公式为,正规方程组为,回归模型建立之后,应当对它进行检验,以判断其可靠性或有效性。,以下原因可能造成线性回归模型不显著,(即无效):,1,)因变量与自变量之间线性相关性不强或不相关。有时因变量与自变量之间虽然,非线性相关,,也可能会使线性回归模型不显著。,2,)观测数据过少,缺乏统计意义。,3,)多个自变量间强相关,从而乘积矩阵,不满秩。这会使正规方程组的解不稳定,造成模型失效。,8.2.3,回归方程的显著性检验,8,回归分析法,1,)用复相关系数检验,8.2.3,回归方程的显著性检验,可用两种方法:,称,复相关系数,,也称,拟合优度,,其值越大,(,接近,1),回归方程越显著。一般若该值,F,表,则可认为回归方程显著。,F,-,检验的基础是因变量服从,正态分布,。如果因变量不服从正态分布,则不宜使用,F,-,检验。,F,-,统计量为:,Eq,8-12,8,回归分析法,建立回归方程后,代入自变量的值,可得到因变量的估值。这称为“点估计”。许多情况下,完成点估计就已经达到了回归分析的目的。,但这种“点估计”不能知道犯错误的概率,即预测可靠性不够清楚。为解决该问题,可求出因变量的置信区间,即对因变量进行区间估计。方法为:令,8.3,因变量的区间估计,8,回归分析法,则 任一估值,落入区间(,2,),的概率为,0.95,,落入区间,(,3,),的概率为,0.99,。因此,区间估计可以提供关于估计结果的置信水平。,注意,区间估计的基础也是因变量服从正态分布。,区间估计“用精度换取了可靠性”。,设观测数据如右表。,8.4,回归分析算例,8,回归分析法,单元,y,x1,x2,x3,x4,1,0.44,0.03,0.14,0.91,7.98,2,0.7,0.14,0.22,1.03,8.91,3,0.18,0.04,0.13,1.05,7.99,4,0.34,0.06,0.12,0.88,7.27,5,1.39,0.19,0.2,0.75,7.68,6,0.7,0.14,0.1,0.5,5.26,7,0.57,0.09,0.11,0.52,7.56,8,1.03,0.14,0.15,0.71,8.45,9,0.96,0.12,0.14,0.77,6.84,10,1.19,0.17,0.1,0.62,7.67,11,1.2,0.3,0.19,0.61,7.48,12,1.37,0.23,0.22,0.6,9.29,13,1.71,0.29,0.28,0.61,10.68,14,1.33,0.13,0.22,0.84,10.71,15,1.44,0.26,0.22,0.53,9.46,16,1.28,0.21,0.2,0.58,10.4,17,1.24,0.51,0.22,0.51,12.69,18,1.96,0.21,0.3,0.52,13.24,19,1.93,0.45,0.28,0.53,12.74,20,1.95,0.31,0.23,0.45,13.39,21,1.31,0.17,0.25,0.47,10.86,22,0.1,0.05,0.08,0.44,5.87,23,0.48,0.04,0.08,0.41,6.88,24,0.14,0.11,0.07,0.35,5.5,25,0.45,0.15,0.09,0.21,7.48,1,0.03,0.14,0.91,7.98,1,0.14,0.22,1.03,8.91,1,0.04,0.13,1.05,7.99,1,0.06,0.12,0.88,7.27,1,0.19,0.2,0.75,7.68,1,0.14,0.1,0.5,5.26,1,0.09,0.11,0.52,7.56,1,0.14,0.15,0.71,8.45,1,0.12,0.14,0.77,6.84,1,0.17,0.1,0.62,7.67,1,0.3,0.19,0.61,7.48,1,0.23,0.22,0.6,9.29,1,0.29,0.28,0.61,10.68,1,0.13,0.22,0.84,10.71,1,0.26,0.22,0.53,9.46,1,0.21,0.2,0.58,10.4,1,0.51,0.22,0.51,12.69,1,0.21,0.3,0.52,13.24,1,0.45,0.28,0.53,12.74,1,0.31,0.23,0.45,13.39,1,0.17,0.25,0.47,10.86,1,0.05,0.08,0.44,5.87,1,0.04,0.08,0.41,6.88,1,0.11,0.07,0.35,5.5,1,0.15,0.09,0.21,7.48,0.44,0.7,0.18,0.34,1.39,0.7,0.57,1.03,0.96,1.19,1.2,1.37,1.71,1.33,1.44,1.28,1.24,1.96,1.93,1.95,1.31,0.1,0.48,0.14,0.45,获得偏回归方程为:,25,4.54,4.34,15.4,222.28,4.54,1.1784,0.9241,2.6251,45.2182,4.34,0.9241,0.8712,2.7147,42.0509,15.4,2.6251,2.7147,10.5204,136.4009,222.28,45.2182,42.0509,136.4009,2113.119,1.304212,-0.206,3.31449,-0.836,-0.1448,-0.206,7.0104,-5.4578,1.3274,-0.1054,3.314487,-5.458,40.9903,-2.974,-0.8556,-0.83551,1.3274,-2.9743,1.3229,0.03328,-0.14481,-0.105,-0.8556,0.0333,0.03284,25.39,5.8478,5.2459,15.279,252.5,-0.0334,0.7965,5.79056,-0.4389,0.01907,0.55387,1.06979,0.44267,0.46159,1.09325,0.53796,0.59112,0.79614,0.66527,0.55514,1.1806,1.33746,1.7548,1.17954,1.39532,1.23566,1.66481,1.8952,1.95663,1.60309,1.55038,0.38843,0.41289,0.41076,0.65764,结论:回归方程很显著。,检验,8.5,回归分析应用于找矿远景区预测,(,1,)准备:划分单元,选择控制区,提取、选择变量,获取数据。,(,2,)利用控制单元数据建立回归方程。,(,3,)对回归模型(方程)进行显著性检验。若不显著则需要重新考虑所用的变量,或放弃回归分析。,(,4,)将所有单元的数据代入回归模型,算出各单元中因变量的回归估值。也可以对因变量进行区间估计。,(,5,)根据回归估值大小,圈定找矿远景区。,8.5.1,实施步骤,8,回归分析法,因变量是单元中的矿床值(如矿床规模、矿床数等)。为根据回归估值圈定找远景区,常需针对回归估值确定一个或多个,临界值,,以便利用回归估值对单元找矿远景做出结论。,为了确定这些临界值,可使用前面第,5,章讲过的确定找矿信息量下限的几种方法,也可以采用下面的方法。,8.5,回归分析应用于找矿远景区预测,8.5.2,根据回归估值圈定远景区的方法,8,回归分析法,1,)将所有控制单元的因变量观测值从小到大排列。,2,)以单元号为横坐标,因变量值为纵坐标,作观测值和回归估值曲线。,3,)如下图,先用红线初选,再考虑蓝线样品类别的,判对率,,修改、确定临界值。,8.5,回归分析应用于找矿远景区预测,8.5.2,根据回归估值圈定远景区的方法,选择临界值的方法,矿床值,无矿,矿,(,化,),点,小型矿,中型矿,实测值,回归估值,有,/,无矿临界值,工业矿临界值,大中型矿临界值,8,回归分析法,大型矿,样品类别,(,1,)多元线性回归分析要求数据为定量数据。,(,2,)因变量应为正态变量。否则应做合适的数据变换。,(,3,)因变量与各自变量间应有线性相关关系,而各自变量间越不相关越好。如不符合这些条件,则应先进行变量选择,或可使用“逐步回归分析”方法(见教材中的介绍)。,(,4,)回归分析有许多变种。本课程内只介绍了其中最基本的方法。,8.5,回归分析应用于找矿远景区预测,8.5.3,回归分析应用中需注意的问题,8,回归分析法,(,1,)为什么说统计相关性在现实中是普遍存在的?,(,2,)什么是多元线性回归分析?,(,3,)多元线性回归方程如何建立?,(,4,)什么是偏回归系数、标准回归系数,它们有何区别?,(,5,)什么是总离差平方和、偏差平方和、回归平方和?什么是复相关系数,它有何用处?,(,6,)为什么、如何检验回归模型的显著性?,(,7,)如何对回归估值进行区间估计?,(,8,)用回归分析方法圈定找矿远景区时,如何选择或确定合适的回归估值临界值?,思考题,附录:用,EXCEL,进行矩阵运算,1,求矩阵转置,用,TRANSPOSE(),函数:,1,)在空白单元格处选择一个区域,大小正好能放下转置后的矩阵;,2,)按,F2,;,3,)在光标处输入公式:,=,TRANSPOSE(array,),;,4,)按,Ctrl+Shift+Enter,。,2,求两矩阵乘积,用,MMULT(),函数:,1,)在空白单元格处选择一个区域,大小正好能放下乘积矩阵;,2,)按,F2,;,3,)在光标处输入公式:,=MMULT(array1,array2),;,4),按,Ctrl+Shift+Enter,3,求矩阵的逆矩阵,用,MINVERSE(),函数:,1,)在空白处选择一个区域,大小正好能放下求逆结果;,2,)按,F2,;,3,)在光标处输入公式:,=,MINVERSE(array,),;,4,)按,Ctrl+Shift+Enter,.,(以上三个函数中的,array,,,array1,array2,都是由,n,X,m,个单元格构成的区域,n,和,m,都不小于,1,,但不是任意数。,array1,的列数要与,array2,的行数相同;,MMULT,中的,array,应为方阵。),
展开阅读全文