资源描述
第八章第八章 相关与回相关与回归归分析分析 Correlation Correlation Regression Analysis Regression Analysis章前章前导语导语:1、有其父,必有其子。-古人和现代人都这么说 2、“真的,”公爵夫人说:“火烈鸟和芥末都很刺鼻。那意思是说物以类聚。”“但芥末并不是鸟。”Alice说。“是的,象往常那样,”公爵夫人说,“你具有多么清晰的表达方式!”-Alice漫游奇境记5/27/20241.第八章第八章 相关与回相关与回归归分析分析Statistics in PracticeStatistics in Practice消消费费者者应该应该留下多少小留下多少小费费?在西方国家餐在西方国家餐饮饮等服等服务务行行业业有一条不成文的有一条不成文的规规定,即定,即发发生餐生餐饮饮等服等服务项务项目消目消费时费时,必,必须给须给服服务员务员一定数一定数额额的小的小费费,许许多人都多人都听听说说小小费应该费应该是是账单账单的的16%左右,是否真的如此呢?左右,是否真的如此呢?让让我我们们来来考察表考察表8-1,表中的数据是,表中的数据是经过调查经过调查所得的所得的样样本数据,通本数据,通过对这过对这几几组组数据的分析与数据的分析与观观察,我察,我们们能能发现发现两者之两者之间间的数量关系。的数量关系。5/27/20242.Statistics in Practice问题问题问题问题:1、是否有足、是否有足够够的的证证据断定:在据断定:在账单账单与小与小费费数数额额之之间间存在某种存在某种联联系?系?2、如果存在某种、如果存在某种联联系,怎系,怎样样使用使用这这种种联联系来确定系来确定应该应该留下多留下多少小少小费费?本章的重点就是本章的重点就是本章的重点就是本章的重点就是基于成基于成对对出出现现的的样样本数据做出一些推本数据做出一些推论论。如上。如上例,我例,我们们想要确定想要确定账单账单与小与小费费数数额额之之间间是否存在某种是否存在某种联联系,如系,如果存在,我果存在,我们们就想用一个公式来描述它,就想用一个公式来描述它,这样这样就能找出人就能找出人们们留留小小费时费时遵循的遵循的规则规则。类类似似这样这样的的问题还问题还有很多,如:有很多,如:(1)犯罪率与)犯罪率与偷偷窃率;窃率;(2)香烟消)香烟消费费与患癌症与患癌症率率;(3)个人收入水平与受教育年限;()个人收入水平与受教育年限;(4)血)血压压与年与年龄龄;(5)父母身高与子女身高;)父母身高与子女身高;(6)薪金与酒价等等。)薪金与酒价等等。5/27/20243.主要内容主要内容8.1 相关关系概述相关关系概述 一、一、一、一、变变变变量量量量间间间间的相互关系的相互关系的相互关系的相互关系 二、二、二、二、相关关系的种相关关系的种相关关系的种相关关系的种类类类类 三、三、三、三、相关分析的内容及其假定相关分析的内容及其假定相关分析的内容及其假定相关分析的内容及其假定8.2 线线性相关关系的性相关关系的测测定定 一、一、一、一、相关相关相关相关图图图图表表表表 二、二、二、二、相关系数相关系数相关系数相关系数8.3 回回归归分析分析 一、一、一、一、回回回回归归归归分析概述分析概述分析概述分析概述 二、二、二、二、一元一元一元一元线线线线性回性回性回性回归归归归方程的方程的方程的方程的拟拟拟拟合合合合 三、三、三、三、回回回回归归归归分析的方差分析分析的方差分析分析的方差分析分析的方差分析 四、四、四、四、一元一元一元一元线线线线性回性回性回性回归归归归模型的模型的模型的模型的检验检验检验检验 五、五、五、五、对对对对回回回回归归归归分析分析分析分析结结结结果的果的果的果的评评评评价价价价 六、六、六、六、多元多元多元多元线线线线性回性回性回性回归归归归分析分析分析分析5/27/20244.8.1 相关关系概述相关关系概述一、一、变变量量间间的相互关系的相互关系(一)函数关系函数关系 定义:完全完全完全完全确定的(数量)关系。(1)某一(组)变量与另一变量间存在着一一对应的关系;例计件工资(y)与产量(x)y=f(x)=10 x;x0=1件,件,y0=10元;元;x1=2件件,y1=20元元 圆的面积SR2,R=10,S=100(2)表述:y=f(x)。(二)相关关系相关关系、定、定义义:不完全不完全不完全不完全确定的关系。(1)某一(组)变量与另一变量间有关系,但并非一一对应;5/27/20245.一、一、变变量量间间的相互关系的相互关系例身高y与体重x;A:x=60kg、y=170m;B:x=60kg、y=1.72m;C:x=60kg、y=1.68m;D:x=60kg、y=1.65m。(2)表述:y=f(x)+。影响身高的因素:体重、遗传、锻炼、睡眠质量2、成因、成因(1)某些影响因素尚未被认识;(2)虽已认识但无法测量;(3)测量误差。例某种水果P元/斤:购买额 y=Px 购买量 x=2斤斤 y=2P+=21.9+0.23、数量关系的形式、数量关系的形式(1)单一因果关系;(2)互为因果关系;(3)伴随关系。5/27/20246.二、相关关系的种二、相关关系的种类类(一)按相关的程度分1、完全相关:函数关系;2、不相关:没有关系;3、不完全相关。(二)按相关的方向分1、正相关:变量的变动方向一致(同增同减同增同减);2、负相关:变量的变动方向相反(一增一减一增一减)。(三)按相关的形式分1、线性相关;2、非线性相关。5/27/20247.二、相关关系的种二、相关关系的种类类相关程度密切相关程度密切相关程度不密切相关程度不密切5/27/20248.二、相关关系的种二、相关关系的种类类(四)按影响因素的多少分(四)按影响因素的多少分1、单单(简单简单)相关)相关:只有一个自变量;例学习成绩与学习时间;血压与年龄;亩产量与施肥量。2、复(多元)相关复(多元)相关:两个或两个以上的自变量;例经济增长与人口增长、科技水平、自然资源、管理水平等之间的关系;体重与身高、食欲、睡眠时间之间的关系。3、偏相关偏相关:就多个变量测定其中两个变量的相关程度而假定其他变量不变。例就y=ax1+bx2+,研究y与x1之间的关系,假定x2不变。5/27/20249.1.相关分析要解决的相关分析要解决的问题问题变量之间是否存在关系?如果存在关系,它们之间是什么样的关系?变量之间的关系强度如何?样本所反映的变量之间的关系能否代表总体变量之间的关系?2.为为解解决决这这些些问问题题,在在进进行行相相关关分分析析时时,对对总总体体有有以下两个主要假定以下两个主要假定两个变量之间是线性关系两个变量都是随机变量三、相关分析的内容及其假定三、相关分析的内容及其假定5/27/202410.8.2 线线性相关关系的性相关关系的测测定定目的测定变量间的相关方向相关方向与密切程度密切程度。一、相关一、相关图图表表(一)相关表(一)相关表1、单变单变量分量分组组相关表相关表:自变量分组且计算次数,因变量只计算平均数。5/27/202411.一、相关一、相关图图表表2、双双变变量分量分组组相关表相关表:对自变量与因变量均进行分组。注:自变量X轴;因变量Y轴。5/27/202412.正正 相相 关关负负 相相 关关曲曲线线相关相关不不 相相 关关xyxyxyxy又称又称散点散点散点散点图图图图,用直角坐,用直角坐标标系的系的x轴轴代表自代表自变变量,量,y轴轴代代表因表因变变量,将两个量,将两个变变量量间间相相对应对应的的变变量量值值用坐用坐标标点的点的形式描形式描绘绘出来,用以表明相关点分布状况的出来,用以表明相关点分布状况的图图形。形。一、相关一、相关图图表表不足不足难以精确反映相关的密切程度。(二)相关(二)相关图图5/27/202413.二、相关系数二、相关系数二、二、二、二、(线线线线性性性性)相关系数相关系数相关系数相关系数(一)积积差法差法计计算公式算公式在在线线线线性相关性相关性相关性相关的条件下的条件下,用来反映用来反映变变量之量之间间相关相关相关相关方向及程度的方向及程度的统计统计指指标标,用用r()表示。表示。5/27/202414.二、相关系数二、相关系数注解注解1 协协方差方差Cov(x,y)的作用的作用1、显显示示x与与y之之间间的相关方向。的相关方向。正相关正相关5/27/202415.二、相关系数二、相关系数负负相关相关5/27/202416.二、相关系数二、相关系数2、显显示示x与与y之之间间的相关程度。的相关程度。正相关正相关5/27/202417.二、相关系数二、相关系数负负相关相关5/27/202418.二、相关系数二、相关系数无无线线性相关性相关5/27/202419.二、相关系数二、相关系数归纳归纳 Cov(x,y)的作用的作用第一、第一、显显示示x与与y之之间间的相关方向的相关方向第二、第二、显显示示x与与y之之间间的相关密切程度的相关密切程度5/27/202420.二、相关系数二、相关系数注解注解2 sx、sy的作用的作用1、使不同、使不同变变量的量的协协方差方差标标准化准化直接直接对对比比。5/27/202421.二、相关系数二、相关系数2、使、使5/27/202422.二、相关系数二、相关系数(二)积积差法相关系数的差法相关系数的简简捷捷计计算公式算公式5/27/202423.二、相关系数二、相关系数r的简捷计算公式5/27/202424.二、相关系数二、相关系数r的简捷计算公式5/27/202425.二、相关系数二、相关系数(三)线线性相关的性相关的经验经验判断准判断准则则例为了解餐饮业消费数额与小费之间的数额关系,特从若干名消费者中随机抽取10名消费者进行调查,所得数据如下:5/27/202426.二、相关系数二、相关系数例计算过程。5/27/202427.二、相关系数二、相关系数解答:账单消费额与小费之间存在着高度的正相关关系。5/27/202428.二、相关系数二、相关系数 问:若令账单消费额为y,小费为x,则r的取值是否改变?5/27/202429.二、相关系数二、相关系数(四)样样本相关系数的特点本相关系数的特点1、两变量均为随机变量;2、两变量的地位是平等的 rxy=ryx;3、取值范围-1,1,其接近于1的程度与样本容量n有关。n小,r 1。特例:当n=2时,r=1。例样本(x,y)为(6,12.6),(1,3.0),n=2。5/27/202430.二、相关系数二、相关系数(五)关于相关的普遍关于相关的普遍错误错误在解释关于相关的结果中会出现以下三种普遍的错误:1、相关就一定意味着因果关系。如:一项研究表明,统计学教授的薪金与每人的啤酒消费量之间有很强的正相关关系,但这两个变量都受经济形势(隐藏变量)的影响。2、相关系数为0,一定不相关。3、基于平均数进行相关分析与基于个体数据进行相关分析,其相关程度不一样。如:一项研究中,关于个人收入和教育的成对数据产生了一个0.4的线性相关系数,但当使用区域平均时,线性相关系数变为0.7。5/27/202431.二、相关系数二、相关系数(六)线线性相关的假性相关的假设检验设检验(两种方法)1、提出原假设与备择假设2、给定显著性水平3、选择检验方法,构建检验统计量4、将检验统计量与临界值比较,如检验统计量的绝对值大于临界值,则拒绝原假设,否则,就不拒绝原假设。t检验检验法法r检验检验法法:用已经算好的r作为检验统计量,其临界值可以通过查表得到。5/27/202432.二、相关系数二、相关系数(六)线性相关的假设检验(两种方法两种方法)如袭前例:账单与小费之间的r=0.92,若用t检验检验法法:r检验检验法法:N=10,r=0.92,r=0.632,r r 拒绝原假设,则认为两者存在显著的线性相关。5/27/202433.二、相关系数二、相关系数一些人相信他们手掌生命线的长度可以用来预测他们的寿命。M.E.Wilson和L.E.Mather在美国医学协会学报上发表的一封信中,通过对尸体的研究对此给予了驳斥。死亡时的年龄与手掌生命线的长度被一起记录下来。作者得出死亡时的年龄与生命线的长度不存在显著相关的结论。手相术失传了,手也就放得下了。5/27/202434.8.3 回回归归分析分析一、回一、回归归分析概述分析概述(一)概念(一)概念1、回顾线线性相关分析性相关分析:计算线性相关系数 r 确定两变量之间的相关方向与密切程度。不足无法表明两变量之间的因果关系 无法从一个或几无法从一个或几个个变变量(量(xi)的)的变变化来推化来推测测另一个另一个变变量(量(y)的)的变变化情况化情况。10名用餐顾客消费金额与所付小费数据如下:r=0.925/27/202435.一、回一、回归归分析概述分析概述2、回回归归分析分析:通过一个(些)变量的变化解释另一变量的变化 y=a+bx、y=a+b1x1+bx2、y=0+1x1+2x2+nxn 回回归归 英国生物学家 F Galton 首次提出。父辈身高 子辈身高 x y y=f(x)+人类的平均身高。目目的的 在于通过X的已知或设定值,去估计或预测Y的(总体)均值。变量Y是被预测或被解释的变量,称为因变量(Dependent Variable)或 被 解 释 变 量(Explained Variable)变量X是用来预测或解释因变量的变量,称为自变量(Independent Variable)或 解 释 变 量(Explanatory Variable)5/27/202436.一、回一、回归归分析概述分析概述(二)回(二)回归归分析的种分析的种类类1、按自、按自变变量的多少分量的多少分(1)简单(一元)回归:自变量只有一个。例 y=a+bx 一元回归方程(2)复(多元)回归:自变量为两个或两个以上。例 y=0+1x1+2x2+nxn2、按回、按回归归方程式的特征分方程式的特征分(1)线线性回性回归归:因变量为自变量的线性函数。例 y=a+bx 一元一元线线性回性回归归方程方程(2)非非线线性回性回归归:因变量为自变量的非线性函数。例 5/27/202437.1.定义:描述因变量 y 如何依赖于自变量 x 和误差项 的方程称为回回归归模型。模型。2.一元线性回归模型可表示为 y=0 0+1 1 x +e ey 是 x 的线性函数(0 0+1 1 x部分)加上误差项线性部分反映了由于 x 的变化而引起的 y 的变化误差项 是随机变量反映除了x 和 y 之间的线性关系以外的随机因素对 y 的影响是不能由 x 和 y 之间的线性关系所解释的变异性0 和 1 称为模型的参数一、回一、回归归分析概述分析概述(三)(三)一元一元线线性回性回归归模型模型 .回回归归模型模型(regression model)5/27/202438.3.一元线性回归模型的基本假定(1)误差项是一个期望值为0的随机变量,即E()=0。对于一个给定的 x 值,y 的期望值为 E(y)=0+1 x(2)对于所有的 x 值,的方差2 都相同,即Var(i)=E(i2)=2(3)误差项之间不存在自相关关系,其协方差为0,即Cov(i,j)=E(ij)=0(i j)(4)误差项是一个服从正态分布的随机变量,即N(0,2)(5)自变量是给定的变量,与随机误差项线性无关。以上这些基本假设是德国数学家高斯最早提出的,故也称为高斯假定或经典假定。一、回一、回归归分析概述分析概述5/27/202439.回回归归方程方程(regression equation)1.定义:描述 因变量y 的期望值如何依赖于自变量 x 的方程,称为回回归归方程方程2.一元线性回归方程的形式如下3.E(y)=0+1 x方程的方程的图图示是一条直示是一条直线线,也称,也称为为直直线线回回归归方程方程 0 0是是是是回回回回归归归归直直直直线线线线在在在在 y y 轴轴轴轴上上上上的的的的截截截截距距距距,是是是是当当当当 x x=0=0 时时时时,y y 的的的的期望期望期望期望值值值值 1 1是是是是直直直直线线线线的的的的斜斜斜斜率率率率,表表表表示示示示 x x 每每每每变变变变动动动动一一一一个个个个单单单单位位位位时时时时,y y 的的的的平均平均平均平均变动值变动值变动值变动值一、回一、回归归分析概述分析概述5/27/202440.估估计计的回的回归归方程方程(estimated regression equation)3.一元一元线线性回性回归归中估中估计计的回的回归归方程方程为为2.用用样样本本统统计计量量 和和 代代替替回回归归方方程程中中的的未未知知参参数数 和和 ,就得到了,就得到了估估估估计计计计的回的回的回的回归归归归方程方程方程方程1.总总体体回回归归参参数数 和和 是是未未知知的的,必必须须利利用用样样本本数数据去估据去估计计其其其其中中中中:是是是是估估估估计计计计的的的的回回回回归归归归直直直直线线线线在在在在 y y 轴轴轴轴上上上上的的的的截截截截距距距距;是是是是直直直直线线线线的斜率,表示的斜率,表示的斜率,表示的斜率,表示 x x 每每每每变动变动变动变动一个一个一个一个单单单单位位位位时时时时,y y 的平均的平均的平均的平均变动值变动值变动值变动值 一、回一、回归归分析概述分析概述5/27/202441.一、回一、回归归分析概述分析概述(四)回(四)回归归分析的步分析的步骤骤1、确定自确定自变变量和因量和因变变量量;例粮食产量(y)施肥量(x);消费支出(y)国民收入(x);火灾损失额(y)火灾发生地与最近一个消防站之间的距离(x)。2、确定确定样样本回本回归归方程方程;3、参数估参数估计计与模型与模型检验检验;4、预测预测或控制或控制。例 消费与收入的回归方程:y=a+bx=200+0.15x 已知x,确定y:估计或预测 已知y,确定x:控制5/27/202442.q相关分析中相关分析中x与与y对对等,回等,回归归分析中分析中x与与y要要确定自确定自变变量和因量和因变变量;量;q相关分析中相关分析中x、y均均为为随机随机变变量,回量,回归归分析分析中只有中只有y为为随机随机变变量;量;q相关分析相关分析测测定相关程度和方向,回定相关程度和方向,回归归分析分析用回用回归归模型模型进进行行预测预测和控制。和控制。区区别别:一、回一、回归归分析概述分析概述(五)回(五)回归归分析与相关分析比分析与相关分析比较较5/27/202443.q理理论论和方法具有一致性;和方法具有一致性;q相关分析是回相关分析是回归归分析的基分析的基础础和前提,无相和前提,无相关就无回关就无回归归,相关程度越高,回,相关程度越高,回归归越好;越好;q回回归归分析是相关分析的分析是相关分析的继续继续和深化;和深化;q相关系数和回相关系数和回归归系数方向一致,可以互相系数方向一致,可以互相推算。推算。联联系:系:一、回一、回归归分析概述分析概述(五)回(五)回归归分析与相关分析比分析与相关分析比较较5/27/202444.二、一元二、一元线线性回性回归归方程的方程的拟拟合合(一)总总体回体回归归方程方程5/27/202445.二、一元二、一元线线性回性回归归方程的方程的拟拟合合 Yi/Xi=条件均值+i=0+1Xi+i5/27/202446.二、一元二、一元线线性回性回归归方程的方程的拟拟合合(二)样样本回本回归归方程方程 从总体中随机取样,获取一组样样本本观观察察值值。5/27/202447.二、一元二、一元线线性回性回归归方程的方程的拟拟合合图示5/27/202448.二、一元二、一元线线性回性回归归方程的方程的拟拟合合(三)样样本回本回归归方程的方程的拟拟合方法合方法1、绝对值拟绝对值拟合法合法2、最小二乘法最小二乘法最小二乘法最小二乘法(OLS法)基本思路:使残差平方和最小的直线“最优直线”。5/27/202449.二、一元二、一元线线性回性回归归方程的方程的拟拟合合 总可以设法找到一对 的取值,使Q为最小值。5/27/202450.二、一元二、一元线线性回性回归归方程的方程的拟拟合合将上式代入(2)式,得5/27/202451.二、一元二、一元线线性回性回归归方程的方程的拟拟合合计算公式5/27/202452.二、一元二、一元线线性回性回归归方程的方程的拟拟合合相关系数相关系数r与回与回归归系数系数 之之间间的关系的关系(1)两者是同向的两者是同向的;(2)r反映反映变量的相关方向与密切程度量的相关方向与密切程度;反映自反映自变变量每量每变动变动一个一个单单位位时时因因变变量的平均量的平均变动变动量量。5/27/202453.1.线线性特征性特征 是是 的的线线性函数性函数 2.无偏特性无偏特性 3.最小方差特性最小方差特性 在所有的在所有的线线性无偏估性无偏估计计中,中,OLS估估计计 具有最小方差具有最小方差 结论结论:在在经经典假定条件下,典假定条件下,OLSOLS估估计计量是最佳量是最佳线线性无性无 偏估偏估计计量(量(best linear unbiased estimatorbest linear unbiased estimator,BLUE,BLUE)。)。(四)OLSOLS估估计计量的性量的性质质(高斯高斯马马尔尔柯夫定理柯夫定理)二、一元二、一元线线性回性回归归方程的方程的拟拟合合5/27/202454.二、一元二、一元线线性回性回归归方程的方程的拟拟合合例为研究用餐消费与小费支出的关系,随机抽取了10位用餐顾客,得样本数据如下:请拟请拟合小合小费费依消依消费费的直的直线线回回归归方程方程样本的相关系数r=0.925/27/202455.二、一元二、一元线线性回性回归归方程的方程的拟拟合合例为研究用餐消费与小费支出的关系,随机抽取了10位用餐顾客,得样本数据如下(用Excel软件生成的折线图)请请拟拟合合样样本本回回归归方方程程5/27/202456.二、一元二、一元线线性回性回归归方程的方程的拟拟合合解:通过散点图可近似看出小费与用餐消费之间呈线性关系,故设两者之间关系为经济经济意意义义:餐:餐费费每增加每增加100100元,小元,小费费支出平均增加支出平均增加16.5516.55元。元。5/27/202457.三、回三、回归归方程的方差分析方程的方差分析(一)总总离差平方和的分解离差平方和的分解5/27/202458.三、回三、回归归方程的方差分析方程的方差分析由:5/27/202459.三、回三、回归归方程的方差分析方程的方差分析离差分析5/27/202460.残差平方和残差平方和回回归归离差离差平方和平方和总总离差平方和离差平方和5/27/202461.三、回三、回归归方程的方差分析方程的方差分析(二)判定系数判定系数SSRSSR占占SSTSST的的比例,比例,用用 表表示;用示;用来衡量来衡量回回归归方方程程对对y的解的解释释程度。程度。5/27/202462.三、回三、回归归方程的方差分析方程的方差分析 判定系数的作用判定系数的作用 总离差平方和SST回归平方和SSR残差平方和SSE来自样本回归线来自残差回归线上的点与样本均值离差的平方和判定系数判定系数(coefficient of determination)的取值范围:0,1,越接近1,说明实际观测点离样本线越近,拟合优度越高。在给定样本中,SST不变,如果实际观测点离样本回归线越近,则SSR在SST中占的比重越大,因此回归直线的拟拟合合优优度度可用下面的判定系数(可决系数)判定系数(可决系数)测度:实际观测点与回归线上的点的离差的平方和5/27/202463.三、回三、回归归方程的方差分析方程的方差分析(三)判定系数判定系数R2与相关系数与相关系数r的关系的关系5/27/202464.判定系数与相关系数的区判定系数与相关系数的区别别q判定系数无方向性,相关系数判定系数无方向性,相关系数则则有方向,有方向,其方向与其方向与样样本回本回归归系数系数1相同;相同;q判定系数判定系数说说明明变变量量值值的的总总离差平方和中离差平方和中可以用回可以用回归线归线来解来解释释的比例,相关系数的比例,相关系数只只说说明两明两变变量量间间关关联联程度及方向;程度及方向;q相关系数有夸大相关系数有夸大变变量量间间相关程度的相关程度的倾倾向,向,因而判定系数是更好的度量因而判定系数是更好的度量值值。三、回三、回归归方程的方差分析方程的方差分析5/27/202465.三、回三、回归归方程的方差分析方程的方差分析(四)估估计标计标准准误误差差1、定义:观察值与回归值之间的平均误差。2、公式5/27/202466.三、回三、回归归方程的方差分析方程的方差分析图示5/27/202467.线性回归模型的检验检验分二大分二大类类:统计检验计量经济检验从统计学的角度检验所估计的样本回归函数的有效性从基本假设是否成立这一角度检验最小二乘估计法的适用性及其改进拟合优度检验显著性检验四、一元四、一元线线性回性回归归模型的模型的检验检验 本本课课程只学程只学习习统计检验统计检验:1、拟拟合合优优度度检验检验 拟拟合合优优度度检验检验主要用来主要用来检验检验样样本回本回归归函数与函数与实际观测实际观测点的点的“接近接近”程度程度,可用,可用判定系数判定系数(或或相关系数相关系数、估估计标计标准准误误差差)测测度。度。5/27/202468.(1)线线性关系的性关系的检验检验1.检验自变量与因变量之间的线性关系是否显著,即各各解解释变释变量前的参数是否不全量前的参数是否不全为为零零。2.如如果果总总体体上上线线性性关关系系成成立立,则Y的总离差平方和中,可由该线性回归函数解释的部分(系系统统性性因因素素)所占比重较大,残差平方和(随随机机性性因因素素)所占比重较小,从而使得回归平方和与残差平方和的比值较大。3.将回归均方(MSR)同残差均方(MSE)加以比较,应用F检验来分析二者之间的差别是否显著其中,k表示模型中回表示模型中回归归参数的个数参数的个数,n为样为样本容量本容量。2、显显著性著性检验检验5/27/202469.线线性关系性关系检验检验的的步步骤骤 1.提出假提出假设设H0:1=0 线性关系不显著2.计计算算检验统计检验统计量量F3.确定确定显显著性水平著性水平,并根据分子自由度,并根据分子自由度1和分和分母自由度母自由度n-2找出找出临临界界值值F 4.作作出决策:若出决策:若FF (P),),拒拒绝绝H0;若若F),),不拒不拒绝绝H05/27/202470.(2)回)回归归系数的系数的检验检验4.采用采用t检验检验5.在一元在一元线线性回性回归归中,等价于中,等价于线线性关系的性关系的显显著性著性检验检验3.3.理理论论基基础础是回是回归归系数系数 的抽的抽样样分布分布1.对对各回各回归归系数的系数的显显著性著性检验检验主要是通过样本考察总体回归系数的“可能取可能取值值”。2.回归分析中,主要是针对总总体参数是否体参数是否为为某一某一值值(一(一般般设为设为零零)来检验自变量 x 对因变量 y 的影响是否显著的(为为什么?)什么?)5/27/202471.样样本本统计统计量量 的抽的抽样样分布分布1.1.1.是是是根根根据据据最最最小小小二二二乘乘乘法法法求求求出出出的的的样样样本本本统统统计计计量量量,它它它有有有自自自己己己的的的分布分布分布2.2.2.的的的分布具有如下性分布具有如下性分布具有如下性质质质分布形式:正分布形式:正分布形式:正态态态分布分布分布数学期望:数学期望:数学期望:标标标准差:准差:准差:由于由于由于 未知,需用其估未知,需用其估未知,需用其估计计计量量量s s se ee来代替,得到来代替,得到来代替,得到 的估的估的估计标计标计标准差准差准差5/27/202472.回回归归系数系数检验检验的的步步骤骤1.提出假设nH0:1=0(没有线性关系)nH1:1 0(有线性关系)2.计算检验的统计量3.确定确定显显著性水平著性水平,并,并进进行决策行决策若若 t t t t ,则则拒拒绝绝H H0 0;若若 t t t t ,就不拒就不拒绝绝H H0 0用用Excel进进行相关和回行相关和回归归分析分析5/27/202473.五、五、对对回回归归分析分析结结果的果的评评价价建建立立的的模模型型是是否否合合适适?或者说,这个拟合的模型有多“好”?要回答这些问题,可以从以下几个方面入手:1.所估计的回归系数 的符号是否与理论或事先预期相一致2.如果理论上认为x与y之间的关系不仅是正的,而且是统计上显著的,那么所建立的回归方程也应该如此3.回归模型在多大程度上解释了因变量y取值的差异?可以用判定系数R2来回答这一问题4.考察关于误差项的正态性假定是否成立。因为我们在对线性关系进行F检验和回归系数进行t检验时,都要求误差项服从正态分布,否则,我们所用的检验程序将是无效的。正态性的简单方法是画出残差的直方图或正态概率图5/27/202474.六、多元六、多元线线性回性回归归分析分析1、多元、多元线线性回性回归归模型模型多元线性回归模型:是指在线性相关的条件下,研究2个或2个以上自变量与因变量之间的数量关系。其模型为:y=0+1X1 2X2+nXn+ei2、多元、多元线线性回性回归归模型参数的估模型参数的估计计:最小平方法最小平方法。求解回归系数的估计值,通常用统计软件。其方程用矩阵表示为:5/27/202475.本章小本章小节节w一、一、变变量量间间关系的种关系的种类类;w二、相关系数的二、相关系数的计计算、算、评评价及价及检验检验w三、回三、回归归模型、回模型、回归归方程、估方程、估计计回回归归方程的概念,回方程的概念,回归归方程参数的最方程参数的最小二乘估小二乘估计计;w四、判定系数、估四、判定系数、估计标计标准准误误差的差的计计算,及算,及线线性关系性关系检验检验及回及回归归系数的系数的检验检验5/27/202476.
展开阅读全文