统计学高等教育出版社第九章-多元相关与回归分析.ppt

第 9 章 多元线性回归9.1 多元线性回归模型多元线性回归模型 9.2 回归方程的拟合优度回归方程的拟合优度9.3 显著性检验显著性检验9.4 非线性回归非线性回归学习目标1.回归模型、回归方程、估计的回归方程回归模型、回归方程、估计的回归方程2.回归方程的拟合优度回归方程的拟合优度3.回归方程的显著性检验回归方程的显著性检验4.利用回归方程进行估计和预测利用回归方程进行估计和预测5.非线性回归非线性回归6.用用 SPSS Excel 进行回归分析进行回归分析9.1 9.1 多元线性回归模型多元线性回归模型9.1.1 9.1.1 多元回归模型与回归方程多元回归模型与回归方程9.1.2 9.1.2 估计的多元回归方程估计的多元回归方程9.1.3 9.1.3 参数的最小二乘估计参数的最小二乘估计多元回归模型与回归方程多元回归模型与回归方程多元回归模型(multiple regression model)1.一个因变量与两个及两个以上自变量的回归2.描述因变量 y 如何依赖于自变量 x1，x2，xp 和误差项 的方程，称为多元回归模型3.涉及 p 个自变量的多元回归模型可表示为 0 0 ，1 1，p p是参数是参数 是被称为误差项的随机变量是被称为误差项的随机变量 y y 是是x x1,1,，x x2 2 ，x xp p 的线性函数加上误差项的线性函数加上误差项 包包含含在在y y里里面面但但不不能能被被p p个个自自变变量量的的线线性性关关系系所解释的变异性所解释的变异性多元回归模型多元回归模型(基本假定基本假定)1.1.误误差差项项是是一一个个期期望望值值为为0 0的的随随机机变变量量，即即E E()=0)=02.2.对对于于自自变变量量x x1 1，x x2 2，x xp p的的所所有有值值，的方差的方差 2 2都相同都相同3.3.误误差差项项是是一一个个服服从从正正态态分分布布的的随随机机变变量，即量，即-N N(0,(0,2 2)，且相互独立且相互独立多元回归方程多元回归方程 (multiple regression equation)(multiple regression equation)1.描述因变量 y 的平均值或期望值如何依赖于自变量 x1，x2，xp的方程2.多元线性回归方程的形式为3.E(y)=0+1 x1+2 x2+p xp 1 1，p p称为偏回归系数称为偏回归系数 i i 表表示示假假定定其其他他变变量量不不变变，当当 x xi i 每每变变动一个单位时，动一个单位时，y y 的平均变动值的平均变动值估计的多元回归方程估计的多元回归的方程(estimated multiple regression equation)1.用样本统计量 估计回归方程中的 参数 时得到的方程2.由最小二乘法求得 是是 估计值估计值 是是 y y 的估计值的估计值参数的最小二乘估计参数的最小二乘法2.求求解解各回归参数的标准方程如下各回归参数的标准方程如下1.使使因因变变量量的的观观察察值值与与估估计计值值之之间间的的离离差差平平方方和和达到最小来求得达到最小来求得 。即即参数的最小二乘法(例题分析)【例例】一家大型商业银行在多个地区设有分行，为弄清楚不良贷款形成的原因，抽取了该银行所属的25家分行2002年的有关业务数据。试建立不良贷款y与贷款余额x1、累计应收贷款x2、贷款项目个数x3和固定资产投资额x4的线性回归方程，并解释各回归系数的含义 用用Excel进行回归进行回归9.2 9.2 回归方程的拟合优度回归方程的拟合优度9.2.1 9.2.1 多重判定系数多重判定系数9.2.2 9.2.2 估计标准误差估计标准误差多重判定系数多重判定系数多重判定系数(multiple coefficient of determination)1.回归平方和占总平方和的比例2.计算公式为3.因变量取值的变差中，能被估计的多元回归方程所解释的比例 修正多重判定系数(adjusted multiple coefficient of determination)1.用样本容量n和自变量的个数p去修正R2得到 2.计算公式为3.避免增加自变量而高估 R24.意义与 R2类似5.数值小于R2估计标准误差 Sy1.对误差项的标准差 的一个估计值2.衡量多元回归方程的拟合优度3.计算公式为9.3 显著性检验9.3.1 线性关系检验线性关系检验9.3.2 回归系数检验和推断回归系数检验和推断线性关系检验线性关系检验1.1.检检验验因因变变量量与与所所有有自自变变量量之之间间的的线线性性关关系系是是否显著，也被称为总体的显著性检验否显著，也被称为总体的显著性检验2.2.检检验验方方法法是是将将回回归归离离差差平平方方和和(SSRSSR)同同剩剩余余离离差差平平方方和和(SSESSE)加加以以比比较较，应应用用 F F 检检验验来来分分析二者之间的差别是否显著析二者之间的差别是否显著如如果果是是显显著著的的，因因变变量量与与自自变变量量之之间间存存在在线线性性关系关系如如果果不不显显著著，因因变变量量与与自自变变量量之之间间不不存存在在线线性性关系关系线性关系检验1.提出提出假设假设H0：12p=0 线性关系不显著H1：1，2，p至少有一个不等于02.2.计算检验统计量计算检验统计量F F3.3.确定确定确定确定显著性水平显著性水平显著性水平显著性水平 和分子自由度和分子自由度和分子自由度和分子自由度p p p p、分母自由度分母自由度分母自由度分母自由度4.4.n-pn-pn-pn-p-1-1-1-1找出临界值找出临界值找出临界值找出临界值F F F F 4.4.4.4.作出作出作出作出决策：若决策：若决策：若决策：若F F F F F F F F ，拒绝拒绝拒绝拒绝H H H H0 0 0 0回归系数检验和推断回归系数的检验(步骤)1.提出假设H0：i=0 (自变量 xi 与 因变量 y 没有线性关系)H1：i 0 (自变量 xi 与 因变量 y有线性关系)2.计算检验的统计量 t3.确定显著性水平，并进行决策 t t t t，拒绝拒绝H H0 0；t t t t，不能拒绝不能拒绝H H0 0回归系数的推断(置信区间)回归系数在回归系数在1-1-置信水平下的置信区间为置信水平下的置信区间为 回归系数的回归系数的回归系数的回归系数的抽样标准差抽样标准差抽样标准差抽样标准差9.4 非线性回归9.4.1 双曲线双曲线9.4.2 幂函数曲线幂函数曲线9.4.3 对数曲线对数曲线非线性回归非线性回归1.1.因变量因变量 y y 与与 x x 之间不是线性关系之间不是线性关系2.2.可通过变量代换转换成线性关系可通过变量代换转换成线性关系3.3.用最小二乘法求出参数的估计值用最小二乘法求出参数的估计值4.4.并并非非所所有有的的非非线线性性模模型型都都可可以以化化为为线线性性模型模型双曲线 0 0 01.基本形式：2.线性化方法令：y=1/y，x=1/x,则有y=+x3.图像幂函数曲线1.基本形式：2.线性化方法两端取对数得：lg y=lg+lg x令：y=lgy，x=lg x，则y=lg+x3.图像00 1 1 1 1 =1=1-1-1 0 0 -1-1 =-1=-1 对数曲线1.基本形式：2.线性化方法x=lnx,则有y=+x3.图像 0 0 0 0 指数曲线1.基本形式：2.线性化方法两端取对数得：lny=ln+x令：y=lny，则有y=ln+x3.图像 S 型曲线1.基本形式：2.线性化方法令：y=1/y，x=e-x,则有y=+x3.图像非线性回归(例题分析)【例例】一种商品的需求量与其价格有一定的关系。现对一定时期内的商品价格x与需求量y进行观察，取得的样本数据如表11.16。试判断商品价格与需求量之间回归函数的类型，并求需求量对价格的回归方程废品率与生产率的关系废品率与生产率的关系价格价格(元元)x12345678910需求量需求量(千克千克)y58504438343029262524非线性回归(例题分析)价格与需求量的散点图价格与需求量的散点图非线性回归(例题分析)1.用双曲线模型：2.按线性回归的方法求解和，得SPSS中可以进行的曲线回归包括：曲线回归的计算机实现：Spss Spss：analyzeanalyzeregressioncurve estimation；Eviews Eviews：quickquickestimate equation。例题：我国我国1978200219782002年人均年人均GDPGDP数据（数据（19781978年年不变价），试建立人均不变价），试建立人均GDPGDP与时间之间的回归方与时间之间的回归方程程。1 1、画出散点图、画出散点图2 2、计算相关系数、计算相关系数3 3、进行回归、进行回归3 3、进行回归、进行回归4 4、精细比较、精细比较（1 1）二次曲线：决定系数）二次曲线：决定系数（2 2）三次曲线：决定系数）三次曲线：决定系数4 4、精细比较、精细比较（1 1）二次曲线：）二次曲线：F F检验检验（2 2）三次曲线：）三次曲线：F F检验检验4 4、精细比较、精细比较（1 1）二次曲线：回归系数）二次曲线：回归系数（2 2）三次曲线：回归系数）三次曲线：回归系数例题：例题：根据徐州市地区实际总产值与总人口数，试根据徐州市地区实际总产值与总人口数，试建立总人口数对时间的回归方程、地区实际总产值建立总人口数对时间的回归方程、地区实际总产值对总人口数的回归方程，预测对总人口数的回归方程，预测20062006年、年、20072007年徐州年徐州市的总人口数以及地区实际总产值。市的总人口数以及地区实际总产值。（数据文件为“徐州市地区产值与人口数量时间序列.xls”）1 1、进行回归、进行回归（1 1）总人口数对时间的回归方程）总人口数对时间的回归方程进行回归进行回归（2 2）地区实际总产值对时间的回归方程）地区实际总产值对时间的回归方程进行回归进行回归（3 3）地区实际总产值对地区总人口的回归方程）地区实际总产值对地区总人口的回归方程2 2、进行预测、进行预测本章小结本章小结1.1.变量间关系的度量变量间关系的度量2.2.回归模型、回归方程与估计的回归方程回归模型、回归方程与估计的回归方程3.3.回归直线的拟合优度回归直线的拟合优度4.4.回归分析中的显著性检验回归分析中的显著性检验5.5.用用Excel SPSS Excel SPSS 进行回归分析进行回归分析结结 束束此课件下载可自行编辑修改，供参考！感谢您的支持，我们努力做得更好！