1、一、简介一、简介在现实生活中,客观事物常受多种因素影响,我在现实生活中,客观事物常受多种因素影响,我们记录下相应数据并加以分析,们记录下相应数据并加以分析,目的目的目的目的是为了是为了找出找出对我对我们所关心的指标(因变量)们所关心的指标(因变量)Y有有影响影响的的因素因素(也称自变(也称自变量或回归变量)量或回归变量)x1、x2、xm,并,并建立建立用用x1、x2、xm预报预报Y的经验的经验公式公式:从而用以进行预测或控制,达到指导生产活动的目的。从而用以进行预测或控制,达到指导生产活动的目的。多元线性回归多元线性回归以年龄为自变量以年龄为自变量x,血压为因变量血压为因变量y,可,可作出如下
2、散点图:作出如下散点图:年龄394745476545674267563650392144血压144120138145162142170124158154136142120120116年龄645659344248451720195363292569血压162150140110128130135114116124158144130125175例例1、某医学研究所对、某医学研究所对30个不同年龄的人的血压(高个不同年龄的人的血压(高压)进行了测量,得到如下数据:压)进行了测量,得到如下数据:为了判断经验公式是否可用线性函数来拟合,可以为了判断经验公式是否可用线性函数来拟合,可以画出散点图观察。其方法
3、如下:画出散点图观察。其方法如下:双击双击改变显示格式改变显示格式改变坐标轴的显示改变坐标轴的显示为了求得经验公式,为了求得经验公式,可通过如下步骤进可通过如下步骤进行:行:从散点图可以从散点图可以看出年龄与血看出年龄与血压有线性关系:压有线性关系:当自变量和当自变量和因变量选好因变量选好后,点击后,点击 OK 键键1.Model为回归方程模型编号为回归方程模型编号(不同方法对应不同模型不同方法对应不同模型)2.R为回归方程的复相关系数为回归方程的复相关系数3.R Square即即R2系数,用以判断自变量对因变量的影响有多系数,用以判断自变量对因变量的影响有多大,但这并不意味着越大越好大,但这
4、并不意味着越大越好自变量增多时,自变量增多时,R2系数系数会增大,但模型的拟合度未必更好会增大,但模型的拟合度未必更好4.Adjusted R Square即修正即修正R2,为了尽可能确切地反映模,为了尽可能确切地反映模型的拟合度,用该参数修正型的拟合度,用该参数修正R2系数偏差,它未必随变量个系数偏差,它未必随变量个数的增加而增加数的增加而增加5.Std.Error of the Estimate是估计的标准误差是估计的标准误差结果说明结果说明常用统计量:常用统计量:1.Sum of Squares为回归平方和(为回归平方和(Regression)、残差平方和)、残差平方和(Residual
5、)、总平方和()、总平方和(Total)2.df 为自由度为自由度3.Mean Square4.F5.Sig 为大于为大于F的概率,其值为的概率,其值为0.000,拒绝回归系数为,拒绝回归系数为0的原假的原假设:设:b0=b1=0即认为回归方程显著性成立即认为回归方程显著性成立结果说明结果说明方差分析:方差分析:1.Model 为回归方程模型编号为回归方程模型编号2.Unstandardized Coefficients 为非标准化系数,为非标准化系数,B为系数值,为系数值,Std.Error为系数的标准差为系数的标准差3.Standardized Coefficients 为标准化系数为标准
6、化系数4.t 为为t检验,是偏回归系数为检验,是偏回归系数为0(和常数项为和常数项为0)的假设检验的假设检验5.Sig.为偏回归系数为为偏回归系数为0(和常数项为和常数项为0)的假设检验的显著性的假设检验的显著性水平值水平值6.B 为为Beta系数,系数,Std.Error 为相应的标准差为相应的标准差结果说明结果说明回归系数分析:回归系数分析:第一导丝盘速度第一导丝盘速度Y是合成纤维抽丝的重要因素,它是合成纤维抽丝的重要因素,它与电流的周波与电流的周波X有密切关系,由生产记录得:有密切关系,由生产记录得:周波周波X 49.250.049.349.049.049.549.849.950.250
7、.2速度速度Y 16.717.016.816.616.716.816.917.017.017.1 试求试求Y对对X的经验回归直线方程,并求误差方差的经验回归直线方程,并求误差方差2的的无偏估计值。无偏估计值。检验检验X与与Y之间是否存在显著的线性关系(取之间是否存在显著的线性关系(取=0.01)?)?例例.概率论与数理统计概率论与数理统计P267 例例9.2.1检检验验说说明明线线性性关关系系显显著著操作步骤:操作步骤:AnalyzeRegression Linear StatisticsModel fit Descriptives结果:结果:对于多元线性回归主要需研究如下几个问题:对于多元线
8、性回归主要需研究如下几个问题:1)建立因变量建立因变量Y与与x1、x2、xm的经验公式(回的经验公式(回归方程)归方程)2)对经验公式的可信度进行检验对经验公式的可信度进行检验3)判断每个自变量判断每个自变量xi(i=1,m)对对Y的影响是否显的影响是否显著?著?4)利用经验公式进行预报、控制及指导生产利用经验公式进行预报、控制及指导生产5)诊断经验公式是否适合这组数据诊断经验公式是否适合这组数据方差分析的主要思想是把方差分析的主要思想是把 yi 的总方差进行分解:的总方差进行分解:模型平方和模型平方和误差平方和误差平方和二、多元线性回归二、多元线性回归1.参数估计方法参数估计方法最小二乘法最
9、小二乘法2.回归方程显著性的检验回归方程显著性的检验就是检验以下假设是就是检验以下假设是否成立(采用方差分析法):否成立(采用方差分析法):如果自变量对如果自变量对Y的影响显著,则总方差主要应由的影响显著,则总方差主要应由xi引起,也就是原假设不成立,从而检验统计量为:引起,也就是原假设不成立,从而检验统计量为:方差来方差来源源自由度自由度平方和平方和均方均方Fp值值自变量自变量mMSSMMSMMSEMSp随机误随机误差差n-m-1ESSEMS和和n-1TSS多元线性回归的方差分析表:多元线性回归的方差分析表:在实际问题中,影响因变量在实际问题中,影响因变量Y的因素(自变量)可的因素(自变量)
10、可能很多。在回归方程中,如果漏掉了重要因素,则会能很多。在回归方程中,如果漏掉了重要因素,则会产生大的偏差;但如果回归式中包含的因素太多,则产生大的偏差;但如果回归式中包含的因素太多,则不仅使用不便,且可能影响预测精度。如何选择适当不仅使用不便,且可能影响预测精度。如何选择适当的变量,建立最优的回归方程呢?的变量,建立最优的回归方程呢?在最优的方程中,所有变量对因变量在最优的方程中,所有变量对因变量Y的影响都应的影响都应该是显著的,而所有对该是显著的,而所有对Y影响不显著的变量都不包含影响不显著的变量都不包含在方程中。选择方法主要有:在方程中。选择方法主要有:逐步筛选法逐步筛选法(STEPWI
11、SE)(最常用最常用)向前引入法向前引入法(FORWARD)向后剔除法向后剔除法(BACKWARD)等等逐步回归逐步回归变量选择问题变量选择问题开始开始对不在方程中的变对不在方程中的变量考虑能否引入?量考虑能否引入?引入变量引入变量能能对已在方程中的变对已在方程中的变量考虑能否剔除?量考虑能否剔除?能能剔除变量剔除变量否否筛选结束筛选结束否否逐步回归的基本思想和步骤:逐步回归的基本思想和步骤:2024/2/29 周四19某地区大春某地区大春粮食产量粮食产量 y 和大春粮食和大春粮食播种面积播种面积x1、化肥用量化肥用量x2、肥猪发展头肥猪发展头数数x3、水稻、水稻抽穗扬花期抽穗扬花期降雨量降雨
12、量x4的的数据如下表,数据如下表,寻求大春粮寻求大春粮食产量的预食产量的预报模型。报模型。例例2、大春粮食产量的预报模型、大春粮食产量的预报模型1)按按GraphsScatter Simple顺序展开对话框顺序展开对话框2)将将y选入选入Y Axis,然后将其余变量逐个选入,然后将其余变量逐个选入X Axis ,绘出散点图,观察是否适宜用线性方程来拟合。,绘出散点图,观察是否适宜用线性方程来拟合。1.初步分析(作图观察)初步分析(作图观察)1)按按StatisticsRegression Linear顺序展开对话框顺序展开对话框2)将将y作为因变量选入作为因变量选入Dependent框中,然后
13、将其余变框中,然后将其余变量选入作为自变量选入量选入作为自变量选入Independent(s)框中框中3.Method框中选择框中选择Stepwise(逐步回归逐步回归)作为分析方式作为分析方式4.单击单击Statistics按钮,按钮,进行需要的选择,进行需要的选择,单击单击Continue返回返回5.单击单击OK按钮执行按钮执行2.回归模型的建立回归模型的建立被引入与被剔除的变量被引入与被剔除的变量回归方程模型编号回归方程模型编号引入回归方程的自变量名称引入回归方程的自变量名称从回归方程被剔除的自变量名称从回归方程被剔除的自变量名称回归方程中引入或剔除自变量的依据回归方程中引入或剔除自变量
14、的依据3.结果分析结果分析由复相关系数由复相关系数R=0.982说明该预报说明该预报模型高度显著,可用于该地区大春模型高度显著,可用于该地区大春粮食产量的短期预报粮食产量的短期预报常用统计量常用统计量方差分析表方差分析表回归方程为:回归方程为:按常识理解,粮食产量和播种面积关系密切,但预报按常识理解,粮食产量和播种面积关系密切,但预报模型中,变量模型中,变量x1未引入,这是因为:未引入,这是因为:多年来该地区的大春粮食播种面积变化甚微,近多年来该地区的大春粮食播种面积变化甚微,近于常数,因而对产量的影响不大而失去其重要性。于常数,因而对产量的影响不大而失去其重要性。回归系数分析回归系数分析 在
15、汽油中加入两种化学添加剂,观察它们对汽车消在汽油中加入两种化学添加剂,观察它们对汽车消耗耗1公升汽油所行里程的影响,共进行公升汽油所行里程的影响,共进行9次试验,得到次试验,得到里程里程Y与两种添加剂用量与两种添加剂用量X1、X2之间数据如下:之间数据如下:xi1010120231xi2001102213yi15.8 16.0 15.9 16.2 16.5 16.3 16.8 17.4 17.2试求里程试求里程Y关于关于X1、X2的经验线性回归方程,并求的经验线性回归方程,并求误差方差误差方差2的无偏估计值。的无偏估计值。例例.概率论与数理统计概率论与数理统计P280 例例9.3.1检验说明线
16、性关系显著检验说明线性关系显著结果:结果:在实际问题中,常会遇到变量之间关系不是线性的在实际问题中,常会遇到变量之间关系不是线性的相关关系,而是某种曲线的非线性相关关系。此时首相关关系,而是某种曲线的非线性相关关系。此时首先要确定回归函数的类型,其原则是:先要确定回归函数的类型,其原则是:1.根据问题的专业知识或经验确定根据问题的专业知识或经验确定2.根据观测数据的散点图确定根据观测数据的散点图确定常选曲线类型:常选曲线类型:双曲线、幂函数曲线、对数曲线、指数曲线、双曲线、幂函数曲线、对数曲线、指数曲线、倒数指数曲线、倒数指数曲线、S形曲线形曲线三、非线性回归三、非线性回归鼠鼠标标在在选选项项
17、上上点点击击右右键键可可看看到到相相应应模模型型类类型型操作步骤:操作步骤:AnalyzeRegression Curve Estimation结合结合SPSS的曲线模型选择:的曲线模型选择:测量测量13个样品中某种金属含量个样品中某种金属含量Y与该样品采集点距与该样品采集点距中心观测点的距离中心观测点的距离X,有如下观测值:,有如下观测值:xi23457810yi106.42108.20109.58109.50110.00109.93110.49xi111415161819yi110.59106.62110.90110.76111.00111.20求求Y关于关于X的关系式。的关系式。例例.概
18、率论与数理统计概率论与数理统计P286 例例9.4.1首先绘出散点图:首先绘出散点图:Graphs Scatter Simple 步骤:步骤:根据散点图的形态可以认为变量根据散点图的形态可以认为变量X与与Y之间具之间具有对数曲线类型的回归方程:有对数曲线类型的回归方程:通过点击右键观看选择适当的通过点击右键观看选择适当的类型:类型:Logarithmic操作步骤:操作步骤:AnalyzeRegression Curve Estimation结果如右:结果如右:由图易知,结果由图易知,结果方程与书上结果方程与书上结果有差距有差距因此我们有理由怀疑,原来的数据可能有错误因此我们有理由怀疑,原来的数
19、据可能有错误(一般是打印错误),再结合原数据分析发现,(一般是打印错误),再结合原数据分析发现,Y=110.62是比较合适的,更改后再求解是比较合适的,更改后再求解由图易知,结果由图易知,结果方程与书上结果方程与书上结果很接近很接近 通过对图形仔细分析,可以发现通过对图形仔细分析,可以发现X=14时,时,Y=106.62导致图形剧烈变化!导致图形剧烈变化!例例.概率论与数理统计概率论与数理统计P286 例例9.4.2 电容器充电到电压电容器充电到电压100伏时,开始放电测得时刻伏时,开始放电测得时刻ti时的电压时的电压ui数据如下:数据如下:ti(秒秒)012345678910ui(伏伏)100 75 55 40 30 20 15 10853找出时刻找出时刻ti与电压与电压ui的关系式。的关系式。思考:仍有差异的原因?思考:仍有差异的原因?2024/2/29 周四37