回归分析的基本思想.ppt

单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,回归分析的基本思想及其初步应用,3.1,回归分析的基本思想及其初步应用（一）,高二数学 选修,2-3,1/11/2026,郑平正 制作,两个变量的关系,不相关,相关关系,函数关系,线性相关,非线性相关,现实生活中两个变量间的关系,:,相关关系,：对于两个变量，当自变量取值一定时，因变量的取值带有一定随机性的两个变量之间的关系,.,函数关系中的两个变量间是一种确定性关系,相关关系是一种非确定性关系,函数关系是一种理想的关系模型,相关关系在现实生活中大量存在，是更一般的情况,表示有一组具体的数据估计得到的截距和斜率,;,a,b,y,表示真实值,;,表示由真实值,a,b,所确定的值,.,表示由估计值 所确定的值,.,这种方法称为回归分析,.,两个具有线性相关关系的变量的统计分析：,（,1,）画散点图；,（,2,）求回归直线方程,(,最小二乘法,),：,（,3,）利用回归直线方程进行预报；,回归分析,是对具有相关关系的两个变量进行统计分析的一种常用方法,.,为样本点的中心,样本点：,2008,年,5,月，中共中央国务院关于加强青少年体育、增强青少年体质的意见指出城市超重和肥胖青少年的比例明显增加,.“,身高标准体重”该指标对于学生形成正确的身体形态观具有非常直观的教育作用,.“,身高标准体重”从何而来？我们怎样去研究,?,创设情境：,某大学中随机选取,8,名女大学生，其身高和体重数据如下表所示,.,编号,1,2,3,4,5,6,7,8,身高,/cm,165,165,157,170,175,165,155,170,体重,/kg,48,57,50,54,64,61,43,59,求根据女大学生的身高预报体重的回归方程，并预报一名身高为,172cm,的女大学生的体重,.,解：取身高为解释变量,x,，体重为预报变量,y,，作散点图：,样本点呈条状分布，身高和体重有较好的线性相关关系，因此可以用回归方程来近似的刻画它们之间的关系,.,由,得：,故所求回归方程为：,因此，对于身高,172cm,的女大学生，由回归方程可以预报其体重为：,是斜率的估计值，说明身高,x,每增加,1,个单位时，体重,y,就增加,0.849,个单位，这表明体重与身高具有正的线性相关关系,.,如何描述它们之间线性相关关系的强弱？,相关系数,相关系数的性质,(1)|r|1,(2)|r|,越接近于,1,，相关程度越强；,|r|,越接近于,0,，相关程度越弱,注,:b,与,r,同号,问题：达到怎样程度，,x,、,y,线性相关呢？它们的相关程度怎样呢？,r,相关系数,正相关；负相关,通常：,r,-1,-,0.75-,负相关很强,;,r,0.75,1,正相关很强,;,r,-0.75,-0.3-,负相关一般,;,r,0.3,0.75,正相关一般,;,r,-0.25,0.25-,相关性较弱,;,对,r,进行显著性检验,r,某大学中随机选取,8,名女大学生，其身高和体重数据如下表所示,.,编号,1,2,3,4,5,6,7,8,身高,/cm,165,165,157,170,175,165,155,170,体重,/kg,48,57,50,54,64,61,43,59,求根据女大学生的身高预报体重的回归方程，并预报一名身高为,172cm,的女大学生的体重,.,故所求回归方程为：,r=0.798,表明体重与身高有很强的线性相关性，从而说明我们建立的回归模型是有意义的,.,认为她的平均体重的估计值是,60.316kg.,因为所有的样本点不共线，所以线性函数模型只能近似地刻画身高和体重之间的关系，即：体重不仅受身高的影响，还受其他因素的影响，把这种影响的结果用,e,来表示，从而把线性函数模型修改为线性回归模型：,y=,bx+a+e,.,其中，,e,包含体重不能由身高的线性函数解释的所有部分,.,线性回归模型,其中,a,和,b,为模型的未知参数，,e,是,y,与,之间的误差，通常,e,为随机变量,，称为,随机误差,.,均值,E(e,)=0,，方差,D(e,)=,2,0,线性回归模型的完整表达式为：,线性回归模型适用范围比一次函数的适用范围大得多,.,当随机误差,e,恒等于,0,时，线性回归模型就变成一次函数模型,.,即：一次函数模型是线性回归模型的特殊形式，线性回归模型是一次函数模型的一般形式,.,随机误差是引起预报值 与真实值,y,之间的误差的原因之一，其大小取决于随机误差的方差,.,和 为截距和斜率的估计值，它们与真实值,a,和,b,之间存在误差是引起预报值 与真实值,y,之间的误差的另一个原因,.,随机误差,e,的主要来源：,（,1,）,用线性回归模型近似真实模型,（真实模型是客观存在的，但我们并不知道到底是什么）,所引起的误差,.,可能存在非线性的函数能更好的描述,y,与,x,之间的关系，但我们现在却用线性函数来表述这种关系，结果就产生误差，这种由于模型近似所引起的误差包含在,e,中,.,（,2,）,忽略了某些因素的影响,.,影响变量,y,的因素不止变量,x,一个，可能还有其他因素，但通常它们每一个因素的影响可能都比较小，它们的影响都体现在,e,中,.,（,3,）,观测误差,.,由于测量工具等原因，得到的,y,的观测值一般是有误差的，这样的误差也包含在,e,中,.,以上三项误差越小，则回归模型的拟合效果越好,.,在线性回归模型中，,e,是用 预报真实值,y,的误差，它是一个不可观测的量，那么该怎样研究随机误差，如何衡量预报的精度？,由于随机误差,e,的均值为,0,，故采用方差 来衡量随机误差的大小,.,假设,1:,身高和随机误差的不同不会对体重产生任何影响，,54.5,54.5,54.5,54.5,54.5,54.5,54.5,54.5,体重,/kg,170,155,165,175,170,157,165,165,身高,/cm,8,7,6,5,4,3,2,1,编号,54.5kg,怎样研究随机误差？,59,43,61,64,54,50,57,48,体重,/kg,170,155,165,175,170,157,165,165,身高,/cm,8,7,6,5,4,3,2,1,编号,例如，编号为,6,的女大学生的体重并没有落在水平直线上，她的体重为,61kg,。,解释变量（身高）和随机误差共同把这名学生的体重从,54.5kg“,推”到了,61kg,，,相差,6.5kg,，所以,6.5kg,是解释变量和随机误差的,组合效应,。,用这种方法可以对所有预报变量计算组合效应。,数学上，把每个效应（观测值减去总的平均值）的平方加起来，即用,表示总的效应，称为,总偏差平方和,。,59,43,61,64,54,50,57,48,体重,/kg,170,155,165,175,170,157,165,165,身高,/cm,8,7,6,5,4,3,2,1,编号,假设,2:,随机误差对体重没有影响，也就是说，体重仅受身高的影响，那么散点图,中所有的点将完全落在回归直线上。,怎样研究随机误差？,因此，数据点和它在回归直线上相应位置的差异 是随机误差的效应，,称 为,残差,。,例如，编号为,6,的女大学生，计算随机误差的效应（残差）为：,对每名女大学生计算这个差异，然后分别将所得的值平方后加起来，用数学符号,称为,残差平方和,，,它代表了随机误差的效应。,表示为：,随机误差,e,的估计量,样本点：,相应的随机误差为：,随机误差的估计值为：,称为相应于点 的,残差,.,的估计量,为,称为,残差平方和,.,残差分析,在研究两个变量间的关系时，首先要根据散点图来粗略判断它们是否是线性相关，是否可以用线性回归模型来拟合数据,.,然后，可以通过残差 来判断模型拟合的效果，判断原始数据中是否存在可疑数据,.,这方面的分析工作称为残差分析,.,0.382,-2.883,6.627,1.137,-4.618,2.419,2.627,-6.373,残差,59,43,61,64,54,50,57,48,体重,/kg,170,155,165,175,170,157,165,165,身高,/cm,8,7,6,5,4,3,2,1,编号,下表为女大学生身高和体重的原始数据以及相应的残差数据：,e,以纵坐标为残差，横坐标为编号，作出图形（,残差图,）来分析残差特性,.,问题：,如何发现数据中的错误？,(1),我们可以通过分析发现原始数据中的可疑数据，判断建立模型的拟合效果。,残差图的制作和作用：,制作：坐标,纵轴,为残差变量，横轴可以有不同的选择,.,横轴,为编号：可以考察残差与编号次序之间的关系，常用于调查数据错误,.,横轴,为解释变量：可以考察残差与解释变量的关系，常用于研究模型是否有改进的余地,.,作用：判断模型的适用性若模型选择的正确，残差图中的点应该分布在以横轴为中心的带形区域,.,问题：,如何发现数据中的错误？,残差图的制作及作用。,坐标纵轴为残差变量，横轴可以有不同的选择；,若模型选择的正确，残差图中的点应该分布在以横轴为心的带形区域,；,对于远离横轴的点，要特别注意,。,身高与体重残差图,异常点,错误数据,模型问题,几点说明：,第一个样本点和第,6,个样本点的残差比较大，需要确认在采集过程中是否有人为的错误。如果数据采集有错误，就予以纠正，然后再重新利用线性回归模型拟合数据；如果数据采集没有错误，则需要寻找其他的原因。,另外，残差点比较均匀地落在水平的带状区域中，说明选用的模型计较合适，这样的带状区域的宽度越窄，说明模型拟合精度越高，回归方程的预报精度越高。,我们可以用,相关指数,R,2,来刻画回归的效果，其计算公式是,如何衡量预报的精度？,显然，,R,2,的值越大，说明残差平方和越小，也就是说模型拟合效果越好。,如果某组数据可能采取几种不同回归方程进行回归分析，则可以通过比较,R,2,的值来做出选择，即选取,R,2,较大的模型作为这组数据的模型。,1,354,总计,0.36,128.361,残差变量,0.64,225.639,随机误差,比例,平方和,来源,从上中可以看出，解析变量对总效应约贡献了,64%,，即,R,2,0.64,，,可以叙述为“身高解析了,64%,的体重变化”，而随机误,差贡献了剩余的,36%,。,所以，身高对体重的效应比随机误差的效应大得多。,问题：,如何衡量随机模型的拟合效果？,下面我们用相关指数分析一下例,1,：,问题：结合例,1,思考：用回归方程预报体重时应注意什么？,用身高预报体重时应注意的问题：,1.,回归方程只适用于我们所研究的样本的总体。,2.,我们建立的回归方程一般都有时间性。,3.,样本取值的范围会影响回归方程的适用范围。,4.,不能期望回归方程得到的预报值就是预报变量的精确值。,涉及到统计的一些思想：,模型适用的总体；模型的时间性；,样本的取值范围对模型的影响；模型预报结果的正确理解。,一般地，建立回归模型的基本步骤为：,（,1,）确定研究对象，明确哪个变量是解释变量，哪个变量是预报变量。,（,2,）画出确定好的解释变量和预报变量的散点图，观察它们之间的关系,（如是否存在线性关系等）。,（,3,）由经验确定回归方程的类型（如我们观察到数据呈线性关系，则选用线性回归方程,y=,bx+a,）,.,（,4,）按一定规则估计回归方程中的参数（如最小二乘法）。,（,5,）得出结果后分析残差图是否有异常（个别数据对应残差过大，或残差呈现不随机的规律性，等等），若存在异常，则检查数据是否有误，或模型是否合适等。,问题：,归纳建立回归模型的基本步骤。,问题六：,若两个变量呈现非线性关系，如何解决？（分析例,2,）,例,2,一只红铃虫的产卵数,y,和温度,x,有关。现收集了,7,组观测数据列于表中：,温度,x,o,C,21,23,25,27,29,32,35,产卵数,y,/,个,7,11,21,24,66,115,325,（,1,）试建立产卵数,y,与温度,x,之间的回归方程；并预测温度为,28,o,C,时产卵数目。,（,2,）你所建立的模型中温度在多大程度上解释了产卵数的变化？,选变量,解：选取气温为解释变量,x,，,产卵数,为预报变量,y,。,画散点图,假设线性回归方程为,：,=,bx+a,选 模 型,分析和预测,当,x,=28,时，,y=,19.8728-463.73 93,估计参数,由计算器得：线性回归方程为,y=,19.87,x,-463.73,相关指数,R,2,=,r,2,0.864,2,=0.7464,所以，一次函数模型中温度解释了,74.64%,的产卵数变化。,0,50,100,150,200,250,300,350,0,3,6,9,12,15,18,21,24,27,30,33,36,39,当,x,=28,时，,y=,19.8728-463.73 93,方法一：一元函数模型,问题六：,若两个变量呈现非线性关系，如何解决？（分析例,2,）,y=,c,1,x,2,+,c,2,变换,y=,c,1,t+,c,2,非线性关系 线性关系,问题,选用,y=c,1,x,2,+c,2,，,还是,y=c,1,x,2,+cx+c,2,？,问题,3,产卵数,气温,问题,2,如何求,c,1,、,c,2,？,t,=x,2,方法二，二元函数模型,问题六：,若两个变量呈现非线性关系，如何解决？（分析例,2,）,平方变换,：,令,t=x,2,，,产卵数,y,和温度,x,之间二次函数模型,y=bx,2,+a,就转化为产卵数,y,和温度的平方,t,之间线性回归模型,y=,bt+a,温度,21,23,25,27,29,32,35,温度的平方,t,441,529,625,729,841,1024,1225,产卵数,y,/,个,7,11,21,24,66,115,325,作散点图，并由计算器得：,y,和,t,之间的线性回归方程为,y=,0.367,t,-202.54,，,相关指数,R,2,=,r,2,0.896,2,=0.802,将,t=x,2,代入线性回归方程得：,y=,0.367,x,2,-202.54,当,x,=28,时,，,y,=0.367,28,2,-202.5485,，且,R,2,=0.802,，,所以，二次函数模型中温度解,释了,80.2%,的产卵数变化。,t,问题六：,若两个变量呈现非线性关系，如何解决？（分析例,2,）,产卵数,气温,变换,y=,bx+a,非线性关系 线性关系,对数,问题六：,若两个变量呈现非线性关系，如何解决？（分析例,2,）,方法三：指数函数模型,温度,x,o,C,21,23,25,27,29,32,35,z=,lgy,0.85,1.04,1.32,1.38,1.82,2.06,2.51,产卵数,y,/,个,7,11,21,24,66,115,325,x,z,当,x=28,o,C,时，,y 44,，,指数回归模型中温度解释了,98%,的产卵数的变化,由计算器得：,z,关于,x,的线性回归方程,为,z=0.272,x,-3.849,，,相关指数,R,2,=,r,2,0.9925,2,=0.98,对数变换：在 中两边取自然对数得,令 ，则,就转换为,z,=,bx+a,问题六：,若两个变量呈现非线性关系，如何解决？（分析例,2,）,函数模型,相关指数,R,2,线性回归模型,0.7464,二次函数模型,0.802,指数函数模型,0.98,最好的模型是哪个,?,显然，指数函数模型最好！,问题六：,若两个变量呈现非线性关系，如何解决？（分析例,2,）,课堂知识延伸,我们知道，刑警如果能在案发现场提取到罪犯的脚印，即将获得一条重要的破,案线索，其原因之一是人类的脚掌长度和身高存在着相关关系，可以根据一个人的,脚掌长度来来预测他的身高,我们还知道，在统计史上，很早就有人收集过人们的身高、前臂长度等数据，,试图寻找这些数据之间的规律,在上述两个小故事的启发下，全班同学请分成一些小组，每组,4-6,名同学，在老,师的指导下，开展一次数学建模活动，来亲自体验回归分析的思想方法，提高自己的,实践能力。,数学建模的题目是：收集一些周围人们的脚掌长度、前臂长度中的一个数据及其,身高，来作为两个变量画散点图，如果这两个变量之间具有线性相关关系，就求出回,归直线方程，另选一个人的这两个变量的数据，作一次预测，并分析预测结果。,最后以小组写出数学建模报告，报告要求过程清晰，结论明确，有关数学论述准,确，以下两个问题需要注意：,（,1,）如果脚掌长度不方便，可改量脚印的长度。,（,2,）数据尽量取得分散一些。,