1、1.1回归分析基本思回归分析基本思想及其初步应用想及其初步应用第1页必修必修3(3(第二章第二章 统计统计)知识结构知识结构 搜集数据搜集数据 (随机抽样随机抽样)整理、分析数据预整理、分析数据预计、推断计、推断简简单单随随机机抽抽样样分分层层抽抽样样系系统统抽抽样样用样本预计总体用样本预计总体变量间相关关系变量间相关关系 用样本用样本频率分频率分布预计布预计总体分总体分布布 用样本用样本数字特数字特征预计征预计总体数总体数字特征字特征线线性性回回归归分分析析第2页1、两个变量关系、两个变量关系不相关不相关相关关相关关系系函数关系函数关系线性相关线性相关非线性相关非线性相关现实生活中两个变量间
2、关系有哪些呢?现实生活中两个变量间关系有哪些呢?相关关系:相关关系:对于两个变量,当自变量取值一定时,对于两个变量,当自变量取值一定时,因变量取值带有一定随机性两个变量之间关系。因变量取值带有一定随机性两个变量之间关系。第3页思索:相关关系与函数关系有怎样不一样?函数关系中两个变量间是一个确定性关系相关关系是一个非确定性关系 函数关系是一个理想关系模型 相关关系在现实生活中大量存在,是更普通情况第4页2、最小二乘预计、最小二乘预计(使得样本数据点到回归直线距离使得样本数据点到回归直线距离 平方和最小方法叫最小二乘法平方和最小方法叫最小二乘法)最小二乘预计下线性回归直线方程:最小二乘预计下线性回
3、归直线方程:回归直线必过样本点中心回归直线必过样本点中心第5页线性回归方程线性回归方程 中,中,意义是意义是x每增加一每增加一个单位,个单位,y就平均增加就平均增加 个单位个单位C第6页3、回归分析基本步骤回归分析基本步骤:画散点图画散点图求回归方程求回归方程预报、决议预报、决议这种方法称为这种方法称为回归分析回归分析.回归分析回归分析是对含有相关关系两个变量进行统计是对含有相关关系两个变量进行统计 分析一个惯用方法分析一个惯用方法.第7页回归分析知识结构图回归分析知识结构图问题背景分析问题背景分析线性回归模型线性回归模型两个变量线性相关两个变量线性相关最小二乘法最小二乘法两个变量非线性相关两
4、个变量非线性相关非线性回归模型非线性回归模型残差分析残差分析散点图散点图应用应用注:虚线表示高中阶段不包括关系注:虚线表示高中阶段不包括关系第8页 比数学3中“回归”增加内容数学数学统计统计1.画散点图画散点图2.了解最小二乘法思了解最小二乘法思想想3.求回归直线方程求回归直线方程ybxa4.用回归直线方程处用回归直线方程处理应用问题理应用问题选修1-2统计案例5.引入线性回归模型引入线性回归模型6.了解模型中随机误差项了解模型中随机误差项e产生产生原因原因7.了解相关指数了解相关指数 R2 和模型拟合和模型拟合效果之间关系效果之间关系8.了解残差图作用了解残差图作用9.利用线性回归模型处理一
5、类非利用线性回归模型处理一类非线性回归问题线性回归问题10.正确了解分析方法与结果正确了解分析方法与结果选修1-2统计案例5.引入线性回归模型引入线性回归模型6.了解模型中随机误差项了解模型中随机误差项e产生产生原因原因7.了解相关指数了解相关指数 R2 和模型拟合和模型拟合效果之间关系效果之间关系8.了解残差图作用了解残差图作用9.利用线性回归模型处理一类非利用线性回归模型处理一类非线性回归问题线性回归问题10.正确了解分析方法与结果正确了解分析方法与结果第9页例例1 从某大学中随机选取从某大学中随机选取8名女大学生,其身高和体重数据如表名女大学生,其身高和体重数据如表1-1所表示。所表示。
6、5943616454505748体重/kg170155165175170157165165身高/cm87654321编号求依据女大学生身高预报她体重回归方程,并预报一求依据女大学生身高预报她体重回归方程,并预报一名身高为名身高为172cm女大学生体重。女大学生体重。解:选取身高为自变量解:选取身高为自变量x,体重为因变量,体重为因变量y,作散点图:,作散点图:第10页第11页第12页探究:身高为172cm女大学生体重一定是60.316kg吗?假如不是,你能解析一下原因吗?答:答:用这个回归方程不能给出每个身高为用这个回归方程不能给出每个身高为 172cm女大学生体重预测值,只能给出她们平均体重
7、预计值。女大学生体重预测值,只能给出她们平均体重预计值。因为全部样本点不共线,而只是散布在某因为全部样本点不共线,而只是散布在某一直线附近,所以身高和体重关系能够用一直线附近,所以身高和体重关系能够用线性回归模型线性回归模型来表示:来表示:其中其中a和和b为模型未知参数,为模型未知参数,e称为称为随机误差随机误差.第13页函数模型与函数模型与“回归模型回归模型”关系关系函数模型:函数模型:因变量因变量y完全由自变量完全由自变量x确定确定回归模型:回归模型:预报变量预报变量y完全由解释变量完全由解释变量x和随机误差和随机误差e确定确定第14页注:注:e 产生主要原因:产生主要原因:1、忽略了其它
8、原因影响:影响身高忽略了其它原因影响:影响身高 y 原因原因 不不只是体重只是体重 x,可能还包含遗传基因、饮食习惯、,可能还包含遗传基因、饮食习惯、生长环境等原因;生长环境等原因;2、用线性回归模型近似真实模型所引发误差;、用线性回归模型近似真实模型所引发误差;3、身高身高 y 观察误差。观察误差。思索思索:产生随机误差项产生随机误差项e原因是什么?原因是什么?第15页在线性回归模型中,在线性回归模型中,e是用是用 预报真实值预报真实值y随机误差随机误差,它它是一个不可观察量,那么应怎样研究随机误差呢?是一个不可观察量,那么应怎样研究随机误差呢?残差:普通地,对于样本点 它们随机误差为 其预
9、计值为 ,称为对应于点 残差第16页怎样发觉数据中错误?怎样衡量随机模型拟合效果?怎样发觉数据中错误?怎样衡量随机模型拟合效果?第17页残差图制作和作用:残差图制作和作用:制作:制作:坐标纵轴坐标纵轴为为残差变量,残差变量,横轴能够有不一样选择横轴能够有不一样选择.横轴为编号:横轴为编号:能够考查残差与编号次序之间关系,能够考查残差与编号次序之间关系,惯用于调查数据错误惯用于调查数据错误.横轴为解释变量:横轴为解释变量:能够考查残差与解释变量关系,能够考查残差与解释变量关系,惯用于研究模型是否有改进余地惯用于研究模型是否有改进余地.作用:作用:判断模型适用性若模型选择得正确,判断模型适用性若模
10、型选择得正确,残差图中点应该分布在以横轴为中心带形区域残差图中点应该分布在以横轴为中心带形区域.第18页下面表格列出了女大学生身高和体重原始数据以及对应残差数据。下面表格列出了女大学生身高和体重原始数据以及对应残差数据。编号编号12345678身高身高/cm165165157170175165155170体重体重/kg4857505464614359残差残差-6.3732.6272.419-4.6181.1376.627-2.8830.382身高与体重残差图异常点 几点说明:几点说明:第一个样本点和第第一个样本点和第6个样本点残差比较大,需要确认在采集过程中是否有些人为错误。个样本点残差比较大
11、,需要确认在采集过程中是否有些人为错误。假如数据采集有错误,就给予纠正,然后再重新利用线性回归模型拟合数据;假如数据采假如数据采集有错误,就给予纠正,然后再重新利用线性回归模型拟合数据;假如数据采集没有错误,则需要寻找其它原因。集没有错误,则需要寻找其它原因。另外,残差点比较均匀地落在水平带状区域中,说明选取模型计较适当,这么带状区域另外,残差点比较均匀地落在水平带状区域中,说明选取模型计较适当,这么带状区域宽度越窄,说明模型拟合精度越高,回归方程预报精度越高。宽度越窄,说明模型拟合精度越高,回归方程预报精度越高。错误数据 模型问题第19页误差与残差,这两个概念在某程度上含有很大相同性,误差与
12、残差,这两个概念在某程度上含有很大相同性,都是衡量不确定性指标,可是二者又存在区分。都是衡量不确定性指标,可是二者又存在区分。误差与测量相关,误差大小能够衡量测量准确性,误差越误差与测量相关,误差大小能够衡量测量准确性,误差越大则表示测量越不准确。误差分为两类:系统误差与大则表示测量越不准确。误差分为两类:系统误差与随机误差。其中,系统误差与测量方案相关,经过改进测随机误差。其中,系统误差与测量方案相关,经过改进测量方案能够防止系统误差。随机误差与观察者,测量工具,量方案能够防止系统误差。随机误差与观察者,测量工具,被观察物体性质相关,只能尽可能减小,却不能防止被观察物体性质相关,只能尽可能减
13、小,却不能防止。残差残差与预测相关,残差大小能够衡量预测准确性。残与预测相关,残差大小能够衡量预测准确性。残差越大表示预测越不准确。残差与数据本身分布特征,回差越大表示预测越不准确。残差与数据本身分布特征,回归方程选择相关。归方程选择相关。第20页显然,显然,R2值越大,说明残差平方和越小,也就是说模值越大,说明残差平方和越小,也就是说模型拟合效果越好型拟合效果越好在线性回归模型中,在线性回归模型中,R2表示解析变量对预报表示解析变量对预报变量改变贡献率变量改变贡献率我们能够用我们能够用相关指数相关指数R2来刻画回归效果,其计算公式是来刻画回归效果,其计算公式是:第21页注:相关指数注:相关指
14、数R R2 2是度量模型拟合效果一个指标,是度量模型拟合效果一个指标,在线性模型中,它代表自变量刻画预报变量能力在线性模型中,它代表自变量刻画预报变量能力.R2越靠近越靠近1,表示回归效果越好(因为,表示回归效果越好(因为R2越靠近越靠近1,表示解释变量和预报变量线性相关性越强)表示解释变量和预报变量线性相关性越强)假如某组数据可能采取几个不一样回归方程进行假如某组数据可能采取几个不一样回归方程进行回归分析,则能够经过比较回归分析,则能够经过比较R2值来做出选择,值来做出选择,即选取即选取R2较大模型作为这组数据模型。较大模型作为这组数据模型。第22页下面我们用相关指数分析一下例下面我们用相关
15、指数分析一下例1:预报变预报变量改量改变变程度能程度能够够分解分解为为由解由解释变释变量引量引发发改改变变程度与程度与残差残差变变量改量改变变程度之和,即程度之和,即;解析变量对总效应约贡献了解析变量对总效应约贡献了64%,即,即能够叙述为能够叙述为“身高解析了身高解析了64%体重改变体重改变”,而随机误,而随机误差贡献了剩下差贡献了剩下36%,故身高对体重效应比随机误差效,故身高对体重效应比随机误差效应大得多应大得多第23页结合例结合例1思索:用回归方程预报体重时应注意什么?思索:用回归方程预报体重时应注意什么?1.回归方程只适合用于我们所研究样本总体;回归方程只适合用于我们所研究样本总体;
16、2.我们建立回归方程普通都有时间性;我们建立回归方程普通都有时间性;3.样本取值范围会影响回归方程适用范围;样本取值范围会影响回归方程适用范围;4.不能期望回归方程得到预报值就是预报变量准确值不能期望回归方程得到预报值就是预报变量准确值.包括到统计一些思想:包括到统计一些思想:模型适用总体;模型适用总体;模型时间性;模型时间性;样本取值范围对模型影响;样本取值范围对模型影响;模型预报结果正确了解。模型预报结果正确了解。第24页归纳建立回归模型基本步骤归纳建立回归模型基本步骤(1)确定研究对象,明确哪个变量是解析变量,)确定研究对象,明确哪个变量是解析变量,哪个变量是预报变量哪个变量是预报变量;
17、(2)画出确定好解析变量和预报变量散点图,)画出确定好解析变量和预报变量散点图,观察它们之间关系(如是否存在线性关系等)观察它们之间关系(如是否存在线性关系等);(4)按一定规则预计回归方程中参数(如最小二乘法)按一定规则预计回归方程中参数(如最小二乘法);(5)得出结果后分析残差图是否有异常(个别数据对应)得出结果后分析残差图是否有异常(个别数据对应残差过大,或残差展现不随机规律性等)残差过大,或残差展现不随机规律性等),过存在异过存在异常,则常,则检验数据是否有误,或模型是否适当等检验数据是否有误,或模型是否适当等.(3)由经验确定回归方程类型(如我们观察到数据)由经验确定回归方程类型(如我们观察到数据 呈线性关系,则选取线性回归方程呈线性关系,则选取线性回归方程 ).第25页