数据挖掘回归与时序分析.ppt

单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,*,*,医药信息分析与应用课程组,回归与时序分析,医药信息分析与应用课程组,精品课程：正在建设,课程博客：,,电子邮箱：,communion.gdpu,本章要点,一、概述,二、回归分析,三、时间序列分析,四、,Microsoft SQL Server 2005,实践回归分析与时间序列分析,2,医药信息分析与应用课程组,*,一、概 述,现实生活中的许多现象之间存在着相互依赖、相互制约的关系，这些关系在量上主要有两种类型：,确定性关系,(s=pi*r*r),非确定性关系,(,相关关系,),3,医药信息分析与应用,课程组,*,一、概 述,变量之间是否线性,线性回归模型,非线性回归模型,变量的个数分为：,一元回归和多元回归,4,医药信息分析与应用,课程组,*,一、概 述,时间序列分析,回归分析中如果自变量是时间，则将按时间顺序产生的离散型观测数据序列,(,xt)(t,=1,2,3,),称作时间序列，根据时间序列，揭示相应系统的内在统计特性和发展规律的统计方法，称时间序列分析。,5,医药信息分析与应用,课程组,*,一、概 述,回归分析与时间序列分析,时间序列分析方法明确强调变量值顺序的重要性，而其它统计分析方法则不必如此；,时间序列各观察值之间存在一定的依存关系，而其它统计分析一般要求每一变量各自独立；,时间序列分析根据序列自身的变化规律来预测未来，而其它统计分析则根据某一变量与其它变量间的因果关系来预测该变量的未来；,时间序列是一组随机变量的一次样本实现，而其它统计分析的样本值一般是对同一随机变量进行,N,次独立重复实验的结果；,二者建模思路不同,。,6,医药信息分析与应用,课程组,*,二、回归分析,回归分析的过程即是寻求有关联（相关）的变量之间的关系的过程，主要内容包括：从一组样本数据出发，确定这些变量间的定量关系式；对这些关系式的可信度进行各种统计检验；从影响某一变量的诸多变量中，判断哪些变量的影响显著，哪些不显著；利用求得的关系式进行预测和控制。,7,医药信息分析与应用,课程组,*,二、回归分析,编号,NO,体重（,kg,）,肺活量（,ml,）,编号,NO,体重（,kg,）,肺活量（,ml,）,编号,NO,体重（,kg,）,肺活量（,ml,）,1,60.1,4508,11,56.95,4181,21,55.11,4238,2,60.38,4469,12,57.22,4097,22,53.24,4523,3,59.74,4398,13,55.96,4063,23,60.1,4516,4,58.04,4068,14,57.87,4334,24,60.5,4473,5,59.67,4339,15,56.87,4301,25,59.04,4297,6,59.44,4393,16,55.97,4141,26,59.01,4123,7,58.7,4389,17,56.07,3905,27,59.7,4216,8,59.75,4306,18,55.28,3943,28,59.06,4077,9,60.5,4395,19,55.79,4195,29,59.12,4287,10,58.72,4462,20,54.56,4039,30,54.21,4201,8,医药信息分析与应用,课程组,体重与肺活量之间有何关系，这里面的人都正常吗？如何处理？,*,回归分析,9,医药信息分析与应用,课程组,*,回归分析,10,医药信息分析与应用,课程组,*,二、回归分析,11,医药信息分析与应用,课程组,*,二、回归分析,12,医药信息分析与应用,课程组,*,二、回归分析,13,医药信息分析与应用,课程组,最小二乘法,*,二、回归分析,最小二乘法：,拟合回归模型的原则是寻求代表性最好的模型,是一个随机变量,；,的均值为零，即 ；,在每一个时期中，,的方差为常量，即,各个,相互独立；,与自变量无关。,14,医药信息分析与应用,课程组,*,二、回归分析,最小二乘法,15,医药信息分析与应用,课程组,*,二、回归分析,最小二乘法,利用,EXCEL,计算：单击菜单栏中“工具”“加载宏”命令，选择相应的“分析工具库”和“分析工具库,VBA,函数”复选框，单击“确定”按钮，完成加载。,16,医药信息分析与应用,课程组二、回归分析,最小二乘法,利用,EXCEL,计算：单击“工具”“数据分析”命令，选中“回归”选项，单击“确定”按钮。,17,医药信息分析与应用,课程组,Y=760.25+60.18x,*,18,医药信息分析与应用,课程组,*,二、回归分析,对回归方程进行假设检验,:,通常包括如下三个方面,回归系数显著性检验,回归模型的显著性检验,检验,之间是否存在自相关关系,19,医药信息分析与应用,课程组,*,二、回归分析,回归系数显著性检验,检验假设：,检验统计量：,检验规则：给定显著性水平,，若,，则回归系数显著。,20,医药信息分析与应用,课程组,*,二、回归分析,回归模型的显著性检验,检验假设回归方程不显著 回归方程显著,检验统计量：,检验规则：给定显著性水平,，若,，则回归系数显著。,21,医药信息分析与应用,课程组,*,二、回归分析,检验,之间是否存在自相关关系,当,时，如果,，认为存在正自相关；如果,，认为,无自相关；,当,时,如果,，认为,存在负自相关；如果,，认为无自相关；如果,，不能确定,是否自相关；,当,D.W.,值在,2,左右时，模型不存在一阶自相关。,22,医药信息分析与应用,课程组,*,二、回归分析,多元回归分析,*,23,医药信息分析与应用课程组,二、回归分析,非线性回归分析,*,24,医药信息分析与应用课程组,三、时间序列分析,Time Series,A time series is a sequence of data values for a variable Y,1,Y,2,Y,n,that are separated by equal time intervals.,Y,t,is the notation for the value of time series at time t.,*,25,医药信息分析与应用课程组,三、时间序列分析,Example,:Number of people employed at International Systems Corporation for 20 quarters.,Quarter,FiveYears Ago,Four,Years Ago,Three,Years Ago,Two,Years Ago,Last Year,1st,150,160,175,180,200,2nd,175,190,200,220,250,3rd,450,460,480,495,520,4th,140,145,160,180,190,*,26,医药信息分析与应用课程组,三、时间序列分析,Example,:the following data indicate the number of mergers that took place in an industry over a 19-year period27,医药信息分析与应用课程组,三、时间序列分析,Example,:Number of people employed at International Systems Corporation for 20 quarters.,*,28,医药信息分析与应用课程组,三、时间序列分析,Example,:the following data indicate the number of mergers that took place in an industry over a 19-year period.,*,29,医药信息分析与应用课程组,时间序列分析,*,30,医药信息分析与应用课程组三、时间序列分析,Four Components of Time Series,1.Trends,长期趋势,2.Seasonal variations,季节变化,Cyclical variations,周期变化,Irregular variations,不规则变化,*,31,医药信息分析与应用课程组,三、时间序列分析,Four Components of Time Series,Trends,（长期趋势）：,Trends in time series are the long-term movements of the series that can be characterized by steady or only slightly variable rates of change.,*,32,医药信息分析与应用课程组,三、时间序列分析,Four Components of Time Series,Seasonal variations,（季节变）：,Seasonal variations in a time series are those variations that occur rather predictably at a particular time each year.,*,33,医药信息分析与应用课程组,三、时间序列分析,Four Components of Time Series,Cyclical variations,（周期变化）：,Cyclical variations are movements in a time series that are recurrent but that occur in cycles of longer than a year.,*,34,医药信息分析与应用课程组,三、时间序列分析,Four Components of Time Series,Irregular variations,（不规则变化）：,Irregular variations constitute the class of time series movements that do not fit into the other three categories.,*,35,医药信息分析与应用课程组,三、时间序列分析,Classical Time Series Model,（1）,Multiplicative Time Series Model,YTSCI,（2）,Additive Time Series Model,YTSCI,（3）,Mixed Time Series Model,YTSCI,*,36,医药信息分析与应用课程组,三、时间序列分析,时间序列分析方法：,确定性时间序列分析方法和随机时间序列分析方法,确定性时间序列分析：,设法消除随机型波动，拟合确定性趋势，因而形成了长期趋势分析、季节变动分析、循环变动测定等一系列确定性时间序列分析方法。,随机时间序列分析方法：,根据随机理论对随机时间序列进行分析,*,37,医药信息分析与应用课程组,三、时间序列分析,确定性时间序列分析法的两个基本特点：,它没有具体描述预测对象与其影响因素之间的关系，而是把各影响因素分别看作一种作用力，预测对象的时间序列是这些因素综合作用的结果，看作合力；如果各影响因素的作用随着时间的推移相对比较稳定，就可以将时间序列看作主要是由长期趋势（,T,）、季节变动（,S,）、循环变动（,C,）和随机变动（,I,）综合作用的结果；然后按照时间序列所显示的具体模式来研究该序列的变动。,它不计算时间序列的随机变动值，建模的目的是要消除随机变动的影响，揭示预测对象随时间变动的规律性用于预测，这是确定性时间序列和随机时间序列分析的区别。,*,38,医药信息分析与应用课程组,1.,趋势外推法,趋势外推法（,Trend extrapolation,）是根据过去和现在的发展趋势推断未来的一类方法的总称，趋势外推法假设未来是过去和现在连续发展的结果。趋势外推法的基本理论是：决定事物过去发展的因素，在很大程度上也决定该事物未来的发展，其变化，不会太大；事物发展过程一般都是渐进式的变化，而不是跳跃式的变化。掌握事物的发展规律，依据这种规律进行推导，就可以预测出它的未来趋势和状态。,趋势外推法的基本原理是回归分析，即以时间为自变量，以时间系列为因变量进行回归分析。,*,39,医药信息分析与应用课程组,2.,移动平均法,对于平稳型时间数列可取最近,n,期数值的算术平均作为后期的预测值。其基本原理是：首先选择一个固定的时间周期,n,，将最近,n,期的数据加以平均作为下一期的预测值。,*,40,医药信息分析与应用课程组,2.,移动平均法,移动平均方法具有以下的特点：,1.,当时间序列的波动较大时，最近期的观察值应该赋予最大的权数，较远时期的观察值赋予的权数应该依次递减；当时间序列的波动不是很大时，对各期的观察值应赋予近似相等的权数。,只使用最近期的数据，在每次计算移动平均值时，移动的间隔都为固定的,k,；,3.,主要适合对较为平稳的时间序列进行预测；,4.,移动间隔和权数的选择是该方法的关键。其中，对于同一个时间序列，采用不同的移动步长和权重预测的准确性是不同的。选择移动步长和权重时，可通过试验的办法，选择一个使均方误差,MSE,达到最小的移动步长。,*,41,医药信息分析与应用课程组,3.,指数平滑法,它是加权平均的一种特殊形式，观察值距离预测时期越久远，权数变得越小，且呈现指数下降趋势，因此称为指数平滑。指数平滑法根据平滑的次数包括一次指数平滑、二次指数平滑、三次指数平滑等，用的最多的是一次平滑法，下面对一次平滑进行介绍。,*,42,医药信息分析与应用课程组,3.,指数平滑法,指数平滑法具有以下的特点：,不同的,会对预测结果产生不同的影响，阻尼系数也是如此；,在实际应用中，当时间序列有较大的随机波动时，宜选用较大的,值（如,0.9,），以便能很快跟上近期的变化；,当时间序列比较平稳时，宜选用较小的,；,选择平滑系数,时，还应考虑预测误差。确定,时，可尝试选择几个进行预测，然后找出预测误差最小的那个作为最后的值。,*,43,医药信息分析与应用课程组,某市某一恶性疾病死亡率统计数据表,年度,死亡率,年度,死亡率,年度,死亡率,1990,45.12,1996,59.71,2002,65.5,1991,51.56,1997,55.5,2003,58.69,1992,59.21,1998,59.11,2004,64.79,1993,56.68,1999,64.93,2005,69.11,1994,42.71,2000,58.63,2006,61.37,1995,61.15,2001,65.41,2007,72.82,*,44,医药信息分析与应用课程组,某市某一恶性疾病死亡率,*,45,医药信息分析与应用课程组,3.,指数平滑法,据此预测,2008,年该病的死亡率，以便做出相应的预防措施。,*,46,医药信息分析与应用课程组,4.,随机时间序列分析,随机时间序列分析是指仅用它的过去值及随机扰动项所建立起来的模型进行分析，即描述序列,xt,某一时刻,t,和前,p,个时刻序列值之间的相互关系的分析方法，一般的,p,阶自回归过程,AR(p,),为：,*,47,医药信息分析与应用课程组,4.,随机时间序列分析,建立具体的时间序列模型时，需解决如下三个问题：,1,）,模型的具体形式。,2,）,时序变量的滞后期。,3,）,随机扰动项的结构。,例如，取线性方程、一期滞后以及白噪声随机扰动项，模型将是一个,1,阶自回归过程：,*,48,医药信息分析与应用课程组,4.,随机时间序列分析,*,49,医药信息分析与应用课程组,四、,Microsoft SQL Server 2005,实践,回归分析与时间序列分析,1.,建立数据库,2.,导入数据,3.,建立数据挖掘模型,4.,数据挖掘查看器,50,医药信息分析与应用,课程组,*,作业,用,Microsoft SQL SERVER 2005,实践回归分析与时间序列分析。,*,51,医药信息分析与应用课程组,