MATLAB中多元线性回归的例子.ppt

单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,2.,线性回归,b=regress(y,X),b,bint,r,rint,s=regress(y,X,alpha),输入,:y,因变量,(,列向量,),X1,与自变量组成的矩阵，,Alpha,显著性水平,（缺省时设定为,0.05,）,s:,3,个统计量：,决定系数,R,2,，,F,值,F,(1,n-2),分布大于,F,值的概率,p,，,p,时,回归,模型有效,输出,:b=,（,），,bint:b,的,置信区间,，,r:,残差,(,列向量,),，,rint:r,的,置信区间,rcoplot(r,rint),残差,及其,置信区间作图,1,回归模型,例,3:,血压与年龄、体重指数、吸烟习惯,序,号,血,压,年,龄,体重,指数,吸烟,习惯,序,号,血,压,年,龄,体重,指数,吸烟,习惯,1,144,39,24.2,0,21,136,36,25.0,0,2,215,47,31.1,1,22,142,50,26.2,1,3,138,45,22.6,0,23,120,39,23.5,0,10,154,56,19.3,0,30,175,69,27.4,1,体重指数,=,体重（,kg,）,/,身高（,m,）的平方,吸烟习惯,:0,表示不吸烟，,1,表示吸烟,建立血压与年龄、体重指数、吸烟习惯之间的,回归模型,2,模型建立,血压,y,，年龄,x,1,，体重指数,x,2,，吸烟习惯,x,3,y,与,x,1,的散点图,y,与,x,2,的散点图,线性回归模型,回归系数,0,1,2,3,由数据估计,是随机误差,3,n=30;m=3;,y=144215138145162142170124158154 162150140110128130135114116124 136142120120160158144130125175;,x1=39474547654667426756 64565934424845182019 36503921445363292569;,x2=24.2 31.1 22.6 24.0 25.9 25.1 29.5 19.7 27.2 19.3 28.0 25.8 27.3 20.1 21.7 22.2 27.4 18.8 22.6 21.5 25.0 26.2 23.5 20.3 27.1 28.6 28.3 22.0 25.3 27.4;,x3=0 1 0 1 1 0 1 0 1 0 1 0 0 0 0 1 0 0 0.,0 0 1 0 0 1 1 0 1 0 1;,X=ones(n,1),x1,x2,x3;,b,bint,r,rint,s=regress(y,X);,s2=sum(r.2)/(n-m-1);,b,bint,s,s2,rcoplot(r,rint),4,回归系数,回归系数,估计值,回归系数,置信区间,0,45.3636,3.5537 87.1736,1,0.3604,-0.0758 0.7965,2,3.0906,1.0530 5.1281,3,11.8246,-0.1482 23.7973,R,2,=,0.6855,F,=,18.8906,p,0.0001,s,2,=169.7917,模型求解,回归系数,回归系数,估计值,回归系数,置信区间,0,58.5101,29.9064 87.1138,1,0.4303,0.1273 0.7332,2,2.3449,0.8509 3.8389,3,10.3065,3.3878 17.2253,R,2,=,0.8462,F,=,44.0087,p,0.0001,s,2,=53.6604,剔除异常点,(,第,2,点和第,10,点,),后,xueya01.m,5,6,此时可见第二与第十二个点是异常点，于是删除上述两点，再次进行回归得到改进后的回归模型的系数、,系数,置信区间与统计量,回归系数,回归系数,估计值,回归系数,置信区间,0,58.5101,29.9064 87.1138,1,0.4303,0.1273 0.7332,2,2.3449,0.8509 3.8389,3,10.3065,3.3878 17.2253,R,2=,0.8462,F,=,44.0087,p,0.0001,s2=53.6604,这时置信区间不包含零点，,F,统计量增大，可决系数从,0.6855,增大到,0.8462,，我们得到回归模型为：,7,通常，进行多元线性回归的步骤如下：,（,1,）做自变量与因变量的散点图，根据散点图的形状决定是否可以进行线性回归；,（,2,）输入自变量与因变量；,（,3,）利用命令：,b,bint,r,rint,s=regress(y,X,alpha),，,rcoplot(r,rint),得到回归模型的系数以及异常点的情况；,（,4,）对回归模型进行检验,首先进行残差的正态性检验：,jbtest,，,ttest,8,其次进行残差的异方差检验,:,戈德菲尔德一匡特,(Goldfeld,Quandt),检验,戈德菲尔德检验，简称为,G,Q,检验,.,为了检验异方差性，将样本按解释变量排序后分成两部分，再利用样本,1,和样本,2,分别建立回归模型，并求出各自的残差平方和,RSSl,和,RSS2,。如果误差项的离散程度相同,(,即为同方差的,),，则,RSSl,和,RSS2,的值应该大致相同；若两者之间存在显著差异，则表明存在异方差,.,检验过程中为了,“,夸大,”,残差的差异性，一般先在样本中部去掉,C,个数据,(,通常取,c,n,4),，再利用,F,统计量判断差异的显著性：,9,其中，,n,为样本容量，,k,为自变量个数,.,然后对残差进行自相关性的检验，通常我们利用,DW,检验进行残差序列自相关性的检验。该检验的统计量为：,其中 为残差序列，对于计算出的结果通过查表决定是否存在自相关性。,若,duDW4-du,则不存在自相关性；,若,DW4-dl,，则存在一阶负相关；,若,dlDWdu,或,4-duDW4-dl,，则无法判断,10,下面我们对模型进行检验：,（,1,）残差的正态检验：,由,jbtest,检验，,h=0,表明残差服从正态分布，进而由,t,检验可知,h=0,，,p=1,，故残差服从均值为零的正态分布；,（,2,）残差的异方差检验：,我们将,28,个数据从小到大排列，去掉中间的,6,个数据，得到,F,统计量的观测值为：,f=1.9092,由,F(7,7)=3.79,，可知：,f=1.90923.79,，故不存在异方差,.,（,3,）残差的自相关性检验：,计算得到：,dw=1.4330,查表后得到：,dl=0.97 ,du=1.41,，,由于,1.41=dudw=1.4334-du=2.59,残差不存在自相关性,.,11,