1、数学建模回归分析1第1页一元线性回归一元线性回归多元线性回归多元线性回归回归分析回归分析数学模型及定义数学模型及定义*模型参数预计模型参数预计*检验检验可线性化一元非线可线性化一元非线性回归(曲线回归性回归(曲线回归)数学模型及定义数学模型及定义*模型参数预计模型参数预计逐步回归分析逐步回归分析*多元线性回归中多元线性回归中检检验与预测验与预测统计工具箱中回归分析命令统计工具箱中回归分析命令2第2页一、数学模型一、数学模型例例1 测16名成年女子身高与腿长所得数据以下:以身高x为横坐标,以腿长y为纵坐标将这些数据点(xi,yi)在平面直角坐标系上标出.散点图解答3第3页一元线性回归分析主要任务
2、主要任务是:返回返回普通地,称由(1)确定模型为一元线性回归模型一元线性回归模型,记为4第4页二、模型参数预计二、模型参数预计1回归系数最小二乘预计回归系数最小二乘预计6第6页 其中=niiniiynyxnx111,1,=niiiniiyxnxyxnx11221,1.7第7页返回返回8第8页检检 验验1回归方程显著性检验回归方程显著性检验9第9页F F 检验检验检检 验验10第10页r r 检验检验检检 验验11第11页回归系数置信区间回归系数置信区间检检 验验12第12页四、可线性化一元非线性回归四、可线性化一元非线性回归 (曲线回归)(曲线回归)例例2出钢时所用盛钢水钢包,因为钢水对耐火材
3、料侵蚀,容积不停增大.我们希望知道使用次数与增大容积之间关 系.对一钢包作试验,测得数据列于下表:解答13第13页此即非线性回归非线性回归或曲线回归曲线回归问题(需要配曲线)配曲线普通方法是:配曲线普通方法是:散点图问题(需要配曲线)曲线回归曲线回归14第14页通常选择六类曲线以下:返回返回15第15页一、数学模型及定义一、数学模型及定义返回返回16第16页二、模型参数预计二、模型参数预计解得预计值()()YXXXTT1-=b17第17页返回返回18第18页三、多元线性回归中检验三、多元线性回归中检验()F 检验法检验法()r 检验法检验法(残差平方和残差平方和)19第19页四、逐步回归分析四
4、、逐步回归分析(4)“有进有出”逐步回归分析.(1)从全部可能因子(变量)组合回归方程中选择最优者;(2)从包含全部变量回归方程中逐次剔除不显著因子;(3)从一个变量开始,把变量逐一引入方程;选择“最优”回归方程有以下几个方法:“最最优优”回回归归方方程程就是包含全部对Y有影响变量,而不包含对Y影响不显著变量回归方程.以第四种方法,即逐步回归分析法逐步回归分析法在筛选变量方面较为理想.20第20页 这个过程重复进行,直至既无不显著变量从回归方程中剔除,又无显著变量可引入回归方程时为止.逐步回归分析法逐步回归分析法思想:从一个自变量开始,视自变量Y对作用显著程度,从大到小地依次逐一引入回归方程.
5、当引入自变量因为后面变量引入而变得不显著时,要将其剔除掉.引入一个自变量或从回归方程中剔除一个自变量,为逐步回归一步.对于每一步都要进行Y值检验,以确保每次引入新显著性变量前回归方程中只包含对Y作用显著变量.返回返回四、逐步回归分析四、逐步回归分析21第21页统计工具箱中回归分析命令统计工具箱中回归分析命令1多元线性回归多元线性回归2多项式回归多项式回归3非线性回归非线性回归4逐步回归逐步回归返回返回22第22页多元线性回归多元线性回归 b=regress(Y,X)1确定回归系数点预计值:确定回归系数点预计值:23第23页3画出残差及其置信区间:画出残差及其置信区间:rcoplot(r,rin
6、t)b,bint,r,rint,stats=regress(Y,X,alpha)回归系数区间预计残差用于检验回归模型统计量,有三个数值:相关系数r 2、F值、与F 对应概率p置信区间 显著性水平(缺省时为0.05)2 2求回归系数点预计和区间预计、并检验回归模型求回归系数点预计和区间预计、并检验回归模型24第24页例例1 解:解:1输入数据:输入数据:x=143 145 146 147 149 150 153 154 155 156 157 158 159 160 162 164;X=ones(16,1)x;Y=88 85 88 91 92 93 93 95 96 98 97 96 98 99
7、 100 102;2回归分析及检验:回归分析及检验:b,bint,r,rint,stats=regress(Y,X)b,bint,statsTo MATLAB(liti11)题目25第25页3残差分析,作残差图:残差分析,作残差图:rcoplot(r,rint)从残差图能够看出,除第二个数据外,其余数据残差离零点均较近,且残差置信区间均包含零点,这说明回归模型 y=-16.073+0.7194x能很好符合原始数据,而第二个数据可视为异常点.4预测及作图:预测及作图:z=b(1)+b(2)*x plot(x,Y,k+,x,z,r)返回返回To MATLAB(liti12)26第26页多多项项式式
8、回回归归(一)一元多项式回归(一)一元多项式回归(1)确定多项式系数命令:p,S=polyfit(x,y,m)(2)一元多项式回归命令:polytool(x,y,m)1回归:回归:y=a1xm+a2xm-1+amx+am+12预测和预测误差预计:预测和预测误差预计:(1)Y=polyval(p,x)求polyfit所得回归多项式在x处 预测值Y;(2)Y,DELTA=polyconf(p,x,S,alpha)求polyfit所得回归多项式在x处预测值Y及预测值显 著性为1-alpha置信区间Y DELTA;alpha缺省时为0.5.27第27页28第28页法一法一 直接作二次多项式回归:直接作
9、二次多项式回归:t=1/30:1/30:14/30;s=11.86 15.67 20.60 26.69 33.71 41.93 51.13 61.49 72.90 85.44 99.08 113.77 129.54 146.48;p,S=polyfit(t,s,2)To MATLAB(liti21)得回归模型为:29第29页法二法二化为多元线性回归:化为多元线性回归:t=1/30:1/30:14/30;s=11.86 15.67 20.60 26.69 33.71 41.93 51.13 61.49 72.90 85.44 99.08 113.77 129.54 146.48;T=ones(1
10、4,1)t(t.2);b,bint,r,rint,stats=regress(s,T);b,statsTo MATLAB(liti22)得回归模型为:Y=polyconf(p,t,S)plot(t,s,k+,t,Y,r)预测及作图预测及作图To MATLAB(liti23)30第30页Y=Columns 1 through 12 11.8729 15.7002 20.6148 26.6168 33.7060 41.8826 51.1465 61.4978 72.9363 85.4622 99.0754 113.7759 Columns 13 through 14 129.5637 146.43
11、8931第31页32第32页(二)多元二项式回归(二)多元二项式回归命令:rstool(x,y,model,alpha)nm矩阵显著性水平(缺省时为0.05)n维列向量33第33页例例3 设某商品需求量与消费者平均收入、商品价格统计数 据以下,建立回归模型,预测平均收入为1000、价格为6时 商品需求量.法一法一 直接用多元二项式回归:x1=1000 600 1200 500 300 400 1300 1100 1300 300;x2=5 7 6 6 8 7 5 4 3 9;y=100 75 80 70 50 65 90 100 110 60;x=x1 x2;rstool(x,y,purequ
12、adratic)34第34页 在画面左下方下拉式菜单中选”all”,则betarmse和residuals都传送到MATLAB工作区中.将左边图形下方方框中“800”改成1000,右边图形下方方框中仍输入6.则画面左边“Predicted Y”下方数据由原来“86.3791”变为88.4791,即预测出平均收入为1000价格为6时商品需求量为88.4791.35第35页在MATLAB工作区中输入命令:beta,rmseTo MATLAB(liti31)36第36页结果为:b=110.5313 0.1464 -26.5709 -0.0001 1.8475 stats=0.9702 40.6656
13、 0.0005法二法二To MATLAB(liti32)返回返回将 化为多元线性回归:37第37页非线性回非线性回归归(1)确定回归系数命令:beta,r,J=nlinfit(x,y,model,beta0)(2)非线性回归命令:nlintool(x,y,model,beta0,alpha)1回归:回归:残差Jacobi矩阵回归系数初值事先用M文件定义非线性函数预计出回归系数输入数据xy分别为 矩阵和n维列向量,对一元非线性回归,x为n维列向量.2预测和预测误差预计:预测和预测误差预计:Y,DELTA=nlpredci(model,x,beta,r,J)求nlinfit 或lintool所得回
14、归函数在x处预测值Y及预测值显著性水平为1-alpha置信区间Y DELTA.38第38页例例4 对第一节例2,求解以下:2输入数据:x=2:16;y=6.42 8.20 9.58 9.5 9.7 10 9.93 9.99 10.49 10.59 10.60 10.80 10.60 10.90 10.76;beta0=8 2;3求回归系数:beta,r,J=nlinfit(x,y,volum,beta0);beta得结果:beta=11.6036 -1.0641即得回归模型为:To MATLAB(liti41)题目39第39页4预测及作图:YY,delta=nlpredci(volum,x,b
15、eta,r,J);plot(x,y,k+,x,YY,r)To MATLAB(liti42)40第40页例例5财政收入预测问题:财政收入与国民收入、工业总产值、农业总产值、总人口、就业人口、固定资产投资等原因相关.表中列出了19521981年原始数据,试结构预测模型.解解 设国民收入、工业总产值、农业总产值、总人口、就业人口、固定资产投资分别为x1、x2、x3、x4、x5、x6,财政收入为y,设变量之间关系为:y=ax1+bx2+cx3+dx4+ex5+fx6使用非线性回归方法求解.41第41页1对回归模型建立对回归模型建立M文件文件model.m以下以下:function yy=model(b
16、eta0,X)a=beta0(1);b=beta0(2);c=beta0(3);d=beta0(4);e=beta0(5);f=beta0(6);x1=X(:,1);x2=X(:,2);x3=X(:,3);x4=X(:,4);x5=X(:,5);x6=X(:,6);yy=a*x1+b*x2+c*x3+d*x4+e*x5+f*x6;42第42页2.主程序主程序liti6.m以下以下:X=598.00 349.00 461.00 57482.00 20729.00 44.00 .2927.00 6862.00 1273.00 100072.0 43280.00 496.00;y=184.00 21
17、6.00 248.00 254.00 268.00 286.00 357.00 444.00 506.00.271.00 230.00 266.00 323.00 393.00 466.00 352.00 303.00 447.00.564.00 638.00 658.00 691.00 655.00 692.00 657.00 723.00 922.00.890.00 826.00 810.0;beta0=0.50-0.03-0.60 0.01-0.02 0.35;betafit=nlinfit(X,y,model,beta0)To MATLAB(liti6)43第43页 betafit=0
18、.5243 -0.0294 -0.6304 0.0112 -0.0230 0.3658即y=0.5243x1-0.0294x2-0.6304x3+0.0112x4-0.0230 x5+0.3658x6结果为结果为:返返回回44第44页逐逐步步回回归归逐步回归命令是:stepwise(x,y,inmodel,alpha)运行stepwise命令时产生三个图形窗口:Stepwise Plot,Stepwise Table,Stepwise History.在Stepwise Plot窗口,显示出各项回归系数及其置信区间.Stepwise Table 窗口中列出了一个统计表,包含回归系数及其置信区间
19、,以及模型统计量剩下标准差(RMSE)、相关系数(R-square)、F值、与F对应概率P.矩阵列数指标,给出初始模型中包含子集(缺省时设定为全部自变量)显著性水平(缺省时为0.05)自变量数据,阶矩阵因变量数据,阶矩阵45第45页例例6 水泥凝固时放出热量y与水泥中4种化学成份x1、x2、x3、x4 相关,今测得一组数据以下,试用逐步回归法确定一个 线性模 型.1数据输入:数据输入:x1=7 1 11 11 7 11 3 1 2 21 1 11 10;x2=26 29 56 31 52 55 71 31 54 47 40 66 68;x3=6 15 8 8 6 9 17 22 18 4 23
20、 9 8;x4=60 52 20 47 33 22 6 44 22 26 34 12 12;y=78.5 74.3 104.3 87.6 95.9 109.2 102.7 72.5 93.1 115.9 83.8 113.3 109.4;x=x1 x2 x3 x4;46第46页2逐步回归:逐步回归:(1)先在初始模型中取全部自变量:)先在初始模型中取全部自变量:stepwise(x,y)得图Stepwise Plot 和表Stepwise Table图图Stepwise Plot中四条直线都中四条直线都是虚线,说明模型显著性不好是虚线,说明模型显著性不好从表从表Stepwise Table中看
21、中看出变量出变量x3和和x4显著性最差显著性最差.47第47页(2)在图)在图Stepwise Plot中点击直线中点击直线3和直线和直线4,移去变量,移去变量x3和和x4移去变量移去变量x3和和x4后模型含有显著性后模型含有显著性.即使剩下标准差(即使剩下标准差(RMSE)没)没有太大改变,不过统计量有太大改变,不过统计量F值显著增大,所以新回归模型更值显著增大,所以新回归模型更加好加好.To MATLAB(liti51)48第48页(3)对变量)对变量y和和x1、x2作线性回归:作线性回归:X=ones(13,1)x1 x2;b=regress(y,X)得结果:b=52.5773 1.46
22、83 0.6623故最终模型为:y=52.5773+1.4683x1+0.6623x2To MATLAB(liti62)返回返回49第49页1考查温度x对产量y影响,测得以下10组数据:求y关于x线性回归方程,检验回归效果是否显著,并预测x=42时产量估值及预测区间(置信度95%).2某零件上有一段曲线,为了在程序控制机床上加工这一零件,需要求这段曲线解析表示式,在曲线横坐标xi处测得纵坐标yi共11对数据以下:求这段曲线纵坐标y关于横坐标x二次多项式回归方程.50第50页51第51页4混凝土抗压强度随养护时间延长而增加,现将一批混凝土作成12个试块,统计了养护日期x(日)及抗压强度y(kg/cm2)数据:52第52页53第53页