数学建模讲义统计模型市公开课一等奖百校联赛特等奖课件.pptx

数学建模讲义数学建模讲义统计模型统计模型 回归分析回归分析第1页主要内容主要内容l0 引例引例l1(多元多元)线性回归模型线性回归模型l2 参数最小二乘预计参数最小二乘预计l3 线性关系显著性检验线性关系显著性检验l4 区间预测区间预测l5 参数区间预计参数区间预计(假设检验假设检验)l6 matlab多元线性回归多元线性回归l7 matlab非线性回归非线性回归l8 非线性回归化为线性回归非线性回归化为线性回归l9 matlab逐步回归逐步回归l10 综合实例：牙膏销售量综合实例：牙膏销售量l11 综合实例：投资额与国民生产总值和物价指数综合实例：投资额与国民生产总值和物价指数 第2页例例1:水泥凝固时放出热量水泥凝固时放出热量y与水泥中与水泥中4种化学成份种化学成份x1、x2、x3、x4 相关，今测得一组数据以下，试确定一个相关，今测得一组数据以下，试确定一个 线性模型线性模型.1.线性关系是否显著？线性关系是否显著？2.当当x=(8,30,10,10)时，时，95%可能可能y落在哪个区间落在哪个区间?3.是否是否4种化学成份都对释放热量有显著影响？种化学成份都对释放热量有显著影响？4.y还受其它原因影响吗还受其它原因影响吗?如如x1*x2,yt-1,xt-10 引例引例第3页l为了能够使用普通最小二乘法进行参数预计，需对为了能够使用普通最小二乘法进行参数预计，需对模型提出若干基本假设模型提出若干基本假设：(1)随机误差项服从随机误差项服从0均值、同方差正态分布均值、同方差正态分布:l(2)随机误差项在不一样样本点之间是独立随机误差项在不一样样本点之间是独立,不不存在序列相关存在序列相关:(3)随机误差项与解释变量之间不相关随机误差项与解释变量之间不相关:1 1多元线性回归多元线性回归第4页多元线性回归多元线性回归称为回归平面方程回归平面方程.第5页解得2 参数最小二乘预计参数最小二乘预计第6页（）F检验法检验法（）r检验法检验法(残差平方和）残差平方和）3 线性关系显著性检验线性关系显著性检验第7页3 线性关系显著性检验线性关系显著性检验记：记：回归平方和：回归平方和：残差平方和：残差平方和：则线性关系不显著，反之显著。则线性关系不显著，反之显著。若若=2677.9=47.86第8页（1）点预测）点预测（2）区间预测）区间预测4 预测预测残差平方和：残差平方和：第9页4 预测预测在未知点在未知点 点预测为：点预测为：而而y置信水平置信水平1-区间预测为：区间预测为：其中：其中：(7,40,10,30)y=89.70(89.70-18.32,89.70+18.32)第10页l经常听到这么说法，经常听到这么说法，“假如给定解释变量值，依据模假如给定解释变量值，依据模型就能够得到被解释变量预测值为型就能够得到被解释变量预测值为值值”。这种说。这种说法是不科学，也是统计模型无法到达。假如一定要给法是不科学，也是统计模型无法到达。假如一定要给出一个详细预测值，那么它置信水平则为出一个详细预测值，那么它置信水平则为0；假如一；假如一定要回答以定要回答以100%置信水平处于什么区间中，那么这置信水平处于什么区间中，那么这个区间是个区间是。l在实际应用中，我们当然也希望置信水平越高越好，在实际应用中，我们当然也希望置信水平越高越好，置信区间越小越好。怎样才能缩小置信区间？置信区间越小越好。怎样才能缩小置信区间？（1）置信水平与置信区间是矛盾。但可增大样本容量）置信水平与置信区间是矛盾。但可增大样本容量n，使临界值使临界值t减小。减小。（2）更主要是提升模型拟合优度，以减小残差平方和。构）更主要是提升模型拟合优度，以减小残差平方和。构想一个极端情况，假如模型完全拟合样本观察值，残差平想一个极端情况，假如模型完全拟合样本观察值，残差平方和为方和为0，则置信区间也为，则置信区间也为0。（3）提升样本观察值分散度。在普通情况下，样本观察值）提升样本观察值分散度。在普通情况下，样本观察值越分散，越分散，(XX)-1越小。越小。第11页5 参数区间预计参数区间预计(假设检验假设检验)记：记：故故bi区间预计为：区间预计为：则有：则有：若原因若原因xi不主要，则有不主要，则有bi=0，即上述区间包含，即上述区间包含0。l-99.1786 223.9893l -0.1663 3.2685l -1.1589 2.1792l -1.6385 1.8423l -1.7791 1.4910第12页5 逐步回归逐步回归（4）“有进有出”逐步回归分析。（1）从全部可能因子（变量）组合回归方程中选择最优者；（2）从包含全部变量回归方程中逐次剔除不显著因子；（3）从一个变量开始，把变量逐一引入方程；选择“最优”回归方程有以下几个方法：“最最优优”回回归归方方程程就是包含全部对Y有影响变量,而不包含对Y影响不显著变量回归方程。以第四种方法，即逐步回归分析法逐步回归分析法在筛选变量方面较为理想.第13页 这个过程重复进行，直至既无不显著变量从回归方程这个过程重复进行，直至既无不显著变量从回归方程中剔除，又无显著变量可引入回归方程时为止。中剔除，又无显著变量可引入回归方程时为止。“有进有出有进有出”逐步回归分析逐步回归分析(组合优化组合优化)从一个自变量开始，视自变量从一个自变量开始，视自变量Y作用显著程度，从大到作用显著程度，从大到小地依次逐一引入回归方程。小地依次逐一引入回归方程。但当引入自变量因为但当引入自变量因为后面变量后面变量引入而变得不显著时，要引入而变得不显著时，要将其剔除掉。将其剔除掉。引入一个自变量或从回归方程中剔除一个自变量，为引入一个自变量或从回归方程中剔除一个自变量，为逐步回归一步。逐步回归一步。对于每一步都要进行对于每一步都要进行Y值检验，以确保每次引入新显著值检验，以确保每次引入新显著性变量前回归方程中只包含对性变量前回归方程中只包含对Y作用显著变量。作用显著变量。第14页b,bint,r,rint,stats=regress(Y,X,alpha)回归系数区间预计残差置信区间6 matlab多元线性回归多元线性回归第15页引例引例1解解1、输入数据：输入数据：x=143 145 146 147 149 150 153 154 155 156 157 158 159 160 162 164;X=ones(16,1)x;Y=88 85 88 91 92 93 93 95 96 98 97 96 98 99 100 102;2、回归分析及检验：回归分析及检验：b,bint,r,rint,stats=regress(Y,X)得到结果：b=bint=-16.0730 -33.7071 1.5612 0.7194 0.6047 0.8340 stats=0.9282 180.9531 0.0000 即 ；置信区间为-33.7017，1.5612,置信 区 间 为 0.6047,0.834;r2=0.9282,F=180.9531,p=0.0000。p0.05,可知回归模型 y=-16.073+0.7194x 成立。第16页3、残差分析，作残差图：、残差分析，作残差图：rcoplot(r,rint)从残差图能够看出，除第二个数据外，其余数据残差从残差图能够看出，除第二个数据外，其余数据残差离零点均较近，且残差置信区间均包含零点，这说明回归离零点均较近，且残差置信区间均包含零点，这说明回归模型模型 y=-16.073+0.7194x能很好符合原始数据，而第二个能很好符合原始数据，而第二个数数据可视为异常点据可视为异常点.（能够去掉该点重新回归）（能够去掉该点重新回归）4、预测及作图：、预测及作图：z=b(1)+b(2)*x plot(x,Y,k+,x,z,r)注意，注意，matlab没有线性回没有线性回归区间预测函数，需要自归区间预测函数，需要自己依据公式计算。己依据公式计算。第17页逐步回归命令是：stepwise（x，y，inmodel，alpha）运行stepwise命令时产生三个图形窗口：Stepwise Plot，Stepwise Table，Stepwise History.在Stepwise Plot窗口，显示出各项回归系数及其置信区间.Stepwise Table 窗口中列出了一个统计表，包含回归系数及其置信区间，以及模型统计量剩下标准差（RMSE）、相关系数（R-square）、F值、与F对应概率P.矩阵列数指标，给出初始模型中包含子集（缺省时设定为全部自变量）显著性水平（缺省时为0.5）自变量数据,阶矩阵因变量数据，阶矩阵7 matlab逐步回归逐步回归第18页引例引例2：水泥凝固时放出热量水泥凝固时放出热量y与水泥中与水泥中4种化学成份种化学成份x1、x2、x3、x4相关，今测得一组数据以下，试用逐步回归法确定一个相关，今测得一组数据以下，试用逐步回归法确定一个 线性模型线性模型.1、数据输入：、数据输入：x1=7 1 11 11 7 11 3 1 2 21 1 11 10;x2=26 29 56 31 52 55 71 31 54 47 40 66 68;x3=6 15 8 8 6 9 17 22 18 4 23 9 8;x4=60 52 20 47 33 22 6 44 22 26 34 12 12;y=78.5 74.3 104.3 87.6 95.9 109.2 102.7 72.5 93.1 115.9 83.8 113.3 109.4;x=x1 x2 x3 x4;第19页2、逐步回归：、逐步回归：（1）先在初始模型中取全部自变量：）先在初始模型中取全部自变量：stepwise(x,y)得图Stepwise Plot 和表Stepwise Table图图Stepwise Plot中四条直线都是虚中四条直线都是虚线，说明模型显著性不好线，说明模型显著性不好从表从表Stepwise Table中看出变中看出变量量x3和和x4显著性最差显著性最差.第20页（2）在图）在图Stepwise Plot中点击直线中点击直线3和直线和直线4，移去变量，移去变量x3和和x4移去变量移去变量x3和和x4后模型含有显著性后模型含有显著性.即使剩下标准差（即使剩下标准差（RMSE）没）没有太大改变，不过统计量有太大改变，不过统计量F值显著增大，所以新回归模型更值显著增大，所以新回归模型更加好加好.第21页（3）对变量）对变量y和和x1、x2作线性回归：作线性回归：X=ones(13,1)x1 x2;b=regress(y,X)得结果：b=52.5773 1.4683 0.6623故最终模型为：y=52.5773+1.4683x1+0.6623x2注意，注意，matlab没有线性回归区间预测函没有线性回归区间预测函数，需要自己依据公式计算。数，需要自己依据公式计算。第22页问问题题建立牙膏销售量与价格、广告投入之间模型建立牙膏销售量与价格、广告投入之间模型 预测在不一样价格和广告费用下牙膏销售量预测在不一样价格和广告费用下牙膏销售量 搜集了搜集了30个销售周期本企业牙膏销售量、价格、个销售周期本企业牙膏销售量、价格、广告费用，及同期其它厂家同类牙膏平均售价广告费用，及同期其它厂家同类牙膏平均售价 9.260.556.804.253.70307.930.055.803.853.80298.510.256.754.003.7527.38-0.055.503.803.851销售量销售量(百万支百万支)价格差价格差（元）（元）广告费用广告费用(百万元百万元)其它厂家其它厂家价格价格(元元)本企业价本企业价格格(元元)销售销售周期周期8 综合实例：牙膏销售量综合实例：牙膏销售量第23页基本模型基本模型y 企业牙膏销售量企业牙膏销售量x1其它厂家与本企业其它厂家与本企业价格差价格差x2企业广告费用企业广告费用x2yx1yx1,x2解释变量解释变量(回归变量回归变量,自变自变量量)y被解释变量（因变量）被解释变量（因变量）0,1,2,3 回归系数回归系数 随机随机误差（误差（均值为零正均值为零正态分布随机变量）态分布随机变量）第24页MATLAB 统计工具箱统计工具箱 模型求解模型求解b,bint,r,rint,stats=regress(y,x,alpha)输入输入 x=n 4数据矩阵数据矩阵,第第1列为全列为全1向向量量alpha(置信置信水平水平,0.05)b 预计值预计值 bintb置信区间置信区间 r 残差向量残差向量y-xb rintr置信区间置信区间 yn维数据向量维数据向量输出输出 由数据由数据 y,x1,x2预计预计 第25页结果分析结果分析y90.54%可由模型确定可由模型确定 参数参数参数预计值参数预计值置信区间置信区间17.32445.7282 28.92061.30700.6829 1.9311-3.6956-7.4989 0.1077 0.34860.0379 0.6594 R2=0.9054 F=82.9409 p=0.0000 0 1 2 3F远超出远超出F检验临界值检验临界值 p远小于远小于=0.05 2置信区间包含零点置信区间包含零点(右端点距零点很近右端点距零点很近)x2对因变量对因变量y 影影响不太显著响不太显著x22项显著项显著 可将可将x2保留在模型中保留在模型中 模型从整体上看成立模型从整体上看成立第26页销售量预测销售量预测 价格差价格差x1=其它厂家其它厂家价格价格x3-本企业本企业价格价格x4预计预计x3调整调整x4控制价格差控制价格差x1=0.2元，投入广告费元，投入广告费x2=650万元万元销售量预测区间为销售量预测区间为 7.8230，8.7636（置信度（置信度95%）上限用作库存管理目标值上限用作库存管理目标值 下限用来把握企业现金流下限用来把握企业现金流 若预计若预计x3=3.9，设定，设定x4=3.7，则能够，则能够95%把握知道把握知道销售额在销售额在 7.8320 3.7 29（百万元）以上（百万元）以上控制控制x1经过经过x1,x2预测预测y(百万支百万支)第27页模型改进模型改进x1和和x2对对y影响独立影响独立 参数参数参数预计值参数预计值置信区间置信区间17.32445.7282 28.92061.30700.6829 1.9311-3.6956-7.4989 0.1077 0.34860.0379 0.6594 R2=0.9054 F=82.9409 p=0.0000 0 1 2 3参数参数参数预计值参数预计值置信区间置信区间29.113313.7013 44.525211.13421.9778 20.2906-7.6080-12.6932 -2.5228 0.67120.2538 1.0887-1.4777-2.8518 -0.1037 R2=0.9209 F=72.7771 p=0.0000 3 0 1 2 4x1和和x2对对y影响有交影响有交互作用互作用第28页两模型销售量预测两模型销售量预测比较比较(百万支百万支)区间区间 7.8230，8.7636区间区间 7.8953，8.7592(百万支百万支)控制价格差控制价格差x1=0.2元，投入广告费元，投入广告费x2=6.5百万元百万元预测区间长度更短预测区间长度更短 略有增加略有增加 第29页x2=6.5x1=0.2 x1x1x2x2两模型两模型 与与x1,x2关系关系比较比较第30页交互作用影响讨论交互作用影响讨论价格差价格差 x1=0.1 价格差价格差 x1=0.3加大广告投入使销售量增加加大广告投入使销售量增加（x2大于大于6百万元）百万元）价格差较小时增加价格差较小时增加速率更大速率更大 x2价格优势会使销售量增加价格优势会使销售量增加 价格差较小时更需要靠广告价格差较小时更需要靠广告来吸引用户眼球来吸引用户眼球 第31页