第一章-多元线形回归.doc

第一章 多元线形回归
一元线形回归实例
例1.1 求点预测和置信区间
data ex;input x y @@;
cards;
14.3 46.3 14 30.7 69.3 144.6 22.7 69.2 7.3 16 8 12.3 1.3 2.7 7.9 26.3 20 .
;
proc gplot;
plot y*x;
symbol i=rl v=dot;
proc reg;model y=x /cli;run;

多元线形回归实例
例1.2求点预测和置信区间（两个变量）
data ex;input x1 x2 y @@;
cards;
1.37 9.08 4.93 11.34 1.89 1.86
9.67 3.06 2.33 0.76 10.2 5.78
17.67 0.05 0.06 15.91 0.73 0.43
15.74 1.03 0.87 5.41 6.25 3.86
5.4 6.3 .
;
symbol i=rl v=star;
proc gplot;plot y*x1;
proc reg;model y=x1;
proc gplot;plot y*x2;
proc reg;model y=x2;
proc reg;model y=x1 x2/cli stb;run; （输出点预测和区间预测，标准回归系数）

例1.3 三元线形回归方程及标准回归方程，只有相关系数，没有观测值
data ex(type=corr);input _TYPE_$ _NAME_$ x1-x3 y @@;
cards;
mean . 32.1742 2.5868 31.2872 60.7647
std . 1.27671 0.38333 4.01626 2.16514
n . 53 53 53 53
corr x1 1 -0.48811 0.17853 0.4421
corr x2 -0.48811 1 -0.171 -0.62016
corr x3 0.17853 -0.171 1 0.51625

corr y 0.4421 -0.62016 0.51625 1
;
proc reg;model y=x1-x3/stb;run;

比较标准应用实例
例1.4 确定最优回归子集，建立最优回归方程（五元）
data ex;input x1-x5 y@@;
cards;
9.2 2.732 1.471 0.332 1.138 1.155
9.1 3.732 1.82 0.112 0.828 1.146
8.6 4.882 1.827 0.383 2.131 1.841
10.233 3.968 1.587 0.181 1.349 1.356
5.6 3.72 1.841 0.297 1.815 0.863
5.367 4.236 1.873 0.063 1.352 0.903
6.133 3.146 1.987 0.28 1.647 0.114
8.2 4.646 1.615 0.379 4.565 0.898
8.8 4.378 1.543 0.744 2.073 1.93
7.6 3.864 1.599 0.342 2.423 1.104
9.7 4.378 1.691 0.225 1.522 1.403
8.367 5.095 1.807 0.439 2.281 1.763
12.167 4.894 1.728 0.126 1.581 1.636
10.267 3.732 1.612 0.109 1.198 1.467
8.9 4.472 1.88 0.079 0.795 0.919
;
proc reg;model y=x1-x5/slection=rsquare b;
model y=x1-x5/selction=rsquare adjrsq cp AIC MSE SSE;run;
（adjrsq最大的为最优）

逐步回归
data ex;input x1-x5 y@@;
cards;
9.2 2.732 1.471 0.332 1.138 1.155
9.1 3.732 1.82 0.112 0.828 1.146
8.6 4.882 1.827 0.383 2.131 1.841
10.233 3.968 1.587 0.181 1.349 1.356
5.6 3.72 1.841 0.297 1.815 0.863
5.367 4.236 1.873 0.063 1.352 0.903
6.133 3.146 1.987 0.28 1.647 0.114
8.2 4.646 1.615 0.379 4.565 0.898
8.8 4.378 1.543 0.744 2.073 1.93
7.6 3.864 1.599 0.342 2.423 1.104
9.7 4.378 1.691 0.225 1.522 1.403
8.367 5.095 1.807 0.439 2.281 1.763
12.167 4.894 1.728 0.126 1.581 1.636
10.267 3.732 1.612 0.109 1.198 1.467
8.9 4.472 1.88 0.079 0.795 0.919
;
proc reg;model y=x1-x5/slection=stepwise;run;

第二章 多元线性相关
三种相关系数实例（简单相关系数，复相关系数，偏相关系数）
例2.1 计算三种相关系数并作相关系数的显著性检验

data ex;input x1-x4 y @@;
cards;
10 23 3.6 113 15.7 9 20 3.6 106 14.5
10 22 3.7 111 17.5 13 21 3.7 109 22.5
10 22 3.6 110 15.5 10 23 3.5 103 16.9
8 23 3.3 100 8.6 10 24 3.4 114 17
10 20 3.4 104 13.7 10 21 3.4 110 13.4
10 23 3.9 104 20.3 8 21 3.5 109 10.2
6 23 3.2 114 7.4 8 21 3.7 113 11.6
9 22 3.6 105 12.3
;
proc iml;use ex;
read all into data;
x=data[,];n=nrow(x);p=ncol(x);
i=i(n);v=repeat(1,n,1);h=i-v*v`/n;sscp=x`*h*x;
d=inv(sqrt(diag(sscp)));r=d*sscp*d;
print r;ir=inv(r);a=i(p);
do i=1 to p;do j=1 to p;
a[i,j]=-ir[i,j]/sqrt(ir[i,i]*ir[j,j]);
if i=j then a[i,j]=sqrt(1-1/ir[i,j]);
if i>j then a[i,j]=r[i,j];end;end;
print a;
例2.2 计算通径系数（直接和间接通径系数）
在例2.1后加上
proc reg;model y= x1-x4/stb;run;
proc reg;model y= x1-x3/stb;run;
直接通径系数是标准系数，间接通径系数p12y=r12*p2y
步骤:做回归分析、根据简单相关系数写通径系数的正规方程组、写出直接和间接通径系数

典型相关分析实例
例2.3 气象指标X1,x2与虫情指标y1,y2,y3的典型相关分析
data ex;input x1-x2 y1-y3 @@;
cards;
9.2 2.014 186 46.3 14.3
9.1 2.17 169 30.7 14
8.6 2.258 171 144.6 69.3
10.2 2.206 171 69.2 22.7
5.6 2.067 181 16 7.3
5.4 2.197 171 12.3 8
6.1 2.17 174 2.7 1.3
8.2 2.1 172 26.3 7.9
8.8 1.983 186 247.1 85.2
7.6 2.146 176 47.7 12.7
9.7 2.047 176 53.6 25.3
8.4 2.102 172 137.6 58
12.2 2.284 176 118.9 43.3
10.3 2.242 161 62.7 29.3
8.9 2.283 171 26.2 8.3
8.2 2.068 172 123.9 32.7
;
proc cancorr out=c;var x1 x2;with y1-y3;run;
步骤：列出典型相关系数、列出几对典型变量、确定典型变量保留的对数（检验典型相关系数的显著性F值，留较小的）

第三章 多元非线性回归
非线性回归方程拟合情况的比较
例3.1选用多个一元非线性回归方程进行拟合，并比较
data ex; input x y @@;
x=1/x;lx=log(x);ly=log(y);
cards;
1 1.85 2 1.37 3 1.02 4 0.75 4 0.56
6 0.41 6 0.31 8 0.23 8 0.17
;
proc gplot;
plot y*x;symbol i=spline v=star;run;
proc reg; model y=x;
proc reg; model ly=lx;
proc reg; model ly=x;
run;
data ex1; input x y @@;
x1=1/x;lx=log(x);ly=log(y);
y1=0.1159+1.9291*x1;q1=(y-y1)**2;
y2=exp(0.9638-1.1292*lx);q2=(y-y2)**2;
y3=exp(0.923-0.3221*x);q3=(y-y3)**2;
cards;
1 1.85 2 1.37 3 1.02 4 0.75 4 0.56
6 0.41 6 0.31 8 0.23 8 0.17
;
proc print; sum;var q1-q3;
run;
剩余平方和Q较小，相关指数较大，拟合情况较好
步骤：分别写出各个变换后的线性方程，并求出非线性方程，将q相加得Q，比较小的拟合好

非线性最小二乘法、Logistic曲线回归方程
例3.3 建立Logistic曲线回归方程并用非线性最小二乘法重新计算回归系数
data ex ;input x y @@;
cards;
5 3.5 10 6.4 15 14.6 20 31.4 25 45.6 30 60.4 35 75.2 40 90.2 45 95.4 50 97.5
;
proc gplot;
plot y*x; symbol i=spline v=star;
run; （画出散点图）
data ex;input x y@@;
Y=(1/2)*log(((100-y)/y)**2);
cards;
5 3.5 10 6.4 15 14.6 20 31.4 25 45.6 30 60.4 35 75.2 40 90.2 45 95.4 50 97.5
;
proc reg; model Y=x;
run; （建立线性回归方程Y=lna-bx，即Y=A+Bx,写出Logistic曲线回归方程）
data ex;
a=exp(4.12861);
proc print a ;
run; （输出a）
data ex; input x y@@;
y1=100/(1+62.0916*exp(-0.1540*x));q=(y-y1)**2;
cards;
5 3.5 10 6.4 15 14.6 20 31.4 25 45.6 30 60.4 35 75.2 40 90.2 45 95.4 50 97.5
;
proc print q;run; （输出q）
data ex;input x y@@;
cards;
5 3.5 10 6.4 15 14.6 20 31.4 25 45.6 30 60.4 35 75.2 40 90.2 45 95.4 50 97.5
;
proc nlin;model y=k/(1+a*exp((-b)*x));
parms a=0 b=1 k=100;
der.a=((-k)*exp((-b)*x))/((1+a*exp((-b)*x))**2);
der.b=(a*k*x*exp((-b)*x))/((1+a*exp((-b)*x))**2);
der.k=1/(1+a*exp((-b)*x));
run; (用非线性最小二乘法重新计算回归系数)

一次回归正交设计实例
步骤：计算三元线性回归方程，对回归方程和回归系数作显著性检验；
引入交互效应项，计算三元一次回归方程并检验；
去除最不显著因子，再建立方程并检验；直至显著为止；
检验区域中心的拟合情况，写出方程。

二次回归通用旋转组合设计实例
例3.7 先线性变换，再根据三元二次回归通用旋转组合设计安排实验，试建立三元二次回归方程
data ex;input x1-x3 y @@;
x12=x1*x2;x13=x1*x3;x23=x2*x3;
x11=x1*x1;x22=x2*x2;x33=x3*x3;
cards;
1 1 1 83.45 1 1 -1 88.63
1 -1 1 78.27 1 -1 -1 77.69
-1 1 1 80 -1 1 -1 76.54
-1 -1 1 73.66 -1 -1 -1 71.36
1.682 0 0 82.3 -1.682 0 0 68.49
0 1.682 0 86.33 0 -1.682 0 67.91
0 0 1.682 73.66 0 0 -1.682 67.91
0 0 0 87.48 0 0 0 82.3 0 0 0 85.18
0 0 0 88.05 0 0 0 81.72 0 0 0 80
（0 0 1 . 0 0 0.9 . 0 0 0.8 .
0 0 0.7 . 0 0 0.6 . 0 0 0.5 .
0 0 0.4 . 0 0 0.3 . 0 0 0.2 .
0 0 0.1 . 0 0.1 0 . 0.1 0 0 .）（为验证通用性，看方差）
;
proc reg;model y=x1-x3 x12 x13 x23 x11 x22 x33/cli;run;