资源描述
21
目 录
摘 要 3
ABSTRACT 4
第一章 引言 5
第二章 最小二乘法 5
2.1最小二乘拟合 5
2.2 线性最小二乘拟合 6
2.3 小结 7
第三章 快速算法及基本原理 7
3.1 H-变换 7
3.2 QR分解 10
3.3 算法 11
第四章 最小二乘法的正交化方法 13
第五章 MATLAB代码实现 14
5.1 Householder变换 14
5.2 用householder变换来做QR分解 15
5.3 QR分解 16
第六章 应用 17
第七章 总结 18
谢 辞 19
参考文献 20
注 释 21
附 录 22
摘 要
本文介绍了数据拟合中最小二乘法的基本原理,并根据最小二乘数据拟合方法,针对线性最小二乘拟合及其快速算法(运用HOUSEHOLDER变换及QR分解)进行了分析和研究,并通过数学工具Matlab实现了对相关问题的举例应用,使相关数据拟合理论更加生动易懂.
关键词:数据拟合,最小二乘法, householder变换,应用
ABSTRACT
This thesis introduces the basic principle of the least square data fitting. According to the least square data fitting ,the paper studies and analyzes the linear least square fitting using the Householder matrix transformations and QR decompositions of the matrix. Using Matlab makes the theory of data fitting easier to be understood. The method of operation and compose of Matlab is quite easy and the result is accurate. It is very convenient for solving practical problems.
Key Words: data fitting least square method householder transformation application
第一章 引言
实验数据的正确处理关系到能否达到实验目的、得出明确结论. 在进行实验数据的处理分析时,数据拟合是经常采用的方法之一. 数据拟合的目标是寻找一条光滑数据,使之在某种准则下最佳地拟合数据.
本文论述了最小二乘数据拟合法的若干原理,介绍了如何对数据应用Matlab软件实现数据拟合,并给出了若干实例帮助理解相关理论及Matlab实现
最小二乘问题在数据拟合、参数估计和函数逼近等方面中有着广泛的应用.
第二章 最小二乘法
2.1最小二乘拟合
给出m组观测数据(ti,yi),i=1,2,…,m.可以认为它是某一模型
yx=gx+εx, x∈[a,b]
得到的,其中gx是“真正”的光滑函数,εx是误差函数,y(x)是gx经εx干扰所得到的,因此借用物理学名词,又把εx成为白噪音过程,yti=yi, εti=εi, ti∈[a,b] (i=1,2,⋯,m),而εi是观测的随机误差.
设gnx是带有n个参数的数据拟合函数,记
ex=yx-gn(x)
ek=yk-gn(tk)
决定gnx中的参数,使
φ=k=1mek2=k=1m[yk-gn(tk)]2
达到极小,这就是最小二乘拟合问题,也常称为最小二乘法或最小二乘逼近,所求得的解称最小二乘解.
2.2 线性最小二乘拟合
k次代数多项式是1,x,⋯,xk的线性组合
px=j=1kcjxj
由于px由k+1个系数c0,c1,⋯,ck唯一确定,所以又称为k+1阶多项式. 一般地,设u1x,u2x,⋯,un(x)是x的函数,并且它们是线性无关组,则其线性组合
px=a1u1x+a2u2x+⋯+anun(x)
=j=1najujx
称为n阶广义多项式, 取广义多项式为拟合函数的最小二乘拟合问题称为线性最小二乘问题.
对于m组观测数据(ti,yi),i=1,2,…,m,计算广义多项式P(x)在x=ti 处所得的值P(ti)与yi之差的平方和为
φ=i=1m[Pti-yi]2=i=1m[j=1najujti-yi]2
目的是要求出 px(即确定参数a1,a2,⋯,an)使φ达到最小值. 由于φ是a1,a2,⋯,an的函数φ(a1,a2,⋯,an). 因此问题化为求多元函数φ(a1,a2,⋯,an)的极小值. 由多元函数极值的必要条件
∂φ∂ai=0, i=1,2,⋯,n
可得n元线代数方程组
c11a1+c12a2+⋯+c1nan=d1c21a1+c22a2+⋯+c2nan=d2⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯cn1a1+cn2a2+⋯+cnnan=dn
其中
cjk=i=1muj(ti)uk(ti) j,k=1,2⋯,n
dj=i=1muj(ti)yi j=1,2⋯,n
n元线代数方程组称为线性最小二乘问题的正规方程组. 以cjk(j,k=1,2⋯,n)为元素的n元线代数方程组的系数行列式不为零时,可以唯一地解出广义多项式的参数a1,a2,⋯,an
特别地,当ujx=xj-1时,相应的n元线性代数方程组为
s1a1+s2a2+⋯+snan=u1s2a1+s3a2+⋯+sn+1an=u2⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯sna1+sn+1a2+⋯+s2n-1an=un
其中
sk=t1k-1+t2k-1+⋯+tmk-1=i=1mtik-1 k=1,2,⋯,2n-1
uk=t1k-1y1+t2k-1y2+⋯+tmk-1y1m=i=1mtik-1yi
k=1,2,⋯,n
2.3 小结
最小二乘问题的解归结为求正则方程组. 由于正则方程系数矩阵的条件数是原矛盾方程组系数条件数的平方,正则方程的病态程度大大增加. 因此,有必要采用有较高数值稳定性的计算方法. 一般使用H-变换,平方根法和Gram-Schmidt正交化法. 这三种方法用于一次性处理时,H-变换所需的运算量较少,而得到最广泛的使用. 平方根法便于形成递推算法而首先被用于最小二乘估计的递推算法中,但与直接求解正则方程的递推算法相比较,运算量有所增加.
第三章 快速算法及基本原理
3.1 H-变换
Gauss消去法是用左乘一系列初等下三角阵来约化一个矩阵为上三角阵. 而Householder变换(注释一)是应用非常广泛的另外一种三角化方法.
定义 Householder矩阵是指形式为
I-2uuT
的矩阵,其中uTu=1,通常记为H.
根据定义可以看出,Householder矩阵H具有良好的性质:
对称性(HT=H);
正交性(HTH=I);
对称性(H2=I);
反射性 :对任意的x∈Rn,Hx是x关于u的垂直超平面的镜面反射.
应用中经常是,确定一个Householder矩阵H的u并不总是单位向量,把它规范化uu需要计算u,因而要求平方根,这是比较费时的. 为此,用以下定理的方法:
定理1:设u≠0,令π=12u2
则
H=I-π-1uuT
是一个Householder矩阵.
证明:设u'=uu,那么u'=1,且
H=I-2uuTu2=I-2u'u'T
Householder矩阵的一个关键是能把一个给定向量的若干个指定的分量变为零,具体地说就是下列定理:
定理2:设x∈Rn,σ=±x,且假定x≠-σe1,则可找到一个Householder矩阵H使
Hx=-σe1
其中 e1=(1,0,⋯,0)T
证明:作u=x+σe1,求出π=12u2,则H=I-π-1uu-1即为所求的Householder矩阵.
因为
π=12x+σe1T(x+σe1)
=12x2+2σ2x1+σ2=σ2+σx1
所以
Hx=I-π-1uuTx
=x-(x+σe1)(x+σe1)T(σ2+σx1)x
=x-x+σe1=-σe1
上述定理的证明是构造性的,即它叙述了计算u与π的过程,一旦σ的正负号确定后,就可以求出
u1=x1+σ
ui=xi (i=2,⋯,n)
以及π=σ(σ+x1)
如果σ与x1异号,在计算u1时就会发生抵消,因此,我们取σ=Sign(x1)x.
这样我们可以运用Householder变换把系数矩阵化为上梯形矩阵.
定理二显示出,对于任意的x∈Rn (x≠0)都可构造出Householder矩阵H,使Hx的后n-1个分量为零;而且其证明亦告诉我们,可按如下的步骤来构造确定H的单位向量u:
计算 v=x±x2e1;
计算 u=v/x2
首先,一个自然的问题是,实际计算时,x2前的符号如何选取最好. 为了使变换后得到的σ为负数,则应取
v=x-x2e1
但是这样选取就会出现一个问题,如果x是一个很接近e1的向量,计算
v1=x1-x2e1
时,就会出现两个相近的数相减,而导致严重地损失有效数字,这里v1和x1分别表示向量v和x的第一个分量. 不过,幸运的是,只要对上式做一简单的等价变形,就可避免这一问题的出现,事实上,注意到
v1=x1-x2=x12-x22x1+x2=-(x22+⋯+xn2)x1+x2
只要在x1>0时使用上面式子来计算v1,就会避免出现两个相近的数相减的情形.
其次,注意到
H=I-2uuT=I-2vTvvvT=I-βvvT
其中β=2vTv,我们就没有必要非求出u不可,而只需求出β和v即可. 然而在实际计算时,将v规格化为第一个分量为1的向量是方便的,这是因为这样正好可以把v的后n-1个分量保存在x的后n-1个化为0的分量位置上,而v的第一个分量1就无需保存了.
此外,上溢和下溢也是计算中需要考虑的问题. 当下溢发生时,一些计算机系统自动置其为零,这就可能出现vTv为零的情形. 另外如果x的分量太大,当该分量平方时,便会出现上溢. 考虑到对任意的非零实数α有αv与v的单位化向量相同,为了避免溢出现象的出现,我们可用xx∞代替x来构造v(这样做相当于在原来的v之前乘了常数α=1x∞)
3.2 QR分解
设A∈Rm×n,b=Rm,由于2范数具有正交不变性,故对任意的正交矩阵Q∈Rm×m有
Ax-b2=QT(Ax-b)2
这样,最小二乘问题
minQTAx-QTb2
就等价于原最小二乘问题. 因此,就可以通过适当选取正交矩阵Q,使原问题转化为较容易求解的最小二乘问题,这就是正交化方法的基本思想.
定理3(QR分解定理)设A∈Rm×n(m≥n),则A有QR分解:
A=QR0
其中Q∈Rm×m是正交矩阵,R∈Rn×n是具有非负对角元的上三角阵;而且当m=n且A非奇异时,上述的分解时唯一的.
证明见附录.
利用QR分解,就可以实现正交化方法. 设A∈Rm×n(m≥n)有线性无关的列,b∈Rm,并且假定已知A的QR分解. 现将Q分块为
Q=[Q1 Q2]n m-n
并且令
QTb=Q1TQ2Tb=c1c2n m-n
那么
Ax-b22=QTAx-QTb22=Rx-c122+c222
由此即知,x是最小二乘问题的解当且仅当x是Rx=c1的解. 这样一来,最小二乘问题的解可以很容易从上三角方程组Rx=c1求得.
综合上面的分析,可得求正交化方法的基本步骤为:
(1)计算A的QR分解;
(2)计算c1=Q1Tb;
(3)求解上三角方程组Rx=c1;
由此可知,实现正交化方法的关键是如何实现矩阵A的QR分解.
3.3 算法
设A∈Rm×n,把A的列向量记作aj=(a1j,a2j,⋯,amj)T, j=1,2,⋯,n.
第一步,令A1=A=α1,α2,⋯,αn,利用定理二,取x=α1=a11,a12,,a1mT,求出σ=±x,u1=x+σe1,π1=12u12,H1=I-π-1u1u1T,H1α1=-σe1,令α1=-σ
于是
A2=H1A1=α1a12(2)⋯0a22(2) a1n(2)a2n(2)⋮0⋮am2(2) ⋯⋮amn(2)
假设进行了k-1步,得到Householder变换H1,H2,⋯,Hk-1,使
Ak=Hk-1Hk-2⋯H1A=A11(k)A12(k)0A22(k)k-1m-k+1
其中A11(k)是上三角矩阵,假定A22(k)=[αkk,⋯,αnk],其中
αjk=[akjk,⋯,amjk, j=k,⋯,n]
第k步,令uk=αkk-αke1(k),其中αk=-signakkkσk,σk=i=kmaikk212,H=Im-k+1-bk-1ukukT,其中bk=12αkk-αke1(k)2=αk2-αkαkk(k),则Hk=diag(Ik-1,Hk)仍为Householder矩阵,
于是Ak+1=HkAK=A11(k)A12(k)0HkA22(k).
最后得到HkHk-1Hk-2⋯H1A=RR100=U0,其中R为k×k阶上三角矩阵,R1为k×n-k阶矩阵,U=R,R1为k×n阶上梯形矩阵. 记Q=H1H2⋯Hk-1Hk,则A=QU0. 特别,若r=rankA=n,
则当m>n时,经n步可将矩阵A化为一个上三角阵,得到A=QR0,
其中R为n×n阶上三角阵;当m=n时,经n-1步可将A化为一个上三角阵,得到A=QR.
经过以上分析,可以得到矩阵的正交三角化的完整算法.
For j = 1 : n
υ,β= house(A(j : m, j))
Aj : m, j : n=(Im-j+1- βυυT)A(j : m, j : n)
Dj= β
If j < m
Aj+1 : m, j= υ(2 :m-j+1)
end
end
function : υ,β=house(x)
n = length(x)
η= ∥x∥∞ x =x∕η
σ=x2:nTx(2:n)
υ1=1:υ2:n=x(2:n)
ifσ=0
β=0
else
α= x(1)2+σ
if x1≤0
υ1=x1- α
else
υ1= -σ∕(x(1)+ α)
end
β=2υ12σ+υ12; υ= υ∕υ(1)
end
第四章 最小二乘法的正交化方法
求解线性最小二乘问题的快速算法,主要是避免构造法方程组,而直接从矛盾方程组Ab=Y入手.常应用Householder变换把系数矩阵A正交三角化,使QA=R0,其中R为n阶上三角阵,0为m-n×n的零矩阵,Q是一个m阶正交矩阵.并把m维向量QY相应地分块n维向量c与 m-n 维向量d,即QY=cd. 于是Qr=QY-QAb=cd-R0b=c-Rbd (1)
因Q是正交矩阵,所以r2=Qr2=c-Rb2+d2,若选择b,使得c-Rb=0 (2)
那么r2将达到极小值,此时由(1)可得r2=d2,且从(1)有Qr=0d,故r=QT0d,
由(2)可知,n阶上三角形方程组的解b就是最小二乘解,它是非常容易求解的.
这样,可描述正交化方法求最小二乘解的计算步骤为:
1)对m×n阶矩阵A建立QR分解A=QR;
2)计算C=QY,形成方程组Rb=c;
3)用回代法解Rb=C得出最小二乘解b.
正交化方法因其数值稳定而显得优于求解法方程,但因对A建立分解的计算量较大,故除非已经有了这种分解的资料可直接引用或者法方程病态,一般还是愿意从法方程来求最小二乘解的.
第五章 matlab代码实现
5.1 Householder变换
matlab代码如下:
function [H,rho]=householder(x,y)
% 求解正交对称的Householder矩阵H,使Hx=rho*y,其中rho=-sign(x(1))*||x||/||y||
%
% 参数说明
% x:列向量
% y:列向量,x和y必须具有相同的维数
%
% 实例说明
% x=[3 5 6 8]';
% y=[1 0 0 0]';
% [H,rho]=householder(x,y);
% H*x-rho*y % 验证Hx=rho*y
% H'*H % 验证正交
%
% 关于HouseHolder变换
% 1.H=I-2vv',其中||v||=1,我们称H为反射(HouseHolder)矩阵,易证H对称且正交
% 2.如果||x||=||y||,那么存在HouseHolder矩阵H=I-2vv,其中v=±(x-y)/||x-y||,使Hx=y
% 3.如果||x||≠||y||,那么存在HouseHolder矩阵H,使Hx=rho*y,其中rho=-sign(x(1))*||x||/||y||
% 4.Householder矩阵,常用于将一个矩阵A通过正交变换对角阵
%
x=x(:);
y=y(:);
if length(x)~=length(y)
error('The Column Vectors X and Y Must Have The Same Length!');
end
rho=-sign(x(1))*norm(x)/norm(y);
y=rho*y;
v=(x-y)/norm(x-y);
I=eye(length(x));
H=I-2*v*v';
5.2 用householder变换来做QR分解
matlab代码如下:
function [Q,R]=qr_h(A)
% 基于Householder变换,将方阵A分解为A=QR,其中Q为正交矩阵,R为上三角阵
%
% 参数说明
% A:需要进行QR分解的方阵
% Q:分解得到的正交矩阵
% R:分解得到的上三角阵
%
% 实例说明
% A=[-12 3 3;3 1 -2;3 -2 7];
% [Q,R]=qr(A) % 调用MATLAB自带的QR分解函数进行验证
% [q,r]=qrhs(A) % 调用本函数进行QR分解
% q*r-A % 验证 A=QR
% q'*q % 验证q的正交性
% norm(q) % 验证q的标准化,即二范数等于1
%
n=size(A,1);
R=A;
Q=eye(n);
for i=1:n-1
x=R(i:n,i);
y=[1;zeros(n-i,1)];
Ht=householder(x,y);
H=blkdiag(eye(i-1),Ht);
Q=Q*H;
R=H*R;
end
5.3 QR分解
matlab代码如下:
%用QR分解来解方程AX=b
A=[4 2 -1; 3 -1 2; 11 3 9]; %实例演示
b=[2 10 8]'; %实例演示
[Q,R]=qr_h(A)
X=R\(Q\b)%AX=b,A=QR
第六章 应用
在房产估价打的线性模型
y=x0+a1x1+a2x2+⋯+a11x11
中,a1,a2,⋯,a11分别表示税、浴室数目、占地面积、居住面积、车库数目、房屋数目、房龄、建筑类型、户型及壁炉数目,y代表房屋数目,现根据y的28个数据,求出模型中参数的最小二乘结果.
y
a1
a2
a3
a4
a5
a6
a7
a8
a9
a10
a11
25.9
4.9176
1.0
3.472
0.998
1.0
7
4
42
3
1
0
29.5
5.0208
1.0
3.531
1.500
2.0
7
4
62
1
1
0
27.9
4.5129
1.0
2.275
1.175
1.0
6
3
40
2
1
0
25.9
4.5573
1.0
4.050
1.232
1.0
6
3
54
4
1
0
29.9
5.0597
1.0
4.455
1.121
1.0
6
3
42
3
1
0
29.9
3.8910
1.0
4.455
0.988
1.0
6
3
56
2
1
0
30.9
5.8980
1.0
5.850
1.240
1.0
7
3
51
2
1
1
28.9
5.6039
1.0
9.520
1.501
0.0
6
3
32
l
l
0.
84.9
15.4202
2.5
9.800
3.420
2.0
10
5
42
2
1
1
82.9
14.4598
2.5
12.800
3.000
2.0
9
5
14
4
1
1
35.9
5.8282
1.0
6.432
1.225
2.0
6
3
32
1
1
0
31.5
5.3003
1.0
4.9883
1.552
1.0
6
3
30
1
2
0
31.0
6.2712
1.0
5.520
0.975
1.0
5
2
30
1
2
0
30.9
5.9992
1.0
6.666
1.121
2.0
6
3
32
2
1
0
30.0
5.0500
1.0
5.000
1..020
0.0
5
2
46
4
1
1
28.9
5.6039
1.0
9.520
1.501
0.0
6
3
32
1
1
0
36.9
8.2464
1.5
5.150
1.664
2.0
8
4
50
4
1
0
41.9
6.6969
1.5
6.092
1.488
1.5
7
3
22
1
1
1
40.5
7.7841
1.5
7.102
1.376
1.0
6
3
17
2
1
0
43.9
9.0384
1.0
7.800
.1.500
1.5
7
3
23
3
3
0
37.5
5.9894
1.0
5.520
1.256
2.0
6
3
40
4
1
1
37.9
7.5422
1.5
4.000
1.690
1.0
6
3
22
1
l
0
44.5
8.7951
1.5
9.890
1.820
2.0
8
4
50
1
1
1
37.9
6.0931
1.5
6.7265
1.652
1.0
6
3
44
4
1
0
38.9
8.3607
1.5
9.150
1.777
2.0
8
4
48
1
1
1
36.9
8.1400
1.0
8.000
1.504
2.0
7
3
3
1
3
0
45.8
9.1416
1.5
7.3262
1.831
1.5
8
4
31
4
1
0
41.0
12.000
1.5
5.000
1.200
2.0
76
3
30
3
l
l
使用MATLAB仿真计算后,等到结果:
x0=0.5699, x1=0.7632, x2=10.2398, x3=0.2796, x4=12.9158, x5=2.0955, x6=-0.8738, x7=-0.5749, x8=-0.0527, x9=0.8941, x10=1.5079, x11=2.7112
第七章 总结
本文介绍了数据拟合中最小二乘法的基本原理,并根据最小二乘数据拟合方法,针对线性最小二乘拟合及其快速算法(运用HOUSEHOLDER变换及QR分解)进行了分析和研究,并通过数学工具Matlab实现了对相关问题的举例应用,使相关数据拟合理论更加生动易懂.
最小二乘问题在数据拟合、参数估计和函数逼近等方面有着广泛的应用. 运用常规的求解方法,如果参数矩阵是病态的,即其对应的行列式的值接近于零,那么求逆运算所得结果很不可靠. 而采用HOUSEHOLDER变换,把该方阵化为上三角阵,通过回代法求解,不但能避免求高阶矩阵的逆,而且还能提高运算精度和速度.
谢 辞
经过几个月的查资料、整理材料,终于写作论文.
论文的顺利完成,首先要感谢指导老师为我提供了种种专业知识上的指导和一些富于创造性的建议,在此向老师表示深深的感谢和崇高的敬意.
论文的顺利完成,也离不开其它各位老师、同学和朋友的关心和帮助. 在整个的论文写作中,各位老师、同学和朋友积极的帮助我查资料和提供有利于论文写作的建议和意见,在他们的帮助下,论文得以不断的完善,最终帮助我完整的写完了整个论文. 另外,要感谢在大学期间所有传授我知识的老师,是你们的悉心教导使我有了良好的专业课知识,这也是论文得以完成的基础.
通过此次的论文,我学到了很多知识,跨越了传统方式下的教与学的体制束缚,在论文的写作过程中,通过查资料和搜集有关的文献,培养了自学能力和动手能力. 并且由原先的被动的接受知识转换为主动的寻求知识,这可以说是学习方法上的一个很大的突破. 通过毕业论文,我学会了如何将学到的知识转化为自己的东西,学会了怎么更好的处理知识和实践相结合的问题.
在论文的写作过程中也学到了做任何事情所要有的态度和心态,首先我明白了做学问要一丝不苟,对于出现的任何问题和偏差都不要轻视,要通过正确的途径去解决,在做事情的过程中要有耐心和毅力,不要一遇到困难就打退堂鼓,只要坚持下去就可以找到思路去解决问题的. 在工作中要学会与人合作的态度,认真听取别人的意见,这样做起事情来就可以事倍功半.
参考文献
[1] 北京大学数学系几何与代数教研室代数小组编.高等代数(第三版)[M].北京:高等教育出版社,2003.
[2] 徐树方,高立,张平文.数值线性代数[M].北京:北京大学出版社,2000.
[3] 程正兴.数据拟合[M].陕西:西安交通大学出版社,1986.
[4] 乐经良.数学实验[M].北京:高等教育出版社,1999.
[5] 刘钦圣.最小二乘问题计算方法[M].北京:北京工业大学出版社,1989.
[6] 曹志浩,张玉德,李瑞遐.矩阵计算和方程求根[M].北京:高等教育出版社,1984.
[7] 魏木生.广义最小二乘问题的理论和计算[M].北京:科学出版社,2006.
[8] G.W.斯图尔特.矩阵计算引论(中译本)[M].上海:上海科学技术出版社.
[9] 李荣华.微分方程数值解法(第四版)[M].北京:高等教育出版社,2009.
[10] John H. Mathews Kurtis D. Fink.Numerical Methods Using MATLAB Third Edition(中译本)[M].北京:电子工业出版社,2002.
[11] Frank R.Giordano Maurice D. Weir William P.Fox,数学建模(美)[M].北京:机械工业出版社,2009.
[12] 陈增荣,高卫国.数值分析[M].北京:电子工业出版社,2002.
[13] 李庆扬.数值分析[M].北京:清华大学出版,2007.
[14] 关治,陈景良.数值计算方法[M].北京:清华大学出版社,1990.
[15] 杨万利.数值分析教程[M].北京:国防工业出版社,2004.
[16] 孙淑英.张圣丽,数值计算法[M].山东:山东大学出版社,1999.
注 释
注释一:Householder(豪斯霍尔德)变换(Householder transformation)又称初等反射(Elementary reflection),最初由A.C Aitken在1932年提出. Alston Scott Householder在1958年指出了这一变换在数值线性代数上的意义. 这一变换将一个向量变换为由一个超平面反射的镜像,是一种线性变换。其变换矩阵被称作豪斯霍尔德矩阵,在一般内积空间中的类比被称作豪斯霍尔德算子.
附 录
QR分解定理的证明:
先证明QR分解的存在性. 对n用数学归纳法. 当n=1时,此定理就是定理二的情形,此时显然成立。现假定已经证明定理对所有p×(n-1)矩阵成立,这里假设p≥(n-1). 设A∈Rm×n的第一列是a1,则由定理二可知,存在正交矩阵Q1∈Rm×m 使得Q1Ta1=a12e1,于是,有
Q1TA1=a12vT0A11m-1
1 n-1
对(m-1)×(n-1)矩阵A1应用归纳法假定,得
A1=Q2R20
其中Q2是(m-1)×(m-1)正交矩阵,R2是具有非负对角元的(n-1)×(n-1)上三角阵. 这样,令
Q=Q1100Q2
R=a12vT0R200
则Q和R满足定理的要求. 于是,由归纳法原理知存在性的证.
再证唯一性. 设m=n且A非奇异,并假定A=QR=QR,其中Q,Q∈Rm×m是正交矩阵, R,R∈Rn×n是具有非负对角元的上三角阵. A非奇异蕴含着R,R的对角元均为正数. 因此,有
QTQ=RR-1
既是正交矩阵又是对角元均为正数的上三角矩阵,这只能是单位矩阵,从而,必有Q=Q,R=R,即分解是唯一的. 证毕.
展开阅读全文