矩阵的广义逆.ppt

单击此处编辑母版标题样式,*,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,矩阵的广义逆,The,Pseudoinverse,矩阵的广义逆,概述,：,矩阵的逆：,A,n,n,，,B,n,n,，B A=A B=I,则,B=A,1,广义逆的目标：,逆的推广,对一般的矩阵,A,m,n,可建立部分逆的性质。,当矩阵,A,n,n,可逆时，广义逆与逆相一致。,可以用广义逆作求解方程组,AX=b,的理论分析。,4.1,矩阵的左逆与右逆,一、满秩矩阵和单侧逆,1、左逆和右逆的定义,定义4,.,1,(,P,.,93,),A,C,m,n,，,B,C,n,m,，BA=I,n,，,则称矩阵,B,为矩阵,A的,左,逆，记为,B=。,例题1,矩阵,A,的左逆,A=,。,A,C,m,n,，,C,C,n,m,，AC=,I,m,，,则称矩阵,C,为,矩阵,A,的,右,逆，记为,C=。,2、左逆和右逆存在的条件,的存在性,直观分析,存在,矩阵,A,列满秩,=,（,A,H,A）,1,A,H,定理4,.1,(,P,.,93,),设,A,C,m,n,，下列条件等价,A,左可逆,A,的零空间,N（A）=0。,m,n，,秩（,A）=n，,即矩阵,A,是列满秩的。,矩阵,A,H,A,可逆。,例题2,求矩阵,A=,的左逆。,矩阵右逆的存在性,定理4.2,(,P,.,94,),A,C,m,n,，,则下列条件等价：,矩阵A,右可逆。,A,的列空间,R（A）=C,m,n,m,，,秩（,A）=m,，,A,是行满秩的。,矩阵,A A,H,可逆,=,A,H,（,AA,H,）,1,讨论：可逆矩阵,A,n,n,的左、右逆和逆的关系,可逆矩阵,A,的左、右逆就是矩阵,A,的逆,A,A,1,=（A,H,A）,1,A,H,=,A,H,（AA,H,）,1,二、单侧逆和求解线性方程组,AX=b,讨论,AX=b,有解与左、右逆存在的关系。,借助于左、右逆求,AX=b,的形如,X=Bb,的解。,1、右可逆矩阵,定理4,4,(,P,.,95,),A,C,m,n,右可逆，则,bC,m,，,AX=b,有解。,X=b,是方程组,AX=b,的解。,二、单侧逆和求解线性方程组,AX=b,2、左可逆矩阵,求解分析：,定理4,3,(,P,.,94,),设矩阵,A,C,m,n,左可逆，,B,是矩阵,A,的任何一个左逆，则,AX=b,有形如,X=Bb,的解的充要条件是,(,I,m,AB,),b=0,(),当,(),式成立时，方程组的解是惟一的，而且惟一解是,X=,（A,H,A）,1,A,H,b,证明：,讨论,：,对任何满足式,(,),的左逆,B，X=Bb,都是方程组的,解，如何解释方程组的解是惟一的？,4.2,广义逆矩阵,思想,：,用公理来定义广义逆。,一、减号广义逆,定义4,.,2,(,P,.,95,),A,C,m,n,，如果，,G,C,n,m,使得，,AGA=A，,则矩阵,G,为的,A,减号广义逆。或1逆。,A,的减号逆集合,A1=A,1,1,，A,2,1,，,，,A,k,1,例题1,A,C,n,n,可逆，则,A,1,A1；,A,单侧可逆，则,A,1,L,A1；A,1,R,A1。,减号逆的求法：,定理4,.5,（,P,.,95,）,减号逆的性质：,定理4,.,6,(,P,.,96,),二、,Moore-Penrose（M-P）,广义逆,由,Moore 1920,年提出，1955年由,Penrose,发展。,1、,定义4,.,3,(,P,.,98,),设矩阵,A,C,m,n,，如果,G,C,n,m,，使得,AGA=A,GAG=G,（AG）,H,=AG,（GA）,H,=GA,则称,G,为,A,的,M-P,广义逆，记为,G=,A,+,。,A,1,=A,+,；A,1,L,=（A,H,A）,1,A,H,=A,+,；,A,1,R,=A,H,（AA,H,）,1,=A,+,；,若,A,+,，,则,A,+,是,A1。,例题2,讨论原有的逆的概念和,M-P,广义逆的关系。,3、,M-P,广义逆的存在性及其求法,定理4,.,8,（,P,.,99,）,任何矩阵都有,M-P,广义逆。,求法,：,设,A,满秩分解,A=BC，,则,A,+,=C,H,（CC,H,）,1,（B,H,B）,1,B,H,。,（,定理4,.9,）设,A,奇异值分解：,则,2、,M-P,广义逆的惟一性,定理4,.9,(,P,.,98,),如果,A,有,M-P,广义逆，则,A,的,M-P,广义逆是惟一的。,例题1,求下列特殊矩阵的广义逆；,零矩阵0；,1阶矩阵(数),a,；,对角矩阵,例题3,设 ，求,A,+,。,0,+,m,n,=0,n,m,例题2,设向量 的,M-P,广义逆。.,4、,M-P,广义逆的性质,定理4.12,(,P,.,100,),：则,A,满足下列性质：,（A,+,）,+,=A,（,A,+,）,H,=（A,H,）,+,（,A,）=,+,A,+,A,列满秩，则,A,+,=（A,H,A）,1,A,H,，A,行满秩，则,A,+,=A,H,（AA,H,）,1,。,A,有满秩分解：,A=BC，,则,A,+,=C,+,B,+,。,A,+,与,A,1,性质的差异比较：,（AB）,1,=B,1,A,1,，,一般不成立,（AB）,+,=B,+,A,+,。,（,只有满秩分解成立）,（A,1,）,k,=（,A,k,）,1,，,但不成立（,A,+,）,k,=（,A,k,）,+,4.3,投影变换,（为讨论,A,+,的应用做准备）,问题：,逆在什么情形下是有用的？,一、投影变换和投影矩阵,定义4,.,4,（,P,.,101,）,设,C,n,=L,M,，,向量,x,C,n,x=y+z，y,L，z,M，,如果线性变换,：,C,n,C,n,，,（x）=y，,则称为从,C,n,沿子空间,M,到子空间,L,的投影变换。,投影变换的矩阵,R（,）=L；N（,）=M，,C,n,=R（,）,N（,）,L,和,M,是,的不变子空间；,L,=I；,M,=0,投影的矩阵和变换性质,：,定理4,.13,（,P,.,101,）,是投影,是幂等变换,推论,：,为投影变换的充要条件是变换矩阵是 幂等矩阵,二、正交投影和正交投影矩阵,正交投影的定义：,定义4,.,5,（,P,.,103,）,设,：,C,n,C,n,是投影变换，,C,n,=,R（）N（），,如果,R,（）=N（,），,则称为正交投影。,2 正交投影矩阵,定理4,.14,（,P,.,103,）,是正交投影 投影矩阵,A,满足：,A,2,=A,A,H,=A,例题1,设,W,是,C,n,的子空间，证明 存在到,W,的投影变换，使,R（,）=W。,3、正交投影的性质,定理4,.16,（,P,.,104,）,设,W,是,C,n,的子空间，,x,0,C,n,，x,0,W，,如果,是空间,C,n,向空间,W,的正交投影，则,含义：,点,（,x,0,）,是空间,W,中与点,x,0,距离最近的点。,4、,A,+,A,与,A,A,+,的性质,定理4,.15,（,P,.,104,）,A,+,A,的性质：,（,A,+,A）,2,=,A,+,A，（,A,+,A）,H,=,A,+,A,C,n,=R（,A,+,）,N（A）,RA,+,）,=N（A）,A,A,+,的性质：,（,A,A,+,）,2,=,A,A,+,，（,A,A,+,）,H,=,A,A,+,C,m,=R（,A,）,N（A,+,）,R,（,A,+,）,=N（A）,A,+,A,是正交投影，将向量,x,投影到空间,R（A,+,）,中。,A,A,+,是正交投影，将向量,x,投影到空间,R（A）,中。,含义：,4,.4,最佳最小二乘解,一、最佳最小二乘解,A,m,n,X,n,1,=b,m,1,有解,b,R（A）,无解,b,R（A）,1,、,AX=b,的最佳最小二乘解,定义4,.6,（,P,.,105,）,u,是最小二乘解,x,0,是最佳最小二乘解,2,、,AX=b,的最佳最小二乘解的计算,定理4,.17,设方程组,AX=b，,则,A,+,b,是,AX=b,的最佳最小二乘解,。,例题1,（,P,.,106，eg8,）,例题2,、设，,=,证明,R（A）,在列空间,R（A）,上找一点,X,0,，X,0,距离 最近。,二、最佳拟合曲线,问题,：在实际问题中，已知变量,X,和变量,Y,之间存在函数关系,Y=F（X），,但不知道,F（X）,的具体形式，由观察和实验数据寻求经验公式:,Y=f（X），,使得误差最小。,例题1,（,P,.,107，eg9,）,一组实验数据,（1，2），（2，3），（3，5），（4，7）的分布呈直线趋势，求最佳拟合直线。,方法：,将误差向量表示为,e,=A,b，,求方程组,A,b=0,的最小二乘解,，由给出拟合参数。,