广义逆矩阵.pptx

第七章第七章 广义逆矩阵广义逆矩阵 广义逆矩阵是逆矩阵的推广，与线性方程组的求解有密切广义逆矩阵是逆矩阵的推广，与线性方程组的求解有密切联系。给定一个线性方程组联系。给定一个线性方程组 Ax=b，当矩阵当矩阵A可逆时，线性可逆时，线性方程组的解可表示为方程组的解可表示为x=A-1 b当矩阵当矩阵A是奇异矩阵或不是方阵时，线性方程组的解应如何表是奇异矩阵或不是方阵时，线性方程组的解应如何表示呢？当线性方程组是矛盾方程，或者说是不相容方程时，线示呢？当线性方程组是矛盾方程，或者说是不相容方程时，线性方程组能否有其它意义下的解，这种解又应当如何表示呢？性方程组能否有其它意义下的解，这种解又应当如何表示呢？把逆矩阵推广到不可逆方阵或长方矩阵上，这就是所谓的把逆矩阵推广到不可逆方阵或长方矩阵上，这就是所谓的广义逆矩阵。广义逆矩阵。广义逆矩阵具有通常逆矩阵的部分性质，并且在方阵可逆广义逆矩阵具有通常逆矩阵的部分性质，并且在方阵可逆时，它与通常的逆矩阵一致，而且广义逆矩阵可以给出线性时，它与通常的逆矩阵一致，而且广义逆矩阵可以给出线性方程组（包括相容的和矛盾方程组）各种解的统一形式。方程组（包括相容的和矛盾方程组）各种解的统一形式。主要内容主要内容：1广义逆矩阵及其分类广义逆矩阵及其分类2A+的计算的计算3几类弱逆几类弱逆4广义逆矩阵与线性方程组的解广义逆矩阵与线性方程组的解广义逆矩阵方程广义逆矩阵方程 设设A A是是n n阶阶非非奇奇异异矩矩阵阵，则则存存在在唯唯一一的的逆逆矩矩阵阵A A-1-1，它具有如下性质：它具有如下性质：或者说，或者说，A A-1-1是下述矩阵方程组的解是下述矩阵方程组的解-广义逆矩阵方程广义逆矩阵方程设设若矩阵若矩阵 满足如下四个（满足如下四个（Penrose)方程方程则称则称X为为A的的Moor Penrose逆，记为逆，记为A+例例：容易由定义直接验算：容易由定义直接验算：若若则则存在性证明存在性证明可以验证可以验证X满足广义逆矩阵方程满足广义逆矩阵方程设设 ，A+存在且唯一，即广义矩阵方程组存在且唯一，即广义矩阵方程组定理定理 有唯一解有唯一解设设若若则则A是是 阶零矩阵，可以阶零矩阵，可以 验证验证 阶零矩阵满足四个方程。阶零矩阵满足四个方程。对于矩阵方程对于矩阵方程如果矩阵如果矩阵G仅满足其中的一个或几个时，可以定义仅满足其中的一个或几个时，可以定义不同的广义逆矩阵。不同的广义逆矩阵。因此，共可定义因此，共可定义类不同的广义逆。类不同的广义逆。由由A+的存在性可知，的存在性可知，15类广义逆都存在，除类广义逆都存在，除A+是唯一确定的外，是唯一确定的外，其余各类广义逆矩阵都不唯一确定。其余各类广义逆矩阵都不唯一确定。几几 类类 弱弱 逆逆Ai=|G满足第满足第i个个Penrose方程方程对于矩阵对于矩阵 ，记，记Ai,j=|G满足第满足第i,j个个Penrose方程方程Ai,j,k=|G满足第满足第i,j,k个个Penrose方程方程广义逆集合广义逆集合各类广义逆的关系各类广义逆的关系几种常用的广义逆矩阵几种常用的广义逆矩阵A A11,它的形式记为它的形式记为A A1,21,2,它的形式记为它的形式记为A A1,31,3,它的形式记为它的形式记为A A1,41,4,它的形式记为它的形式记为-最小二乘广义逆最小二乘广义逆-自反广义逆自反广义逆最小范数广义逆最小范数广义逆A1A1是指仅满足第一个是指仅满足第一个PenrosePenrose方程的广义逆，即若方程的广义逆，即若AAAA-1-1A=A,A=A,则记则记广义逆广义逆A A-说明说明：1)1)利用初等行变换，可以求得利用初等行变换，可以求得A A-2 2）A A的减号逆的减号逆A A-不唯一。不唯一。例例：设设容易验证容易验证均满足均满足故故B B，C C都是都是A A的减号逆的减号逆.3)3)矩阵矩阵A A有唯一的有唯一的A A-充分必要条件是充分必要条件是A A为非奇异矩阵，为非奇异矩阵，此时此时A-=A-1定理定理 A1的表示通式的表示通式此定理表明：只要求出此定理表明：只要求出 中的一个元素，就可得到中的一个元素，就可得到 中所有的元素。中所有的元素。广义逆矩阵广义逆矩阵A A+的计算：方法一的计算：方法一 利用利用满秩分解满秩分解如果矩阵如果矩阵A A有满秩分解有满秩分解A=BCA=BC，则有则有A A+的表达式，即的表达式，即 因此广义逆因此广义逆A A+是通常逆矩阵概念的一种推广。是通常逆矩阵概念的一种推广。广义逆矩阵广义逆矩阵A A+与通常逆矩阵有许多类似的性质，但也有一些不同。与通常逆矩阵有许多类似的性质，但也有一些不同。如果如果A A是非奇异矩阵，则是非奇异矩阵，则 并且由上面的公并且由上面的公式计算出式计算出 ，从而，从而如果矩阵如果矩阵A A是行满秩的，是行满秩的，A A有满秩分解有满秩分解A=IA=Im m A A，则则A A+的表达式为的表达式为 如果矩阵如果矩阵A A是列满秩的，是列满秩的，A A有满秩分解有满秩分解A=A I A=A I n n，则则A A+的表达式为的表达式为特别地，设特别地，设 为为n维列向量，且维列向量，且 则则 设设 为为n维行向量，且维行向量，且 则则 例：例：求广义逆求广义逆例：设例：设 求求由由A为列向量，即为列满秩，则为列向量，即为列满秩，则从而从而 若若A既不是行满秩也不是列满秩，则需首先对既不是行满秩也不是列满秩，则需首先对A进行满秩进行满秩分解，再求分解，再求例：已知例：已知求求矩阵矩阵A中分别有两行、两列对应成比例，因此中分别有两行、两列对应成比例，因此A既不是行既不是行满秩也不是列满秩满秩也不是列满秩首先利用初等行变换求出首先利用初等行变换求出A的的Hermite标准型标准型H为：为：设设A的满秩分解为的满秩分解为 ，则，则于是于是广义逆矩阵广义逆矩阵A A+的计算：方法二的计算：方法二奇异值法奇异值法设矩阵设矩阵 的奇异值分解为的奇异值分解为A=UDVA=UDVH H其中其中U,V U,V 分别是分别是m m阶、阶、n n阶酉矩阵，阶酉矩阵，则容易验证：则容易验证：其中其中利用此方法，需首先对利用此方法，需首先对A进行奇异值分解。进行奇异值分解。例：设例：设求求先求先求A的奇异值分解。因为的奇异值分解。因为为为对应的特征向量为：对应的特征向量为：令令其中其中设设 则则 的特征值的特征值把把扩充为扩充为 的一组标准正交基得：的一组标准正交基得：再令再令则则从而从而广义逆广义逆A A+的性质的性质 设设其中其中且且1111、设设9 9、若有满秩分解式、若有满秩分解式A=BCA=BC，则则都是酉矩阵，则都是酉矩阵，则12、当、当A 是是Hermite矩阵时，矩阵时，举例说明广义逆不具有通常意义下逆矩阵的下列性质：举例说明广义逆不具有通常意义下逆矩阵的下列性质：（4 4）A A与与A A+的非零特征值并不互为倒数。的非零特征值并不互为倒数。（1 1）（2 2）（3 3）例证例证1 1由由可得可得又又B为满秩矩阵，则为满秩矩阵，则例证例证2 2可验证可验证由由可得可得考虑非齐次线性方程组考虑非齐次线性方程组其中其中 给定，而给定，而为待定向量为待定向量。若若方程组是相容方程组；否则，称为矛盾方程组或不相容方程组。方程组是相容方程组；否则，称为矛盾方程组或不相容方程组。则线性方程组则线性方程组 有解，则称该有解，则称该关于线性方程组关于线性方程组 的求解问题，常见的有以下几种情形：的求解问题，常见的有以下几种情形：1）在相容时，若系数矩阵）在相容时，若系数矩阵 ，且非奇异，即，且非奇异，即 则有唯一解则有唯一解但当但当A是奇异方阵或长方矩阵时，它的解是奇异方阵或长方矩阵时，它的解不唯一，我们可以利用减号逆给出方程组的通解。不唯一，我们可以利用减号逆给出方程组的通解。线性方程组线性方程组 求解求解2）如果方程组相容，且其解有无穷多个，可求出具有极小范数的如果方程组相容，且其解有无穷多个，可求出具有极小范数的解，即解，即其中其中 为欧氏范数，可以证明满足此条件为欧氏范数，可以证明满足此条件的解是唯一的，称为的解是唯一的，称为极小范数解极小范数解。3）若方程组不相容，则不存在通常意义下的解，但在许多实际）若方程组不相容，则不存在通常意义下的解，但在许多实际问题中，需要求出这样的解：问题中，需要求出这样的解：其中其中 为欧氏范数，称这个问题为求矛盾方程组的最小二乘问为欧氏范数，称这个问题为求矛盾方程组的最小二乘问题，相应的题，相应的x为矛盾方程组的为矛盾方程组的最小二乘解最小二乘解。4）一般说来，矛盾方程组的最小二乘解是不唯一的，但在最小）一般说来，矛盾方程组的最小二乘解是不唯一的，但在最小二乘解的集合中，具有最小范数的解二乘解的集合中，具有最小范数的解是唯一的，称之为是唯一的，称之为极小范数最小二乘解，或最佳逼近解极小范数最小二乘解，或最佳逼近解.（一）相容方程组的通解（一）相容方程组的通解为线性方程组为线性方程组 的解的充分必要条件是的解的充分必要条件是我们已知我们已知 相容相容，其中，其中定理定理 对于任意对于任意 ，都存在，都存在，使，使定理说明定理说明，对于任意的，对于任意的是线性方程组是线性方程组 的一个特解。的一个特解。给定一个线性方程组给定一个线性方程组广义逆矩阵与线性方程组的求解有着密切关系。利用减号逆、广义逆矩阵与线性方程组的求解有着密切关系。利用减号逆、最小范数广义逆、最小二乘广义逆以及加号逆可以给出上述诸最小范数广义逆、最小二乘广义逆以及加号逆可以给出上述诸问题的解。问题的解。定理定理 齐次线性方程组齐次线性方程组 的通解是的通解是证明证明:对于任意向量对于任意向量 ，成立，成立其中其中 是任意向量。是任意向量。即即 是齐次线性方程组是齐次线性方程组 的解。的解。设设X0是齐次线性方程组是齐次线性方程组 的任一解，则的任一解，则因此，因此，是齐次线性方程组是齐次线性方程组 的通解。的通解。推论推论 相容线性方程组相容线性方程组 的通解为的通解为其中其中 是任意向量。是任意向量。例例1求解、求解将方程组改写为矩阵形式将方程组改写为矩阵形式其中其中由于由于所以该方程组是相容的。所以该方程组是相容的。首先求得首先求得A的一个减号的一个减号逆。由由A是行满秩矩阵，则是行满秩矩阵，则从而从而原方程组的通解为原方程组的通解为其中其中 为任意向量。为任意向量。定定义义 相相容容线线性性方方程程组组 的的所所有有解解中中2范范数数最最小的解称小的解称 为方程组的最小范数解，记为为方程组的最小范数解，记为（二）相容方程组的最小范数解（二）相容方程组的最小范数解定理定理 相容线性方程组相容线性方程组 的最小范数解是唯一的最小范数解是唯一的，并且可表示为的，并且可表示为其中其中 是是A的最小范数广义逆。的最小范数广义逆。例例2、求方程组、求方程组的最小范数解的最小范数解由于由于A为行满秩矩阵，因此为行满秩矩阵，因此 为满秩方阵，则有为满秩方阵，则有所以所以即即从而从而此解即是此解即是中欧氏范数最小的一个中欧氏范数最小的一个 一个线性方程组一个线性方程组 是矛盾方程组或不是矛盾方程组或不相容方程组，它没有通常意义下的解，但可以寻求相容方程组，它没有通常意义下的解，但可以寻求该方程组在某种含义下的近似解。该方程组在某种含义下的近似解。（三）不相容方程组的最小二乘解（三）不相容方程组的最小二乘解定义定义 不相容方程组不相容方程组 的最小二乘解的最小二乘解定义为满足下列条件的近似解定义为满足下列条件的近似解说明：和其它任何近似解相比较，说明：和其它任何近似解相比较，所导致的误差平方和所导致的误差平方和最小。最小。矛盾方程组的最小二乘解导致的误差平方和矛盾方程组的最小二乘解导致的误差平方和 是是唯一的，但最小二乘解不一定唯一。唯一的，但最小二乘解不一定唯一。定理定理：设：设 是一个最小二乘解，则矛盾方程组的最小二是一个最小二乘解，则矛盾方程组的最小二乘解的通解为乘解的通解为其中其中y为任意向量为任意向量定理定理 设设 ，则，则 是不相容方程组是不相容方程组的最小二乘解的充分必要条件是的最小二乘解的充分必要条件是例例3、求矛盾方程组、求矛盾方程组的最小二乘解的最小二乘解系数矩阵系数矩阵A和向量和向量b为为由由A为列满秩矩阵，则可求得为列满秩矩阵，则可求得A的一个最小二乘逆为：的一个最小二乘逆为：于是，求得一个最小二乘解为于是，求得一个最小二乘解为定理定理 不相容方程组不相容方程组 的最佳逼近解是唯一的最佳逼近解是唯一的，并且的，并且定义定义 不相容方程组不相容方程组 的最佳逼近解定义为满足下的最佳逼近解定义为满足下列条件的最小二乘解，记为列条件的最小二乘解，记为（四）不相容方程组的最佳逼近解（四）不相容方程组的最佳逼近解可以看出不相容方程组可以看出不相容方程组 的最佳逼近解是方程组的所的最佳逼近解是方程组的所有最小二乘解中范数最小的近似解。有最小二乘解中范数最小的近似解。其中其中 是是方程组方程组 的最小二乘解的集合。的最小二乘解的集合。说明说明：由于加号逆既是减号逆又是最小范数逆、最小二乘逆，由于加号逆既是减号逆又是最小范数逆、最小二乘逆，故对于方程组故对于方程组 ，不论其是否有解，均可用加号逆来，不论其是否有解，均可用加号逆来设设y为任意向量为任意向量,则：则：1 相容时，相容时，是通解；是通解；是最小范数解是最小范数解2 不相容时，不相容时，是最小二乘解的通解；是最小二乘解的通解；是最小二乘解；是最小二乘解；3是矛盾方程组是矛盾方程组 的最佳逼近解解；的最佳逼近解解；例例4、求、求 的最佳逼近解。的最佳逼近解。解解:首先求首先求A的广义逆，对的广义逆，对A进行满秩分解进行满秩分解其中其中则由则由则最佳逼近解为则最佳逼近解为则则A的加号逆为：的加号逆为：