广义逆矩阵课件

Click to edit Master title style,Click to edit Master text styles,Second level,Third level,Fourth level,Fifth level,11/7/2009,#,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,第七章 广义逆矩阵,广义逆矩阵是逆矩阵的推广，与线性方程组的求解有密切联系。给定一个线性方程组,Ax=b，,当矩阵,A,可逆时，线性方程组的解可表示为,x=A,-1,b,当矩阵,A,是奇异矩阵或不是方阵时，线性方程组的解应如何表示呢？当线性方程组是矛盾方程，或者说是不相容方程时，线性方程组能否有其它意义下的解，这种解又应当如何表示呢？,把逆矩阵推广到不可逆方阵或长方矩阵上，这就是所谓的广义逆矩阵。,广义逆矩阵具有通常逆矩阵的部分性质，并且在方阵可逆时，它与通常的逆矩阵一致，而且广义逆矩阵可以给出线性方程组（包括相容的和矛盾方程组）各种解的统一形式。,主要内容,：,1广义逆矩阵及其分类,2,A,+,的计算,3几类弱逆,4广义逆矩阵与线性方程组的解,广义逆矩阵方程,设,A,是,n,阶非奇异矩阵，则存在唯一的逆矩阵,A,-1,，,它具有如下性质：,或者说，,A,-1,是下述矩阵方程组的解,-,广义逆矩阵方程,设,若矩阵,满足如下四个（,Penrose),方程,则称,X,为,A,的,Moor Penrose,逆，记为,A,+,例,：容易由定义直接验算：,若,则,存在性证明,可以验证,X,满足广义逆矩阵方程,设 ，,A,+,存在且唯一，即广义矩阵方程组,定理,有唯一解,设,若,则,A,是 阶零矩阵，可以,验证 阶零矩阵满足四个方程。,对于矩阵方程,如果矩阵,G,仅满足其中的一个或几个时，可以定义不同的广义逆矩阵。,因此，共可定义,类不同的广义逆。,由,A,+,的存在性可知，,15,类广义逆都存在，除,A,+,是唯一确定的外，,其余各类广义逆矩阵都不唯一确定。,几 类 弱 逆,A,i,=|G,满足第,i,个,Penrose,方程,对于矩阵 ，记,A,i,j,=|G,满足第,i,j,个,Penrose,方程,A,i,j,k,=|G,满足第,i,j,k,个,Penrose,方程,广义逆集合,各类广义逆的关系,几种常用的广义逆矩阵,A,1,它的形式记为,A,1,2,它的形式记为,A,1,3,它的形式记为,A,1,4,它的形式记为,-,最小二乘广义逆,-,自反广义逆,最小范数广义逆,A1,是指仅满足第一个,Penrose,方程的广义逆，即若,AA,-1,A=A,则记,广义逆,A,-,说明,：,1),利用初等行变换，可以求得,A,-,2,）,A,的减号逆,A,-,不唯一。,例,：,设,容易验证,均满足,故,B,，,C,都是,A,的减号逆,.,3),矩阵,A,有唯一的,A,-,充分必要条件是,A,为非奇异矩阵，此时,A,-,=A,-1,定理,A,1,的表示通式,此定理表明：只要求出 中的一个元素，就可得到 中所有的元素。,广义逆矩阵,A,+,的计算：方法一 利用,满秩分解,如果矩阵,A,有满秩分解,A=BC，,则有,A,+,的表达式，即,因此广义逆,A,+,是通常逆矩阵概念的一种推广。,广义逆矩阵,A,+,与通常逆矩阵有许多类似的性质，但也有一些不同。,如果,A,是非奇异矩阵，则 并且由上面的公式计算出 ，从而,如果矩阵,A,是行满秩的，,A,有满秩分解,A=I,m,A，,则,A,+,的表达式为,如果矩阵,A,是列满秩的，,A,有满秩分解,A=A I,n,，,则,A,+,的表达式为,特别地，设 为,n,维列向量，且 则,设 为,n,维行向量，且 则,例：,求广义逆,例：设 求,由,A,为列向量，即为列满秩，则,从而,若,A,既不是行满秩也不是列满秩，则需首先对,A,进行满秩分解，再求,例：已知,求,矩阵,A,中分别有两行、两列对应成比例，因此,A,既不是行满秩也不是列满秩,首先利用初等行变换求出,A,的,Hermite,标准型,H,为：,设,A,的满秩分解为 ，则,于是,广义逆矩阵,A,+,的计算：方法二,奇异值法,设矩阵 的奇异值分解为,A=UDV,H,其中,U,V,分别是,m,阶、,n,阶酉矩阵，,则容易验证：,其中,利用此方法，需首先对,A,进行奇异值分解。,例：设,求,先求,A,的奇异值分解。因为,为,对应的特征向量为：,令,其中,设,则 的特征值,把,扩充为 的一组标准正交基得：,再令,则,从而,广义逆,A,+,的性质,设,其中,且,11、设,9、若有满秩分解式,A=BC，,则,都是酉矩阵，则,12、当,A,是,Hermite,矩阵时，,举例说明广义逆不具有通常意义下逆矩阵的下列性质：,（4）,A,与,A,+,的非零特征值并不互为倒数。,（1）,（2）,（3）,例证1,由,可得,又,B,为满秩矩阵，则,例证2,可验证,由,可得,考虑非齐次线性方程组,其中 给定，而,为待定向量,。,若,方程组是相容方程组；否则，称为矛盾方程组或不相容方程组。,则线性方程组 有解，则称该,关于线性方程组 的求解问题，常见的有以下几种情形：,1,）在相容时，若系数矩阵 ，且非奇异，即,则有唯一解,但当,A,是奇异方阵或长方矩阵时，它的解,不唯一，我们可以利用减号逆给出方程组的通解。,线性方程组 求解,2,）,如果方程组相容，且其解有无穷多个，可求出具有极小范数的,解，即,其中 为欧氏范数，可以证明满足此条件,的解是唯一的，称为,极小范数解,。,3,）若方程组不相容，则不存在通常意义下的解，但在许多实际问题中，需要求出这样的解：,其中 为欧氏范数，称这个问题为求矛盾方程组的最小二乘问题，相应的,x,为矛盾方程组的,最小二乘解,。,4,）一般说来，矛盾方程组的最小二乘解是不唯一的，但在最小二乘解的集合中，具有最小范数的解,是唯一的，称之为,极小范数最小二乘解，或最佳逼近解,.,（一）相容方程组的通解,为线性方程组 的解的充分必要条件是,我们已知 相容,，其中,定理,对于任意,，都存在,，使,定理说明,，对于任意的,是线性方程组 的一个特解。,给定一个线性方程组,广义逆矩阵与线性方程组的求解有着密切关系。利用减号逆、最小范数广义逆、最小二乘广义逆以及加号逆可以给出上述诸问题的解。,定理,齐次线性方程组 的通解是,证明,:,对于任意向量 ，成立,其中 是任意向量。,即 是齐次线性方程组 的解。,设,X,0,是齐次线性方程组 的任一解，则,因此，是齐次线性方程组 的通解。,推论,相容线性方程组 的通解为,其中 是任意向量。,例,1,、求解,将方程组改写为矩阵形式,其中,由于,所以该方程组是相容的。,首先求得,A,的一个减号,逆。,由,A,是行满秩矩阵，则,从而,原方程组的通解为,其中 为任意向量。,定义,相容线性方程组 的所有解中,2,范数最小的解称 为方程组的最小范数解，记为,（二）相容方程组的最小范数解,定理,相容线性方程组 的最小范数解是唯一的，并且可表示为,其中 是,A,的最小范数广义逆。,例,2,、求方程组,的最小范数解,由于,A,为行满秩矩阵，因此 为满秩方阵，则有,所以,即,从而,此解即是,中欧氏范数最小的一个,一个线性方程组 是矛盾方程组或不相容方程组，它没有通常意义下的解，但可以寻求该方程组在某种含义下的近似解。,（三）不相容方程组的最小二乘解,定义,不相容方程组 的最小二乘解,定义为满足下列条件的近似解,说明：和其它任何近似解相比较，所导致的误差平方和,最小。,矛盾方程组的最小二乘解导致的误差平方和 是,唯一的，但最小二乘解不一定唯一。,定理,：设 是一个最小二乘解，则矛盾方程组的最小二,乘解的通解为,其中,y,为任意向量,定理,设 ，则 是不相容方程组,的最小二乘解的充分必要条件是,例,3,、求矛盾方程组,的最小二乘解,系数矩阵,A,和向量,b,为,由,A,为列满秩矩阵，则可求得,A,的一个最小二乘逆为：,于是，求得一个最小二乘解为,定理,不相容方程组 的最佳逼近解是唯一的，并且,定义,不相容方程组 的最佳逼近解定义为满足下列条件的最小二乘解，记为,（四）不相容方程组的最佳逼近解,可以看出不相容方程组 的最佳逼近解是方程组的所有最小二乘解中范数最小的近似解。,其中 是,方程组 的最小二乘解的集合。,说明,：,由于加号逆既是减号逆又是最小范数逆、最小二乘逆，,故对于方程组 ，不论其是否有解，均可用加号逆来,设,y,为任意向量,则：,1,相容时，,是通解；,是最小范数解,2,不相容时，,是最小二乘解的通解；,是最小二乘解；,3,是矛盾方程组 的最佳逼近解解；,例,4,、求 的最佳逼近解。,解,:,首先求,A,的广义逆，对,A,进行满秩分解,其中,则由,则最佳逼近解为,则,A,的加号逆为：,