矩阵的分解(精品)

单击此处编辑母版标题样式,*,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,矩阵的分解,Matrix Factorization and Decomposition,矩阵分解的概述,矩阵的分解：,A=A,1,+A,2,+,+,A,k,矩阵的和,A=A,1,A,2,A,m,矩阵的乘积,矩阵分解的原则：,实际应用的需要,理论上的需要,计算上的需要,显示原矩阵的某些特性,矩阵化简的方法之一,主要技巧：,各种标准形的理论和计算方法,矩阵的分块,常见的矩阵标准形与分解,常见的标准形,等价标准形,相似标准形,合同标准形,本节分解：,三角分解,满秩分解,可对角化矩阵的谱分解,A,T,=A,相似标准形,等价标准形,一、矩阵的三角分解,方阵的,LU,和,LDV,分解,（,P,.61,）,LU,分解：,A,F,nn,，,存在下三角形矩阵,L,，上三角形矩阵,U,，,使得,A=LU。,LDV,分解,：,A,F,nn,，L、V,分别是主对角线元素为1的下三角形和上三角形矩阵，,D,为对角矩阵,，,使得,A=LDV。,已知的方法,：,Gauss-,消元法,例题1,（,P,.61,eg1,）,设,求,A,的,LU,和,LDV,分解。,结论,：如果矩阵,A,能用两行互换以外的 初等行变换化为阶梯形，则,A,有,LU,分解。,三角分解的存在性和惟一性,定理3,.1,（,P,.62,）,：,矩阵的,k,阶主子式,：,取矩阵的前,k,行、前,k,列得到的行列式，,k=1，2，,，n。,定理:,A,F,nn,有惟一,LDV,分解的充要条件是,A,的顺序主子式,A,k,非零，,k,=1，2，,，n-1。,证明过程给出了,LDV,分解的一种算法。,定理3,.2,（,P,.64,）,设矩阵,A,F,nn,，,rank（A）=k,（,n,），,如果,A,的,j,阶顺序主子式不等于,0,，,j,=1，2，k,则,A,有,LU,分解。,定理条件的讨论,例题2,（,P,.65,eg2,）,LU,分解的应用举例,二、矩阵的满秩分解,定义,3,.,2,（,P,.66,）,对秩为,r,的矩阵,A,F,m,n,，如果存在秩为,r,的矩阵,B,F,m,r，,C,F,r,n,，,则,A=BC,为,A,的满秩分解。,实用方法：方法3,例题2,（,P,.69,，eg5）,列满秩,行满秩,定理3,.2,：,任何非零矩阵,A,F,m,n,都有满秩分解。,满秩分解的求法：,方法1：,方法2,例题1,（,P,.68,，,eg4,）,方法3,例题3（,P,.70,，eg6）,三、可对角化矩阵的谱分解,将方阵分解成用谱加权的矩阵和,谱：设,A,F,n,n,，,则,A,的谱=,1,，,2,，,s,。,，P,具性质,：,1.可对角矩阵的谱分解,分解分析：,分解结果：,幂等矩阵,意义,：可对角化矩阵可以分解成以谱加权的幂等矩阵的加权和,2、矩阵可以对角化的一个充要条件,定理3,.,5,（,P,.73,）,矩阵,A,可以相似对角化当且仅当矩阵,A,有谱分解,，满足条件：,充分性的证明,：,在,A,有谱分解时,C,n,=V,1,V,2,V,n,3,.,幂等矩阵的性质,定理3,.,4,（,P,.72,）,P,F,n,n,，,P,2,=P，,则,矩阵,P,H,和矩阵（,I,P）,仍然是幂等矩阵。,P,的谱,0，1,，P,可相似于对角形。,F,n,=N,（P）,R（P）,N（P）=V,=0,，R（P）=V,=1,P,和（,I,P）,的关系,N（I,P）=R（P），R（I,P）=N（P）,Hermite,矩阵的谱分解,定理3,.,6,（,P,.73,）,设,A,是秩为,k,的半正定的,Hermite,矩阵，则,A,可以分解为下列半正定矩阵的和。,A=,v,1,v,1,H,+v,2,v,2,H,+,v,k,v,k,H,Schur,分解和正规矩阵,已知,：,欧氏空间中的对称矩阵,A,可以正交,相似于对角形。,讨论,：,一般方阵,A,，在什么条件下可以,酉相似于对角矩阵？,在内积空间中讨论问题,，涉及：,空间,C,n,、,C,n,n,，,酉矩阵,U，U,H,U=I，U,1,=U,H,酉相似：,U,H,AU=J,U,1,AU=J,重点,：,理论结果,一、,Schur,分解,1、,可逆矩阵的,UR,分解,定理3,.7,（,P,.74,）,A,C,n,n,为可逆矩阵，则存在酉矩阵,U,和主对角线上元素皆正的上三角矩阵,R，,使得,A=UR。（,称,A=UR,为矩阵,A,的酉分解,）,证明,：源于,Schmidt,正交化方法。,例题1 求矩阵,A,的,UR,分解，其中,定理3,.,8,（,P,.76,）,：,设矩阵,A,C,m,n,是列满秩的矩阵，则矩阵,A,可以分解为,A=QR，,其中,Q,C,m,n,的列向量是标准正交的向量组，,R,C,n,n,是主对角线上元素为正数的上三角形矩阵。,QR,分解,2、,Schur,分解,定理3,.7,（,P,.74,）,对矩阵,A,C,n,n,，,存在酉矩阵,U,和上三角矩阵,T，,使得,U,H,AU=T=,证明要点：,A=PJ,A,P,1,，,P=UR,A=PJ,A,P,1,=U（RJR,1,）U,H,=UTU,H,。,二、正规矩阵（,Normal Matrices,）,1、定义3,.3,（,P,.77,）,A,是正规矩阵,A,H,A=AA,H,。,常见的正规矩阵：,对角矩阵,对称和反对称矩阵：,A,T,=A，A,T,=,A。,Hermite,矩阵和反,Hermite,矩阵：,A,H,=A，A,H,=,A,正交矩阵和酉矩阵：,A,T,A=AA,T,=I，A,H,A=AA,H,=I。,例题1,（,P,.78,，,eg 10,）,设,A,为正规矩阵，,B,酉相似于,A，,证明,B,也是正规矩阵。,正规是酉相似的不变性质,例题2、,A,F,m,n,，矩阵,A,H,A,和矩阵,AA,H,是正规矩阵。,2、正规矩阵的基本特性,定理3,.10,（,P,.78,）,：,A,C,n,n,正规,A,酉相似于对角形。,推论,：正规,A,C,n,n,A,有,n,个标准正交的特征向量构成空间,C,n,的标准正交基。,定理3,.,11,（,P,.80,）（正规矩阵的谱分解）,A,正规,A,有如下谱分解：,Hermite,性,3、正规性质的应用举例,例题1,（,P,.79,，eg12,）,例题2,设,A,R,n,n,，,A,T,=,A，,证明,A,的特征值是零和纯虚数。,矩阵,A,的秩是偶数。,矩阵的奇异值分解,Singular value decomposition,(SVD),矩阵的奇异值分解,概述,：,矩阵的奇异值分解是,酉等价型,的分解:,A,C,m,n,，,酉矩阵,U,C,m,m,V,C,n,n ,使得,A=U,V,H,。,矩阵,A,等价于,=,奇异值分解基本适用于内积空间中与矩阵秩相关的问题,A,的奇异值分解依赖于正规矩阵,A,H,A,的酉相似分解的。,一、矩阵,A,的奇异值及其性质,1、,矩阵,A,H,A,和,AA,H,的性质：,A,C,m,n,，,A,H,A,C,n,n,，AA,H,C,m,m,，,都是,Hermite,矩阵。,定理3,12,（,P82）,秩（,A,）秩（,A,H,A,）=秩（,AA,H,）。,A,H,A,和,AA,H,的非零特征值相等。,A,H,A,和,AA,H,是半正定矩阵。,A,H,A,和,AA,H,的特征值是非负实数：,1,2,n,2、奇异值的定义：,（,P72）,A,C,m,n,，,秩（,A,）=,r，,设,A,H,A,的特征值,1,2,r,0，,r+1,=,r+2,=,n,=0,，则矩阵的奇异值,3、特殊矩阵的奇异值：,定理3,13,（,P,82）：,正规矩阵,A,的奇异值等于,A,的特征值的模长。,正定的,Hermite,矩阵,A,的奇异值就是,A,的特征值。,酉等价矩阵的奇异值相等。,A,和,B,酉等价，则,A,H,A,和,B,H,B,酉相似。,奇异值是酉等价的不变性质。,二、矩阵的奇异值分解,1、定理3,14,（,P,83）,任何矩阵,A,C,m,n,，秩（,A,）=,r，,则存在酉矩阵,U,C,m,m,，V,C,n,n,，,使得,证明思想：,A,H,A,正规，,V,H,A,H,AV=，,酉矩阵,V。,令 ，,i,=1，2，,，r，,得,U,1,=u,1,，u,2,，,，,u,r,扩充为标准正交基,酉矩阵,U。,例题1,求矩阵,A,的奇异值分解，,A=。,例题2,（,P,84，eg13,）,求矩阵,A,的奇异值分解，,A=,2、矩阵,U，V,的空间性质,：,V=v,1,，v,2,，,，,v,r,，,，v,n,=V,1,V,2,C,n,n,的列向量是空间,C,n,的标准正交基。,V,2,的列向量是空间,N（A）,的标准正交基。,V,1,的列向量是空间,N,（A）,的标准正交基。,U=u,1,，u,2,，,，,u,r,，,，u,m,=U,1,U,2,C,m,m,的列向量是空间,C,m,的标准正交基。,U,1,的列向量是,R（A）,的标准正交基。,U,2,的列向量是,R,（A）,的标准正交基。,3、奇异值分解的展开形式及其应用,定理3,15,（,P,87）,左奇异向量,右奇异向量,例题,：,图像的数字化技术与矩阵的奇异值分解,计算机处理图像技术的第一步是图像的数字化存储技术，即将图像转换成矩阵来存储。,转换的原理是将图形分解成象素（,pixels）,的一个矩形的数阵，其中的信息就可以用一个矩阵,A=（,a,ij,）,mn,来存储。矩阵,A,的元素,a,ij,是一个正的数，它相应于象素的灰度水平（,gray level）,的度量值。,由于一般来讲，相邻的象素会产生相近的灰度水平值，因此有可能在满足图像清晰度要求的条件下，将存储一个,mn,阶矩阵需要存储的,mn,个数减少到,n+m+1,的一个倍数。,压缩数字化图形存储量的方法主要是应用矩阵的奇异值分解和矩阵范数下的逼近。如果图象的数字矩阵,A,的奇异值分解为：,A=U,V,T,，,其展开式：,压缩矩阵,A,的方法是取一个秩为,k（k,r）,的矩阵,A,k,来逼近 矩阵,A。,A,k,按如下方法选取：,有在秩为,k（k,n）,的所有矩阵中，矩阵,A,k,所对应的图象和矩阵,A,所对应的图象最相近。一般的，,k,越大图象就越清晰。经典的方法是选取接近,k，,使,A,k,的存储量比,A,的存储量减少20%。,存储矩阵,A,k,只需要存储,k,个奇异值，,k,个,m,维向量,u,i,和,n,维向量,v,j,的所有分量，共计,k（m+n+1）,个元素。,如果,m=n=1000，,存储原矩阵,A,需要存储10001000个元素。取,k=100,时，图象已经非常清晰了，这时的存储量是100（2000+1）=200100个数。,和矩阵,A,比较，存储量减少了80%。,三、矩阵的奇异值分解和线性变换,T,A,矩阵,A,C,m,n,可以定义线性变换,T,A,：,C,n,C,m,设矩阵的奇异值分解,A=U,V,H,，则将,U,和,V,的列分别取做空间,C,m,、,C,n,的基，则变换,T,A,的矩阵为,:,=VX,C,m,则,T,A,X=(,U,V,H,)VX=U(X)=U,变换,T,A,在单位球上的象：,定理3,16,（,P,88）,四、矩阵的极分解（,Polar Decomposition）,方阵的极分解,设矩阵,A,C,n,n,，则矩阵,A,的奇异值分解:,A=U,V,H,=U（U,H,U）V,H,=（U U,H,）UV,H,=PQ,P,是半正定的,Hermite,矩阵，,P,相似于,。,Q,是酉矩阵,定理3,17,（,P,89）,方阵极分解的意义和应用,描述变换,Y=AX,的拉伸和扭曲,例题1,（,P,90）,求矩阵,A=,的极分解，,依此讨论变换,Y=AX,的几何特性。,解,