矩阵分析 第三章 内积空间、正规矩阵和Hermite矩阵

,*,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,定义：,设 是实数域 上的 维线性空间对于 中的任意两个向量 按照某一确定法则对应着一个,实数,，这个实数称为 与,的,内积,，记为 ，并且要求内积满足下列运算条件：,第一节：欧氏空间，酉空间,第三章 内积空间，正规矩阵与,H-,阵,容易验证 是 上的一个内积，从而,成为一个欧氏空间。如果规定,这里 是 中任意向量， 为任意实数,，,当仅当 时,，我们称带有这样内积的 维线性空间 为,欧氏空间。,规定,例,1,在 中，对于,容易验证 也是 上的一个内积,，这样 又成为另外一个欧氏空间。,例,2,在 维线性空间 中，规定,例,3,在线性空间 中，规定,对于这个内积成为一个欧氏空间。,容易验证这是 上的一个内积，这样,容易验证 是 上的一个内积，这样 对于这个内积成为一个欧氏空间。,例,4:,设,A,为,n,阶正定矩阵，,规定,容易验证这是内积。,定义：,设 是复数域 上的 维线性空间，对于 中的任意两个向量 按照某一确定法则对应着一个,复数,，这个复数称为 与,的,内积,，记为 ，并且要求内积满足下列运算条件：,这里 是 中任意向量， 为任意复数,，只有当 时 ，我们称带有这样内积的 维线性空间 为,酉空间。,欧氏空间与酉空间通称为,内积空间。,例,2,设 表示闭区间 上的所有,连续复值函数组成的线性空间，定义,容易验证 是 上的一个内积，从而 成为一个酉空间。,例,1,设 是 维复向量空间，任取,规定,容易验证 是 上的一个内积，于是 便成为一个酉空间。,内积空间的基本性质,：,其中 表示 中所有元素取共轭复数后再,转置，容易验证 是 上的一,个内积，从而 连同这个内积一起成为,酉空间。,例,3,在 维线性空间 中，规定,欧氏空间的性质：,酉空间的性质：,定义：设 是 维酉空间， 为其一组基底，对于 中的任意两个向量,令,那么 与 的内积,定义,：设 ，用 表示以 的元素的共轭复数为元素组成的矩阵，记,称 为基底 的,度量矩阵,，而且,不难验证复共轭转置矩阵满足下列性质：,则称 为 的,复共轭转置矩阵,。,定义,：设,如果 ，那么称,为,Hermite,矩阵；如果 ，那么称 为反,Hermite,矩阵。,例,判断下列矩阵是,H-,阵还是反,H-,阵。,与,H,阵对应的有,（,5,） 实对称矩阵,（,6,） 反实对称矩阵,（,7,） 欧氏空间的度量矩阵是实对称的,（,8,） 酉空间的度量矩阵,Hermitet,矩阵,例,在 中求下列向量的长度,定义：,设 为酉（欧氏）空间，向量,的,长度,定义为非负实数,内积空间的度量,解,： 根据上面的公式可知,例,在 中求下列向量的长度,其长度为,一般地，我们有,:,对于 中的任意向量,这里 表示复数 的模。,当且仅当 时，,定理,：向量长度具有如下性质,证明：,例,2,设 表示闭区间 上的所有连续复值函数组成的线性空间，证明：对于任意的 ，我们有,例,1,： 在线性空间 中，证明,定义：,设 为欧氏空间，两个非零向量 的,夹角,定义为,定理,：,于是有,定义,： 长度为,1,的向量称为单位向量，对于任何一个非零的向量 ，向量,总是单位向量，称此过程为,单位化,。,因此我们引入下面的概念,;,定义,：在酉空间 中，如果 ，则,称 与 正交。,定义：设 为一组,不含有零向量,的向量组，如果 内的任意两个向量彼此正交，则称其为,正交的向量组。,例,在 中向量组,定义：如果一个正交向量组中任何一个向量,都是单位向量，则称此向量组为,标准的正交,向量组。,第二节 标准正交基底与,Schmidt,正交化方法,正交组是无关组,与向量组,都是标准正交向量组。,定义：在 维内积空间中，由 个正交向量组成的基底称为,正交基底,；由 个标准的正交向量组成的基底称为,标准正交基底。,;,向量组 为标准正交向量组的充分必要条件是,定理,：向量组 为正交向量组的充分必要,条件是,注意：,标准正交基底不唯一。在上面的例题,中可以发现这一问题。,Schmidt,正交化与单位化过程,:,设 为 维内积空间 中的 个线性无关的向量，利用这 个向量完全可以构造一个标准正交向量组。,定理,：正交的向量组是一个线性无关的向量组。,反之，由一个线性无关的向量组出发可以构造,一个正交向量组，甚至是一个标准正交向量组。,容易验证 是一个正交向量组,第一步 正交化,显然 是一个标准的正交向量组。,第二步 单位化,R,的主对角线上的元为正数,。,UR,分解定理,再单位化,化为标准正交向量组。,解,：先正交化,例,1,运用正交化与单位化过程将向量组,那么 即为所求的标准正交向量组。,例,2,求下面齐次线性方程组,其解,空间的一个标准正交基底。,下面对 进行正交化与单位化：,解,： 先求出其一个基础解系,即为其解空间的一个标准正交基底。,定义：,设 为一个 阶复矩阵，如果其满足,则称 是,正交矩阵,，一般记为,设 为一个 阶实矩阵，如果其满足,则称 是,酉矩阵,，一般记为,第三节,酉变换与正交变换,例：,是,一个正交矩阵,是一个正交矩阵,是一个正交矩阵,（,5,）设 且 ，如果,是一个酉矩阵,则 是一个酉矩阵。通常称为,Householder,矩阵,。,酉矩阵与正交矩阵的性质,：,设 ，那么,设 ，那么,定理：,设 ， 是一个酉矩阵的充分必要条件为 的 个列（或行）向量组是标准正交向量组。,定义,： 设 是一个 维酉空间， 是 的,一个线性变换，如果对任意的 都有,定理,：设 是一个 维酉空间， 是 的一个线性变换，那么下列陈述等价：,注意,：关于,正交变换,也有类似的刻划。,（,3,）将 的标准正交基底变成标准正交基底；,（,4,）酉变换在标准正交基下的矩阵表示为酉矩阵。,则称 是 的一个,酉变换,。,（,1,） 是酉变换；,把,酉,空间换为,欧氏,空间,相应的称为,正交变换,定义,：设 ，如果 满足,则称 是一个,幂等矩阵,。,是一个分块幂等矩阵。,例,第四节,幂等矩阵,注,：幂等矩阵的特征值只有,0,与,1,幂等矩阵的一些性质,：设 是幂等矩阵，那么有,（,5,）,（,4,） 的充分必要条件是,（,3,）,（,2,）,（,1,） 都是,幂等矩阵；,用定义即可验证,定义,：设 为一个 维标准,定理：,设 是一个秩为 的 阶矩阵，那么 为一个幂等矩阵的充分必要条件是存在,使得,正交列向量组，那么称 型矩阵,推论,：设 是一个 阶幂等矩阵，则有,用约当标准形证。,的充分必要条件是存在一个 型次酉矩阵 使得。,其中,为一个,次酉矩阵,。一般地将其记为,定理,： 设 为一个 阶矩阵，则,证明,：设 ，那么,引理,： 的充分必要条件是,必要性：如果 为一个 维标准正交列向量组，那么,充分性：设 ， 那么由,，可得,这表明 是一个 维标准正交列向量组。,即,定理的证明,：,必要性：因 ，故 有 个线性无关的列向量，将这 个列向量用,Schmidt,方法得出 个两两正交的单位向量，以这 个向量为列构成一个 型次酉矩阵,的充分必要条件是存在一个 型次酉矩阵 使得。,其中,定理,： 设 为一个 阶矩阵，则,。注意到 的 个列向量都可以由,的 个列向量线性表出。即如果,那么可得,其中,，由于向量组 的秩为 ，所以,的秩为 。,由 可得 ，即,因为 ，所以 ，,于是,这样得到,即,注意到 ，所以,下面证明,充分性：若 ，则,定义：,设 ，若存在,，使得,定理,(,Schur,引理,),：,任何一个 阶复矩阵 酉相,似于一个上,(,下,),三角矩阵。,则称,酉相似,(,或,正交相似,),于,第六节,Schur,引理与正规矩阵,可用约当标准形各,UR,分解来证,证明：,用数学归纳法。 的阶数为,1,时定理显然成立。现设 的阶数为 时定理成立，考虑,的阶数为 时的情况。,取 阶矩阵 的一个特征值 ，对应的单位特征向量为 ，构造以 为第一列的 阶酉矩阵 ，,因为 构成 的一个标准正交基，故,，因此,其中 是 阶矩阵，根据归纳假设，存在,阶酉矩阵 满足,(,上三角矩阵,),令,那么,定理,(,Schur,不等式,):,设 为矩阵 的特征值,那么,注意,:,等号右端的三角矩阵主对角线上的元,素为矩阵 的全部特征值,.,证明：,试求酉矩阵 使得 为上三角矩阵,.,例,:,已知矩阵,解,:,首先求矩阵 的特征值,所以 为矩阵 的三重特征值,.,当,时,有单位特征向量,求得一个单位解向量,再解与其内积为零的方程,再解与 内积为零的方程组,取,求得一个单位解向量,计算可得,令,所以 为矩阵 的二重特征值,.,当,时,有单位特征向量,再求矩阵 的特征值,再解与其内积为零的方程,求得一个单位解向量,取,计算可得,令,于是有,则,正规矩阵,定义,:,设,如果 满足,矩阵 即为所求的酉矩阵,.,那么称矩阵 为一个,正规矩阵,.,(1),为实正规矩阵,例,:,那么称矩阵 为一个,实正规矩阵,.,设,如果 同样满足,其中 是不全为零的实数,容易验证,这是一个实正规矩阵,.,(2),正规矩阵的性质与结构定理,H-,阵,反,H-,阵,正交矩阵,酉矩阵,对,角矩阵都是正规矩阵,.,这是一个正规矩阵,.,(3),引理,1 :,设 是一个正规矩阵,则与 酉相似的矩阵一定是正规矩阵,.,引理,2 :,设 是一个正规矩阵,且又是三角矩阵,则 必为对角矩阵,.,定理,:,设,则 是正规矩阵的充要条件是存在一个酉矩阵 使得,由上述引理可以得到正规矩阵的结构定理,推论,1,:,阶正规矩阵有 个线性无关的特征向量,.,其中 是矩阵 的特征值,.,推论,2,:,正规矩阵属于不同特征值的征向量 彼此正交,.,解,:,先计算矩阵的特征值,求正交矩阵 使得 为对角矩阵,.,例,1 :,设,现在将 单位化并正交化,得到两个标准正交向量,其特征值为,对于特征值 解线性方程组,求得其一个基础解系,对于特征值 解线性方程组,将其单位化得到一个单位向量,求得其一个基础解系,将这三个标准正交向量组成矩阵,则矩阵 即为所求正交矩阵且有,求酉矩阵 使得 为对角矩阵,.,例,2 :,设,解,:,先计算矩阵的特征值,解,:,先计算矩阵的特征值,求得其一个基础解系,对于特征值 解线性方程组,其特征值为,现在将 单位化,得到一个单位向量,对于特征值 解线性方程组,将其单位化得到一个单位向量,求得其一个基础解系,对于特征值 解线性方程组,将其单位化得到一个单位向量,求得其一个基础解系,将这三个标准正交向量组成矩阵,则矩阵 即为所求酉矩阵且有,例,3,证明,:,(1) H-,矩阵的特征值为实数,; H-,矩阵属于不同特征值的特征向量是正交的,.,(2),反,H-,矩阵的特征值为零或纯虚数,.,(3),酉矩阵的特征值模长为,1.,是,H-,阵的充要条件是 的特征,值为实数,.,定理,:,设 是正规矩阵,则,(2),是反,H-,阵的充要条件是 的特征值的实部为零,.,(3),是,U-,阵的充要条件是 的特征值的模长为,1 .,证明,:,根据,U-,阵的定义,是,U-,阵,.,例,4,:,设 是一个反,H-,阵,证明,:,注意,:,正规矩阵绝不仅此三类,.,由于 是反,H-,阵,所以,于是可得,这,说明 为酉矩阵,.,例,5,:,设 是一个 阶,H-,阵且存在自然数,使得,证明,: .,证明,:,由于 是正规矩阵,所以存在一个酉,矩阵 使得,于是可得,这样,从而,即,定理,:,设,A,B,都是正规矩阵,A,B,可同时酉对角化,A,B,可同时酉对角化是指,存在酉矩阵,U,使得,证明,:,第八节,Hermite,二次型,(,Hermite,二次齐次多项式,),引理,:,设,则,(1),都是,H-,阵,.,Hermite,矩阵的基本性质,(2),是反,H-,阵,.,(3),如果 是,H-,阵,那么 也是,H-,阵,为任意正整数,.,(4),如果 是可逆的,H-,阵,那么 也是可逆的,H-,阵,.,(5),如果 是,H-,阵,(,反,H-,阵,),那么 是反,H-,矩阵,(H-,阵,),这里 为虚数单位,.,(6),如果 都是,H-,阵,那么,也是,H-,阵,这里 均为实数,.,(7),如果 都是,H-,阵,那么 也是,H-,阵的,充分必要条件是,(2),是,H-,阵的充分必要条件是对于,任意的 阶方阵 为,H-,阵,.,定理,:,设,则,(1),是,H-,阵的充分必要条件是对于任意的 是实数,.,(1),的充分性的证明,定理,:,设,则 是,H-,阵的充分,必要条件是存在一个酉矩阵 使得,H-,阵的结构定理,其中,此定理经常叙述为,:,H-,阵酉相似于实对角矩阵,.,其中,此定理经常叙述为,:,H-,阵酉相似于实对角矩阵,.,推论,:,实对称阵正交相似于实对角矩阵,.,例,:,设 为一个,幂等,H-,阵,则存在酉矩阵 使得,推论,:,实对称阵正交相似于实对角矩阵,.,证明,:,由于 为一个,H-,阵,所以存在酉矩阵,使得,又由于 为一个幂等,H-,阵,从而,个酉矩阵 使得,将,1,放在一起,将,0,放在一起,那么可找到一,或,这里 为矩阵 的秩,.,为复数的二次齐次多项式,定义,:,由 个复变量,系数,Hermite,二次型,(,Hermite,二次齐次多项式,),称为,Hermite,二次型,这里,那么上面的,Hermite,二次型可以记为,H,矩阵,则,对于,Hermite,二次型作可逆的线性替换,秩为,Hermite,二次型的秩,.,称为,Hermite,二次型对应的矩阵,并称 的,Hermite,二次型中最简单的一种是只含有纯的平方项无交叉项的二次型,定理,:,对于任意一个,Hermite,二次型,的,Hermite,二次型,.,我们称这种形状的,Hermite,二次型为,标准形,这里,必存在酉线性替换,定理,:,对于,Hermite,二次型,进一步,我们有,其中 是,H-,矩阵 的特征值,.,可以将,Hermite,二次型 化为标准形,可以将,并用酉线性替换将其化为标准形,.,例,:,写出下面,Hermite,二次型的矩阵表达式,的,规范形,.,我们称上面的标准形为,Hermite,二次型,Hermite,二次型 化为,其中,必存在可逆的线性替换,解,:,第九节,:,正定,Hermite,二次型与正定,Hermite,矩阵,都有,如果对于任意一组不全为零复数,定义,:,对于给定的,Hermite,二次形,则称该,Hermite,二次形为,正定的,(,半正定的,),并称相应的,H-,矩阵 为,正定的,(,半正定的,),.,例,:,判断下列,Hermite,二次形的类别,与正定的实二次形一样,关于正定的,Hermite,二次形我们有,下列叙述是等价的,定理,:,对于给定的,Hermite,二次形,(1),是正定的,(2),对于任何 阶可逆矩阵 都有,为正定矩阵,(3),的 个特征值都大于零,(4),存在 阶可逆矩阵 使得,(5),存在 阶可逆矩阵 使得,(6),存在正线上三角矩阵 使得,且此分解是唯一的,.,证明：,即,正定,正定,用分解定理,例,1 :,设 是一个正定的,H-,阵,且又是酉矩阵,则,证明,:,由于 是一个正定,H-,阵,所以必存在,酉矩阵 使得,由于 又是酉矩阵,所以,这样必有,从而,例,2 :,设 是一个正定的,H-,阵,是一个反,H-,阵,证明,:,与 的特征值实部为零,.,将其代入上面的特征多项式有,证明,:,设 为矩阵的任意一个特征值,那,么有,.,由于 是一个正定,H-,阵,所以存在可逆矩阵 使得,这说明 也是矩阵 的特征值,.,另一方面注意矩阵 为,H-,反阵,从而 实部为零,.,同样可以证明另一问,.,证明,:,由于 是一个正定,H-,阵,所以存在可,逆矩阵 使得,另一方面注意矩阵 仍然为正定,H-,阵,而矩阵 为,H-,反阵,由上面的例题结论可知,例,3 :,设 是一个正定的,H-,阵,是一个反,H-,阵,证明,:,是可逆矩阵,.,这表明 是可逆的,.,于是,矩阵 的特征值实部为零,那么矩阵,定理,:,对于给定的,Hermite,二次形,(1),是半正定的,下列叙述是等价的,:,的特征值中不可能有零,从而,(3),的 个特征值全是非负的,(2),对于任何 阶可逆矩阵 都有,为半正定矩阵,(5),存在秩为 的 阶矩阵 使得,存在 阶可逆矩阵 使得,定理,:,设 是正定,(,半正定,),Hermite,矩阵,那么存在正定,(,半正定,),Hermite,矩阵 使得,由于 是半正定的,所以,.,于是有,证明,:,设 为 的全部特征值,证明,:,例,1 :,设 是一个半正定的,H-,阵且,可逆矩阵 使得,例,2 :,设 是一个半正定的,H-,阵且,是一个正定的,H-,阵,证明,:,这样有,证明,:,由于 是一个正定的,H-,阵,所以存在,仍然是一个半正定的,H-,阵,有上面的例题可知,从而,注意矩阵,例,3 :,证明：,（,1,） 半正定,H-,矩阵之和仍然是半正定的,;,（,2,） 半正定,H-,矩阵与正定,H-,阵之和和是正定的,;,证明,：设 都是半正定,H-,阵，那么二者之和 仍然是一个,H-,阵，其对应的,Hermite,二次型为,其中,由于 都是半正定,H-,矩阵，所以对于任意一组不全为零的复数,我们有,这说明 为一个半正定,H-,阵。,类似地，可以证明另外一问。,例,4 :,设 都是 阶正定,H-,阵，则,的根全为正实数。,证明,：因为 是正定的，所以存在可逆矩阵,使得,另一方面注意到 是一个正定,H-,阵，从而有,的根全为正实数。又由于,故 的根全为正实数。,定理,:,设 是一个（半）正定,H-,阵，那么必存在唯一的一个（半）正定,H-,阵 ，使得,例 ：,设 均为 阶,Hermite,-,阵,且,又是正定的，证明必存在 使得,第十节,:,Hermite,矩阵偶在复合同（复相合）,下的标准形,证明,： 由于 是正定,H-,阵，所以存在,又由于 也是,H-,阵，那么存在,与,同时成立，其中 是与 无关,的实数。,使得,使得,其中 是,H-,阵 的 个实特征值。,如果记 ，则有,令 ，那么 是特征方程,下面证明 个实特征值 与 无关。,的特征根。又由于,由此可以得到下面的,H-,阵偶标准形定理：,的根。它完全是由 决定的与 无关 。,因此 是方程,定理,：对于给定的两个二次型,其中 是正定的，则存在非退化的线性替换,可以将 同时化成标准形,其中 是方程 的根，而且全为实数。,有非零解的充分必要条件是,又是正定的，求 使得方程,定义,：设 均为 阶,Hermite,-,阵,且,关于 的 次代数方程方程,成立。我们称此方程是 相对于 的,特征方程。,它的根 称为 相对于 的,广义特征值,。将 代入到方程,中所得非零解向量 称为与 相对应的,广义特征向量,。,广义特征值与广义特征向量的性质,;,命题,：,（,1,）有 个广义特征值；,（,2,）有 个线性无关的广义特征向量,，即,（,3,）这 个广义特征向量可以这样选取，使得其满足,其中 为,Kronecker,符号。,证明：（,1,）略,（,2,）取使,下证,（,3,）,第十一节,:Rayleigh,商,定义：设，称下面实数为,Rayleigh,商,定理：,证明：（,1,）略,(2),(3),略,定理,:,设,A,是,H-,矩阵,定理,:,定理,:,设 是 维复向量空间中任意 维子,空间,则有极大极小原理,证明：,与,的交不为空。,