矩阵范数详解

周国标师生交流讲席010向量和矩阵的范数的若干难点导引(二)一 矩阵范数的定义 引入矩阵范数的因素与向量范数的理由是相似的，在许多场合需要“测量”矩阵的“大小”，例如矩阵序列的收敛，解线性方程组时的误差分析等，具体的状况在这里不再复述。最容易想到的矩阵范数，是把矩阵可以视为一种维的向量（采用所谓“拉直”的变换），因此，直观上可用上的向量范数来作为的矩阵范数。例如在范数意义下，； （1.1）在-范数意义下， （1.2）注意这里为了避免与后来的记号混淆，下标用“F”，这样一种矩阵范数，称为Frobenius范数，或F-范数。可以验证它们都满足向量范数的3个条件。那么与否矩阵范数就这样解决了？由于数学上的任一定义都要与其对象的运算联系起来，矩阵之间有乘法运算，它在定义范数时应予以体现，也即估计的“大小”相对于的“大小”关系。定义1 设，对每一种，如果相应着一种实函数，记为，它满足如下条件：（1）非负性：； （1a）正定性：（2）齐次性：；（3）三角不等式：则称为的广义矩阵范数。进一步，若对上的同类广义矩阵范数，有 （4）（矩阵相乘的）相容性：， ，则称为的矩阵范数。 我们目前来验证前面（1.1）和（1.2）定义的矩阵范数与否合法？我们这里只考虑（1.2）,把较容易的（1.1）的验证留给同窗们，三角不等式的验证。按列分块，记。 对上式中第2个括号内的诸项，应用Cauchy不等式，则有 （1.3）于是，两边开方，即得三角不等式。再验证矩阵乘法相容性。 （这一步用了Cauchy不等式） （1.4）可见，矩阵相容性满足。这样就完毕了对矩阵F-范数的验证。是不是这样直接将向量范数运用到矩阵范数就可以了吗？No!运用-范数于矩阵范数时便出了问题。如果，那么,这样的矩阵范数在下面一种例子上就行不通。设。因此，按上述矩阵-范数的定义，于是但这是矛盾的。因此简朴地将-范数运用于矩阵范数，是不可行的。虽然这仅是一种反例，但是数学的定义是不可以有例外的。 由此，我们必须结识到，不能随便套用向量范数的形式来构造矩阵范数。 为此,我们仅给出矩阵范数的定义是不够的，还需要研究如何构成具体的矩阵范数的措施。固然，你也可以不去考虑构成措施，一种函数一种函数去试，只要满足条件就行。但是这样做的工作量太大，也很盲目。第二，在实际计算时，往往矩阵与向量出目前同一种计算问题中，因此在考虑构造矩阵范数时，应当使它与向量范数相容。例如要考虑的“大小”，是一种向量，但它由与相乘而得的，它与的“大小”和的“大小”的关系如何？ 这提出了两类范数相容的概念。定义2 对于上的矩阵范数和上的同类向量范数，如果成立 （1.5）则称矩阵范数与向量范数是相容的。例11 可以证明 是与向量范数相容。事实上，在（1。2）中，取，那么 二 矩阵算子范数目前给出一种构造矩阵范数的一般措施，它可以使构造出的矩阵范数与向量范数相容，固然，它也满足定义1规定的4个条件。定义3 设上的同类向量范数为，定义在空间上的矩阵的由向量范数诱导给出的矩阵范数为 （2.1）可以验证，这样定义出的矩阵范数满足定义1规定的4个条件，同步又满足矩阵范数与向量范数相容性规定（定义2）。由于有什么样的向量范数，就有什么样的矩阵范数，因此，这样的矩阵范数称为由向量范数诱导出的，简称诱导范数；又由于（2.1）事实上规定了一种函数（或算子），故又称为算子范数。（2.1）给定的范数实际是谋求一种最优化问题的最优值，求目的函数的最大值，约束条件是，也就在空间中除原点外的点中，找一种n维向量，使获得最大值。如果直接考虑这样一种优化问题, 还是有困难的. 可以证明，它可如下列等价方式定义, 使问题的解决简朴。 （2.2）事实上, 分母上的是一种正数(), 那么根据向量范数的齐次性有 上面第3个等号成立是由于向量 为一种单位向量。下面我们从理论上证明这样的矩阵范数满足定义1规定的4个条件，同步又满足矩阵范数与向量范数相容性规定。定理2。1 由（2.1）或（2.2）给定的上的矩阵范数满足矩阵范数定义1的4个条件，且与相应的向量范数相容。证明： 一方面，矩阵范数与向量范数的相容性是不难证明的，事实上， 对=1, , 因此,矩阵范数与向量范数的相容性条件（1.5）成立。我们下面来验证（2.1）或（2.2）满足矩阵范数的4个条件。这4个条件中，前2个也容易验证，因此这里只来考察第3,4个条件。三角不等式的验证: 对于任一 矩阵相乘相容性的验证: 由（1.5），不难有 当时，因此 至此，证明了用算子范数确能给出满足矩阵范数定义和矩阵范数与向量范数的相容性的矩阵范数。推论1 对于上的任一种向量诱导范数，均有 （2。3）但是要注意的是，对一般的矩阵范数，对任历来量，有 故有 。例如， 不是诱导矩阵范数，因此 。三几种常用的诱导矩阵范数上面的论述表白，诱导矩阵范数与向量范数密切有关，有何种向量范数，就有什么样的诱导矩阵范数。下面就来具体地构造几种常用的诱导矩阵范数。设。例31 设，由向量-范数诱导而来的最大列和诱导矩阵范数 （3.1）证明：按列分块，记，则由（3.1）和向量-范数的定义可知 设，且有 因此, (+)另一方面,选用k,使得 令为第k的单位向量,那么 (+)综合(+)与(+)可知, 由向量-范数诱导出的矩阵范数既是的上界,又是其下界, 因此必有(3.1).例3. 2 设，矩阵谱范数由-范数诱导得出的矩阵范数，定义为 (3.2)其中 为的最大奇异值, 当时, (3.3)证明:一方面由线性代数, 是半正定矩阵, 事实上,对任一,有因此, 的特性值都为非负实数,记为 ,并且具有n个互相正交的,-范数等于1(即原则化了的)特性向量,它们分别相应于特性值。故这组特性向量构成了一组原则正交基，用它们可表达任一种范数的向量： 并且，由， 可得到 。这样， 。由此 ，也就是 由的任意性和算子范数的定义 （*）另一方面，由，并且取相应的特性向量，考虑因此 （*）综合（*）和（*），由-范数诱导得出的矩阵范数应为 。例33 设，-范数诱导得出的矩阵范数 （3.4）证明：设，即 。 由算子范数， （*）另一方面，选用k，使得 令其中，则 ，从而有 ，由算子范数 。 （*）综合（*）和（*），便得 。除了上述3种常用的矩阵范数外，Frobenius范数虽然不是算子范数，但也常常所用，在讨论序列收敛等问题上是等价的。例34 设，求其多种矩阵范数。解： 最大列和 = 6； 最大行和 = 7； ； 四 由矩阵范数推出的向量范数矩阵范数可由向量范数诱导，反过来，向量范数有时也可从矩阵范数推出。例41 设是上的矩阵范数，任取中的非零向量，则函数 （4。1）是上的向量范数，且矩阵范数与向量范数相容。证明：欲证 是一种向量范数，只须验证它满足向量范数得个条件。 非负性：当时，由于非零，故； 当时，故。 齐次性：对任一常数，有 。 三角不等式： 对任意的，有 。因此由向量范数的定义知， 是一种向量范数。下面再证两种范数的相容性。如果，那么。可见，矩阵范数与向量范数相容。五 范数的若干应用范数的应用很广泛，这里只举2例。1 矩阵奇异性的条件对于矩阵，能否根据其范数的大小，来鉴别的奇异性？鉴别一种矩阵的奇异性，并不以便（例如计算的行列式的值与否非零，判断的诸列与否线性无关等，均不大容易），但矩阵的范数的计算，如，还是以便的。定理5.1 (Banach引理) 设矩阵,且对矩阵上的某种矩阵范数,有, 则矩阵非奇异,且有 (5.1)证明: 假设矩阵范数与向量范数相容。欲证矩阵非奇异，可通过。用反证法。假设，则齐次线性方程组 有非零解，即 于是， 。两边取范数 其中最后一种不等号是由于 。 但上式是矛盾的，假设不成立，从而矩阵非奇异，故有逆。再由 可得 两边取范数，得再移项，有 从而 这正是我们要想证明的。在推演分析的直接法的误差分析时起重要的作用。请同窗们自行证明下面类似的成果。定理5.2 设矩阵,且对矩阵上的某种矩阵范数,有，则 2近似逆矩阵的误差逆矩阵的摄动 在数值计算中，误差无处不在，考虑由于这些误差存在而带来的后果，是一项重要的课题。设矩阵的元素带有误差，则矩阵的真实的值应为，其中称为误差矩阵，又叫摄动矩阵。若为非奇异，其逆阵为。问题是：与的近似限度如何呢？或者说，与的“距离”大小为多少？下面是回答上述问题的摄动定理。定理5.3 设矩阵非奇异， ，且对上的某种矩阵范数，有，则（1）非奇异； （2）记，那么 ；（3）。证明：由于，因此。由定理5。1，非奇异，故非奇异。在定理5。2中，将换成，即得（2）。又由于 ，两边取范数，并运用（2）的结论，可得 ，即可得到（3）。 3矩阵谱半径及其性质 矩阵谱半径是一种重要的概念，在特性值估计，广义逆矩阵，数值计算（特别在数值线性代数）等理论中，都占有极其重要的地位。定义4 设矩阵的n个特性值为（含重根），称为矩阵的谱半径，记为。有关矩阵谱半径的最证明也是最重要的结论是，矩阵的谱半径不超过其任一种矩阵范数。这个成果已经在课堂上证明过了。作为练习，请同窗们对 验证这个结论。有关矩阵谱半径的第2个重要结论是，如果矩阵为Hermite矩阵，则。证明留给人们。虽然Hermite矩阵的谱半径与其谱范数相等，但是，一般矩阵的谱半径与其谱范数也许相差很大。下面有关矩阵谱半径的第3个重要结论，刻画了谱半径与矩阵范数之间的另一种定量关系。，定理5。4 设矩阵，对任意正数，存在一种矩阵范数，使得 证明： 根据Jordan原则型，对，存在非奇异的，使 如果记 和 ， 则 Jordan原则型 ，其中 为的特性值。又记 ，则有 ，记 ，那么为非奇异，且有 。另一方面，容易验证， 是 上的矩阵范数，因此 。 5向量和矩阵范数在求解的直接法的误差分析中应用 这一内容我在课堂上讲的比较仔细，这里就略去了。