资源描述
Click to edit Master title style,Click to edit Master text styles,Second Level,Third Level,Fourth Level,Fifth Level,第六章,最小二乘法与曲线拟合,6.0,问题的提出,6.1,用最小二乘法求解矛盾方程组,6.2,多项式拟合,如果实际问题要求解在,a,b,区间的每一点都“很好地”逼近,f,(,x,),的话，运用插值函数有时就要失败。另外，插值所需的数据往往来源于观察测量，本身有一定的误差。要求插值曲线通过这些本身有误差的点，势必使插值结果更加不准确。,如果由试验提供的数据量比较大，又必然使得插值多项式的次数过高而效果不理想。,6.0,问题的提出,从给定的一组试验数据出发，寻求函数的一个近似表达式,y,=,(,x,),，,要求近似表达式能够反映数据的基本趋势而又不一定过全部的点,(,x,i,y,i,),，,这就是,曲线拟合问题,，函数的近似表达式,y,=,(,x,),称为,拟合曲线,。本章介绍用,最小二乘法,求拟合曲线。,6.1,用最小二乘法求解矛盾方程组,一、矛盾方程组的定义,设,线性方程组,或写为,其矩阵形式为,当,方程组的系数矩阵合增广矩阵的秩不相等时，方程组无解，此时方程组称为,矛盾方程组,。对于,rank,A,n,（,A,的秩为,n,）,的矛盾方程组（,Nn,），,我们寻求其最小二乘意义下的解。,二、用最小二乘法求解矛盾方程组,1.,最小二乘原则,由于矛盾方程组的精确解不存在，我们转而寻求其某种意义下，即最小二乘意义下的解。,令,称 为,偏差,。,达到最小值，这一条件称为,最小二乘原则,。,工程实际中的许多问题都可以归结为矛盾方程组，实际中需要寻求矛盾方程组的一组解，以使得偏差的绝对值之和 尽可能地小。为了便于分析,计算和应用，常采用使偏差的平方和,按照最小二乘原则来选择未知数,x,1,x,2,x,n,的一组取值的方法称为求解矛盾方程组的,最小二乘法,。符合条件的一组取值称为矛盾方程组的,最小二乘解,。,把,Q,看成是,n,个自变量,x,1,x,2,x,n,的二次函数，记为,Q,f,(,x,1,x,2,x,n,),，,因此，求矛盾方程组的最小二乘解就是求二次函数,Q,f,(,x,1,x,2,x,n,),的最小值点。,问题,：,二次函数,Q,f,(,x,1,x,2,x,n,),是否存在最小值？若最小值存在，如何求出该最小值点？,2.,最小二乘解的存在唯一性,引理,1,：,设,n,元实函数,f,(,x,1,x,2,x,n,),在点,P,0,(,a,1,a,2,a,n,),的某个邻域内连续，且有一阶及二阶连续的偏导数，如果,(1),(2),矩阵,是正（负）定矩阵，则,f,(,a,1,a,2,a,n,),是,n,元实函数,f,(,x,1,x,2,x,n,),的极小（大）值。,引理,2,：设非齐次线性方程组 的系数矩阵,A,=(,a,ij,),N,n,，若,rank,A,=,n,，,则,(1),矩阵,A,T,A,是对称正定矩阵；,(2),n,阶线性方程组 有唯一的解。,证明：,（,1,）矩阵,A,T,A,显然是对称矩阵。,设齐次线性方程组,因为,rank,A,=,n,，,故齐次方程组有唯一零解。因此，对于任意的 ，有 ，从而,故矩阵,A,T,A,是对称正定矩阵。,(2),因为矩阵,A,T,A,是正定矩阵，故,rank(,A,T,A,)=,n,，,从而线性方程组 有唯一的解。,证毕,定理,：设矛盾方程组的系数矩阵的秩为,n,，,则二次函数,一定存在最小值。,证明：,因为,Q,是,x,1,x,2,x,n,的二次函数，故,Q,不仅是连续函数，且有连续的一阶及二阶偏导数。,因为,引理,2,说明,在条件,RankA,=n,下,无论线性方程组,Ax=b,是否有解,构造的,n,阶方程组,A,T,Ax,=,A,T,b,一定有唯一解。,故,令,即,（,*,）,因为,rank,A,=,n,，,故由引理,2,知，上式有唯一解。设解为,x,1,=,a,1,x,2,=,a,2,x,n,=,a,n,，记为点,P,0,(,a,1,a,2,a,n,),，即,二元函数,Q,存在点,P,0,，使 。故满足引理,1,的条件（,1,）。,因为,故,由引理,2,知，当,rank,A,=,n,时，矩阵,M,是对称正定阵，,M,满足引理,1,的条件（,2,），故由引理,1,知，二次函数,Q,存在极小值。,又因方程组（,*,）式有唯一解，故,Q,存在的极小值就是最小值，线性方程组（,*,）式的解就是最小值点。,证毕,Remark1,：,线性方程组（,*,）式称为正则方程组,。,Remark2,：,该定理说明，只要矛盾方程组的系数矩阵,A,的秩,rank,A,=,n,，,则,（,1,）矛盾方程组的最小二乘解存在；,（,2,）正则方程组有唯一解，此解就是矛盾方程组的最小二乘解。,3.,最小二乘法解矛盾方程组,计算步骤,：,（,1,）判断方程组的秩是否满足,rank,A,=,n,？,（,2,）写出正则方程组；,（,3,）求解正则方程组，其解就是矛盾方程组的最小二乘解。,一、曲线拟合模型,确定曲线的类型：,一般选取简单的低次多项式。,定义,：,依据某种标准选择一条“最好”的简单曲线作为一组离散数据,的连续模型,。,6.2,多项式拟合,求一个次数不高于,N,1,次的,多项式：,（其中,a,0,a,1,a,m,待定），使其“最好”的拟合这组数据。“最好”的标准是：使得,(,x,),在,x,i,的偏差,的平方和,达到最小,。,由于拟合曲线,y,=,(,x,),不一定过点,(,x,i,y,i,),，,因此，把点,(,x,i,y,i,),带入,y,=,(,x,),，,便得到以,a,0,a,1,a,m,为未知量的矛盾方程组,其矩阵形式为,其中,(,x,),在,x,i,的偏差就是矛盾方程组各方程的偏差。曲线拟合的条件就是确定,a,0,a,1,a,m,，,使得偏差的平方和,Q,达到最小值。,据此可知，,a,0,a,1,a,m,就是矛盾方程组的最小二乘解，也就是正则方程组 的解。,二、曲线拟合的最小二乘解法,正则方程组为：,三、解的存在唯一性,定理,：设,x,1,x,2,x,N,互异，且,N,m,+1,，,则上面的正则方程组有唯一的解。,证明,：只需证明矛盾方程组的系数矩阵,A,的秩,rank,A,=,m,1,。,矛盾方程组的系数矩阵,A,是,N,(,m,+1),的矩阵，记,A,的前,m,1,行构成,m,1,阶子矩阵,该矩阵是范德蒙矩阵，由,x,1,x,2,x,N,互异知行列式不为零，从而有,rank,A,=,m,1,。由,引理,2,知，正则方程组有唯一解。,证毕,四、最小二乘法拟合曲线的步骤,1.,.,通过观察、分析得到拟合曲线的数学模型，或根据经验公式确定数学模型。,2.,将拟合曲线的数学模型转换为多项式。,3.,写出矛盾方程组。,4.,写出正则方程组。（可由多项式模型直接得到）,5.,求解正则方程组，得到拟合曲线的待定系数。,6.,将正则方程组的解带回到数学模型中，得到拟合曲线。,Remark,1.,同一问题可以有不同的拟合曲线，通常根据均方误差 和最大偏差,的大小来衡量拟合曲线的优劣。均方误差和最大偏差较小的拟合曲线为较优的拟合曲线。,2.,在解决实际问题时，有时通过观察选择多个函数类型进行计算、分析、比较，最终获得较好的数学模型；有时把经验公式作为数学模型，只是用最小二乘法来确定公式中的待定常数。,Remark,3.,当拟合曲线,(,x,),中的待定常数是线性形式时，可直接根据矛盾方程组得到正则方程组而求解。当待定常数不是线性形式时，则应该先将待定常数线性化，再根据矛盾方程组写出正则方程组而求解。,例,1,：,例,2,：,曲线拟合应用实例,:,例,1:,试用最小二乘法求一个形如,(,a,b,为常数,),的经验公式,使它与下列数据相拟合,(,取四位小数,),x,i,1,2,3,4,5,6,7,8,y,i,15.3,20.5,27.4,36.6,49.1,65.6,87.8,117.6,解,:,由于经验公式中待定常数,a,b,是非线性形式,故做如下变形,:,令,:,则有,:,将,x,u,带入得到关于,A,B,的矛盾方程组，进而得正规方程组并求出,A,B,，由,A,B,得到,a,b,即可。,（具体计算数据见书,P141,页例,6.3,）,例,2.,对彗星,1968Tentax,的移动在某极坐标系下有如下表所示的观察数据，假设忽略来自行星的干扰,坐,标应满足：其中：,p,为参数，,e,为偏心率,试用最小二乘法拟合,p,和,e,。,r,2.70,2.00,1.61,1.20,1.02,48,0,67,0,83,0,108,0,126,0,0.370370,0.50000,0.621118,0.83333,0.980392,0.669131,0.390731,0.121869,-0.309017,-0.587785,解,:,变形为,:,则有如下数据,记,，得拟合模型：,则矛盾方程组为：,得正则方程组为：,解得,：,则,：,则拟合方程为,：,
展开阅读全文