曲线拟合的最小二乘法

第6章 曲线拟合的最小二乘法6.1 拟合曲线通过观察或测量得到一组离散数据序列，当所得数据比较准确时，可构造插值函数逼近客观存在的函数，构造的原则是要求插值函数通过这些数据点，即。此时，序列与是相等的。如果数据序列，含有不可避免的误差（或称“噪音”），如图6.1所示；如果数据序列无法同时满足某特定函数，如图6.2所示，那么，只能要求所做逼近函数最优地靠近样点，即向量与的误差或距离最小。按与之间误差最小原则作为“最优”标准构造的逼近函数，称为拟合函数。图6.1 含有“噪声”的数据图6.2 一条直线公路与多个景点插值和拟合是构造逼近函数的两种方法。插值的目标是要插值函数尽量靠近离散点；拟合的目标是要离散点尽量靠近拟合函数。向量与之间的误差或距离有各种不同的定义方法。例如：用各点误差绝对值的和表示：用各点误差按模的最大值表示：用各点误差的平方和表示：或 （6.1）其中称为均方误差，由于计算均方误差的最小值的方法容易实现而被广泛采用。按均方误差达到极小构造拟合曲线的方法称为最小二乘法。本章主要讲述用最小二乘法构造拟合曲线的方法。在运筹学、统计学、逼近论和控制论中，最小二乘法都是很重要的求解方法。例如，它是统计学中估计回归参数的最基本方法。关于最小二乘法的发明权，在数学史的研究中尚未定论。有材料表明高斯和勒让德分别独立地提出这种方法。勒让德是在1805年第一次公开发表关于最小二乘法的论文，这时高斯指出，他早在1795年之前就使用了这种方法。但数学史研究者只找到了高斯约在1803年之前使用了这种方法的证据。在实际问题中，怎样由测量的数据设计和确定“最贴近”的拟合曲线？关键在选择适当的拟合曲线类型，有时根据专业知识和工作经验即可确定拟合曲线类型；在对拟合曲线一无所知的情况下，不妨先绘制数据的粗略图形，或许从中观测出拟合曲线的类型；更一般地，对数据进行多种曲线类型的拟合，并计算均方误差，用数学实验的方法找出在最小二乘法意义下的误差最小的拟合函数。例如，某风景区要在已有的景点之间修一条规格较高的主干路，景点与主干路之间由各具特色的支路联接。设景点的坐标为点列；设主干路为一条直线，即拟合函数是一条直线。通过计算均方误差最小值而确定直线方程（见图6.2）。6.2线性拟合和二次拟合函数线性拟合给定一组数据，做拟合直线，均方误差为 （6.2）是二元函数，的极小值要满足整理得到拟合曲线满足的方程： （6.3）或 称式（6.3）为拟合曲线的法方程。用消元法或克莱姆法则解出方程：a=例6.1 下表为P. Sale及R. Dybdall在某处作的鱼类抽样调查，表中为鱼的数量，为鱼的种类。请用线性函数拟合鱼的数量和种类的函数关系。13151621222325293031361110111212131312141617404255606264707210013013142214212124172334解：设拟合直线，并计算得下表：编号xyxyx2123452113151621221309561110111212343441431501762522644420189131692252564414841690061640将数据代入法方程组（6.3）中，得到：解方程得：= 8.2084，= 0.1795拟合直线为：= 8.2084 + 0.1795二次拟合函数给定数据序列，用二次多项式函数拟合这组数据。设，作出拟合函数与数据序列的均方误差：（6.4）由多元函数的极值原理，的极小值满足整理得二次多项式函数拟合的法方程：（6.5）解此方程得到在均方误差最小意义下的拟合函数。方程组（6.5）称为多项式拟合的法方程，法方程的系数矩阵是对称的。当拟保多项式阶时，法方程的系数矩阵是病态的，在计算中要用双精度或一些特殊算法以保护解的准确性。例6.2 给定一组数据，如下表。用二次多项式函数拟合的这组数据。32101234230125解：设，由计算得下表：32101234230125112430141539941014928368301845727810182708116101168196将数据代入式（6.5），相应的法方程为：解方程得：=0.66667，=1.39286，=0.13095= 0.666671.392860.13095拟合曲线的均方误差：=3.09524结果见图6.3。图6.3拟合曲线与数据序