第5章--线性参数的最小二乘法处理课件

误差理论与数据处理 第5章 线性参数的最小二乘法处理第第5 5章章线性参数的最小二乘处理线性参数的最小二乘处理误差理论与数据处理 第5章 线性参数的最小二乘法处理教学目标教学目标最小二乘法是一种在数据处理和误差估计等最小二乘法是一种在数据处理和误差估计等多学科领域多学科领域得到广泛应用的数学工具。得到广泛应用的数学工具。随着现代数学和计算机技术的发展，最小二乘法成为随着现代数学和计算机技术的发展，最小二乘法成为参参数估计数估计、数据处理数据处理、回归分析回归分析和和经验公式拟合经验公式拟合中必不可少中必不可少的手段，并已形成统计推断的一种准则。的手段，并已形成统计推断的一种准则。通过本章的学习，掌握最小二乘法的基本原理，以及在通过本章的学习，掌握最小二乘法的基本原理，以及在组合测量问题的数据处理中的应用组合测量问题的数据处理中的应用。误差理论与数据处理 第5章 线性参数的最小二乘法处理教学重点和难点教学重点和难点n 最小二乘法原理最小二乘法原理n 等精度测量线性参数的最小二乘处理等精度测量线性参数的最小二乘处理n 不等精度测量线性参数的最小二乘处理不等精度测量线性参数的最小二乘处理n 最小二乘估计量的精度估计最小二乘估计量的精度估计n 组合测量的最小二乘法处理组合测量的最小二乘法处理误差理论与数据处理 第5章 线性参数的最小二乘法处理第一节最小二乘原理第一节最小二乘原理 一、问题的引入一、问题的引入间接测量间接测量组合测量组合测量直接测量量为直接测量量为Xi，依据方程求出被测量，依据方程求出被测量Y。直接测量量为直接测量量为Y，依据方程求出被测量，依据方程求出被测量Xi。误差理论与数据处理 第5章 线性参数的最小二乘法处理第一节最小二乘原理第一节最小二乘原理 一、问题的引入一、问题的引入为直接测量量和被测量的真值；为直接测量量和被测量的真值；为直接测量量和被测量的估计值；为直接测量量和被测量的估计值；为直接测量量的测量值；为直接测量量的测量值；为直接测量量的残余误差为直接测量量的残余误差(相对于计算值而言相对于计算值而言)。注意：不能写成注意：不能写成因为测量值因为测量值 与计算值与计算值 之间是有误差的。之间是有误差的。为什么？为什么？误差理论与数据处理 第5章 线性参数的最小二乘法处理第一节最小二乘原理第一节最小二乘原理 一、问题的引入一、问题的引入问题：如何根据和测量方程问题：如何根据和测量方程解出解出被测量的估计值被测量的估计值？可唯一解出可唯一解出 讨论：讨论：没有唯一解没有唯一解为提高测量结果的精度，而增加了测量次数为提高测量结果的精度，而增加了测量次数哪个解好？哪个解好？最可信赖值应使残余误最可信赖值应使残余误差平方和最小差平方和最小误差理论与数据处理 第5章 线性参数的最小二乘法处理第一节最小二乘原理第一节最小二乘原理 二二、最小二乘原理、最小二乘原理最小二乘法的产生是为了解决从最小二乘法的产生是为了解决从一组测量值一组测量值中寻找最可中寻找最可信赖值的问题。信赖值的问题。计算值计算值测量值测量值残差残差目标：解出最可信赖的被测量目标：解出最可信赖的被测量误差理论与数据处理 第5章 线性参数的最小二乘法处理第一节最小二乘原理第一节最小二乘原理 二二、最小二乘原理、最小二乘原理若若 的测量误差是无偏的的测量误差是无偏的(不存在系统误差不存在系统误差)，相互独立，相互独立并服从正态分布，标准差分别为并服从正态分布，标准差分别为 ，则，则 出出现在相应真值附近现在相应真值附近 区域内的概率为区域内的概率为由概率乘法定理可知，各测量数据同时出现在相应区域的概率为由概率乘法定理可知，各测量数据同时出现在相应区域的概率为误差理论与数据处理 第5章 线性参数的最小二乘法处理第一节最小二乘原理第一节最小二乘原理 二二、最小二乘原理、最小二乘原理最可信赖值出现在最可信赖值出现在 P P 最大时：最大时：引入引入“权因子权因子”：则成：则成：在在等精度测量条件等精度测量条件下：下：则成：则成：测量结果的最可信赖值应在测量结果的最可信赖值应在残差平方和残差平方和或或加权残差平方和加权残差平方和的意义下求得，称之为的意义下求得，称之为最小二乘法最小二乘法。虽然是在正态分布下导出最小二乘法，实际上，按误差或虽然是在正态分布下导出最小二乘法，实际上，按误差或残差平方和为最小进行统计推断已形成一种准则。残差平方和为最小进行统计推断已形成一种准则。误差理论与数据处理 第5章 线性参数的最小二乘法处理第一节最小二乘原理第一节最小二乘原理 三三、等精度测量的等精度测量的线性参数线性参数最小二乘原理最小二乘原理线性参数的测量方程的一般形式和相应的估计量为：线性参数的测量方程的一般形式和相应的估计量为：矩阵形式矩阵形式误差理论与数据处理 第5章 线性参数的最小二乘法处理第一节最小二乘原理第一节最小二乘原理 三三、等精度测量的等精度测量的线性参数线性参数最小二乘原理最小二乘原理该方程是否为等精度还是不等精度误差方程，要视该方程是否为等精度还是不等精度误差方程，要视直接测量数据直接测量数据 是否为等精度测量而定是否为等精度测量而定yi仅含有随机误差，会使方程不能严格成立，仅含有随机误差，会使方程不能严格成立，故：测量残差方程组故：测量残差方程组对于对于误差理论与数据处理 第5章 线性参数的最小二乘法处理第一节最小二乘原理第一节最小二乘原理 三三、等精度测量的等精度测量的线性参数线性参数最小二乘原理最小二乘原理设：设：则残差方程组的矩阵表达式：则残差方程组的矩阵表达式：yi仅含有随机误差，会使方程不能严格成立，仅含有随机误差，会使方程不能严格成立，故：测量残差方程组故：测量残差方程组对于对于误差理论与数据处理 第5章 线性参数的最小二乘法处理第一节最小二乘原理第一节最小二乘原理 三三、等精度测量的等精度测量的线性参数线性参数最小二乘原理最小二乘原理等精度测量：等精度测量：误差理论与数据处理 第5章 线性参数的最小二乘法处理第一节最小二乘原理第一节最小二乘原理 四四、不不等精度测量的等精度测量的线性参数线性参数最小二乘原理最小二乘原理方法一：直接依据方法一：直接依据 进行推导进行推导其矩阵形式：其矩阵形式：权因子矩阵：权因子矩阵：又：又：误差理论与数据处理 第5章 线性参数的最小二乘法处理第一节最小二乘原理第一节最小二乘原理 四四、不不等精度测量的等精度测量的线性参数线性参数最小二乘原理最小二乘原理方法二：将不等精度转换为等精度方法二：将不等精度转换为等精度新的残余误差列向量新的残余误差列向量新的测量值列向量新的测量值列向量新的系数矩阵新的系数矩阵误差理论与数据处理 第5章 线性参数的最小二乘法处理第一节最小二乘原理第一节最小二乘原理 四四、不不等精度测量的等精度测量的线性参数线性参数最小二乘原理最小二乘原理方法二：将不等精度转换为等精度方法二：将不等精度转换为等精度误差理论与数据处理 第5章 线性参数的最小二乘法处理第二节正规方程第二节正规方程 一、等精度测量线性参数最小二乘处理的正规方程一、等精度测量线性参数最小二乘处理的正规方程误差理论与数据处理 第5章 线性参数的最小二乘法处理第二节正规方程第二节正规方程 一、等精度测量线性参数最小二乘处理的正规方程一、等精度测量线性参数最小二乘处理的正规方程误差理论与数据处理 第5章 线性参数的最小二乘法处理第二节正规方程第二节正规方程 一、等精度测量线性参数最小二乘处理的正规方程一、等精度测量线性参数最小二乘处理的正规方程误差理论与数据处理 第5章 线性参数的最小二乘法处理第二节正规方程第二节正规方程 一、等精度测量线性参数最小二乘处理的正规方程一、等精度测量线性参数最小二乘处理的正规方程再观察其二阶偏导数再观察其二阶偏导数误差理论与数据处理 第5章 线性参数的最小二乘法处理第二节正规方程第二节正规方程 一、等精度测量线性参数最小二乘处理的正规方程一、等精度测量线性参数最小二乘处理的正规方程一阶偏导数为零，二阶偏导数恒为正，可知所求为最小值一阶偏导数为零，二阶偏导数恒为正，可知所求为最小值误差理论与数据处理 第5章 线性参数的最小二乘法处理第二节正规方程第二节正规方程 一、等精度测量线性参数最小二乘处理的正规方程一、等精度测量线性参数最小二乘处理的正规方程这就是等精度测量线性参数最小二乘这就是等精度测量线性参数最小二乘正规方程组正规方程组的的代数代数形式形式当系数行列式不为零时，有唯一确定的解当系数行列式不为零时，有唯一确定的解误差理论与数据处理 第5章 线性参数的最小二乘法处理第二节正规方程第二节正规方程 一、等精度测量线性参数最小二乘处理的正规方程一、等精度测量线性参数最小二乘处理的正规方程特点：特点：主对角线分布的为平方项系数，均为正数主对角线分布的为平方项系数，均为正数相对于主对角线对称分布的各系数两两相等相对于主对角线对称分布的各系数两两相等误差理论与数据处理 第5章 线性参数的最小二乘法处理第二节正规方程第二节正规方程 一、等精度测量线性参数最小二乘处理的正规方程一、等精度测量线性参数最小二乘处理的正规方程将等精度正规方程组将等精度正规方程组转化转化为为矩阵形式矩阵形式看正规方程组中第看正规方程组中第 r 个方程：个方程：展开：展开：误差理论与数据处理 第5章 线性参数的最小二乘法处理第二节正规方程第二节正规方程 一、等精度测量线性参数最小二乘处理的正规方程一、等精度测量线性参数最小二乘处理的正规方程展开：展开：这就是等精度测量线性参数最这就是等精度测量线性参数最小二乘小二乘正规方程组正规方程组的的矩阵矩阵形式形式误差理论与数据处理 第5章 线性参数的最小二乘法处理第二节正规方程第二节正规方程 一、等精度测量线性参数最小二乘处理的正规方程一、等精度测量线性参数最小二乘处理的正规方程解矩阵形式的正规方程组解矩阵形式的正规方程组将将 代入：代入：（待测量的无偏估计）（待测量的无偏估计）设：设：若：若：则则 有唯一解有唯一解误差理论与数据处理 第5章 线性参数的最小二乘法处理第二节正规方程第二节正规方程 例例5.1 已知任意温度已知任意温度t 时的铜棒的长度时的铜棒的长度 yt 、0时铜棒的长度时铜棒的长度y0和铜的线膨胀系数和铜的线膨胀系数 具有线性关系：具有线性关系：。现测得不同。现测得不同温度温度ti下，铜棒的长度下，铜棒的长度li如下表，试估计如下表，试估计y0和和 的最可信赖值。的最可信赖值。i123456t i/c102025304045l i/mm2000.362000.722000.802001.072001.482001.60解：解：测量的残差方程发生改变：测量的残差方程发生改变：将本题的方程转化为线性参数测量方程的一般形式将本题的方程转化为线性参数测量方程的一般形式注意：此时，注意：此时，为待测量的估计量为待测量的估计量误差理论与数据处理 第5章 线性参数的最小二乘法处理第二节正规方程第二节正规方程 依据正规方程组的一般代数形式：依据正规方程组的一般代数形式：本题本题 ，只有两个待求量，只有两个待求量误差理论与数据处理 第5章 线性参数的最小二乘法处理第二节正规方程第二节正规方程 1101002000.3620003.62204002000.7240014.43256252000.8050020.04309002001.0760032.154016002001.4880059.264520252001.6090072.0170565012006.03340201.3误差理论与数据处理 第5章 线性参数的最小二乘法处理第二节正规方程第二节正规方程 解方程组解方程组得得即：即：误差理论与数据处理 第5章 线性参数的最小二乘法处理第二节正规方程第二节正规方程 按矩阵形式解按矩阵形式解i123456t i/c102025304045l i/mm2000.362000.722000.802001.072001.482001.60误差理论与数据处理 第5章 线性参数的最小二乘法处理第二节正规方程第二节正规方程 误差理论与数据处理 第5章 线性参数的最小二乘法处理第二节正规方程第二节正规方程 因此，铜棒长度因此，铜棒长度 随温度随温度 的线性变化规律的线性变化规律 为：为：误差理论与数据处理 第5章 线性参数的最小二乘法处理就是正规方程的代数形式就是正规方程的代数形式第二节正规方程第二节正规方程 二、二、不等不等精度测量线性参数最小二乘处理的正规方程精度测量线性参数最小二乘处理的正规方程最小二乘原理推导时，最小二乘原理推导时，误差理论与数据处理 第5章 线性参数的最小二乘法处理第二节正规方程第二节正规方程 二、二、不等不等精度测量线性参数最小二乘处理的正规方程精度测量线性参数最小二乘处理的正规方程这就是这就是不等不等精度测量线性参数最小二乘精度测量线性参数最小二乘正规方程组正规方程组的的代数代数形式形式特点：特点：主对角线分布的为平方项系数，均为正数主对角线分布的为平方项系数，均为正数相对于主对角线对称分布的各系数两两相等相对于主对角线对称分布的各系数两两相等误差理论与数据处理 第5章 线性参数的最小二乘法处理第二节正规方程第二节正规方程 二、二、不等不等精度测量线性参数最小二乘处理的正规方程精度测量线性参数最小二乘处理的正规方程将不等精度正规方程组将不等精度正规方程组转化转化为等精度形式：为等精度形式：其余类推其余类推误差理论与数据处理 第5章 线性参数的最小二乘法处理第二节正规方程第二节正规方程 二、二、不等不等精度测量线性参数最小二乘处理的正规方程精度测量线性参数最小二乘处理的正规方程将不等精度正规方程组将不等精度正规方程组转化转化为等精度形式：为等精度形式：其中其中:误差理论与数据处理 第5章 线性参数的最小二乘法处理第二节正规方程第二节正规方程 二、二、不等不等精度测量线性参数最小二乘处理的正规方程精度测量线性参数最小二乘处理的正规方程将不等精度正规方程组将不等精度正规方程组转化转化为为矩阵形式矩阵形式：看正规方程组中第看正规方程组中第 r 个方程：个方程：展开后可整理得：展开后可整理得：误差理论与数据处理 第5章 线性参数的最小二乘法处理第二节正规方程第二节正规方程 二、二、不等不等精度测量线性参数最小二乘处理的正规方程精度测量线性参数最小二乘处理的正规方程将不等精度正规方程组将不等精度正规方程组转化转化为为矩阵形式矩阵形式：误差理论与数据处理 第5章 线性参数的最小二乘法处理第二节正规方程第二节正规方程 二、二、不等不等精度测量线性参数最小二乘处理的正规方程精度测量线性参数最小二乘处理的正规方程将不等精度正规方程组将不等精度正规方程组转化转化为为矩阵形式矩阵形式：将将 代入：代入：（待测量的无偏估计）（待测量的无偏估计）设：设：若：若：则则 有唯一解有唯一解误差理论与数据处理 第5章 线性参数的最小二乘法处理测量值测量值第二节正规方程第二节正规方程 例例5.2 某测量过程有误差方程式及相应的标准差：某测量过程有误差方程式及相应的标准差：试求试求 的最可信赖值。的最可信赖值。解：解：首先确定各式的权首先确定各式的权取权值取权值误差理论与数据处理 第5章 线性参数的最小二乘法处理第二节正规方程第二节正规方程 解：解：依据不等精度正规方程组的代数形式，在本题中依据不等精度正规方程组的代数形式，在本题中111161616166.44103.04103.04212161664328.60137.60275.2031399812710.8197.29291.87414991443613.21118.98475.92515992254515.27137.43687.1559530156594.341833.18误差理论与数据处理 第5章 线性参数的最小二乘法处理第二节正规方程第二节正规方程 解：解：误差理论与数据处理 第5章 线性参数的最小二乘法处理第二节正规方程第二节正规方程 三、三、非非线性参数最小二乘处理的正规方程线性参数最小二乘处理的正规方程对于非线性方程对于非线性方程测量的残差方程测量的残差方程 求解困难求解困难思路：将非线性方程转化为线性方程，再按线性情况处理思路：将非线性方程转化为线性方程，再按线性情况处理误差理论与数据处理 第5章 线性参数的最小二乘法处理第二节正规方程第二节正规方程 三、三、非非线性参数最小二乘处理的正规方程线性参数最小二乘处理的正规方程取取 作为待求量作为待求量 的近似解的近似解将函数在将函数在 处作泰勒级数展开，并只取处作泰勒级数展开，并只取一次项一次项作为新的待求变量作为新的待求变量为函数为函数 对对 的偏导数在的偏导数在 处的值处的值构成新的系数矩阵构成新的系数矩阵令：令：残差方程：残差方程：成为线性方程成为线性方程误差理论与数据处理 第5章 线性参数的最小二乘法处理第二节正规方程第二节正规方程 三、三、非非线性参数最小二乘处理的正规方程线性参数最小二乘处理的正规方程残差方程转化为线性方程组残差方程转化为线性方程组可利用最小二乘的代数形式或矩阵形式解得可利用最小二乘的代数形式或矩阵形式解得再用再用 求出待求量的求出待求量的近似值近似值经过多次迭代计算后，可使偏差经过多次迭代计算后，可使偏差 足够小足够小误差理论与数据处理 第5章 线性参数的最小二乘法处理1）直接测量直接测量2）通过通过部分方程式部分方程式进行计算进行计算从误差方程中选取最简单的从误差方程中选取最简单的 t 个方程式，再令个方程式，再令 形成形成 t 元齐次非线性方程，解出元齐次非线性方程，解出第二节正规方程第二节正规方程 三、三、非非线性参数最小二乘处理的正规方程线性参数最小二乘处理的正规方程如何求取待求量如何求取待求量 的近似解的近似解只用于实际测量中，但不能用于解题的过程中只用于实际测量中，但不能用于解题的过程中误差理论与数据处理 第5章 线性参数的最小二乘法处理第二节正规方程第二节正规方程 四、四、最小二乘原理与算术平均值原理的关系最小二乘原理与算术平均值原理的关系则测量的误差方程为则测量的误差方程为得得 n 个数据个数据 ，相应的权分别为，相应的权分别为 为确定一个被测量为确定一个被测量 X 的估计值的估计值 x，对它进行，对它进行 n 次直接测量，次直接测量，测量方程为测量方程为系数矩阵为系数矩阵为误差理论与数据处理 第5章 线性参数的最小二乘法处理第二节正规方程第二节正规方程 四、四、最小二乘原理与算术平均值原理的关系最小二乘原理与算术平均值原理的关系依据不等精度最小二乘正规方程组依据不等精度最小二乘正规方程组由系数矩阵可知由系数矩阵可知对于等精度测量对于等精度测量结论：算术平均值原理是最小二乘法原理的结论：算术平均值原理是最小二乘法原理的特例特例误差理论与数据处理 第5章 线性参数的最小二乘法处理第三节精度估计第三节精度估计 一、一、测量数据的精度估计测量数据的精度估计直接测量数据的标准差的估计直接测量数据的标准差的估计(一一)等精度测量数据的精度估计等精度测量数据的精度估计对于线性参数的测量方程对于线性参数的测量方程进行进行 n 次等精度测量，获得次等精度测量，获得 n 个测量数据个测量数据注意：根据这注意：根据这 n 个数据，无法利用贝塞尔公式求其标准差个数据，无法利用贝塞尔公式求其标准差解释：例解释：例 ，出现不同的，出现不同的 的测量值，仅仅是因为某些的测量值，仅仅是因为某些随机因素造成的，可以用贝塞尔公式随机因素造成的，可以用贝塞尔公式(含平均值含平均值)求其求其标准差；标准差；例例 ，出现不同的，出现不同的 的测量值，不仅有随机因素，的测量值，不仅有随机因素，更由于是不同的温度造成了测量对象也发生了本质的更由于是不同的温度造成了测量对象也发生了本质的变化，因此不能用贝塞尔公式来计算标准差了。变化，因此不能用贝塞尔公式来计算标准差了。如何求取这如何求取这 n 个测量数据的标准差个测量数据的标准差？误差理论与数据处理 第5章 线性参数的最小二乘法处理第三节精度估计第三节精度估计 (一一)等精度测量数据的精度估计等精度测量数据的精度估计对于测量的残差方程对于测量的残差方程可以证明可以证明 是是自由度自由度 (nt)的的 变量变量设：每个测量数据设：每个测量数据 的精度相同，均为的精度相同，均为测量数据有标准差，但测量数据有标准差，但不能用贝塞尔公式计算不能用贝塞尔公式计算根据根据 变量的性质，有变量的性质，有 分布的自由度为分布的自由度为其独立变量的个数其独立变量的个数 分布的数学期分布的数学期望为其自由度望为其自由度误差理论与数据处理 第5章 线性参数的最小二乘法处理称为系统偏移，或有偏估计称为系统偏移，或有偏估计第三节精度估计第三节精度估计 (一一)等精度测量数据的精度估计等精度测量数据的精度估计将数学期望将数学期望 作为推导依据作为推导依据若取残余误差平方的平均值作为若取残余误差平方的平均值作为 的估计量的估计量则则因为有偏，此式不妥因为有偏，此式不妥误差理论与数据处理 第5章 线性参数的最小二乘法处理系数为系数为1，称为无偏估计，称为无偏估计第三节精度估计第三节精度估计 (一一)等精度测量数据的精度估计等精度测量数据的精度估计将数学期望将数学期望 作为推导依据作为推导依据若取若取 作为作为 的估计量的估计量则则因为无偏，此式较好因为无偏，此式较好误差理论与数据处理 第5章 线性参数的最小二乘法处理第三节精度估计第三节精度估计 (一一)等精度测量数据的精度估计等精度测量数据的精度估计将数学期望将数学期望 作为推导依据作为推导依据若取若取 作为作为 的估计量的估计量改写，去掉尖号：改写，去掉尖号：或或称为等精度测量数据的标准差的无偏估计量称为等精度测量数据的标准差的无偏估计量与贝塞尔公式有两点不同：与贝塞尔公式有两点不同：1、残差计算方法不同、残差计算方法不同2、自由度不同、自由度不同因为无偏，此式较好因为无偏，此式较好当当 t=1 时，相当于贝塞尔公时，相当于贝塞尔公式？式？形式相同而已形式相同而已误差理论与数据处理 第5章 线性参数的最小二乘法处理第三节精度估计第三节精度估计 例例5-3 试求例试求例5-1中铜棒长度的测量精度中铜棒长度的测量精度利用利用 例例5-1 中的计算结果，可知残余误差方程为中的计算结果，可知残余误差方程为将不同温度下的测量值代入：将不同温度下的测量值代入：标准差为：标准差为：这个分散性不是由于温度不同这个分散性不是由于温度不同造成的，而是由于两个回归参造成的，而是由于两个回归参数的回归误差造成的，当然还数的回归误差造成的，当然还有随机因素有随机因素误差理论与数据处理 第5章 线性参数的最小二乘法处理第三节精度估计第三节精度估计 (二二)不等精度测量数据的精度估计不等精度测量数据的精度估计用用 加权残余误差平方和加权残余误差平方和 表示测量数据的无偏估计表示测量数据的无偏估计改写，去掉尖号：改写，去掉尖号：或或称为不等精度测量数据的标准差的无偏估计量称为不等精度测量数据的标准差的无偏估计量误差理论与数据处理 第5章 线性参数的最小二乘法处理第三节精度估计第三节精度估计 二、二、最小二乘估计量的精度估计最小二乘估计量的精度估计组合测量量的标准差的估计组合测量量的标准差的估计思路：测量数据的精度，经过线性方程组，传递给间接思路：测量数据的精度，经过线性方程组，传递给间接测量的待求量测量的待求量误差理论与数据处理 第5章 线性参数的最小二乘法处理第三节精度估计第三节精度估计 (一一)等精度测量时，最小二乘估计量的精度估计等精度测量时，最小二乘估计量的精度估计代数形式的正规方程组：代数形式的正规方程组：设有设有不定乘数矩阵不定乘数矩阵先用先用第一行第一行各元各元素乘以正规方程素乘以正规方程误差理论与数据处理 第5章 线性参数的最小二乘法处理两边相加：两边相加：第三节精度估计第三节精度估计 构成方程组的第一个方程构成方程组的第一个方程相当于解出了相当于解出了误差理论与数据处理 第5章 线性参数的最小二乘法处理将将 作为未知量，对作为未知量，对 展开后，展开后，的系数与最小二乘正规方正组的系数与最小二乘正规方正组的系数一样。的系数一样。第三节精度估计第三节精度估计 令令因此，求因此，求 可借用正规方程组的可借用正规方程组的系数，只是方程的右边不同。系数，只是方程的右边不同。将此条件代入上面的正规方程中，得将此条件代入上面的正规方程中，得重写相加后的方程重写相加后的方程误差理论与数据处理 第5章 线性参数的最小二乘法处理第三节精度估计第三节精度估计 其中：其中：即由测量值求出了间接测量的待求量即由测量值求出了间接测量的待求量各系数各系数 就是就是该函数该函数的误差传播系数的误差传播系数不定乘数矩阵与测量方程不定乘数矩阵与测量方程系数矩阵对应行的内积系数矩阵对应行的内积误差理论与数据处理 第5章 线性参数的最小二乘法处理第三节精度估计第三节精度估计 因测量值相互独立，且为等精度测量，测量值标准差为因测量值相互独立，且为等精度测量，测量值标准差为将测量值的标准差合成为待求量的标准差：将测量值的标准差合成为待求量的标准差：误差理论与数据处理 第5章 线性参数的最小二乘法处理第三节精度估计第三节精度估计 代入代入过程较繁，可得：过程较繁，可得：同样同样重写重写利用利用误差理论与数据处理 第5章 线性参数的最小二乘法处理第三节精度估计第三节精度估计 真正对真正对“将测量数据的标准差转换为被测量的标准差将测量数据的标准差转换为被测量的标准差”有作用的，是不定乘数矩阵对角线上的元素。有作用的，是不定乘数矩阵对角线上的元素。误差理论与数据处理 第5章 线性参数的最小二乘法处理第三节精度估计第三节精度估计 (二二)不定乘数矩阵代数形式求解步骤不定乘数矩阵代数形式求解步骤请观察：请观察：误差理论与数据处理 第5章 线性参数的最小二乘法处理第三节精度估计第三节精度估计 (二二)不定乘数矩阵代数形式求解步骤不定乘数矩阵代数形式求解步骤或：或：用第用第一一行不定乘数的元素，行不定乘数的元素，代替正规方程组中的待求量代替正规方程组中的待求量令第令第一一个正规方程等于个正规方程等于1其余方程等于其余方程等于0可解出不定乘数矩可解出不定乘数矩阵的第阵的第一一行元素行元素误差理论与数据处理 第5章 线性参数的最小二乘法处理第三节精度估计第三节精度估计 (二二)不定乘数矩阵代数形式求解步骤不定乘数矩阵代数形式求解步骤同理：同理：用第用第二二行不定乘数的元素，行不定乘数的元素，代替正规方程组中的待求量代替正规方程组中的待求量令第令第二二个正规方程等于个正规方程等于1其余方程等于其余方程等于0可解出不定乘数矩可解出不定乘数矩阵的第阵的第二二行元素行元素误差理论与数据处理 第5章 线性参数的最小二乘法处理第三节精度估计第三节精度估计 (二二)不定乘数矩阵代数形式求解步骤不定乘数矩阵代数形式求解步骤同理：同理：用用最后一行最后一行不定乘数的元素，不定乘数的元素，代替正规方程组中的待求量代替正规方程组中的待求量令令最后一个最后一个正规方程等于正规方程等于1其余方程等于其余方程等于0可解出不定乘数矩可解出不定乘数矩阵的阵的最后一行最后一行元素元素误差理论与数据处理 第5章 线性参数的最小二乘法处理第三节精度估计第三节精度估计 (三三)利用矩阵的形式，求最小二乘估计量的精度利用矩阵的形式，求最小二乘估计量的精度方差的定义：方差的定义：设设 为随机变量，若为随机变量，若 存在存在则称之为随机变量则称之为随机变量 的方差，用的方差，用 表示。表示。误差理论与数据处理 第5章 线性参数的最小二乘法处理第三节精度估计第三节精度估计 设测量数据设测量数据其数学期望其数学期望残差残差残差向量的平方：残差向量的平方：误差理论与数据处理 第5章 线性参数的最小二乘法处理第三节精度估计第三节精度估计 求方差求方差对角线上元素对角线上元素对角线两边元素对角线两边元素针对某个具体方程，或针对某个具体的组合测量方法，作针对某个具体方程，或针对某个具体的组合测量方法，作多次测量，然后用贝塞尔公式计算。多次测量，然后用贝塞尔公式计算。误差理论与数据处理 第5章 线性参数的最小二乘法处理第三节精度估计第三节精度估计 若若 为等精度测量，有为等精度测量，有若相关系数若相关系数 ，有，有求方差求方差误差理论与数据处理 第5章 线性参数的最小二乘法处理第三节精度估计第三节精度估计 依正规方程组的矩阵解依正规方程组的矩阵解则数学期望则数学期望两式相减成残差两式相减成残差的协方差的协方差转置转置误差理论与数据处理 第5章 线性参数的最小二乘法处理第三节精度估计第三节精度估计 的的协方差协方差应该为应该为对比后可知：对比后可知：记记为为对角线上元素的对角线上元素的关系已经证明关系已经证明即不定乘数计算公式即不定乘数计算公式其实在正规方程的解中其实在正规方程的解中已经算过了。已经算过了。作用：将测量数据的标准差作用：将测量数据的标准差 转化成待求量的标准差转化成待求量的标准差有前提的有前提的误差理论与数据处理 第5章 线性参数的最小二乘法处理第三节精度估计第三节精度估计 (四四)不等精度不等精度的测量协方差矩阵的测量协方差矩阵也在也在不等精度不等精度测量正规方程组的解中计算过了测量正规方程组的解中计算过了误差理论与数据处理 第5章 线性参数的最小二乘法处理第三节精度估计第三节精度估计 例例5-4：试求例：试求例5-1 中铜棒长度和线膨胀系数估计量的精度中铜棒长度和线膨胀系数估计量的精度已经推导出了正规方程组：已经推导出了正规方程组：在例在例5-3 中已求出了测量数据的标准差中已求出了测量数据的标准差设不定乘数矩阵为设不定乘数矩阵为第一行不定乘数代入正规方程组第一行不定乘数代入正规方程组第二行不定乘数代入正规方程组第二行不定乘数代入正规方程组误差理论与数据处理 第5章 线性参数的最小二乘法处理第三节精度估计第三节精度估计 例例5-4：试求例：试求例5-1 中铜棒长度和线膨胀系数估计量的精度中铜棒长度和线膨胀系数估计量的精度中间估计量中间估计量 a、b 的标准差为的标准差为由于由于待求估计量待求估计量 、的标准差为的标准差为误差理论与数据处理 第5章 线性参数的最小二乘法处理第四节组合测量的最小二乘第四节组合测量的最小二乘法法处理处理 组合测量组合测量：指直接测量一组被测量的不同组合值：指直接测量一组被测量的不同组合值（一般是等精（一般是等精度），度），从它们相互所依赖的若干函数关系中，确从它们相互所依赖的若干函数关系中，确定出各被测量的最佳估计值定出各被测量的最佳估计值，并求其精度估计，并求其精度估计。误差理论与数据处理 第5章 线性参数的最小二乘法处理第四节组合测量的最小二乘第四节组合测量的最小二乘法法处理处理 例：要求检定丝纹尺例：要求检定丝纹尺 0 0，1 1，2 2，3 3 刻线刻线间的距离间的距离 。已知用组合测量法测得下图所示刻线间隙的各种组合测量值。已知用组合测量法测得下图所示刻线间隙的各种组合测量值。试用最小二乘法求试用最小二乘法求 及其标准偏差。及其标准偏差。误差理论与数据处理 第5章 线性参数的最小二乘法处理第四节组合测量的最小二乘第四节组合测量的最小二乘法法处理处理 解解列出测量残差方程组列出测量残差方程组矩阵形式矩阵形式误差理论与数据处理 第5章 线性参数的最小二乘法处理第四节组合测量的最小二乘第四节组合测量的最小二乘法法处理处理 解出：解出：最佳估计值为：最佳估计值为：依：依：误差理论与数据处理 第5章 线性参数的最小二乘法处理第四节组合测量的最小二乘第四节组合测量的最小二乘法法处理处理 代入残差方程组可得：代入残差方程组可得：直接测量量直接测量量估计的标准差：估计的标准差：应为最小应为最小误差理论与数据处理 第5章 线性参数的最小二乘法处理第四节组合测量的最小二乘第四节组合测量的最小二乘法法处理处理 各待求量各待求量的标准差：的标准差：依据：依据：误差理论与数据处理 第5章 线性参数的最小二乘法处理组合测量方法的优点组合测量方法的优点1、减少测量次数，提高测量效率、减少测量次数，提高测量效率例如，需对每个刻度间隔测量例如，需对每个刻度间隔测量3次时，有以下两种方法次时，有以下两种方法第四节组合测量的最小二乘第四节组合测量的最小二乘法法处理处理 直接测量法：需测量直接测量法：需测量9次次组合测量法：需测量组合测量法：需测量6次次误差理论与数据处理 第5章 线性参数的最小二乘法处理第四节组合测量的最小二乘第四节组合测量的最小二乘法法处理处理 2、增加组合测量方程的个数，可以提高测量结果的准确度、增加组合测量方程的个数，可以提高测量结果的准确度若待求量若待求量 t=3，测量方程个数测量方程个数 n=4，且且 vi=v若待求量若待求量 t=3，测量方程个数测量方程个数 n=6，且且 vi=v依据：依据：可知，在相近的传播系数可知，在相近的传播系数 djj 时，时，减小一倍。减小一倍。误差理论与数据处理 第5章 线性参数的最小二乘法处理第四节组合测量的最小二乘第四节组合测量的最小二乘法法处理处理 例：测量平面三角形的三个角，得：例：测量平面三角形的三个角，得：。假设各测量值。假设各测量值权权分别为分别为1，2，3，求，求A、B、C的的最佳估计值。最佳估计值。解解对于三角形的三个角：对于三角形的三个角：约束条件，应消去约束条件，应消去即：即：故不等权测量方程组和相应的权值为故不等权测量方程组和相应的权值为：对照：对照：误差理论与数据处理 第5章 线性参数的最小二乘法处理第四节组合测量的最小二乘第四节组合测量的最小二乘法法处理处理 解解p.104，公式，公式 (5-28)不等权正则方程组：不等权正则方程组：其中：其中：误差理论与数据处理 第5章 线性参数的最小二乘法处理第四节组合测量的最小二乘第四节组合测量的最小二乘法法处理处理 解解正则方程组正则方程组残差为：残差为：即：即：误差理论与数据处理 第5章 线性参数的最小二乘法处理第四节组合测量的最小二乘第四节组合测量的最小二乘法法处理处理 解解再求再求直接测量值的单位权标准差：直接测量值的单位权标准差：因为：因为：所以，待求量的标准差为：所以，待求量的标准差为：结果：结果：误差理论与数据处理 第5章 线性参数的最小二乘法处理第四节组合测量的最小二乘第四节组合测量的最小二乘法法处理处理 在上例中，若假设为在上例中，若假设为等权等权测量，求测量，求A、B、C的最佳估计值。的最佳估计值。解解残差方程组残差方程组正规方程组正规方程组计算残差：计算残差：误差理论与数据处理 第5章 线性参数的最小二乘法处理第四节组合测量的最小二乘第四节组合测量的最小二乘法法处理处理 解解再求再求直接测量值的单位权标准差：直接测量值的单位权标准差：所以，待求量的标准差为：所以，待求量的标准差为：结果：结果：