非线性回归分析法韩苗

单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,第三章 非线性回归分析法,3.1 可化为线性的回归模型,3.2 不可化为线性的回归模型,3.3 非线性回归应用的几个问题,3.4 预测实例,学习目标,了解：非线性回归模型的一般形式,理解：可线性化的非线性回归的形式变换、不可线性化的参数估计方法。,掌握：应用Eviews软件进行非线性趋势预测,3.1 可化为线性的回归模型,一、非线性回归模型的直接代换,1. 多项式函数模型,令,原模型可化为线性形式,即可利用线性回归分析的方法处理了。,新引进的自变量只能依赖于原始变量，而不能与未知参数有关。,任何一连续函数都可用分段多项式来逼近，所以在实际问题中，不论变量y与其他变量的关系如何，在相当宽的范围内我们总可以用多项式来拟合。,2. 双曲线模型,令,原模型可化为线性形式,即可利用线性回归分析的方法处理了。,3. 半对数函数模型和双对数函数模型,半对数函数模型,双对数函数模型,令,原模型可化为线性形式,4. 三角函数回归模型,令,则,这类变换本身不涉及模型参数，其参数估计就是原模型的参数估计。,二、非线性模型的间接代换（对数变换法）,1. 指数曲线模型,对数变换,再采用前述代换的形式建立线性模型。,如：著名的柯布道格拉斯（CobbDouglas）生产函数就是其中一个典型。,2. 幂函数曲线回归模型,对数变换,令,原模型可化为线性形式,模型变换涉及参数，估计参数后要还原。,3.2 不可转换成线性的趋势模型,一、不可线性化模型,1、不可线性化模型：无论采取什么方式变换都不可,能实现线性化的模型。,2、常用的处理方法：一般采用高斯一牛顿迭代,法进行参数估计，即借助于泰勒级数展开式,进行逐次的线性近似估计。,二、迭代估计法,基本思路是：,1、通过泰勒级数展开使非线性方程在某一组初始参数,估计值附近线性化；,2、然后对这一线性方程应用OLS法，得出一组新的参,数估计值；,3、使非线性方程在新参数估计值附近线性化，对新,的线性方程再应用OLS法，又得出一组新的参数估,计值；,4、不断重复上述过程，直至参数估计值收敛时为止。,三、迭代估计法的Eviews软件实现, 设定代估参数的初始值，可采用以下两种方式：,（1）使用param命令。命令格式为param 初始值1 初始值2 初始值3 ,（2）在工作文件窗口双击序列C，并在序列窗口中直接输入参数的初始值（注意序列C中总是保留着刚建立模型的参数估计值，若不重新设定，系统自动将这些值作为参数的默认初始值）。, 估计非线性模型,（1）命令方式,在命令窗口直接键入:NLS 非线性函数表达式,例如，对于非线性模型 ，其估计命令格式为,NLS y=c(1)*kc(2)*Lc(3),其中， c(1)、c(2)、c(3)表示待估计的三个参数A、 、 。回车后，系统会自动给出迭代估计的参数估计值。,在数组窗口，点击ProcsMake Equation，在弹出的方程描述对话框中，输入非线性函数表达式：,（2）菜单方式,选择估计方法为最小二乘法后，点击OK按钮。,y=c(1)*kc(2)*Lc(3),几点说明：,（1）在方程描述对话框中，点击Option按钮，可以设置迭代估,计的最大迭代次数(Max Iteration)和误差精度(Convergence)，以便控制迭代估计的收敛过程。,（2）利用NLS命令也可估计可划为线性的非线性回归模型。例如,NLS y=c(1)+c(2)/x,NLS y=c(1)+c(2)*ln(x),（3）迭代估计是一种近似估计，并且参数初始值和误差精度的设定不当还会直接影响模型的估计结果，甚至出现错误。,非线性回归模型参数估计的基本思想可以类似于线性估计，也是设法找到使,的一组参数值。,1、求偏导为零，得未知参数的非线性方程组，一,般用,Newton 迭代法求解。,2、直接极小化残差平方和，求出未知参数的非线,性最小二乘估计。,3.3 非线性回归应用的几个问题,一、参数估计,注：,在非线性最小二乘法中，一些精确的分布式很难得到的，在大样本时，可以得到近似分布，因此可以得到近似的参数的区间估计，显著性检验等回归诊断。,3、将非线性模型转化为线性模型再采用最小二乘估计。,直接变换法、对数变换法、泰勒级数展开法等,常用的转化方法：,二、确定非线性模型形式的方法,非线性模型的形式复杂多样，如何根据实际的数据选择合适的模型时建模的关键,1、根据散点图来确定类型,2、根据一定得经济知识背景,如：商品的销售量与广告费用之间的关系。S型曲线,三、模型的比较,1、首先应从经济学角度考虑，因为数据分析的目的是解释经济现象。所以要重视经济学理论和行为规律提供的理由。,2、从统计分析角度来比较，最重要是残差分析。如果残差平方和最小，并且看起来残差最随机，这样的模型应当选择。,3.4 预测实例,例：柯布道格拉斯（CobbDouglas）生产函数,其中，,Y,为产出，,K,(资本)，,L,(劳动力)为两个投入要素。,是产出对资本投入的弹性系数。,为效率系数；,为,K,和,L,的产出弹性。,均为待估参数。,度量在劳动投入保持不变时，资本投入增加1%时，产出增加的百分比。,是产出对劳动投入的弹性系数。,度量在资本投入保持不变时，劳动投入增加1%时，产出增加的百分比。,表示规模报酬。,表示规模报酬递减，即1倍的投入带来少,于1倍的产出。,表示规模报酬不变，即1倍的投入带来,倍的产出。,表示规模报酬递增，即1倍的投入带来大,于1倍的产出。,对C-D生产函数，我们可以按两种形式设定随机误差项,（1）乘性误差项,（2）加性误差项,乘性误差项，可以线性化,两边取对数,线性形式,线性回归,加性误差项，不可以线性化,用非线性最小二乘法求解,参数估计,线性化方法：,非线性化方法,注：,用非线性最小二乘法估计参数操作与普通最小二乘法基本相同，只是方程估计窗口或命令行中，模型必须以方程的形式出现，没有简化相形式。,Y,国内生产总值（,GDP,）(亿元)，,K,资金投入（亿元）包括固定资产投资和库存占用资金。,L,就业总人数（万人）。,参数估计出现了差异，因为这两种方法分别采用乘性和加性误差形式，本质上是两个模型。,建模的过程见第三章试验具体软件操作,