中级计量经济学-第八章-非线性模型和质量属性模型课件

*,*,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,第八章非线性模型和质量属性模型,第八章非线性模型和质量属性模型,1,主要内容,非线性模型估计方法,二元因变量模型,Probit,模型,Logit,模型,Tobit,模型,主要内容非线性模型估计方法,2,参数非线性,当模型为参数非线性形式时，需要利用非线性估计技术。,非线性模型的一般形式为：,Y,t,=f(X,t,b,)+e,t,t=1,T,式中,f(.),为一个可微分的非线性函数，,b,为,K1,未知,参数向量，,X,为,KT,解释变量矩阵，,e,为服从正态分布的误差项,。,此时我们无法将待估计参数表示为由已知的,X,和,Y,表示的线性函数，这种情况被称作参数非线性。,参数非线性当模型为参数非线性形式时，需要利用非线性估计技术。,3,非线性回归方程案例,例,1,：不变替代弹性生产函数(,CES),假定,模型有两个解释变量，其一般形式可以表示为,式中：,0,为技术效率系数,1,为分配系数（,01,时，边际消费倾向递增，反之递减。,非线性回归方程案例例2：可变边际消费倾向宏观消费函数,5,非线性最小二乘法,非线性最小二乘法的原理与线性最小二乘法相同，即求解使残差平方和最小的参数：,在满足要求的条件下，模型参数可以由求解一阶条件构成的方程组得出，即：,对于非线性方程，通常我们无法确保得到估计参数的解析解，但是能够利用数值逼近方法得到上述问题的解。,非线性最小二乘法非线性最小二乘法的原理与线性最小二乘法相同，,6,非线性最小二乘法,求解非线性方程组的常用方法有：,直接寻找法,(Direct search),，即依据某种指标（如误差平方和），选择最优的结果；,直接优化法,(Direct optimization),，即利用前述求偏导数的方法，直接通过求解方程组来得到参数估计，在应用工作中很少使用此方法；,线性化迭代求解法,(Iterative liberalization method),，即从初始值开始将非线性函数线性化，然后求解线性议程，得到新的估计值，重复上述步骤，直到结果出现收敛时或达到最大迭代次数时为止。,非线性最小二乘法求解非线性方程组的常用方法有：,7,非线性最小二乘法,估计非线性最小二乘法包括以下步骤：,在未给定初始值的情况下，利用,OLS,方法估计系数作为初始值，反之利用给定的初始值，,在该组值求导以确定每个参数的变化方向及步长，或采用泰勒级数展开转化为线性方程求解得到新的参数估计值。,重复上述过程，直到参数达到给定的收敛标准时为止，或达到最大迭代次数时为止。,此时得到的结果包括最后一次计算得到的参数估计值，对应的渐近,t,统计值，,R,2,值等。,非线性最小二乘法估计非线性最小二乘法包括以下步骤：,8,非线性最小二乘法,需要注意的是，,非线性最小二乘法,并不能够保证收敛到最优解。,收敛速度缓慢,收敛到局部最优解,估计系数出现发散情况,在应用工作中，当遇到上述情况时，一种做法是改变初始值，然后重新开始迭代过程。,利用现有的计算机能力和软件，对模型重复做估计不会发生过高的费用，或要求过长的时间投入。,非线性最小二乘法需要注意的是，非线性最小二乘法并不能够保证收,9,局部收敛与全局收敛,-SSE,A,C,D,局部最优点,全局最优点,B,*,局部收敛与全局收敛-SSEACD局部最优点全局最优点B*,10,非线性最小二乘法,估计量的性质,用于对线性回归模型做统计检验的方法无法直接应用于非线性回归模型，原因是我们无法由回归残差得到模型误差项方差的无偏估计，即使回归残差服从正态分布。,在采用迭代法时，我们是对最后一次线性化后的估计结果应用标准线性模型的统计检验。,这一方法依赖于最小二乘法在大样本时具有的一致性。,对于一般形式的非线性模型，其估计参数,b,*,的小样本特性仍不够清楚，但对于大样本特性则有较好的了解。,假定解释变量,X,是非随机的，可以做出以下结论,：,b,*,是真实参数,b,的一致估计量,b,*,服从渐近正态分布（根据中心极限定理）,这两个结论与模型误差项,e,t,假定的分布无关,非线性最小二乘法估计量的性质用于对线性回归模型做统计检验的方,11,模型,估计参数,b,的性质,假定对于任何观察值，其误差项,e,t,都,服从标准正态分布，不同观察值之间误差项的协方差等于,0,，即：,可以注意到，这些假定与古典线性模型相同。,在此条件下有：,当,T,趋于无穷大时，估计参数,b,*,趋近于以真实参数,b,为均值的正态分布；,因而,b,*,是,b,的一个一致性估计量。,模型估计参数b的性质假定对于任何观察值，其误差项et都服从标,12,样本的似然函数,样本的似然函数为：,相应的对数似然函数为：,b,和,s,2,的最大似然估计量是使似然函数实现最大值时对应的参数。,样本的似然函数样本的似然函数为：,13,样本的似然函数,前述的对数似然函数可以改写为：,Ln(L)=,与,b,无关的部分,SSE/(2,s,2,),由于,s,2,0,，求解,Ln(L),对应于,b,的最大值等同于求解,SSE,对应于,b,的最小值。这意味着，在正态分布假定下，最大似然估计量与最小二乘法估计量是相同的。,在模型为线性函数的情况下，,s,2,的最大似然估计量为,SSE/T,，不同于,OLS,方法得到的,SSE/(T-1),。,由于最大似然估计量,b,l,和,s,l,2,均为真实参数,(,b,s,2,),的一致性估计量并且服从渐近正态分布，因而可以对非线性模型的估计参数做各种统计检验。,样本的似然函数前述的对数似然函数可以改写为：,14,对非线性函数的统计检验,当需要检验非线性函数的某些系数是否满足某个约束条件时，我们可以利用似然值比值检验方法。,估计有系数约束和没有系数约束的模型，得到对应的似然值，分别用,L(,r,),和,L(,ur,),表示。,似然值比值,L(,r,),L(,ur,),，该值在,0,和,1,之间。,当足够小时，我们拒绝与系数约束相对应的虚假设。,利用得到的似然值计算得出以下统计量：,该统计量服从自由度为,m,的,2,分布，,m,为约束条件个数。,对非线性函数的统计检验当需要检验非线性函数的某些系数是否满足,15,利用,EVIEWS,估计参数非线性方程,EVIEWS,软件包括了非线性最小二乘法估计方法。,非线性最小二乘法估计指令与线性最小二乘法估计指令相同，但需要给出方程的数学表达式，其中用向量,C(i),代表第,i,个参数。,在多数情况下，可以让,EVIEWS,利用线性最小二乘法自行估计初始值，并得到最终结果。,如果使用上述方法出现在给定迭代次数下不收敛或收敛到异常的参数（可以通过检验,R,2,、对数似然值和变量系数等方式做出判断），那么需要人工给出初始值。,为了确定结果的可靠性，可以试不同的初始值，看是否都能够收敛到相近的结果（局部最优和全局最优）。,在方程组模型中也可以包括非线性方程。,利用EVIEWS估计参数非线性方程EVIEWS软件包括了非线,16,案例：不变边际消费倾向宏观消费函数,Dependent Variable:RCONS,Method:Least Squares,Sample:1978 2002,Included observations:25,Variable CoefficientStd.Errort-StatisticProb.,C 394.8546121.09233.2607740.0034,RDY 0.5199160.00884058.813920.0000,R-squared0.993395 Mean dependent var6385.284,Adjusted R-squared0.993108 S.D.dependent var3944.278,S.E.of regression327.4567 Akaike info criterion14.49721,Sum squared resid2466242.Schwarz criterion14.59472,Log likelihood-179.2151 F-statistic3459.078,Durbin-Watson stat0.378861 Prob(F-statistic)0.000000,案例：不变边际消费倾向宏观消费函数Dependent Var,17,案例：可变边际消费倾向宏观消费函数,Dependent Variable:RCONS,Method:Least Squares,Sample:1978 2002,Included observations:25,Convergence achieved after 1 iterationsRCONS=C(1)+C(2)*RDYC(3)CoefficientStd.Errort-StatisticProb.,C(1)493.4338392.55351.2569850.2219,C(2)0.4028150.3095741.3011930.2067,C(3)1.0248060.07330713.979730.0000,R-squared0.993554 Mean dependent var6385.284,Adjusted R-squared0.992968 S.D.dependent var3944.278,S.E.of regression330.7626 Akaike info criterion14.55285,Sum squared resid2406885.Schwarz criterion14.69911,Log likelihood-178.9106 Durbin-Watson stat0.385993,案例：可变边际消费倾向宏观消费函数Dependent Var,18,案例：可变边际消费倾向宏观消费函数,Wald Test:,Equation:EQ3,Null Hypothesis:C(3)=1,F-statistic0.114510Probability0.738275,Chi-square0.114510Probability0.735067,根据该检验结果，我们应该接受不变边际消费倾向函数形式。,案例：可变边际消费倾向宏观消费函数Wald Test:,19,有限因变量模型,(,Limited Dependent Variables,),有限因变量模型涉及因变量只是做性质区分的情况及其取值范围受到某种限制的情况，包括：,二元选择模型：因变量反映二者挑一的选择。,例：是否采纳某种技术,多元选择模型：因变量反映多种选择。,例：上班时多种交通工具的选择,截取模型：因变量反映在某一数值区间内的选择,例：某种技术采纳的程度,随着计量经济学软件的改进，有限因变量模型逐步得到广泛应用。,有限因变量模型(Limited Dependent Var,20,有限因变量模型,有限因变量模型的一般形式可以表达为：,P,(,y=1|,x,),=G,(,b,0,+,x,b,),y*=,b,0,+,x,b,+u,y=max,(,0,y*,),式中,P(.),表示事件发生的概率；,y*,是一个隐变量（,Latent variable),，其值大小取决于影响因素,x,，,而,y*,决定事件发生的概率。,当,y*0,时,y=1,，当,y*,0,时,y=0,（可以选择其他临界值）。,二元因变量模型是有限因变量模型的一种特殊形式。,有限因变量模型有限因变量模型的一般形式可以表达为：,21,二元因变量模型用于评价政策,在评价某项政策计划（或技术应用）产生的影响时，常常可以用虚变量作为模型的因变量，例如：,是否参与某政策计划：,当所分析对象参与该某政策计划时,D=1,，否则,D=0,；,是否采纳某种（新）技术,当所分析对象采纳该技术时,D=1,，否则,D=0,；,农业劳动力转移,当农户家庭中有劳动力实现转移时,D=1,，否则,D=0,。,农户土地流转、借贷行为、政府提价,二元因变量模型用于评价政策在评价某项政策计划（或技术应用）产,22,自我选择问题,在很多情况下，是否选择参与某政策计划或是否采用某生产技术是由微观行为主体选择的，由此导致了自我选择问题。,如果我们能够掌握影响是否参与及结果的因素，那么这不成为一个问题。,然而经常出现的情况是，有一些无法观察的因素影响到是否参与。,在此情况下，估计政策的效果可能出现偏差，这可能导致制定错误的政策。,自我选择问题在很多情况下，是否选择参与某政策计划或是否采用某,23,隐变量,(,Latent Variables,),建立二元因变量模型有时是出于在模型中以隐变量作为因变量的考虑；,这样做的基本思路是，我们可以用模型,y,*=,b,0,+,x,b,+,e,来反映隐变量，但实际只能观察到以下两种情况：,当,y,*0,时,y,=1,当,y,*,0,时,y,=0,隐变量(Latent Variables)建立二元因变量模,24,二元因变量模型,二元变量模型指因变量取值只为0或1的情况。,我们可以将其看作是一种选择决策模型，当选择时,y,=1，未选择时,y,=0；,我们可以用线性概率模型来研究这种情况，模型可以写作,P(,y,=1|,x,)=,b,1,x,1,+,b,K,x,K,b,j,表示当,x,j,变化时概率的变化,利用该方程推断的,y,值表示选择的概率。,一个问题是，推断的概率值可能在区间,0,1,之外。,二元因变量模型二元变量模型指因变量取值只为0或1的情况。,25,线性概率模型,Z,1,Z*,线性概率函数,利用,OLS,方法估计得到的线性概率函数的参数仍反映自变量一单位变化对选择该事件概率的影响。,线性概率模型Z1Z*线性概率函数利用OLS方法估计得到的线性,26,二元因变量模型,即使没有上述推断问题，我们利用线性概率模型推断的,X,变化对概率的影响也会大于1或小于-1，因而只有在均值附近才较为可靠。,线性概率模型违反了古典模型同方差的假定，因而估计结果的有效性下降，影响到利用模型所做的推断。,尽管存在这些缺点，对于分析工作，线性概率模型仍是一个很好的起点。,为了解决这一问题，我们可以用一种概率函数,G,(,b,0,+,x,b,),来模拟事件发生的概率，该函数满足,0,G,(,z,)Estimate equation-,模型选项,Binary Binary choice(Logit,Probit,Extreme value),Ordered Ordered choice,必要时给出选项,估计结果。,用EVIEWS估计二元因变量模型EVIEWS包括估计单方程有,35,截取数据,当样本是总体中的某个特殊子集时，我们遇到数据被截取的情况,。,例,1,：针对贫困户的调查资料,例,2,：对有借款行为农户的调查,此时只观察到该特殊子集的各项资料，没有获得有关其他对象的观察资料。,此时出现样本对总体的代表性问题。,截取数据当样本是总体中的某个特殊子集时，我们遇到数据被截取的,36,审查数据,若样本本身在总体中的分布具有代表性，但当数据由于报告制度而使某些信息被高度简化时，我们遇到审查后的数据情况,。,例：农户收入的调查中将低于某一水平的农户全部报告为贫困户而没有报告具体收入数据,。,审查数据仍有关于自变量的信息。,审查数据情况可以被看作是数据本身存在缺点。,审查数据若样本本身在总体中的分布具有代表性，但当数据由于报告,37,截取数据和审查数据,从统计技术角度讲，由于两种情况均导致随机变量的分布形式发生变化，并引起丢失解释变量错误，,因而利用,OLS,方法估计模型会出现估计系数偏差。,在很多应用工作中，人们常常利用有限因变量模型处理存在上限、下限或上下限的数据，而不去认真地考虑数据体现何种性质。,截取数据和审查数据从统计技术角度讲，由于两种情况均导致随机变,38,隐变量,(Latent Variables),对于截取数据模型或审查数据模型，均可以借鉴二元因变量模型引入的隐变量概念；,模型中的隐变量是解释变量的函数,y,*=,b,0,+,b,x,+,u,然而我们从实践中只能观察到,y,max(0,y,*),即：,当,y,*0,时,y,=y*,当,y,*,0,时,y,=0,隐变量(Latent Variables)对于截取数据模型,39,Tobit,模型,Tobit,模型适合处理隐变量为多元因变量的情况，,例如,y,*=,x,b,+,u,u|,x,N(0,s,2,)，,但我们只观察到,y,=max(0,y,*),Tobit,模型利用最大似然法估计模型参数,b,和,s；,需要认识到的是，,b,估计的是,X,对隐变量,y,*,的影响，而不是对,y,的影响。,Tobit模型Tobit模型适合处理隐变量为多元因变量的情况,40,对,Tobit,模型的解释,除非我们所关心的是隐变量,y,*，,我们不能只解释所得到的系数；,由于,E(,y|,x,)=,F,(,x,b,/,s,),x,b,+,sf,(,x,b,/,s,),因而有,E(,y|,x,),/,x,j,=,b,j,F,(,x,b,/,s,),如果误差服从正态分布和同方差两个假定不成立，那么,Tobit,模型可能失去意义；,如果,X,对,P(,y,0),和,E(,y,),的影响效果方向相反，那么,Tobit,模型是不适当的。,对Tobit模型的解释除非我们所关心的是隐变量y*，我们不能,41,审查回归模型和截取回归模型,(,Censored&Truncated Regression Models,),我们可以估计更一般化的隐变量模型，例如：,y,=,x,b,+,u,u|,x,c,N(0,s,2,),当从右边,censored,时，我们只能观察到,，,w=min(y,c),当从左边,censored,时，我们只能观察到,，,w=max(y,c),若当超过某个,censoring,点后所有的数据均出现丢失时，我们遇到了,截取回归模型。,审查回归模型和截取回归模型(Censored&Trun,42,对样本选择偏差的校正,如果一个样本被以非随机的形式截取了，那么,OLS,方法面临选择偏差；,这种情况与丢失解释变量非常相似，其核心是哪些观察值被选进样本，从而造成,E(,y|z,s,=1)=,x,b,+,rl,(,z,g,),式中,l,(,c,),是,inverse Mills ratio:,f,(,c,)/,F,(,c,),我们需要得到关于,l,的一个估计,，,为此要估计,s,（,不管是否可以观察到,y,）,对,z,的,Probit,模型；,这些估计结果可以随后与,z,一起构建,l,(,c,)；,再下一步是做,y,对,x,和,l,估计值,的回归，从而得到,b,的一致估计量；,需要注意的是，,x,必须是,z,的一个子集。,对样本选择偏差的校正如果一个样本被以非随机的形式截取了，那么,43,Heckman两阶段估计,阶段一：估计,Probit,模型,利用该方程得到,的估计值：,阶段二：利用,OLS,方法估计下列方程,该方法可以得到参数的一致性估计。,Heckman两阶段估计阶段一：估计Probit模型,44,最大似然法估计,取对数的似然函数为（以下限为,0,的情况为例）：,由公式可以看出，前一部分为因变量不受限制情况的,OLS,回归公式，后一部分为受限制的部分。,最大似然法是一种更有效的估计方法。,最大似然法估计取对数的似然函数为（以下限为0的情况为例）：,45,利用,EVIEWS,估计,Tobit,模型,在,Eviews,中包括了估计,Tobit,模型的指令，其操作步骤如同普通的,OLS,模型：,Quick,Estimate equations Censored,给出因变量和自变量,给出上、下限（可以用常数、变量或公式）,选择分布形式,Normal/Logistic/Extreme value,指出样本性质,(,实际审查,/,以指标值区分是否审查,/,截取；选择截取时样本发生变化,),；,其他选项,利用EVIEWS估计Tobit模型在Eviews中包括了估计,46,非线性模型练习,利用农产品成本数据估计不变替代弹性模型(,CES)，,数据同前。,模型形式为：,LS,先选择以,OLS,估计系数为初始值得到估计结果；,再人工设定不同的初始值得到估计结果。初始值设置指令形式如：,Param c(1)c1 c(2)c2 c(3)c3 c(4)c4,式中,c1,到,c4,为给出的初始值，例如0.2,0.4。,在估计模型时需要注意收敛情况。,非线性模型练习利用农产品成本数据估计不变替代弹性模型(CES,47,