相依回归系统参数的Bayes估计

相依回归系统参数的Bayes估计李胜宏;周占功 【摘要】在指定的先验信息下获得了相依回归系统参数的Bayes估计，并在均方误 差阵准则下对与最小二乘估计和最优线性无偏估计进行了比较，讨论了在后验PC 准则下相对于最小二乘估计的优良性.【期刊名称】江苏科技大学学报(自然科学版) 【年(卷)，期】2006(020)005 【总页数】5页(P32-36) 【关键词】相依回归系统;Bayes估计;最优线性无偏估计;最小二乘估计【作者】李胜宏;周占功 【作者单位】江苏科技大学，数理学院，江苏，镇江,212003;嘉兴学院，信息工程系,浙江嘉兴,314001【正文语种】中文 【中图分类】O212.10引言线性Bayes方法最早是由文献1首先提出的，文献2讨论了线性Bayes估计的可 容许性问题。文献3中研究了线性回归模型中可估参数的线性Bayes估计，文献4 中讨论了错误指定回归模型中回归系数的线性Bayes估计及其优良性问题。本文 将研究相依回归系统参数的线性Bayes估计及其有关性质。考虑由2个相依回归方程组成的线性回归系统：Yi=Xi pi+gi i=1,2(1 )E(gi)=0, cov(gi,gj)=oijIn i,j=1,2这里Yi是nxl观测向量,Xi是nxpi列满秩设计阵，即R(Xi) = pi,pi是pixl未知回 归参数，是nxl随机误差向量,=(oij)为已知二阶正定阵。这种模型在计量经济、 生物、工业和计量地理等领域都有很多应用，因此利用这个回归系统来改进回归参 数的估计，成为一个非常重要的问题，如Zellner、Revankar、王松桂等都做了许多 工作。但是在实际中经常遇到未知参数的已知信息把这些信息加到样本信息上，就 可得到Pi的新估计。设模型(1)中参数Pi(i=1,2)的先验信息满足E(pi)邛i0,cov(pi)=i0,cov(pi,pj)=0 母j, i,j=1,2( 2 )此处 Pi0、i0,i=1,2 已知。将模型(1)写为Y=Xp+g(3 )这里则E(8)=0,cov(8)=ZZ0,并且假设P与g线性无关，即cov(陆)=0,同时，为了解决问题的方便，设1相依回归系统参数的最优线性Bayes估计设模型(3)的线性Bayes估计这里A是px2n矩阵,b是px1向量,p=p1+p2。取损失函数为对应的风险函数为从而最优线性Bayes无偏估计满足HUI 应lxcehov 益HcnuIAr a +uIcnu) UIcnTSH I1U8 +e佛*撤旺戾tt宿 Bosxcecnxcex+ci Hh*宿反 xceolnxoln+cex+(ui MEYfCEXoux) JLUouffltt 。日 Hous(qogxog+oc7Lg)(qogxog+oc?-g)JIJJHCNI XCEX+(UI LN)Houou+aLLU) (A*SLUH)LUOU+OUJLUHouiL (ogx, A(fq+ogxJLU+L (fq+ogx(ogxJLU +L (fq+ogx(fq+ogxJLU+ (q+Aou7RB(寸)og(xQ.I)Hoq 怔有巡0 H oq+og (dlxog Hs-a. (oq+AOSLUK皿(5 )其中由式(4)和式(5)可得到B的最优线性无偏Bayes估计为 In)-1Y+(Ip-AX)p0LY+a其中定理1在二次损失(d-B)(d-B)下,是线性估计类中的容许估计的充要条件是证明:见文献5。又因为(6 )其中 In)-1X-1X(春In)-1Y是公式(3)的最优线性无偏估计。在条件下，计算可得到：(7 )其中：当成立时出1出2分别为最优线性无偏估计(见文献6,7),由文献8知也是协 方差改进估计，是P1,P2的最小二乘估计。由于研究与的方法相似,故只讨论由式(7)得( 8 )为P1的最优线性无偏Bayes估计，其中2均方误差阵准则下Bayes估计的优良性定理分别是P1的最小二乘估计和Bayes估计，如上述所示，则均方误差阵准则T,Bayes估计优于最小二乘估计。证明:容易得到由式(8)知因此而J1(9 )因为且P与不相关，故J1J2=cov(p1)=Z10同理由P与不相关，得到J3所以计算可得(10)从而有为正定矩阵，所以定理证毕。同样,在均方误差阵准则下，对B1的最优线性无偏估计有因此，也是正定矩阵，所以得下面定理：定理分别是P1得最优线性无偏估计和Bayes估计,则均方误差阵准则下，优于3 Bayes估计的PPC优良性文献9引入了 PPC(PosterIor Pitman Closeness)准则并证明了在PPC准则下，后验中位数是一致最优的估计。其定义如下：定义设n是。的一个先验分布，称估计量S1(x)在PPC准则下优于估计量S2(x),如果PL(81(x),0)O,5对一切xeX成立,右边严格不等号至少对某个xeX成立。此处L(-,0)是损失函数,X 表示样本空间。为了讨论P1的线性Bayes估计相对于最小二乘估计的优良性，对B和做进一步假设n: p-N(pO,ZO) N(0,E In)(11)因此，由文献10可知在二次损失L(8(x)/p) = 8(x)-pf8(x)-p = H5(x)-PH2(12)下出的Bayes估计就是式(6),再由式(10)知表示在给定Y时&的后验分布，在条件下知令目的是要导出此处Pn(|Y)是在给定Y的条件下的先验分布n而求得的。即因为故因此，仍是服从均值为零的正态分布，又由于且至少存在一个显然成立，所以有 定理4在假设式(11)和损失函数(12)下有成立，即Bayes估计在PPC准则下优于最小二乘估计定理5在假设式(11)和损失函数(12)下,Bayes估计在PPC准则下优于最优线性无偏估计证明方法同上。参考文献：1 RAO C R.Linear Statistical Inference and Its Applications (second edition)M. New York:Wiley Press,1973.2 RAO C R.Estimation of parameters in a linear modelR. The 1975 Wald Memorial Lecture, Ann Statist.1976,4:1 023-1 039.3 CRUBER M H J.Regression EstimatorsM. A Comparative Study Boston:Academic Press, 1990.4 TRENKLER G,WEI L S.The Bayes estimator in a misspecified linear regression modelJ. Test，1996,5(1):113-123.5 吴启光.随机回归系数和参数的线性估计的可容许性的几个结果J.应用数学学 报,1988,11:95-106.6 ZELLNER A.Estimators for seemingly unrelated regression equations: some exact finite sample resultsJ.JASA,1963,58:977-992.7 ZELLNER A.CorrigendaJ.JASA,1972,67(3):255.8 林春土.一类相依回归方程系统的两步估计J.科学通报,1984,14(9): 840-842.9 GHOSH M,SALEH A K,SEN P K.Empirical Bayes subset estimation in a linear modelsJ.Statistics and Decisions,1989,7:15-35.10茆诗松，王静龙,濮晓龙.高等数理统计M.北京：高等教育出版社,1998.