多元线性回归基础知识

多元线性回归分析预测法多元线性回归分析预测法（Multi factor line regression method，多元线性回归分析法）多元线性回归分析预测法概述在市场的经济活动中，经常会遇到某一市场现象的发展和变化取决于几个影响因素的情况， 也就是一个因变量和几个自变量有依存关系的情况。而且有时几个影响因素主次难以区分，或者 有的因素虽属次要，但也不能略去其作用。例如，某一商品的销售量既与人口的增长变化有关， 也与商品价格变化有关。这时采用一元回归分析预测法进行预测是难以奏效的，需要采用多元回 归分析预测法。多元回归分析预测法，是指通过对两上或两个以上的自变量与一个因变量的 相关分析，建立预测模型进行预测的方法。当自变量与因变量之间存在线性关系 时，称为多元线性回归分析。多元线性回归的计算模型1一元线性回归是一个主要影响因素作为自变量来解释因变量的变化，在现实问题研究中，因 变量的变化往往受几个重要因素的影响，此时就需要用两个或两个以上的影响因素作为自变量来 解释因变量的变化，这就是多元回归亦称多重回归。当多个自变量与因变量之间是线性关系时， 所进行的回归分析就是多元性回归。设y为因变量5为自变量，并且自变量与因变量之间为线性关系时，则多元线性回归模型为：y =加 I fii I 加肪 I I 加附，| e其中，b为常数项k为回归系数，b为固定时，x每增加一0 1 1个单位对y的效应，即x对y的偏回归系数；同理b为 W ，固定时，X每增加一 个单位对y的效应，即，乂2对y的偏回归系数，等等。如果两个自变量乂严2同一个因变量y呈线 相关时，可用二元线性回归模型描述为：y =I &22 I I 加盹 I e其中，b为常数项，3二我为回归系数，b为固定时，X每增加0 1 2一个单位对y的效应，即X对y的偏回归系数，等等。如果两个自变量X ,X同一个因变量y呈 线相关时，可用二元线性回归模型描述为：y = b + b x +b x + e0 1 1 22 建立多元性回归模型时，为了保证回归模型具有优良的解释能力和预测效果，应首先注意自变量的选择，其准则是：(1) 自变量对因变量必须有显著的影响，并呈密切的线性相关；(2) 自变量与因变量之间的线性相关必须是真实的，而不是形式上的；(3) 自变量之彰应具有一定的互斥性，即自变量之彰的相关程度不应高于自变量与因变量之因的相关程度；(4) 自变量应具有完整的统计数据，其预测值容易确定。多元性回归模型的参数估计，同一元线性回归方程一样，也是在要求误差平方和( )为最小的前提下，用最小二乘法求解参数。以二线性回归模型为例，求解回归参数的标准方程组 为EEE冗如+加工1 I血刀引=加刀Hi I加刀垢I %刀衍呵 =亦刀衍I加刀歩曲I血刀咄解此方程可求得b ,b ,b的数值。亦可用下列矩阵法求得012-1T/多元线性回归模型的检验1多元性回归模型与一元线性回归模型一样，在得到参数的最小二乘法的估计值之后，也需要进行必要的检验与评价，以决定模型是否可以应用。1、拟合程度的测定。与一元线性回归中可决系数D相对应，多元线性回归中也有多重可决系数心它是在因变量 的总变化中，由回归方程解释的变动(回归平方和)所占的比重，R2越大，回归方各对样本数据点 拟合的程度越强，所有自变量与因变量的关系越密切。计算公式为：_E(y-S)2W-)2E(y-S)2其中，E(j/-y)2 = I2y?- (52y i加工龙裁丨何匸衍期丨i加工如2. 估计标准误差估计标准误差，即因变量y的实际值与回归方程求出的估计值:之间的标准误差，估计标准 误差越小，回归方程拟合程度越程。其中， k 为多元线性回归方程中的自变量的个数。3. 回归方程的显著性检验 回归方程的显著性检验，即检验整个回归方程的显著性，或者说评价所有自变量与因变量的线性关系是否密切。能常采用F检验，F统计量的计算公式为： E(s/一0尸/舁-k-1(1 - R2)/n- k - 1根据给定的显著水平a,自由度（k,n-k-1）查F分布表，得到相应的临界值F，若F F，贝恫 aa 归方程具有显著意义，回归效果显著；F t - a或t，则回归系数b与0a a / 2a / 2i有显著关异，反之，则与0无显著差异。统计量t的计算公式为：其中，C是多元线性回归方程中求解回归系数矩阵的逆矩阵（xx）- i的主对角线上的第j个元ij素。对二元线性回归而言，可用下列公式计算：其中，$11 = 52佃1 幽.）2 =-寸07工1）2s淞=口叼-亟尸= -十（工叼f=一町）（衍-的）=出15. 多重共线性判别若某个回归系数的t检验通不过，可能是这个系数相对应的自变量对因变量的影平不显著所 致，此时，应从回归模型中剔除这个自变量，重新建立更为简单的回归模型或更换自变量。也可 能是自变量之间有共线性所致，此时应设法降低共线性的影响。多重共线性是指在多元线性回归方程中，自变量之彰有较强的线性关系，这种关系若超过了 因变量与自变量的线性关系，则回归模型的稳定性受到破坏，回归系数估计不准确。需要指出的 是，在多元回归模型中，多重共线性的难以避免的，只要多重共线性不太严重就行了。判别多元 线性回归方程是否存在严惩的多重共线性，可分别计算每两个自变量之间的可决系数心若D R2或接近于R，则应设法降低多重线性的影响。亦可计算自变量间的相关系数矩阵的特征值的2条件数k = X /九（九为最大特征值，九为最小特征值）,k100,则不存在多重点共线性；若1 p 1 p100k1000，则自变量间存在严重的多重共 线性。降低多重共线性的办法主要是转换自变量的取值，如变绝对数为相对数或平均数，或者更 换其他的自变量。6.D.W 检验当回归模型是根据动态数据建立的，则误差项e也是一个时间序列，若误差序列诸项之间 相互独立，则误差序列各项之间没有相关关系，若误差序列之间存在密切的相关关系，则建立的 回归模型就不能表述自变量与因变量之间的真实变动关系。D.W检验就是误差序列的自相关检 验。检验的方法与一元线性回归相同。编辑多元线性回归分析预测法案例分析案例一:公路客货运输量多元线性回归预测方法探讨2一、背景公路客、货运输量的定量预测，近几年来在我国公路运输领域大面积广泛地开展起来，并有 效的促进了公路运输经营决策的科学化和现代化。关于公路客、货运输量的定量预测方法很多，本文主要介绍多元线性回归方法在公路客货运 输量预测中的具体操作。根据笔者先后参加的部、省、市的科研课题的实践，证明了多元线性回 归方法是对公路客、货运输量预测的一种置信度较高的有效方法。二、多元线性回归预测线性回归分析法是以相关性原理为基础的相关性原理是预测学中的基本原理之一。由于公 路客、货运输量受社会经济有关因素的综合影响。所以，多元线性回归预测首先是建立公路客、 货运输量与其有关影响因素之间线性关系的数学模型。然后通过对各影响因素未来值的预测推算 出公路客货运输量的预测值。三、公路客、货运输量多元线性回归预测方法的实施步骤1. 影响因素的确定影响公路客货运输量的因素很多，主要包括以下一些因素：(1) 客运量影响因素人口增长量裤保有量、国民生产总值、国民收入工农业总产值，基本建设投资额城乡居民储 蓄额铁路和水运客运量等。(2) 货运量影响因素人口货车保有量(包括拖拉机)，国民生产总值，国民收入、工农业总产值，基本建设投资额， 主要工农业产品产量，社会商品购买力，社会商品零售总额铁路和水运货运量菩。上述影响因素仅是对一般而言，在针对具体研究对象时会有所增减。因此，在建立模型时只 须列入重要的影响因素，对于非重要因素可不列入模型中。若疏漏了某些重要的影响因素，则会 造成预测结果的失真。另外，影响因素太少会造成模型的敏感性太强反之，若将非重要影响因 素列入模型，则会增加计算工作量，使模型的建立复杂化并增大随机误差。影响因素的选择是建立预测模型首要的关键环节，可采取定性和定量相结合的方法进行影 响因素的确定可以通过专家调查法，其目的是为了充分发挥专家的聪明才智和经验。具体做法就是通过对长期从事该地区公路运输企业和运输管理部门的领导干部、专家、工作 人员和行家进行调查。可通过组织召开座谈会也可以通过采访，填写调查表等方法进行，从中 选出主要影响因素为了避免影响因素确定的随意性，提高回归模型的精度和减少预测工作量，可 通过查阅有关统计资料后，再对各影响因素进行相关度(或关联度)和共线性分析，从而再次筛选 出最主要的影响因素所谓相关度分析就是将各影响因素的时间序列与公路客货运量的时间序列 做相关分杯事先确定个相关系数，对相关系数小于的影响因素进行淘汰关联度是灰色系统理 论中反映事物发展变化过程中各因素之间的关联程度，可通过建空公路客、货运量与各影响影响 因素之间关联系数矩阵，按一定的标准系数舍去关联度小的影响因素所谓共线性是指某些影响 因素之问存在着线性关系或接近于线性关系由于公路运输经济自身的特点，影响公路客，货运 输量的诸多因素之问总是存在着一定的相关性，持别是与国民经济有关的一些价值型指标。我们研究的不是有无相关性问题而是共线性的程度，如果影响因素之间的共线性程度很高， 首先会降低参数估计值的精度。其次在回归方程建立后的统计检验中导致舍去重要的影响因素或 错误的地接受无显著影响的因素，从而使整个预测工作失去实际意义。关于共线性程度的判定， 可利用逐步分析估计法的数理统计理论编制计算机程序来实现。或者通过比较rj和R2的大小来 判定。在预测学上，一般认为当rj R2时，共线性是严重的，其含义是，多元线性回归方程中所含的任意两个自变量x,x之间的相关系数rj大于或等于该方程的样本可决系数R2时，说明自i ji变量中存在着严重的共线性问题。2. 建立经验线性回归方程利用最小二乘法原理寻求使误差平方和达到撮小的经验线性回归方程：弋H dy预测的客、货运量g各主要影响因数3. 数据整理对收集的历年客、货运输量和各主要影响因素的统计资料进行审核和加工整理是为了保证预 测工作的质量。资料整理主要包括下列内容：(1) 资料的补缺和推算。(2) 对不可靠资料加以核实调整对查明原因的异常值加以修正。(3) 对时间序列中不可比的资料加以调整和规范化；对按当年价格计算的价值指标应折算成 按统。4. 多元线性回归模型的参数估计在经验线性回归模型中，门门：门匕广、是要估计的参数，可通过数理统计理论建立模型来确定。在实际预测中，可利用多元线性回归复相关分析的计算机程序来实现-5.对模型 参数的估计值进行检验。此项工作的目的在于判定估计值是否满意、可靠。一般检验工作须从以下几方面来进行。经济意义检验关于经济预测的数学模型，首先要检验模型是否有经济意义，Y若参数估计值的符号和大小 p与公路运输经济发展以及经济判别不符合时，这时所估计的模型就不能或很难解释公路运输经济 的一般发展规律就应抛弃这个模型需要重新构造模型或重新挑选影响因素。统计检验统计检验是数理统计理论的重要内容，用于检验模型估计值的可靠性。通常，在公路客、货 运量预测中应采用的统计检验是：拟合度检验所谓拟合度是指所建立的模型与观察的实际情况轨迹是否吻合、接近，接近到什么程度。统 计学是通过构造统计量R2来量度的，R2可由样本数据计算得出。若建立的模型愈接近于实际， 则RA2愈接近于1。回归方程的显著性检验回归方程的显著性检验是通过方差分析构造统计量F来进行的，统计量F是通过样本数据 计算得出的。当给定某一置信度后，可以通过查阅F表来确定回归模型从总体效果来看是否可 以采纳。参数估计值的标准差检验估计值的标准差是衡量估计值与真实参数值的离差的一种量度。参数的标准差越大，估计值 的可靠性也就越小；反之，如果标准差越小，那么估计值的可靠性也就越大。参数值标准差的检 验，可以通过构造大统计量来进行量度。当给定某一置信度后，可以通过查表来确定模型中某个 参数估计值的可靠性。应当强调指出统计检验相对于经济意义检验来说是第二位的。如果经济意义检验不合理， 那么即使统计检验可以达到很高的置信度，也应当抛弃这种估计结果，因为用这样的结果来进行 经济预测是没有意义的。6. 最优回归方程的确定经过上述的经济意义和统计检验后，挑选出的线性回归方程往往是好几个、为了从中优选出 用于进行实际预测的方程，我们可以采用定性和定量相结合的办法。从数理统计的原理来讲，应挑选方程的剩余均方和SE较小为好但作为经济预删还必须 尽量考虑到方程中的影响因素更切合实际和其未来值更易把握的原则来综合考虑。当然、有时也 可以从中挑选出好几个较优的回归方程通过预测后，分别作为不同的高、中、低方案以供决策 人员选择。7. 模型的实际预测检验在获得模型参数估计值后，又经过了上述一系列检验而选出的最优(或较优)回归方程，还必 须对模型的预测能力加以检验。不难理解、最优回归方程对于样本期间来说是正确的，但是对用 于实际预测是否合适呢?为此，还必须研究参数估计值的稳定性及相对于样本容量变化时的灵敏 度，也必须研究确定估计出来的模型是否可以用于样本观察值以外的范国，其具休做法是：(1) 采用把增大样本容量以后模型估计的结果与原来的估计结果进行比较，并检验其差异的 显著性。(2) 把估计出来的模型用于样本以外某一时间的实际预测，并将这个预测值与实际的观察值 作一比较，然后检验其差异的显著性。8. 模型的应用公路客、货运输量多元线性回归预测模型的研究目的主要有以下几个方面。(1)进行结构分析，研究影响该地区的公路客、货运输量的主耍因素和各影响因素影响程度 的大小，进一步探讨该地区公路运输经济理论。(2)预测该地区今后年份的公路客、货运输量的变化，以便为公路运输市场、公路运输政策 及公路运辅建设项目投资作出正确决策提供理论依据。另外，还可以通过公路客货运输量与公 路交通量作相关分析来对公路的饱和度发展趋势进行预测。从而为公路的新建、扩建项目的投资 提供决策分析。(3) 模拟各种经济政策下的经济效果，以便对有关政策进行评价。四、经调查分析，影响某地区旅客运输量的因素为。x 国民收入1x 工农业总产值2x 社会总产值3x 人口4x 客车保有量5x 城乡居民储蓄存款6经计算得下列相关系数表：xiX2X3X4X5X6Y0.94390.92 87O.90 430.99140.96700.7021Z0.97 3 60.961 4O.932 6O.8645O.93210.6678Y客运盈Z旅客周转量若令a = 0.,5则可以舍去x这个影响因索，也就是认为“城乡居民储蓄存款”不能作为响旅6客运输量的主要因素。2.经调查分析、影响某地区旅客运输量的因素为：x 国民收入1x 工农业总产值2x 社会总产值3x 人口4x 客车保有量5x 国民生产总值6x 公路通车里程7经计算得客运量和旅客周转量的经验线性回归方程如下：Y = a + a x + a x + a xRA2=0.99970 1 1 2 2 5 5y = II 必助 I 也物Ra2=0.9962Z =卩 + 卩 x + 卩 x + 卩 xR八2=0.99830 4 4 5 5 7 7z= 曲础I侪两I爲衍r2 = 0.9990Y 客运盈Z旅客周转量各自变量问的相关系数表如下：0阴笳0.97100.93420.903609344O.H230.96070.9466O.9S250.98210,96210.8523Q朋240,920503TT1O.9H4O.97W0.55070.3 ?240.9 T660.89280.3420.92050.9 J480.90J60.9036G.98250J7730.9766O.9&170.97150.J344M9B0.91140.&S2So.ms0.9715由上述计算可知，四个方程中均未出现rj R2的情况因此可以认为各自方程中的影响因 素之间不存在严重共线性问题。3. 经调查分析，影响某地区货运周转量的因素为：x 国民收入1x 工农业总产值2x 基建投资额3x 原煤产量4x 钢铁、化肥、水泥、粮食总产量5x 国民总产值6x 社会商品零售总额7x 相邻地、市工农业总产值的平均值8Y = a + a x + ax + ax (1)0 44 6 6 7 7其中:R2=0.9875F=206.33SE=1673.24t =-2.8321 t =3.1407 t =2.74314 6 7Y = b + b x + bx (2) 0 22 44其中:R2=0.9764F=164.59SE=1044.27