第二篇 多元统计分析2

单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,第二篇 多元统计分析,自然现象是复杂的，一个自然过程往往为多个因素控制。,多元统计分析就是根据自然现象的特征，综合各种信息，并借助计算机进行运算，从而对自然现象进行深入研究并揭示自然现象演化和自然现象特征的内在联系和规律的一种数学分析方法。,介绍常用几种多元统计方法。,目的是阐明这些多元统计方法的基本原理和数学模型。,使我们了解这些方法的原理，掌握工作步骤，运用之进行专业分析。,第一章 回归分析,出发点：,自然界中的事物是有联系的。了解其联系程度，对于联系强的，研究其量的关系式（函数）。,事物量之间的关系有两种：,（,1,）确定的函数关系：如,（,2,）无法用数学表达式精确表示的相关关系，如煤的灰分和比重的关系。,相关,：当一个随机变量的值发生变化时，另一随机变量的值也发生相应变化，则称这两个量之间有相关关系。,相关分析,：主要研究随机变量间有无相关关系及相关的程度；,回归分析,：注重研究两个随机变量之间相关关系的表达形式；,一般不加区分，统称为,回归,。,回归分析是数理统计的一个重要分支，在生产和科研中有广泛应用，如求经验公式、确定最佳生产条件、进行预测等。,回归分析的主要内容有以下五点：,（,1,）从一组数据出发，确定变量间的定量关系式；,（,2,）对定量关系式的可信程度进行统计检验。,（,3,）要从影响某一个量变量中，判断哪些变量的影响是显著的，哪些是不显著的；,（,4,）利用所求得的关系式进行预测和控制。,（,5,）近代又出现试验设计等内容。,第一节 一元线性回归,一、一元线性回归的数学模型,一元线性回归主要是处理两个变量；如,x,y,之间的关系。,两个量的关系有线性和非线性两种，有一些非线性的关系可以转化为线性的关系来处理。,线性关系模型：,y=,a+bx,非线性情况有一些可转化为线性：,如：,y=,a,xb,y=,ae,bx,y=,ae,b/x,y=,a+blogx,等,某煤矿个煤样的灰分和容重。,样品号，容重，灰分,1,1.5,25,2,1.2,4,3,1.7,30,4,1.4,20,5,1.8,36,6,1.3,7,7,1.3,5,8,1.5,24,9,1.7,33,10,1.3,4,11,1.5,17,12,1.5,24,13,1.6,25,14,1.4,6,15,1.6,26,16,1.5,24,17,1.4,20,18,1.5,9,设其线性关系模型是：,y=,a+bx,其中,y,为灰分,x,为容重。,二、参数,a,b,的最小二乘法估计,直线的形态处决于两个参数,a,b,要使得直线参最好地拟合这组数据，就要求出最佳的,a,b,值。,使用最小二乘法来求取最佳,a,b,值,原理,设线性一元回归方程为,对于每一个,xi,都有二个值与之对应，一个是实际观测值,y,i,一个是回归值,y,i,这个回归值,y,i,与实际预测值,y,i,之差,yi,-,y,i,刻画了,y,i,与回归直线,y,i,=,a+bx,的偏离程度。对于所有的,x,i,若,y,i,与,y,i,的偏差越小，则认为直线和所有的试验点拟合得越好。,刻画了全部观测值与回归直线的偏差程度。,最小二乘法,，就是使,Q(a,b,)=min,的一种方法。,由于,Q(a,b)o,为,a,b,的二元二次方程，是非负的，所以其最小值总存在，根据微积分学中求极值原理，当下列式子成立时，得最小值。,这是一个关于,a,b,的二元一次方程组。,解之，得,a,b,值。,三、回归方程的具体计算步骤,求取,lxx,lyy,lxy,值，再求得,b,a,值。,得回归方程,y=,a+bx,四、回归方程的显著性检验,一、为何要检验：,回归时，,假设,了两个变量,x,y,之间是线性关系，从而求出了线相关关系式。,所以要检验其,线性关系,是否成立。,二、如何检验,1.,几个量：,F,检验,由于,S,总,可分解为,S,回,和,剩,，且,回,、,总,、,剩,都是,分布，其自由度,f,总,n-1,f,回,1,f,剩,=n-2,假设,H0:b=0,统计量,服从自由度为 和,n-2,的分布。,如上例中：,S,总,=,lyy,=1866.5,S,回,=1488.288,S,剩,=378.212,F=1488.288/(378.212/16)=62.961,若取显著性水平为,0.05,，查得,F0.05(1,16),4.49,，故在在显著性水平,0.05,下，拒绝假设,H0,，,即认为线性回归效果是显著的。或可认为在,95,的置信度下，认为线性回归效果是显著的。,对给定的观察值而言，,S,T,是不变的，,S,R,大则,S,D,小；,S,D,越小，,S,R,/S,T,越接近,1,。所以可引入无量纲指标,r,2,=S,R,/S,T,来检验,y,与,x,之间的线性关系是否密切。称,为,y,与,x,的线性相关系数，简称相关系数。,r,也为一统计量，,r,检验与,F,检验是等价的。,事实上，,S,D,=S,T,(1-r,2,),S,R,=S,T,r,2,F=(n-2)r,2,/(1-r,2,),F,较大等价于,|r|,较大，,r,的自由度为,n-2,。,与,F,检验一样，,r,也有临界值,r,。,知道了,r,与自由度,fr,，可查,r,检验表，来检验,y,与,x,之间是否存在线性相关关系,。因为,r,比,F,更直观，所以,r,也是较常用的一种检验法。,上例中，,S,T,=,l,yy,=1866.5,S,R,=1488.288,S,D,=378.212,r,2,=0.7974,五、利用回归方程进行预测,因为,y,i,属于正态分布，所以,y,0,y,0,也属于正态分布。,正态分布的三,原则,六、可分为一元线性回归的非线性情况,六、本章小节,一元线性回归方法,数学模型：,y=,a+bx,最小二乘法估计,a,b,值,3,、回归方程及观测直线（,95,的置信区间）,4,、显著检验,F,检验步骤,假设：,H0:b=0,5,、非线性回归可分为线性回归的一些例子。,