SPC统计相关知识之回归分析

,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,SPC统计相关与回归分析,课,时,时,安,安,排,排,本,章,章,的,的,特,特,点,点,描,述,述,统,统,计,计,与,与,推,推,断,断,统,统,计,计,中,中,相,相,关,关,回,回,归,归,分,分,析,析,的,的,差,差,别,别,第,一,一,节,节,相,相,关,关,与,与,回,回,归,归,分,分,析,析,的,的,基,基,本,本,概,概,念,念(1,学,学,时,时),第,二,二,节,节,一,一,元,元,线,线,性,性,回,回,归,归,分,分,析,析(4学,时,时),第三节,多,多,元,元线性,回,回归分,析,析(2学,时,时),第四节,非,非,线,线性回,归,归分析(1学,时,时),第五节,相,相,关,关分析(1学,时,时),本章的,特,特点,与以往,的,的统计,学,学原理,教,教科书,不,不同，,本,本章从,推,推断统,计,计的角,度,度讲解,相,相关分,析,析与回,归,归分析,。,。这是,因,因为在,有,有关现,实,实经济,和,和管理,问,问题的,定,定量分,析,析中，,作,作为推,断,断统计,的,的相关,分,分析与,回,回归分,析,析更加,具,具有广,泛,泛的应,用,用价值,。,。,描述统,计,计与推,断,断统计,中,中相关,回,回归分,析,析的差,别,别,描述统,计,计:,不需要,对,对随机,误,误差项,作,作出各,种,种假定,各种,参,参数估,计,计值是,具,具体数,值,值,是,对,对总体,存,存在的,相,相关关,系,系的描,述,述,不,存,存在显,著,著性检,验,验.,推断统,计,计:,需要对,随,随机误,差,差项作,出,出各种,假,假定,各,各种参,数,数估计,量,量是随,机,机变量,抽取,的,的样本,不,不同时,得到,的,的估计,值,值也不,同,同.可,以,以用来,推,推断总,体,体.需,要,要进行,各,各种检,验,验.,第一节,相,相,关,关与回,归,归分析,的,的基本,概,概念,一、,函,函数关,系,系与相,关,关关系,二、相,关,关关系,的,的种类,三、,相,相关,分,分析,与,与回,归,归分,析,析,四、,相,相关,表,表和,相,相关,图,图,一、,函,函,数,数关,系,系与,相,相关,关,关系,当一个或几,个,个变量取一,定,定的值时，,另,另一个变量,有,有确定值与,之,之相对应，,称,称这种关系,为,为确定性的,函,函数关系。,当一个或几,个,个相互联系,的,的变量取一,定,定数值时，,与,与之相对应,的,的另一变量,的,的值虽然不,确,确定，但它,仍,仍按某种规,律,律在一定的,范,范围内变化,。,。变量间,的,的这种相互,关,关系，称为,具,具有不确定,性,性的相关关,系,系。,变量之间的函数,关,关系和相关关系,，,，在一定条件下,是,是可以互相转化,的,的.,二、相关关系的,种,种类,按相关的程度可,分,分为完全相关、,不,不完全相关和不,相,相关。一般的相,关,关现象是不完全,相,相关。,按相关的方向可,分,分为正相关和负,相,相关。,按相关的形式可,分,分为线性相关和,非,非线性相关。,按变量多少可分,为,为单相关、复相,关,关和偏相关。一,个,个变量对另一变,量,量的相关关系，,称,称为单相关。一,个,个变量对两个以,上,上变量的相关关,系,系时，称为复相,关,关。在某一现象,与,与多种现象相关,的,的场合，当假定,其,其他变量不变时,，,，其中两个变量,的,的相关关系称为,偏,偏相关。,按相关的性质可,分,分为“真实相关,”,”和“虚假相关,”,”。判断什么是,“,“真实相关”什,么,么是虚假相关，,必,必须依靠实质性,科,科学,三、相关分析与,回,回归分析,相关分析是用一,个,个指标来表明现,象,象间依存关系的,密,密切程度。,回归分析是用数,学,学模型近似表达,变,变量间的平均变,化,化关系。,相关分析可以不,必,必确定变量中哪,个,个是自变量，哪,个,个是因变量，其,所,所涉及的变量都,是,是随机变量。,回归分析必须事,先,先确定具有相关,关,关系的变量中哪,个,个为自变量，哪,个,个为因变量。一,般,般地说，回归分,析,析中因变量是随,机,机的，而把自变,量,量作为研究时给,定,定的非随机变量,。,。,一定要始终注意,把,把定性分析和定,量,量分析结合起来,，,，在定性分析的,基,基础上开展定量,分,分析。,四、相关表和相,关,关图,相关表是一种反,映,映变量之间相关,关,关系的统计表。,将,将某一变量按其,取,取值的大小排列,，,，然后再将与其,相,相关的另一变量,的,的对应值平行排,列,列，便可得到简,单,单的相关表。,相关图又称散点,图,图。它是以直角,坐,坐标系的横轴代,表,表变量X，纵轴,代,代表变量Y,将,两,两个变量间相对,应,应的变量值用坐,标,标点的形式描绘,出,出来，用来反映,两,两变量之间相关,关,关系的图形。根,据,据表8-2的资,料,料绘制的相关图,如,如下：,第二节 一元,线,线性回归分析,一、标准的一元,线,线性回归模型,二、一元线性回,归,归模型的估计,三、一元线性回,归,归模型的检验,四、一元线性,回,回归模型预测,一、标准的一元,线,线性回归模型,(一)总体回归,函,函数,t,1,2,t,u,t,（8.1）,u,t,是随机误差项，,又,又称随机干扰项,，,，它是一个特殊,的,的随机变量，反,映,映未列入方程式,的,的其他各种因素,对,对的影响。,(二)样本回归,函,函数:,，.n,t,称为残差，在概,念,念上，,t,与总体误差项u,t,相互对应；是,样,样本的容量。,总体回归线与随,机,机误差项,（,t,）,1,2,t,X,Y,t,Y,。,。,。,。,u,t,样本回归函数与,总,总体回归函数区,别,别,总体回归线是未,知,知的，只有一条,。,。样本回归线是,根,根据样本数据拟,合,合的，每抽取一,组,组样本，便可以,拟,拟合一条样本回,归,归线。,总体回归函数中,的,的,1,和,2,是未知的参数，,表,表现为常数。而,样,样本回归函数中,的,的,是,是随机变,量,量，其具体数值,随,随所抽取的样本,观,观测值不同而变,动,动。,总体回归函数中,的,的u,t,是,t,与未知的总体回,归,归线之间的纵向,距,距离，它是不可,直,直接观测的。而,样,样本回归函数中,的,的,t,是,t,与样本回归线之,间,间的纵向距离，,当,当根据样本观测,值,值拟合出样本回,归,归线之后，可以,计,计算出,t,的具体数值。,误差项的标准假,定,定,假定：,（u,t,）,假定：Var(u,t,)（,）,）,假定：Cov(u,t,u,s,)（u,t,u,s,）,假定：自变量,是,是给定变量，与,误,误差项线性无关,。,。,假定：随机误,差,差项服从正态分,布,布。,满足以上标准假,定,定的一元线性回,归,归模型，称为标,准,准的一元线性回,归,归模型。,二、一元线性回,归,归模型的估计,（一）回归系数,的,的估计,最小二乘法,设,将对求偏导数,，,，并令其等于零,，,，可得:,加以整理后有：,回归系数的最小,二,二乘估计量,以上方程组称为,正,正规方程组或标,准,准方程组，式中,的,的是样本容量,。,。,求解这一方程组,可,可得：,（二）总体方差,的,的估计,上式中，分母是,自,自由度，其中,是,是样本观测值的,个,个数，是一元,线,线性回归方程中,回,回归系数的个数,。,。在一元线性回,归,归模型中，残差,t,必须满足,因而失去了两个,自,自由度，所以其,自,自由度为,。,。,2,的正平方根又叫,做,做回归估计的标,准,准误差。,S,2,；,证明:,残差平方和计算,一般采用以下公,式,式计算残差平方,和,和：,（三）最小二乘,估,估计量的性质,最小二乘估计量,是,是随机变量。,在标准假定能够,得,得到满足的条件,下,下，回归系数的,最,最小二乘估计量,的,的期望值等于其,真,真值，即有：,（）,1,（）,2,其方差为：,（,）,）,（,）,）,估计量性质的数,学,学证明,(一)线性估计,量,量,将,1,2,u,代入估计量，得,：,=,最小二乘估计量,可,可表现为所要估,计,计的参数的真值,与,与随机误差项的,线,线性组合,推导用的恒等式,令,最小二乘估计量,期,期望值和方差的,推,推导,（）,2,（,u,）,2,（u,）,（根据标准假定,）,2,（根据,标,标准假定）,2,（,）,）（,2,u,）,（,u,）,2,（,（根据,标,标准假定、,）,（,（根,据,据标准假定,）,）,有效性证明：,设,为,为任意,无,无偏线性估计,量,量，则有约束,条,条件：,按照与上面同,样,样的方法，可,推,推导出Var()=,比较（,）,）与Var(),的,的大小，有：,Var()Var,（,（）,）,）,以上第二步到,第,第三步之所以,成,成立，是因为,：,：,而利用前面关,于,于线性无偏估,计,计量的约束条,件,件，可有：,三、一元线性,回,回归模型的检,验,验,（一）回归,模,模型检验的种,类,类,回归模型的检,验,验包括理论意,义,义检验、一级,检,检验和二级检,验,验。,（二）拟合程,度,度的评价,总离差平方和,的,的分解,（,（8.28）,是总离,差,差平方和；,是回归平,方,方和；,是,是残差平方和,。,。,可决系数：,2,=1,（,（8.30）,可,决,决,系,系,数,数,的,的,特,特,性,性,（,三,三,）,）,显,显,著,著,性,性,检,检,验,验,1,提,提,出,出,假,假,设,设,。,。,2.,确,确,定,定,显,显,著,著,水,水,平,平,。,。,3.计算,回,回归系数,的,的值。,=,（,（8.36）,4.确定,临,临界值。,双侧检验,查,查分布,表,表所确定,的,的临界值,是,是（-,2）和,（,（,2）；,单,单侧检验,所,所确定的,临,临界值是,（,（,）。,5.做,出,出判断,。,。,四、,一,一元线,性,性回归,模,模型预,测,测,（一）,简,简单,回,回归预,测,测的基,本,本公式,：,：,（,8.38,）,回归预,测,测是一,种,种有条,件,件的预,测,测，在,进,进行回,归,归预测,时,时，必,须,须先给,出,出,f,的具体,数,数值。,内,内插检,验,验或事,后,后预测,。,。外推,预,预测或,事,事前预,测,测。,（二）,预,预测误,差,差,发生预,测,测误差,的,的原因,。,。,预测误,差,差ar（,f,）,2,（8.42）,（三）,区,区间预,测,测,f,的（,）,的,的置信,区,区间为,：,：,f,2,(n-2),f,回归预,测,测的置,信,信区间,的,的特点,。,。,回归预,测,测的置,信,信区间,第三节,多,多元,线,线性回,归,归分析,一、标,准,准的多,元,元线性,回,回归模,型,型,二、多,元,元线性,回,回归模,型,型的估,计,计,三、多,元,元线性,回,回归模,型,型的检,验,验和预,测,测,四、多,元,元线性,回,回归预,测,测,一、标,准,准的多,元,元线性,回,回归模,型,型,多元线,性,性回归,模,模型总,体,体回归,函,函数的,一,一般形,式,式,(8.48),多元线,性,性回归,模,模型的,样,样本回,归,归函数,(8.49),多元线,性,性回归,分,分析的,标,标准假,定,定除了,包,包括上,一,一节中,已,已经提,出,出的的,假,假定外,，,，还要,追,追加一,条,条假定,。,。这就,是,是回归,模,模型所,包,包含的,自,自变量,之,之间不,能,能具有,较,较强的,线,线性关,系,系。,二、多,元,元线性,回,回归模,型,型的估,计,计,（一）,回,回归系,数,数的估,计,计,(X,X),1,X,Y,(8.55),（二）,总,总体方,差,差的估,计,计,2,(8.56),（三）,最,最小二,乘,乘估计,量,量的性,质,质,标准的,多,多元线,性,性回归,模,模型中,，,，高斯.马