第5章-回归分析课件

*,SPSS,第五章 回归分析,从实践意义讲上，手机的用户满意度应该与产品的质量、价格和形象有关，因此我们以“用户满意度”为因变量，“质量”、“形象”和“价格”为自变量，作线性回归分析。利用SPSS软件的回归分析，得到回归方程如下：,用户满意度=0.008形象+0.645质量+0.221价格,对于SIM手机来说，质量对其用户满意度的贡献比较大，质量每提高1分，用户满意度将提高0.645分；其次是价格，用户对价格的评价每提高1分，其满意度将提高0.221分；而形象对产品用户满意度的贡献相对较小，形象每提高1分，用户满意度仅提高0.008分。,SIM手机用户满意度与相关变量线性回归分析,方程各检验指标及含义如下：,相关分析,研究的是现象之间是否相关、相关的方向和密切程度，一般不区别自变量或因变量。,回归分析,则要分析现象之间相关的具体形式，确定其因果关系，并用数学模型来表现其具体关系。,比如说，从相关分析中我们可以得知“质量”和“用户满意度”变量密切相关，但是这两个变量之间到底是哪个变量受哪个变量的影响，影响程度如何，则需要通过回归分析方法来确定。,回归分析：,研究变量间的非确定关系，构造变量间经验公式的数理统计方法。,回归分析是确定两种或两种以上变数间相互依赖的定量关系的一种统计分析方法。,回归分析,（Regression Analysis),进行相关分析,回归分析是对具有因果关系的影响因素（自变量）和预测对象（因变量）所进行的,数理统计,分析处理。只有当变量与因变量确实存在某种关系时，建立的回归方程才有意义。,因此，作为自变量的因素与作为因变量的预测对象是否有关，相关程度如何，以及判断这种相关程度的把握性多大，就成为进行回归分析必须要解决的问题。进行相关分析，一般要求出相关关系，以,相关系数,的大小来判断自变量和因变量的相关的程度。,SPSS,提供的回归分析过程有：,Analyze,Regression,菜单中，回归分析过程包括：,线性回归,(Linear),、,曲线估计,(Curve Estimation),、,二分变量逻辑回归,(Binary Logistic),、,多分变量逻辑回归,(Multinomial Logistic),、,序回归,(Ordinal),、,概率单位回归,(,Probit,),、非,线性回归,(Nonlinear),、,加权估计,(Weight Estimation),、,最优编码回归,(optimal Scaling),和二阶段最小平方法,(2-Stage Least Squares ),。,回归分析,回归分析按照涉及的自变量的多少，可分为一元回归分析和多元回归分析；按照自变量和因变量之间的关系类型，可分为线性回归分析和,非线性回归,分析。,如果在回归分析中，只包括一个自变量和一个因变量，且二者的关系可用一条直线近似表示，这种回归分析称为,一元线性回归分析,。如果回归分析中包括两个或两个以上的自变量，且因变量和自变量之间是线性关系，则称为,多元线性回归,分析。,5.1 线性回归,一元线性回归,一元线性回归，又称直线回归，即模型为,Y=aX+b+,，这里X是自变量，Y是因变量，是,随机误差,，通常假定随机误差的,均值,为0，,方差,为2（2大于0）2与X的值无关。,多元线性回归,根据多个自变量的最优组合建立回归方程来预测因变量的回归分析称为多元回归分析。,多元线性回归分析拟合后的方程为,常数项,变量的偏回归系数,线性回归分析,例5.1a,根据,数据集data11-13,中的资料，试建立以初始工资,(salbegin),、工作经验,(prevexp),、工作时间,(jobtime),、工作种类,(jobcat),和受教育年限,(educ),为自变量，以当前工资,(salary),为因变量的多元回归模型，以分析职工工资水平受各因素影响的程度。,Linear Regression,对话框,因变量,自变量,指定回归方法,全部选入,逐步回归,强行剔除,向后剔除,向前选择,加权最小平方法,指定选择参与回归分析观测量的变量,指定作为观测量标签的变量,(,Analyze,Regression,l,inear,),Linear Regression,对话框,关于回归系数的选择项,非标准化回归系数95%置信限,非标准化回归系数的方差-协方差,提供判定系数、估计标准误、ANOVA表等,显示每个自变量进入方程后对R,2,和F值的影响,描述性统计量,部分相关和偏相关,共线性诊断,德宾-沃森检验,与回归系数相关的统计量,观测值诊断,Linear Regression,对话框,标准化预测值,标准化残差,剔除残差,调整预测值,学生化残差,学生化剔除残差,输出标准化残差相对于因变量的散布图,标准化残差图,直方图,正态概率图,(系统默认为不输出图形),Linear Regression,对话框,本对话框用来定义存储进入数据文件的新变量,预测值,距离,预测区间,残差,存储到新的文件中,影响点的统计量,Linear Regression,对话框,逐步回归法变量取舍标准,用F值的显著性水平作为标准,用F值作为标准,在回归方程中包括常项,缺失值的处理方式,用均值代替缺失值,输出结果(部分)：,复相关系数,的判定系数,输出结果(部分)：,异常值，影响点和共线性判断,异常值：标准化残差的绝对值3,异常值,影响点,识别影响点的指标：,1.,Dresid, 剔除残差。,2.,Sdresid, 学生化残差。残差除以它的标准误，其值2,3.,Cook,距离,4.,Mahalanobis,距离,5.,Leverage values, 中心点杠杆值,6.,Covariance Ratio,，协方差比，衡量某个观测量是否对回归系数有显著的影响。,共线性问题,定义：某些自变量彼此相关,分为精确共线性与近似共线性。,共线性问题,识别共线性的统计量：,1. 容许度(Tolerance)：值越小，共线性越强,2. 方差膨胀因子(VIF)：值越大，共线性越强,3. 特征值(Eigenvalues)：越接近0，共线性越强,4. 条件系数(Condition Index)：15,5. 方差比例(Variance Proportions)：值越大，共线性越强,常用的共线性问题的解决方法：,1. 从产生共线性问题的自变量中剔除不重要的自变量,2. 增加样本量,3. 重新抽取样本数据,作数据散点图,观察因变量与自变量之间关系是否有线性关系。,Graphs Legacy Dialogs Scatter/Dot Simple Scatter,输出结果：,初始与当前工资散点图,Linear Regression,对话框,Linear Regression,对话框,奇异值判别,Linear Regression,对话框,确定影响点,Linear Regression,对话框,检测模型的直线性和方差的齐性。,标准化残差,标准化预测值,输出结果：,引入或从模型中剔除的变量,输出结果：,拟合过程小结,输出结果：,方差分析,输出结果：,逐步回归过程中不在方程中的变量,输出结果：,各步回归过程中的统计量,当前工资变量的异常值表,输出结果：,残差统计量,输出结果：,影响点查找,输出结果：,输出结果：,当前工资的预测值与学生化残差散点图,5.2 曲线估计,线性回归只适用于因变量与自变量的数据分布呈直线趋势的情况,若数据分布呈曲线趋势且具有某种函数的图形特点，就需要通过曲线估计来寻找和建立适合的模型,曲线估计,曲线估计对数据的要求是：自变量与因变量均为数值型变量，模型残差呈正态分布；,SPSS,提供的曲线估计过程可通过曲线估计对话框,(,Analyz,e,Regression,Curve Estimation),实现。,曲线估计,例5.2,已知调查得到的某单位废品率和生产率的数据如下，试建立废品率对生产率的回归模型,(数据集12),。,散点图,生产率与废品率的散点图,Curve Estimation,对话框,输出方差分析表,自变量,因变量,以时间顺序为自变量,保存新变量在数据集中,回归方程中包括常数项,产生模型图,输出结果(1),-,直线模型,0.0001,显著性检验不成立,输出结果(2),-,二次曲线模型,0.0001,显著性检验不成立,输出结果(3),-,指数曲线模型,0.0001,回归方程有统计意义,输出结果(4),-,模型拟合图,曲线估计,例5.3,用,数据集data11-01,中的数据研究车生,weightt,与每加仑公里数,mpg,之间的关系。,1.制作观测量数据的散点图,Graphs Legacy Dialogs Scatter/Dot,以变量,mpg,做,Y,轴，变量,weightt,做,X,轴。,输出结果：,每加仑里程与车重散点图,2.建立若干个曲线模型进行比较,Curve Estimation,对话框,输出结果： Quadratic结果,输出结果： Cubic结果,输出结果： Compound结果,输出结果：,