资源描述
因因 子子 分分 析析 SPSS操作及其原理操作及其原理陶鑫陶鑫2021-4-232021-4-231 在科学研究中，往往希望尽可能多地收集反映研究在科学研究中，往往希望尽可能多地收集反映研究对对象的象的多个多个变变量，以期能量，以期能对问题对问题有比有比较较全面、完整的把握与全面、完整的把握与认识认识。多。多变变量的大量的大样样本本虽虽然能然能为为科学研究提供大量的信息，但是在一定科学研究提供大量的信息，但是在一定程度上增加了数据采集的工作量，更重要的是在大多数情况下，程度上增加了数据采集的工作量，更重要的是在大多数情况下，许许多多变变量之量之间间可能存在相关性，可能存在相关性，这这意味着外表上看来彼此不同意味着外表上看来彼此不同的的变变量并不能从各个量并不能从各个侧侧面反映事物的不同属性，而恰恰是事物面反映事物的不同属性，而恰恰是事物同一种属性的不同表同一种属性的不同表现现。2 如何从众多相关的指如何从众多相关的指标中找出少数几个中找出少数几个综合性指合性指标来反映来反映原来指原来指标所包含的主要信息，所包含的主要信息，这就需要就需要进行行 因子分析因子分析Factor Analysis，它是用少数几个因子来描述，它是用少数几个因子来描述许多指多指标或因素之或因素之间的的联系，即：用系，即：用较少几个因子反映原始数据的大局部信息的少几个因子反映原始数据的大局部信息的统计方法。方法。3 在在SPSS系系统里里，实现因因子子分分析析的的功功能能是是在在Data Reduction命命令令菜菜单中。中。4统计学原理学原理 因子分析的含因子分析的含义 因因子子分分析析，又又叫叫因因素素分分析析，就就是是通通过寻找找众众多多变量量的的公公共共因因素素来来简化化变量量中中存存在在复复杂关关系系的的一一种种统计方方法法，它它将将多多个个变量量综合合为少数几个少数几个“因子以再因子以再现原始原始变量与量与“因子之因子之间的相关关系。的相关关系。5 6寻找根本找根本结构构 在多元统计中，经常遇到诸多变量之间存在强相关的问题，它会对分析带来许多困难。通过因子分析，可以找出几个较少的有实际意义的因子，反映出原来数据的根本结构。例如：调查汽车配件的价格中，通过因子分析从20个指标中概括出原材料供给商、配件厂商、新进入者、后市场零部件厂商、整车厂和消费者6个根本指标。从而找出对企业配件价格起决定性作用的几个指标。7数据化数据化简 通通过因因子子分分析析，可可以以找找出出少少数数的的几几个个因因子子来来代代替替原原来来的的变量做回量做回归分析、聚分析、聚类分析、判分析、判别分析等。分析等。8数学模型 因子分析可以通过下面的数学模型来表示：独特因子公共因素9 因因子子分分析析把把每每个个原原始始变量量分分解解成成两两局局部部：一一局局部部是是由由所所有有变量量共共同同具具有有的的少少数数几几个个因因子子所所构构成成的的，即即所所谓公公共共因因素素局局部部；另另一一局局部部是是每每个个变量量单独独具具有有的的因因素素，即即所所谓独独特特因因子子局局部部。其其中中 叫叫做做公公共共因因子子，它它们是是在在各各个个变量量中中共共同同出出现的的因因子子。我我们可可以以把把它它们看看作作多多维空空间分分布布中中互互相相垂垂直直的的 个个坐坐标轴。表表示示影影响响 的的独独特特因因子子，指指原原有有变量量不不能能被被因因子子变量量所所解解释的的局局部部，相相当当于于回回归分分析析中中的的残残差差局局部部。叫叫做做因因子子负荷荷载荷荷，它它是是第第 个个变量量在在第第 个个主主因因子子上上的的负荷荷或或叫叫做做第第 个个变量量在在在在第第 个个主主因因子子上上的的权值，它它反反映映了了第第 个个变量量在在第第 个个主主因因子子上上的的相相对重重要性。要性。10 主主成成分分分分析析：通通过对一一组变量量的的几几个个线性性组合合来来解解释这组变量量的的方方差差和和协方方差差结构，以到达数据的构，以到达数据的压缩和数据的解和数据的解释的目的。的目的。假假设有一些指有一些指标，取，取综合指合指标即它即它们的的线性性组合合F，当然有很多，我，当然有很多，我们希希望望线性性组合合F包含很多的信息，即包含很多的信息，即var(F)最大，最大，这样得到得到F记为F1，然后再找，然后再找F2,F1与与 F2无关，以此无关，以此类推，我推，我们找到了一找到了一组综合合变量量 F1,F2,Fm，这组变量根本包量根本包含了原来含了原来变量的所有信息。量的所有信息。主成分分析主成分分析11主成分分析的数学模型主成分分析的数学模型12主成分分析与因子分析的公式上的区主成分分析与因子分析的公式上的区别因子分析因子分析(m0.9 非常适合非常适合0.8KMO0.9 适合适合0.7KMO0.8 一般一般0.6KMO0.7 不太适合不太适合KMO0.5 不适合不适合17 简单相关系数：简单相关系数：相关系数：表示两要素之间的相关程度的统计指标。相关系数：表示两要素之间的相关程度的统计指标。对于两个要素对于两个要素x与与y，如果它们的样本值分别为，如果它们的样本值分别为 xi与与yii=1，2，.，n，它们之间的相关系数：，它们之间的相关系数：18偏相关系数偏相关系数 在在多多要要素素构构成成的的系系统统中中，当当研研究究某某一一个个要要素素对对另另一一个个要要素素的的影影响响或或相相关关程程度度时时，把把其其它它要要素素的的影影响响视视为为常常数数，而而单单独独研研究究两两个个要要素素之之间间的的相相互互关关系系的的密密切切程程度度时时，称称为偏相关。用以度量偏相关程度的统计量，称为偏相关系数。为偏相关。用以度量偏相关程度的统计量，称为偏相关系数。一一级级偏偏相相关关系系数数:假假设设有有三三个个要要素素x1、x2、x3,它它们们之之间间的的偏偏相相关关系系数数共共有有三三个个，即即r12.3，r13.2，r23.1其计算公式分别如下：其计算公式分别如下：19r12.3，r13.2，r23.1又称为一级偏相关系数又称为一级偏相关系数20 二二级偏偏相相关关系系数数:假假设有有四四个个要要素素x1、x2、x3和和x4，那那么么有有六六个个偏偏相相关关系系数数，即即r12.34，r13.24，r14.23,r23.14，r24.13，r34.12，称称为二二级偏偏相相关关系系数数，计算算公公式如下：式如下：21222.提取因子提取因子 决决定定因因子子提提取取的的方方法法即即求求初初始始因因子子的的方方法法很很多多，有有“主主成成分分分分析析法法，“主主轴因因子子法法，“极极大大似似然然法法，“最最小小二二乘乘法法，“Alpha因因子子提提取取法法和和“映映象象因因子子提提取取法法等等等等。最最常用的是常用的是“主成分分析法和主成分分析法和“主主轴因子法，其中又以因子法，其中又以“主成分分析法的使用最主成分分析法的使用最为普遍。普遍。在提取因子的过程中涉及以下名词，现分别说明在提取因子的过程中涉及以下名词，现分别说明:231特征值特征值 特特征征值值是是指指每每个个变变量量在在某某一一公公共共因因子子上上的的因因子子负负荷荷的的平平方方总总和和，又又叫叫特特征征根根。在在因因子子分分析析的的公公共共因因子子提提取取中中，特特征征值值最最大大的的公公共共因因子子会会最最先先被被提提取取，最最后后提提取取特特征征值值最最小小的的公公共共因因子子。因因子子分分析析的的目目的的就就是是使使因因子子维维度度简简单单化化，希希望望以以最最小小的的公公共共因因子子能能对对总总变变异异量量作作最最大大的的解解释释，因而提取的因素愈少愈好，而提取因子之累积解释的变异量那么愈大愈好。因而提取的因素愈少愈好，而提取因子之累积解释的变异量那么愈大愈好。24 每个公共因子每个公共因子对原始数据的解原始数据的解释能力，可以用能力，可以用该因子所解因子所解释的的总方差来衡量，通常称方差来衡量，通常称为该因子的奉献率，它等于和因子的奉献率，它等于和该因子有关的因子因子有关的因子负荷的平方和，荷的平方和，实际中常用相中常用相对指指标来表示。相来表示。相对指指标表达公共因子表达公共因子的相的相对重要性，即每个公共因子所解重要性，即每个公共因子所解释的方差占所有的方差占所有变量量总方差的比方差的比例。例。2因子的奉献率因子的奉献率253.决定旋决定旋转方法方法 旋旋转转法法使使得得因因子子负负荷荷量量更更易易于于解解释释。在在因因子子提提取取时时通通常常提提取取初初始始因因子子后后，对对因因子子无无法法作作有有效效的的解解释释。为为了了更更好好地地解解释释因因子子，必必须须对对负负荷荷矩矩阵阵进进行行旋旋转转，旋旋转转目目的的在在于于改改变变每每个个变变量量在在各各因因子子的的负负荷荷量量的的大大小小。旋旋转转方方法法有有两两种种：一一种种为为正正交交旋旋转转，如如“方方差差极极大大正正交交旋旋转转法法，“四四次次方方极极大大正正交交旋旋转转法法，“等等量量方方差差极极大大正正交交旋旋转转法法；另另一一种种为为斜斜交交旋旋转转，如如“斜斜交交旋旋转转法法，“迫迫近近最最大大方方差差斜斜交交旋旋转转法法等等。正正交交旋旋转转时时，坐坐标标轴轴在在旋旋转转过过程程中中始始终终保保持持垂垂直直，新新生生成成的的因因子子保保持持不不相相关关性性。斜斜交交旋旋转转中中坐坐标标轴轴中中的的夹夹角角可可以以是是任任意意度度数数，新新生生成成的的因因子子之之间间不不能能保保持持不不相相关关性性。在在使使用用过过程程中中一一般般选选用用正正交交旋旋转转法法 正正交旋交旋转转可以最大程度的保可以最大程度的保证证新生成的因子之新生成的因子之间间保持不相关性保持不相关性。264.因子的命名因子的命名 因因子子的的命命名名是是因因子子分分析析的的一一个个核核心心问题。旋旋转后后可可决决定定因因子子个个数数，并并对其其进行行命命名名。对于于新新因因子子变量量的的命命名名要要根根据据新新因因子子变量量与与原原变量量的的关关系系，即即观察旋察旋转后的因子后的因子负荷矩荷矩阵中某个新因子中某个新因子变量能量能够同同时解解释多少原多少原变量的信息。量的信息。275.计算因子得分算因子得分 计算算因因子子得得分分是是因因子子分分析析的的最最后后一一步步。因因子子变量量确确定定后后，便便可可计算算各各因因子子在在每每个个样本本上上的的具具体体数数值，这些些数数值就就是是因因子子的的得得分分，形形成成的的新新变量量称称为因因子子变量量，它它和和原原变量量的的得得分分相相对应。有有了了因因子子得得分分，在在以以后后的的分分析析中中就就可可以以因因子子变量量代代替替原原有有变量量进行行数数据据建建模模，或或利利用用因子因子变量量对样本本进行分行分类或或评价等研究，价等研究，进而而实现降降维和和简化的目化的目标。28因子分析的因子分析的对话框介框介绍 在在Factor Analysis对话框框中中，左左边较大大的的矩矩形形框框是是源源变量量框框，右右边“Variables框框为选入分析的入分析的变量框量框 29各变量的根本统计量包各变量的根本统计量包括均数，标准差和样本量括均数，标准差和样本量因子分析的初始解包括因子分析的初始解包括原变量的公因子方差，与原变量的公因子方差，与变量数目相同的因子，各变量数目相同的因子，各因子的特征值及其所占总因子的特征值及其所占总方差的百分比和累计百分方差的百分比和累计百分比比相关系数矩阵相关系数矩阵相关系数矩阵单侧检验的相关系数矩阵单侧检验的概率值概率值相关系数矩阵的行列式相关系数矩阵的行列式KMO和巴特利球型检验和巴特利球型检验相关系数矩阵的逆矩阵相关系数矩阵的逆矩阵反映象协方差阵和相关阵反映象协方差阵和相关阵再生相关阵给出因子分析后的相关阵及其残差，再生相关阵给出因子分析后的相关阵及其残差，下三角为再生相关阵，上三角为残差，即再生相关下三角为再生相关阵，上三角为残差，即再生相关系数与原始相关系数之差系数与原始相关系数之差Descriptives 按钮按钮30“Analyze指定提取因子的依据：指定提取因子的依据：Correlation matrix:相关系数矩阵系统默认，当相关系数矩阵系统默认，当原有变量存在数量级的差异时，通常选择该选项原有变量存在数量级的差异时，通常选择该选项Covariance matrix:协方差矩阵协方差矩阵“Extract提取标准：提取标准：Eigenvalus over：以特征值大于某数值为提取标准：以特征值大于某数值为提取标准Number of factors：自定义提取因子的数量正自定义提取因子的数量正整数整数“Display输出内容：输出内容：Unrotated factor solution：未旋转的因子负荷阵：未旋转的因子负荷阵Scree plot：碎石图以特征值大小排列的原始变碎石图以特征值大小排列的原始变量序号为横轴，特征值为纵轴的加连线的散点图量序号为横轴，特征值为纵轴的加连线的散点图Maximum Iterations for Convergence：最大迭：最大迭代次数正整数，系统默认代次数正整数，系统默认25次次Extraction 按钮按钮31Rotation 按钮按钮“Mothod因子旋转方法：因子旋转方法：正交法正交法None：不旋转系统默认：不旋转系统默认Varimax:最大方差旋转法最大方差旋转法Quartimax：四次方最大正交旋转法：四次方最大正交旋转法Equamax:平均正交旋转法平均正交旋转法“Display输出内容：输出内容：Rotated solution：旋转后的因子负荷矩阵：旋转后的因子负荷矩阵Loading plot(s):旋转后的因子负荷散点图旋转后的因子负荷散点图斜交法斜交法Direct Oblimin:最大斜交旋转法，选此项，下方的最大斜交旋转法，选此项，下方的Delta框被激框被激活，可填入小等于活，可填入小等于0.8的值，系统默认的值，系统默认0，即产生最高相关因子。，即产生最高相关因子。Promax:斜交旋转法，选此项，下方的斜交旋转法，选此项，下方的Kappa框被激活，系统默框被激活，系统默认认4。该法允许因子间相关，远较最大斜交旋转法计算速度快，。该法允许因子间相关，远较最大斜交旋转法计算速度快，适于大型数据处理。适于大型数据处理。-32Factor Scores 按钮按钮“Method求因子得分方法：求因子得分方法：Regression:回归法系统默认回归法系统默认Bartlett:Bartlett法法Anderson-Rubin:Anderson-Rubin法法Display factor score coefficient matrix:输出因子得分系数矩阵输出因子得分系数矩阵33Option 按钮按钮“Missing Values缺失值处理：缺失值处理：Exclude cases listwise:剔除含有缺失值的所有观剔除含有缺失值的所有观察单位系统默认察单位系统默认Exclude cases pairwise:剔除各对变量中含有缺失剔除各对变量中含有缺失值的观察单位值的观察单位Replace with mean:用各变量的均值替代缺失值用各变量的均值替代缺失值“Coefficient Display Format因子矩阵的输出格式：因子矩阵的输出格式：Sorted by size：按因子系数由大到小排列：按因子系数由大到小排列Suppress absolute values less than:只列出大于某一数值的因子系数系统默认只列出大于某一数值的因子系数系统默认0.134案例分析案例分析案例案例X1:每万人中等职业教育在校生数每万人中等职业教育在校生数X2:每万人中等职业教育招生数每万人中等职业教育招生数X3:每万人中等职业教育毕业生数每万人中等职业教育毕业生数X4:每万人中等职业教育专任教师数每万人中等职业教育专任教师数X5:本科以上学校教师占专任教师的比例本科以上学校教师占专任教师的比例X6:高级教师占专任教师的比例高级教师占专任教师的比例X7:学校平均在校生人数学校平均在校生人数 X8:国家财政预算中等职业教育经费占国内生产总值的比例国家财政预算中等职业教育经费占国内生产总值的比例X9:生均教育经费生均教育经费 对北京对北京18个区县中等职业教育开展水平的个区县中等职业教育开展水平的9个指标进行因子分析，然后进行综合评价。个指标进行因子分析，然后进行综合评价。数据如有表所示，数据如有表所示，9个指标分别表示如下含个指标分别表示如下含义：义：35操作步骤操作步骤1.定定义义变变量量：变变量量“qx为为字字符符型型变变量量，表表示示区区县县；变变量量x1，x2,x9均均为为数数值值型型变量，表示中等教育开展水平的状况。变量，表示中等教育开展水平的状况。2.3.从从左左侧侧的的变变量量列列表表中中选选择择x1，x2,x9变量进入变量进入“Variables框中。框中。36373839结果分析果分析 上上表表显显示示原原有有变变量量的的相相关关系系数数矩矩阵阵及及其其检检验验。可可以以看看到到，大大局局部部的的相相关关系系数数都都较较高高大大于于0.3，单单边边检检验验值值小小于于0.05，各各变变量量呈呈较较高高的的线线性性关关系系，能能够够从从中中提提取取公公共因子，适合进行因子分析。共因子，适合进行因子分析。大局部的相关大局部的相关系数值大于系数值大于0.3大局部的检验大局部的检验值小于值小于0.0540 巴巴特特利利球球形形检验统计量量为131.051，相相应的的概概率率Sig为0.000，因因此此可可认为相相关关系系数数矩矩阵与与单位位阵有有显著著差差异异。同同时，KMO值为0.762，根根据据Kaiser给出出的的KMO度量度量标准可知原有准可知原有变量适合作因子分析。量适合作因子分析。41 右右表表是是因因子子分分析析的的初初始始解解，显显示示了了所所有有变变量量的的共共同同方方差差数数据据。“Initial列列是是因因子子分分析析初初始始解解下下的的变变量量共共同同方方差差。它它表表示示，对对原原有有9个个变变量量如如果果采采用用主主成成分分分分析析方方法法提提取取所所有有特特征征值值 9个个，那那么么原原有有变变量量的的所所有有方方差差都都可可被被解解释释，变变量量的的共共同同方方差差 均均 为为 1 原原 有有 变变 量量 标标 准准 化化 后后 的的 方方 差差 为为 1 。“Extraction列列是是在在按按指指定定提提取取条条件件 本本例例提提取取3个个因因子子 提提取取特特征征值值时时的的共共同同方方差差。可可以以看看到到，所所有有变变量量的的共共同同方方差差均均较较高高，各各个个变变量量的的信信息息丧丧失失都都较较少。因此本次因子分析提取的少。因此本次因子分析提取的总总体效果体效果较较理想理想42 上上表表中中，第第一一列列是是因因子子编号号，以以后后三三列列组成成一一组，每每组中中数数据据项的的含含义依依次次是是特特征征根根值，方方差差奉奉献献率率和和累累计方差奉献率。方差奉献率。第一组数据项描述了因子初始解的情况。可看到，第第一组数据项描述了因子初始解的情况。可看到，第1个因子的特征值是个因子的特征值是4.975，解释原有，解释原有9个变量总方差的个变量总方差的 55.275%4.9759100，累计方差奉献率为，累计方差奉献率为55.275%；其余数据含义类似。；其余数据含义类似。第二组数据项描述了因子解的情况。可看到，由于指定提取第二组数据项描述了因子解的情况。可看到，由于指定提取3个因子，个因子，3个因子共解释了原有变量总方差的个因子共解释了原有变量总方差的 84.466%。总体上，。总体上，3个因子反映了原有变量的大局部信息，因子分析效果较理想。个因子反映了原有变量的大局部信息，因子分析效果较理想。第三组数据描述了经过旋转后最终因子解的情况。可见，因子旋转后累计方差比没有改变，但重新分配了第三组数据描述了经过旋转后最终因子解的情况。可见，因子旋转后累计方差比没有改变，但重新分配了 各个因子解释原有变量的方差，改变了各个因子的方差奉献，使得因子更易于解释。各个因子解释原有变量的方差，改变了各个因子的方差奉献，使得因子更易于解释。43 右右图中中，横横坐坐标为因因子子数数目目，纵坐坐标为特特征征值。可可见，第第1个个因因子子的的特特征征值很很高高，对解解释原原有有变量量的的奉奉献献最最大大；第第4个个以以后后的的因因子子特特征征值都都较小小，对解解释原原有有变量量的的奉奉献献很很小小，已已经成成为可可被被忽忽略略的的“高高山山脚脚下下的的碎碎石石，因因此此提提取取3个个因因子子是是适适合合的。的。3个主要因子个主要因子44 从从表表中中可可以以看看到到，9个个变变量量在在第第1个个因因子子上上的的负负荷荷都都很很高高，意意味味着着它它们们与与第第1个个因因子子的的相相关关程程度度高高，其其余余2个个因因子子与与9个个变变量量的的相相关关性性相相对对较较小小。另另外外还还可可看看到到，这这3个个因因子子的的实实际际含含义义比比较较模糊。模糊。右表右表右表右表显显示了因子示了因子示了因子示了因子负负荷矩荷矩荷矩荷矩阵阵 是因子分析核心内容是因子分析核心内容是因子分析核心内容是因子分析核心内容45 从从右右表表可可知知，用用主主成成分分分分析析法法进进行行方方差差极极大大法法旋旋转转后后，在在校校生生数数、招招生生数数、毕毕业业生生数数、专专任任教教师师数数和和经经费费比比例例5个个变变量量在在第第1个个因因子子上上有有较较高高的的负负荷荷，第第1个个因因子子主主要要解解释释这这5个个变变量量，其其意意义义代代表表中中等等职职业业教教育育的的相相对对规规模模大大小小，可可解解释为释为开展开展规规模；模；开展规模开展规模学校规模学校规模办学条件办学条件 本本科科教教师师比比例例、高高级级教教师师比比例例和和生生均均教教育育经经费费3个个变变量量在在第第2个个因因子子上上有有较较高高的的负负荷荷，第第2个个因因子子主主要要解解释释这这3个个变变量量，其其意意义义代代表表中中等等职职业业教教育育的的办办学学条条件件师师资资、经经费，可解释办学条件；费，可解释办学条件；第第3个个因因子子主主要要解解释释学学校校平平均均在在校校生生人人数数这这个个原原有有变变量量，其其意意义义可可解释为中等职业教育的解释为中等职业教育的学校规模学校规模。与旋与旋与旋与旋转转前相比，旋前相比，旋前相比，旋前相比，旋转转后因子含后因子含后因子含后因子含义较为义较为清晰清晰清晰清晰46 右右图是是负荷荷散散点点图，这里里为3个个因因子子的的三三维因因子子负荷荷散散点点图，以以3个个因因子子为坐坐标，给出出各各原原始始变量量在在该坐坐标中中的的负荷散点分布。荷散点分布。474849 上上表表显示示了了3个个因因子子的的协方方差差矩矩阵。3个个因因子子两两两两之之间的的相相关关系系数数为0，说明明经因因子子分分析析提提取取后后的的3个个因因子子之之间没没有有相相关关性性，实现了了因因子子分分析析的的设计目目标，同，同时也也说明是明是经过了正交旋了正交旋转法而得。法而得。505152总结：适合条件：适合条件：样本量：本量：1.样本量与本量与变量数的比例量数的比例应在在5：1以上。以上。2.总样本量不得少于本量不得少于100，而且原那么上越大越好。，而且原那么上越大越好。公因子数量确公因子数量确实定定 1.主成分累主成分累积奉献率奉献率 8085%以上以上 2.特征特征值大于大于1 3.综合判断合判断 4.因子分析因子分析时更重要的是因子的可解更重要的是因子的可解释性性 53 谢谢大家！谢谢大家！54
展开阅读全文