应用多元统计分析北大版第八章

单击以编辑母版标题样式,单击以编辑母版文本样式,第二级,第三级,第四级,第五级,*,*,*,北大,数学学院,应用多元统计分析,第八章,因子分,析,1,8.1,引言,8.2,因子模型,8.3,参数估计方法,8.4,方差最大的正交旋转,8.5,因子得分,8.6,Q型因子分析,第八章 因 子 分 析,目 录,2,第八章 因 子 分 析,因子分析是主成分分析的推广和发展,它也是多元统计分析中降维的一种方法.因子分析是研究相关阵或协差阵的内部依赖关系,它将多个变量综合为少数几个因子,以再现原始变量与因子之间的相关关系.,因子分析的形成和早期发展一般认为是从Charles Spearman在1904年发表的文章开始.他提出这种方法用来解决智力测验得分的统计分析.目前因子分析在心理学、社会学、经济学等学科都取得成功的应用.,3,第八章,8.1 引 言,什么是,因子分析,例1,为了了解学生的学习能力,观测了,n,个学生,p,个科目的成绩(分数),用,X,1,X,p,表示,p,个科目(例如代数、几何、语文、英语、政治, ),X,(,t,),=(,x,t1,x,tp,)(,t,=1,n,)表示第,t,个学生,p,个科目的成绩,我们对这些资料进行归纳分析,可以看出各个科目(即变量)由两部分组成:,X,i,=a,i,F+,i,(,i,=1,p,),(8.1.1),其中,F,是对所有,X,i,(,i,=1,p,)所共有的因子,它表示智能高低的因子;,i,是变量,X,i,特有的特殊因子.这就是一个最简单的因子模型.,4,第八章,8.1 引 言,什么是,因子分析, 进一步可把这个简单因子模型推广到多个因子的情况,即全体科目,X,所共有的因子有,m,个,如数学推导因子、记忆因子、计算因子等.分别记为,F,1,F,m,即,X,i,=,a,i,1,F,1,+,a,i,2,F,2,+,a,im,F,m,+,i,(,i,=1,p,) (8.1.2),用这,m,个不可观测的相互独立的公共因子,F,1,F,m,(也称为潜因子)和一个特殊因子,i,来描述原始可测的相关变量(科目),X,1,X,p,并解释分析学生的学习能力,.,5,第八章,8.1 引 言,什么是,因子分析,例2,调查青年对婚姻家庭的态度,抽取了,n,个青年回答了,p,=50个问题的答卷,这些问题可归纳为如下几个方面,对相貌的重视、对孩子的观点等,这也是一个因子分析的模型,每一个方面就是一个因子.,例3,考察五个生理指标:收缩压(X1)、舒张压(X2)、心跳间隔(X3)、呼吸间隔(X4)和舌下温度(X5).从生理学的知识,这五个指标是受植物神经支配的,植物神经又分为交感神经和副交感神经,因此这五个指标有两个公共因子,也可用因子分析的模型去处理它.,6,第八章,8.1 引 言,什么是,因子分析,例4,Linden对二次大战(1945年以后)奥林匹 克十项全能的得分进行研究(,n,=160),用X1-X10表示十项全能的标准化得分数据(十项全能包括:100米,铝球,跳高,跳远,400米,110米跨栏,铁饼,撑杆,标枪,1500米),目的是分析哪些因素决定了十项全能的成绩,以此来指导运动员的选拔工作.,这些因素可归纳为如下几类:短跑速度,爆发性臂力,腿力,耐力等.这也是一个因子分析的模型,每一个因素就是一个公共因子.,7,第八章,8.1 引 言,什么是,因子分析,因子分析的主要应用,有两方面:,一是寻求基本结构,简化观测系统，将具有错综复杂关系的对象(变量或样品)综合为少数几个因子(不可观测的,相互独立的随机变量)，以再现因子与原变量之间的内在联系;,二是用于分类,对,p,个变量或,n,个样品进行分类.,8,第八章,8.1 引 言,什么是,因子分析,因子分析根据研究对象可以分为R型和Q型因子分析.,R型因子分析研究变量(指标)之间的相关关系,通过对变量的相关阵或协差阵内部结构的研究,找出控制所有变量的几个公共因子(或称主因子、潜因子),用以对变量或样品进行分类.,Q型因子分析研究样品之间的相关关系,通过 对样品的相似矩阵内部结构的研究找出控制所有样品的几个主要因素(或称主因子).,9,第八章,8.1 引 言,什么是,因子分析,因子分析与主成分分析有区别:,主成分分析一般不用数学模型来描述,它只是通常的变量变换,而因子分析需要构造因子模型(正交或斜交);,主成分分析中主成分的个数和变量个数,p,相同,它是将一组具有相关性的变量变换为一组独立的综合变量(注意应用主成分分析解决实际问题时,一般只选取,m,(,mp,)个主成分),而因子分析的目的是要用尽可能少的公因子,以便构造一个结构简单的因子模型,;,10,第八章,8.1 引 言,什么是,因子分析,主成分分析是将主成分表示为原变量的线性组合,而因子分析是将原始变量表示为公因子和特殊因子的线性组合.,另一方面这两种分析方法之间在某些情况下也有一定联系.这些我们将从下面的介绍中看到,.,11,第八章,8.2 因子模型,正交因子模型,设,X,=(,X,1,X,p,)是可观测的随机向量, E(,X,)=,D(,X,)=,.,F,=(,F,1,F,m,)(,m,，相应特征向量为,l,1,*,l,2,*,l,m,*,.则有近似分解式：,R,*,=,AA,其中,令,则,A,和,为因子模型的一个解,这个解就称为主因子解 .,40,第八章 8.3,参数估计方法,主因子法,在实际应用中特殊因子方差,i,2,或公因子方差(也称为共同度),h,i,2,是未知的.以上得到的解是近似解.为了得到近似程度更好的解，常常采用,迭代主因子法,即利用上面得到的,D,*,=,作为特殊方差的初始估计，重复上述步骤，直到解稳定为止,.,因特殊因子方差,故求特殊因子方差的初始估计等价于求公因子方差(或称,共同度),h,i,2,的初始估计.,41,第八章 8.3,参数估计方法,主因子法,公因子方差(或称变量的共同度)几种常用的初始估计方法,：,h,i,2,取为第,i,个变量与其他所有变量的多重相关系数的平方(或者取,i,2,=1/,r,ii,其中,r,ii,是,R,-1,的对角元素,则,h,i,2,=1-,i,2,.,PRIORS=ASMC|A).,h,i,2,取为第,i,个变量与其他变量相关系数绝对值的最大值,(PRIORS=MAX|M);, 取,h,i,2,=1,它等价于主成分解,(PRIORS=ONE|O).,42,第八章 8.3,参数估计方法,极大似然法,假定公因子,F,和特殊因子,服从正态分布，那么我们可得到因子载荷阵和特殊方差的极大似然估计.设,p,维观测向量,X,(1),X,(n),为来自正态总体N,p,(,),的随机样本，则样本似然函数为,的函数,L,(,),.,设,=,AA,+,D,，取,=,X,则似然函数,L,(,X,AA,+,D,)为,A,D,的函数:,(,A,D,),求,A,D,使,达最大.为保证得到唯一解，可附加计算上方便的唯一性条件：,AD,-1,A,=对角阵,用迭代方法可求得极大似然估计,A,和,D,.,43,第八章 8.3,参数估计方法,应用例子,对全国30个省市自治区经济发展基本情况的八项指标作因子分析. 考虑的八项指标为:,X1-GDP X2-居民消费水平,X3-固定资产投资 X4-职工平均工资,X5-货物周转量 X6-居民消费价格指数,X7-商品零售价格指数 X8-工业总产值,（数据来源1996年“中国统计年鉴”),44,第八章 8.3,参数估计方法,应用例子,甘肃 553.35 1007 114.81 5493 507.0 119.8 116.5 468.79,青海 165.31 1445 47.76 5753 61.6 118.0 116.3 105.80,北京 1394.89 2505 519.01 8144 373.9 117.3 112.6 843.43,天津 920.11 2720 345.46 6501 342.8 115.2 110.6 582.51,河北 2849.52 1258 704.87 4839 2033.3 115.2 115.8 1234.85,山西 1092.48 1250 290.90 4721 717.3 116.9 115.6 697.25,内蒙 832.88 1387 250.23 4134 781.7 117.5 116.8 419.39,辽宁 2793.37 2397 387.99 4911 1371.1 116.1 114.0 1840.55,吉林 1129.20 1872 320.45 4430 497.4 115.2 114.2 762.47,黑龙江 2014.53 2334 435.73 4145 824.8 116.1 114.3 1240.37,上海 2462.57 5343 996.48 9279 207.4 118.7 113.0 1642.95,江苏 5155.25 1926 1434.95 5943 1025.5 115.8 114.3 2026.64,浙江 3524.79 2249 1006.39 6619 754.4 116.6 113.5 916.59,安徽 2003.58 1254 474.00 4609 908.3 114.8 112.7 824.14,福建 2160.52 2320 553.97 5857 609.3 115.2 114.4 433.67,X1 X2 X3 X4 X5 X6 X7 X8,45,第八章 8.3,参数估计方法,应用例子,江西 1205.11 1182 282.84 4211 411.7 116.9 115.9 571.84,山东 5002.34 1527 1229.55 5145 1196.6 117.6 114.2 2207.69,河南 3002.74 1034 670.35 4344 1574.4 116.5 114.9 1367.92,湖北 2391.42 1527 571.68 4685 849.0 120.0 116.6 1220.72,湖南 2195.70 1408 422.61 4797 1011.8 119.0 115.5 843.83,广东 5381.72 2699 1639.83 8250 656.5 114.0 111.6 1396.35,广西 1606.15 1314 382.59 5105 556.0 118.4 116.4 554.97,海南 364.17 1814 198.35 5340 232.1 113.5 111.3 64.33,四川 3534.00 1261 822.54 4645 902.3 118.5 117.0 1431.81,贵州 630.07 942 150.84 4475 301.4 121.4 117.2 324.72,云南 1206.68 1261 334.00 5149 310.4 121.3 118.1 716.65,西藏 55.98 1110 17.87 7382 4.2 117.3 114.9 5.57,陕西 1000.03 1208 300.27 4396 500.9 119.0 117.0 600.98,宁夏 169.75 1355 61.98 5079 121.8 117.1 115.3 114.40,新疆 834.57 1469 376.95 5348 339.0 119.7 116.7 428.76,解,此例中,n,=30,p,=8.,在以上三种估计方法中,主成分解应用较广泛.具体计算步骤如下:,46,第八章 8.3,参数估计方法,应用例子,(1) 由原始数据,X,计算样本均值及样本相关阵.,(2) 求样本相关阵,R,的特征值和标准化特征向量,.,记,2,p,为,R,的特征根,相应单位正交特征向量为,l,1,l,2,l,p,.,(3) 求因子模型的因子载荷阵., 确定公因子的个数,m,.如,m,为满足,1,+,m,/,1,+,m,+,p,0.80的最小正整数, 由前,m,个单位正交特征向量,l,1,l,m,令,a,i,=(,i,),1/2,l,i,(,i,=1,2,m,), ,则,A,=(,a,1,a,m,)为因子载荷阵.,47,第八章 8.3,参数估计方法,应用例子,X,i,的共同度,h,i,2,的估计为,(5),对,m,个公因子(或称潜因子,主因子)作解释.,求出因子载荷阵,A,后,即得可观测变量,X,1, ,X,p,可以由,m,个不可观测的公因子及各自的特殊因子表示,但这,m,个公因子的实际意义表示什么?则要结合专业知识给出解释,.,(4) 求特殊因子方差:令,48,第八章 8.3,参数估计方法,应用例子,以下SAS程序首先用DATA步生成SAS数据集D832，然后调用SAS/STAT软件中的FACTOR过程进行因子分析.,在PROC FACTOR语句中，,选项METHOD=PRIN和PRIORS=ONE,表示用主成分法估计因子载荷阵,A,和,D,.因主成分法是常用的参数估计法，这两个选项的值为系统的预置值,可以省略不写.,选项P=0,.,80(或P=80),表示选取公因子个数,m,使,m,为满足,1,+,m,/,p, 0.80的最小正整数.,49,第八章 8.3,参数估计方法,应用例子,选项SIMPLE,要求打印输出原相关变量的样本均值和标准差.,VAR语句列出进行因子分析的相关变量X1至X8 ,data d832;,input group $ x1-x8;,cards;,北京 1394.89 2505 519.01 8144 373.9 117.3 112.6 843.43,天津 920.11 2720 345.46 6501 342.8 115.2 110.6 582.51,. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .,;,proc factor data=d832 method=prin priors=one,p=0.80 simple;,var x1-x8;,run;,50,第八章 8.3,参数估计方法,应用例子的输出结果,八项经济发展指标,的均值和标准差,(相关阵,R,这里省略了),51,第八章 8.3,参数估计方法,应用例子的输出结果,相关阵,R,的特征值、相邻特征值之差、贡献率和累计贡献率,52,第八章8.3,参数估计方法,应用例子的输出结果,因子载荷阵,A,(,m,=3),=,A,53,第八章8.3,参数估计方法,应用例子的输出结果,每个公因子解释的方差及最终选取的三个公,因子所估计的总方差和,m,=3时各变量的共同度,A,阵中各列的平方和,q,2,k,(,k=,1,2,3),或相关阵,R,的特征值,k,(,k=,1,2,3),A,阵中各行的平,方和,h,2,j,(共同度),(,j=,1,2,8),54,第八章8.4方差最大的正交旋,转,因子分析的目的不仅是求出公共因子,更主要的是知道每个公共因子的实际意义,以便对实际问题作出科学的分析.,但由8.3介绍的估计方法所求出的公因子解,初始因子载荷阵并不满足“简单结构准则”,即各个公共因子的典型代表变量不很突出,因而容易使公共因子的意义含糊不清,不利于对因子进行解释.,为此必须对因子载荷阵施行旋转变换,使得,各因子载荷的平方按列向0和1两极转化,达到其结构简化的目的,.,这种变换因子载荷阵的方法称为,因子旋转,而旋转变换的方法主要有正交旋转,斜交旋转等.,55,第八章8.4方差最大的正交旋转,理论依据,且,(8.4.1),(8.4.2),56,第八章8.4方差最大的正交旋转,理论依据,(8.4.1)和(8.4.2)式说明,若,F,是因子模型的公因子向量,则对任一正交阵,F,=,Z,也是公因子向量.相应的,A,是公因子,Z,的因子载荷阵.,利用这一性质,在因子分析的实际计算中,当求得初始因子载荷阵,A,以后,就反复右乘正交阵,使,A,具有更明显的实际意义.,这种变换载荷矩阵的方法,称为因子轴的正交旋转.,57,第八章8.4方差最大的正交旋转,因子载荷的方差,h,2,i,如果,A,的每一列(即因子载荷向量)数值越分散,相应的因子载荷向量的方差越大.,58,第八章8.4方差最大的正交旋转,因子载荷的方差,下面来引入度量因子载荷阵分散程度的统计量-因子载荷的方差.,首先,“标准化”:,A=,a,11,a,1m,.,a,p1,a,pm,a,2,11,a,2,1m,.,a,2,p1,a,2,pm,消除符号,的影响,a,2,11,/,h,1,2,a,2,1m,/,h,1,2,.,a,2,p1,/,h,p,2,a,2,pm,/,h,p,2,消除各变量对公因子依赖程度(即共同度)不同的影响,=,d,11,2,d,1,m,2,.,d,p,1,2,d,pm,2,59,第八章8.4方差最大的正交旋转,因子载荷的方差,为消除,a,ij,符号不同的影响及各变量对公因子依赖程度不同的影响,令,60,第八章8.4方差最大的正交旋转,因子载荷的方差,61,第八章8.4方差最大的正交旋转,因子载荷的方差,则因子载荷阵,A,的方差为:,若,V,j,值越大,A,的第,j,个因子载荷向量数值越分散,如果载荷值或是趋于1或是趋于0,这时相应的公因子,F,j,具有简化结构.我们希望因子载荷阵,A,的方差尽可能大.,62,第八章8.4方差最大的正交旋转,方差最大的正交旋转,设,m,=2,因子载荷阵,A,为:,则,B=A,是,Z=F,的因子载荷阵.这相当于将由,F,1,，,F,2,确定的因子平面旋转一个角度,.,利用微积分的方法可以确定选择适当的角度,，使载荷阵的总方差达最大.,63,第八章8.4方差最大的正交旋转,方差最大的正交旋转,当,m,2时,可以逐次对每两个因子,F,k,F,j,(,k,j,),进行以上旋转.选择正交旋转的角度,kj,使这两个因子的方差之和达最大.,m,个因子的全部配对旋转,共需旋转C,m,2,次,全部旋转完毕算一次循环(或一轮),经第一轮旋转后计算旋转后的因子载荷方差,V,(1),此时不能认为,V,(1),就是最大方差,还需从旋转后的载荷阵出发,再进行第二轮旋转，,等等.,64,第八章8.4方差最大的正交旋转,应用例子8.,4.2,的继续),在例中，考虑对因子载荷阵作方差最大的正交旋转,并由旋转后的因子载荷阵解释公因子的含义.,解,在以下SAS程序中，PROC FACTOR语句的选项,ROTATE=VARIMAX(或R=V),表示对因子载荷阵进行方差最大正交旋转，,选项N=3指定公因子个数,m,=3,.,proc factor data=d832 rotate=varimax n=3;,var x1-x8;,run;,65,第八章8.4方差最大的正交旋转,应用例子的继续)的输出结果,正交变换阵,方差最大,正交旋转,后的,因子,载荷阵,A,66,第八章8.4方差最大的正交旋转,应用例子8.,4.2,的继续)的输出结果,变量,X,1,的共同度,h,1,2,=0.944830,=(0.95501),2,+ (0.12507),2,+(-0.13094),2,每个公因子,解释的方差,与旋转前稍有些差异.,三个公因子估计,的总方差,7.166754,=3.206521+2.217780,+1,742453,67,第八章8.4方差最大的正交旋转,应用例子的继续)的结果分析,从方差最大正交旋转后的,因子载荷阵,A,中可见，每个因子只有少数几个指标的因子,载荷较大，因此可以由因子载荷阵,A,对指标进行分类。,八项指标按高载荷可以分三类：,第一个因子在指标X1,X3,X8上有较大的载荷，这些是从GDP,固定资产投资,工业总产值这三个方面反映经济发展状况的，因此命名为,总量因子,；,68,第八章8.4方差最大的正交旋转,应用例子的继续)的结果分析,第二个因子在指标X2,X4,X5上有较大的载荷，这些是从,居民消费水平,职工平均工资和货物周转量这三个方面反映经济发展状况的，因此命名为,消费因子,；,第三个因子在指标X6和X7上有较大的载荷，这些是从,居民消费价格指数和商品零售价格指数这二个方面反映经济发展状况的，因此命名为,价格因子,；,69,第八章 8.5,因子,得分,我们已经讨论了如何从样本协差阵或相关阵,R,出发,来获得公共因子和因子载荷阵,并给出公共因子的实际背景,当我们一旦获得公共因子和因子载荷阵以后,我们应当反过来,考察每一个样品的公共因子的估计,即所谓的因子得分,因子得分可用于模型的诊断,也可作进一步分析的原始数据.,但请注意,因子得分的计算并不是通常意义下的参数估计,而是对不可观测的随机向量,F,(公,共因子）取值的估计.,70,第八章 8.5,因子,得分,最小二乘法,设,X,具有因子模型(不妨设,=0),X,=,A,F,+,假定因子载荷阵,A,已知,由,A,和,X,来,估计,F,使得,达最小值,-2AX+2AAF=,0,可得,F,的估计为:,=XX-2XAF+FAAF,71,第八章 8.5,因子,得分,最小二乘法,就是因子得分的最小二乘估计.,对样品,X,(i),因子得分值为,如果我们用主成分法估计因子载荷阵,A,那么在计算因子得分的估计时,通常用最小二乘法.,此时,AA,=diag(,2,m,),72,第八章 8.5,因子,得分,最小二乘法,公因子得分向量为:,73,第八章 8.5,因子,得分,最小二乘法,对样品,X,(,i,),代入公因子向量,F,相应的因子得分为,因子得分阵,F,为:,其中,z,ij,就是主成分得分,74,第八章 8.5,因子,得分,最小二乘法,对照第七章介绍的样本主成分,可以看到,第,i,个样品的因子得分,F,(i),和样本主成分得分,Z,(,i,),的对应分量仅相差一个常数:,75,第八章 8.5,因子,得分,加权最小二乘法,设,X,具有正交因子模型(不妨设,=0),X,=,A,F,+,假定因子载荷阵,A,和特殊方差已知,而把特殊因子,看作误差.因Var(,i,)=,i,2,(,i,=1,.,p,) 一般不相等.于是我们用加权最小二乘法估计公共因子,F,的值,.,用误差方差的倒数作为权数的误差平方和,76,第八章 8.5,因子,得分,加权最小二乘法,(8.5.1)式中,A,D,已知,X,为可观测的值也是已知的,求,F,的估计值.,(8.5.1）,令,(由附录矩阵微商的(8.2)和(8.3)式),77,第八章 8.5,因子,得分,加权最小二乘法,这就是因子得分的加权最小二乘估计.,(8.5.2）,可得到,F,的估计值:,78,第八章 8.5,因子,得分,加权最小二乘法与最大似然估计,若假定,X,N,p,(,AF,D,),X,的似然函数的对数为,L(,F,)=-0.5(,X-AF,),D,-1,(,X-AF,)-0.5Ln|2,D,|,由此可得,F,的极大似然估计仍为(8.5.2)式,这个估计也称为巴特莱特因子得分.,实际问题中,A,D,未知,自然的作法是将它们的某种估计代入),对样品,X,(i),因子得分值为,79,第八章 8.5,因子,得分,回归法,在因子模型中,我们也可以反过来将公共因子表示为变量的线性组合,即用,F,j,=,j1,X,1,+,jp,X,p,(,j,=1,m,) (8.5.3),来计算每个样品的公因子得分.,(8.5.3)式称为因子得分函数.以下用回归法给出(8.5.3)式中组合系数,ij,的估计,b,ij,.,假设变量,X,为标准化变量，公因子,F,也已标准化.在最小二乘意义下对因子得分函数进行估计,并记建立的公因子,F,对变量,X,的回归方程为,(8.5.4),80,第八章 8.5 因子,得分,回归法,下面来估计,(8.5.4),中的回归系数,b,j,1,b,j,2,b,jp,.,这是多对多的回归问题.但,F,j,的值是不可观测的,为求,b,ij,我们利用由样本得到的因子载荷阵,A,=(,a,ij,).,对公共因子,F,j,由因子载荷的意义：,即,(8.5.5),81,第八章 8.5,因子,得分,回归法,其中,记,82,第八章 8.5,因子,得分,回归法,则有,于是利用回归方法所建立的公因子,F,对变量,X,的回归方程为,83,第八章 8.5,因子,得分,回归法,由于(8.5.3)式中方程的个数,m,小于变量个数,p,因此只能在最小二乘意义下对因子得分进行估计.,以上利用回归分析方法所建立的公因子,F,对变量,X,的回归方程为,F=AR,-1,X,(8.5.6),(8.5.6)式中,R,为样本相关阵.,由样本值计算相关阵,R,并估计因子载荷,A,代入(8.5.6)式,即得因子得分函数,F,的计算公式.,此方法是由汤姆森(Thompson)提出来的,所得因子得分在文献上常称为汤姆森因子得分.,84,第八章 8.5,因子,得分,回归法与Bayes统计思想,此估计也可以从Bayes统计的思想来求得.,在因子模型,X,=,AF,+,中,假设,F,和,服从正态分布.若,F,有一先验分布为N,m,(0,I,m,),当给定,F,时,X,的条件分布为N,p,(,AF,D,).,下面用Bayes统计的典型手法可求得当,X,给定时,F,的条件分布（即后验分布)仍为正态分布。,已知,85,第八章 8.5,因子,得分,回归法与Bayes统计思想,当,X,给定时,F,的条件分布仍为正态分布。且条件期望为,E(,F,|,X,)=,A,(,AA,+,D,),-1,X,称条件期望,E(,F,|,X,)=,A,(,AA,+,D,),-1,X,为,F,对,X,的回归。,当,X,=,X,(,j,),(,j,=1,n,)得因子得分,F,j,=,A,(,AA,+,D,),-1,X,(,j,),因子得分函数有表达式:,86,第八章 8.5,因子,得分,回归法与Bayes统计思想,用样本值可以计算样本协差阵,作为,的估计,因子载荷阵的估计仍记为,A.,于是因子得分的计算公式为,当变量,X,为标准化变量时,样本协差阵,S,就是样本相关阵,R,.故有,F=AR,-1,X,87,第八章 8.5,因子,得分,两种估计法的比较,以上两种估计法得到的因子得分在,A、D,满足,约束条件:,AD,-1,A,=对角形,且对角元素很小时,两种估计方法得出的因子得分几乎相等。,若从无偏性考虑，第一种估计是无偏的,而汤姆森因子得分(回归估计)是有偏的。,若从平均预报误差考虑，第二种估计(汤姆森,因子得分)有较小的平均预报误差。这两种估计,到底哪一种好,长期以来一直有争论,至今尚未有定论。,88,第八章 8.5,因子,得分,应用例子的继续),在例中，用回归法求因子得分函数，计算30个样品的因子得分，并绘制第一和第二因子得分的散布图。,解,在以下SAS程序中，PROC FACTOR语句的,选项SCORE,要求打印因子得分系数。,选项,OUT=O852,要求把因子得分值存放到输出SAS数据集O852中。PRINT过程打印输出集O852中的三个因子得分向量。PLOT过程绘制第二因子得分对第一因子得分的散布图。,89,第八章 8.5,因子,得分,应用例子8.5,.2,的继续),proc factor data=d832 rotate=v score,n=3 out=o852;,var x1-x8;,run;,proc print data=o852;,var factor1 factor2 factor3;,run;,proc plot data=o852;,plot factor2*factor1 $ n=*/,href=0 vref=0;,run;,90,第八章 8.5,因子,得分,应用例子的继续)的输出结果,用回归法得到的因子得分系数,把30个样品的观测值代入以上因子得分函数，即得样品的因子得分(见下面).,由因子得分系数可以写出三个因子得分函数,91,第八章 8.5,因子,得分,应用例子的继续)的输出结果,30个样品的因子得,分(,m,=3),92,第八章 8.5,因子,得分,应用例子的继续)的输出结果,30个样品第一,二因子的因子,得分的散点图,93,第八章 8.6 Q型,因子,分析,根据研究对象的不同,因子分析可分为R型和Q型两种.当研究对象是变量时,属于R型因子分析,前几节讨论的都是以变量作为研究对象,在样品的基础上研究变量之间的相关关系.而变量之间的相互关系表现在原始数据矩阵的列之间,由相关阵或协差阵出发,研究变量的相关关系.,当研究对象是样品时,属于Q型因子分析,它是在变量的基础上研究样品之间的相互关系.而样品之间的相互关系则表现在原始数据矩阵的行之间.因此进行Q型因子分析时只需把在R型因子分析中的变量和样品的作用调换过来,其余处理方法是一致的,.,94,第八章 8.6 Q型,因子,分析,在进行R型因子分析时,变量间