应用概率统计之因子分析

Click to edit Master title style,Click to edit Master text styles,Second level,Third level,Fourth level,Fifth level,*,*,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,*,本资料来源,1,因,子,子,分,分,析,析,2,1,引,言,言,因,子,子,分,分,析,析(factoranalysis),是,是,一,一,种,种,用,用,来,来,分,分,析,析,隐,隐,藏,藏,在,在,表,表,象,象,背,背,后,后,的,的,因,因,子,子,作,作,用,用,的,的,一,一,类,类,统,统,计,计,模,模,型,型,和,和,方,方,法,法,。,。,它,它,通,通,过,过,研,研,究,究,众,众,多,多,变,变,量,量,之,之,间,间,的,的,内,内,部,部,依,依,赖,赖,关,关,系,系,，,，,探,探,求,求,观,观,测,测,数,数,据,据,的,的,基,基,本,本,结,结,构,构,，,，,并,并,用,用,少,少,数,数,几,几,个,个,不,不,可,可,观,观,测,测,的,的,所,所,谓,谓公,共,共,因,因,子,子的,线,线,性,性,组,组,合,合,与,与特,殊,殊,因,因,子,子之,和,和,来,来,描,描,述,述,原,原,来,来,观,观,测,测,的,的,每,每,一,一,分,分,量,量,。,。,3,例,如,如，,为,为,了,了,了,了,解,解,学,学,生,生,的,的,各,各,种,种,数,数,学,学,能,能,力,力,，,，,分,分,别,别,进,进,行,行,了,了,加,加,减,减,、,、,乘,乘,除,除,、,、,代,代,数,数,、,、,几,几,何,何,和,和,微,微,积,积,分,分,的,的,测,测,验,验,，,，,相,相,应,应,成,成,绩,绩,分,分,别,别,记,记,为,为,：,：T,1,T,5,。,对,对,这,这,些,些,成,成,绩,绩,进,进,行,行,归,归,纳,纳,分,分,析,析,，,，,找,找,出,出,与,与,学,学,生,生,的,的,各,各,种,种,数,数,学,学,能,能,力,力,有,有,关,关,的,的,内,内,在,在,的,的,不,不,可,可,测,测,的,的,公,公,共,共,因,因,子,子,，,，,如,如,空,空,间,间,因,因,子,子,、,、,记,记,忆,忆,因,因,子,子,、,、,归,归,纳,纳,因,因,子,子,、,、,演,演,绎,绎,因,因,子,子,，,，,分,分,别,别,记,记,作,作,：,：F,1,F,4,。,用,用,这,这,些,些,不,不,可,可,测,测,的,的,相,相,互,互,独,独,立,立,的,的,公,公,共,共,因,因,子,子,和,和,各,各,自,自,的,的,特,特,殊,殊,因,因,子,子,（,（,分,分,别,别,记,记,作,作,：,：,1,5,）,来,来,描,描,述,述,原,原,来,来,可,可,测,测,的,的,相,相,互,互,关,关,联,联,的,的,变,变,量,量,，,，,并,并,解,解,释,释,分,分,析,析,学,学,生,生,的,的,数,数,学,学,能,能,力,力,。,。,4,主,成,成,分,分,分,分,析,析,与,与,因,因,子,子,分,分,析,析,的,的,不,不,同,同,：,：主,成,成,分,分,分,分,析,析,仅,仅,仅,仅,是,是,变,变,量,量,变,变,换,换,，,，,而,而,因,因,子,子,分,分,析,析,需,需,要,要,构,构,造,造,因,因,子,子,模,模,型,型,。,。,主,成,成,分,分,分,分,析,析,：,：,原,原,始,始,变,变,量,量,的,的,线,线,性,性,组,组,合,合,表,表,示,示,新,新,的,的,综,综,合,合,变,变,量,量,，,，,即,即,主,主,成,成,分,分,；,；,因,子,子,分,分,析,析,：,：,潜,潜,在,在,的,的,假,假,想,想,变,变,量,量,和,和,随,随,机,机,影,影,响,响,变,变,量,量,的,的,线,线,性,性,组,组,合,合,表,表,示,示,原,原,始,始,变,变,量,量,。,。,5,2,因,子,子,分,分,析,析,模,模,型,型,6,一、数学,模,模型,矩阵形式,：,：,公共因子,：,：y,1,y,m,;,特殊因子,：,：,7,所谓因子,分,分析，就,是,是从可以,观,观测的变,量,量x,1,x,p,给出的样,本,本数据中,，,，求出载,荷,荷矩阵A,，,，预测出,公,公共因子y,1,y,m,.,a,ij,：（公共,）,）因子载,荷,荷（量）,，,，表明x,i,与y,j,的相依程,度,度。,A：公共,因,因子载荷,阵,阵。,8,二、因,子,子载荷矩,阵,阵中的几,个,个统计特,征,征,1、因子,载,载荷a,ij,的统计意,义,义,因子载荷,a,ij,是第,i,个变量与,第,第,j,个公共因,子,子的相关,系,系数,，也叫做,权,权，表明,x,i,依赖,y,j,的份量。,9,2、变量,共,共同度的,统,统计意义,定义：变,量,量,x,i,的共同度,是,是因子载,荷,荷矩阵的,第,第,i,行的元素,的,的平方和,。,。记为,统计意义,：,10,所有的公,共,共因子和,特,特殊因子,对,对变量,x,i,的贡献为1。,越大，说,明,明,x,i,对各公共,因,因子的共,同,同依赖程,度,度越大，,故,故称为,x,i,的共同度,。,。,即：,11,3、公共,因,因子,y,j,方差贡献,的,的统计意,义,义,因子载荷,矩,矩阵中各,列,列元素的,平,平方和,是第,j,个公共因,子,子,y,j,对于x的,各,各个分量,x,1,x,p,所提供方,差,差总和，,是,是衡量公,共,共因子相,对,对重要性,的,的指标。,12,3 因,子,子载荷矩,阵,阵的估计,方,方法,设随机向,量,量,协方差（,相,相关阵）,为,为R，则,（一）主,成,成份分析,法,法,设,为R,的特征根,，,，,为对应的,正,正交标准,化,化特征向,量,量，则,13,14,15,注意到因,子,子分析的,目,目的是寻,求,求少数几,个,个公共因,子,子，故略,去,去后面的p-m项,的,的贡献。,同,同时,假定模型,中,中的特殊,因,因子是不,重,重要的，,因,因而从R,的分解中,忽,忽略特殊,因,因子的方,差,差，即有,16,主成份,法,法估计,载,载荷矩,阵,阵的基,本,本步骤,：,：,1、计,算,算样本,相,相关阵,；,；,2、计,算,算,的,的,特,特征值,及,及,相,相应的,标,标准正,交,交特征,向,向量,3、给,定,定公共,因,因子数m(p),，,，因子,载,载荷阵,的,的估计,为,为,4、特,殊,殊因子,方,方差阵,的,的估计,：,：,主成份,法,法相当,于,于用前m个主,成,成份去,表,表示m,个,个潜在,的,的因子,。,。,17,公共因,子,子个数,的,的确定,方,方法：,取m，,使,使R-AA,T,接近对,角,角阵；,取m，,使,使,取m，,使,使,18,（,二）极,大,大似然,估,估计法,如果假,定,定公共,因,因子y,和,和特殊,因,因子,服从,正,正态分,布,布，那,么,么可以,得,得到因,子,子载荷,和,和特殊,因,因子方,差,差的极,大,大似然,估,估计。,设,设,为,为来,自,自正态,总,总体N,p,(,V)的,随,随机样,本,本。,19,它通过,依赖,和,。上式,并,并不能,唯,唯一确,定,定,为,为此可,添,添加一,个,个唯一,性,性条件,：,：,这里,式,式一个,对,对角矩,阵,阵，用,数,数值极,大,大化的,方,方法可,以,以得,到极大,似,似然估,计,计,。,。极大,似,似然估,计,计,将使,为,为,对,对角阵,，,，且似,然,然函数,达,达到最,大,大。,20,例假定某,地,地固定,资,资产投,资,资率x,1,，通货,膨,膨胀率x,2,，失业,率,率x,3,，相关,系,系数矩,阵,阵为,试用主,成,成分分,析,析法求,因,因子分,析,析模型,。,。,21,特征根,为,为：,22,可取前,两,两个因,子,子y,1,和y,2,为公共,因,因子，,第,第一公,因,因子y,1,物价就,业,业因子,，,，对X,的,的贡献,为,为1.55。,第,第二公,因,因子y,2,为投资,因,因子，,对,对X的,贡,贡献为0.85。共,同,同度分,别,别为1,，,，0.706,，,，0.706,。,。,23,4,因子旋,转,转（正,交,交变换,）,）,建立了,因,因子分,析,析数学,目,目的不,仅,仅仅要,找,找出公,共,共因子,以,以及对,变,变量进,行,行分组,，,，更重,要,要的要,知,知道每,个,个公共,因,因子的,意,意义，,以,以便进,行,行进一,步,步的分,析,析，如,果,果每个,公,公共因,子,子的含,义,义不清,，,，则不,便,便于进,行,行实际,背,背景的,解,解释。,由,由于因,子,子载荷,阵,阵是不,惟,惟一的,，,，所以,需,需要对,因,因子载,荷,荷阵进,行,行旋转,，,，使载,荷,荷矩阵,每,每列或,行,行的元,素,素平方,值,值向0,和,和1两,极,极分化,。,。,（一）,为,为什么,要,要旋转,因,因子,24,百米跑,成,成绩X,1,；,跳,跳,远,远成绩X,2,；,铅球成,绩,绩X,3,；,跳,跳高,成,成绩X,4,；,400,米跑成,绩,绩X,5,；,百,百米,跨,跨栏X,6,；,铁饼成,绩,绩X,7,；,撑,撑杆,跳,跳远成,绩,绩X,8,；,标枪成,绩,绩X,9,；,1500,米跑成,绩,绩X,10,奥运会,十,十项全,能,能运动,项,项目,得分数,据,据的因,子,子分析,25,26,27,因子载,荷,荷矩阵,可,可以看,出,出，除,第,第一因,子,子在所,有,有的变,量,量在公,共,共因子,上,上有较,大,大的正,载,载荷，,可,可以称,为,为一般,运,运动因,子,子。其,他,他的,3,个因子,不,不太容,易,易解释,。,。似乎,是,是跑和,投,投掷的,能,能力对,比,比,，,似乎是,长,长跑耐,力,力和短,跑,跑速度,的,的对比,。,。于是,考,考虑旋,转,转因子,，,，得下,表,表,28,29,通过旋,转,转，因,子,子有了,较,较为明,确,确的含,义,义。百,米,米跑（X,1,），跳,远,远（X,2,）和400米,跑,跑（X,5,），需,要,要爆发,力,力的项,目,目在F,1,有较大,的,的载荷,，,，可以,称,称为短,跑,跑速度,因,因子；,铅球（X,3,），铁饼（X,7,）和标枪（X,9,）在F,2,上有较大的,载,载荷，可以,称,称为爆发性,臂,臂力因子；,百米跨栏（X,6,），撑杆跳,远,远（X,8,），跳远（X,2,）和跳高（X,4,）在 F,2,上有较大的,载,载荷，可以,称,称为爆发腿,力,力因子；F,4,为长跑耐力,因,因子。,30,变换后因子,的,的共同度,设,正交矩阵,，,，做正交变,换,换,变换后因子,的,的共同度没,有,有发生变化,！,！,（二）旋转,方,方法,31,变换后因子,贡,贡献,变换后因子,的,的贡献发生,了,了变化！,32,1、方差最,大,大法,方差最大法,从,从简化因子,载,载荷矩阵的,每,每一列出发,，,，使和每个,因,因子有关的,载,载荷的平方,的,的方差最大,。,。当只有少,数,数几个变量,在,在某个因子,上,上有较高的,载,载荷时，对,因,因子的解释,最,最简单。方,差,差最大的直,观,观意义是希,望,望通过因子,旋,旋转后，使,每,每个因子上,的,的载荷尽量,拉,拉开距离，,一,一部分的载,荷,荷趋于,1，另一,部,部分趋于0,。,。,33,34,35,