主成分分析法介绍【高等教育】

主成分分析方法 我们进行系统分析评估或医学上因子分析等时，多变量问题是经常会遇到的。变量太多，无疑会增加分析问题的难度与复杂性，而且在许多实际问题中，多个变量之间是具有一定的相关关系的。因此，我们就会很自然地想到，能否在各个变量之间相关关系研究的基础上，用较少的新变量代替原来较多的变量，而且使这些较少的新变量尽可能多地保留原来较多的变量所反映的信息？事实上，这种想法是可以实现的，本节拟介绍的主成分分析方法就是综合处理这种问题的一种强有力的方法。第一节 主成分分析方法的原理主成分分析是把原来多个变量化为少数几个综合指标的一种统计分析方法，从数学角度来看，这是一种降维处理技术。假定有n样本，每个样本共有p个变量描述，这样就构成了一个np阶的数据矩阵： (1)如何从这么多变量的数据中抓住事物的内在规律性呢？要解决这一问题，自然要在p维空间中加以考察，这是比较麻烦的。为了克服这一困难，就需要进行降维处理，即用较少的几个综合指标来代替原来较多的变量指标，而且使这些较少的综合指标既能尽量多地反映原来较多指标所反映的信息，同时它们之间又是彼此独立的。那么，这些综合指标（即新变量)应如何选取呢？显然，其最简单的形式就是取原来变量指标的线性组合，适当调整组合系数，使新的变量指标之间相互独立且代表性最好。如果记原来的变量指标为，它们的综合指标新变量指标为，（mp)。则在（2)式中，系数lij由下列原则来决定：（1)zi与zj（ij；i，j=1，2，m)相互无关；（2)z1是x1，x2，xp的一切线性组合中方差最大者；z2是与z1不相关的x1，x2，xp的所有线性组合中方差最大者；zm是与z1，z2，zm-1都不相关的x1，x2，xp的所有线性组合中方差最大者。且（2）式要求：这样决定的新变量指标z1，z2，zm分别称为原变量指标x1，x2，xp的第一，第二，第m主成分。其中，z1在总方差中占的比例最大，z2，z3，zm的方差依次递减。在实际问题的分析中，常挑选前几个最大的主成分，这样既减少了变量的数目，又抓住了主要矛盾，简化了变量之间的关系。从以上分析可以看出，找主成分就是确定原来变量xj（j=1，2，p)在诸主成分zi（i=1，2，m)上的载荷lij（i=1，2，m；j=1，2，p)。同时，不是别的，而恰好是x1，x2，xp的相关矩阵的特征值所对应的特征向量。且z1方差取到最大就是x1，x2，xp相关矩阵在第一个特征值所对应特征向量处达到。zm方差取到最大就是x1，x2，xp相关矩阵在第m个特征值所对应特征向量处达到。第二节 主成分分析的解法主成分分析的计算步骤通过上述主成分分析的基本原理的介绍，我们可以把主成分分析计算步骤归纳如下：（1)计算相关系数矩阵 (3)在公式（3)中，（i，j=1，2，p)为原来变量与的相关系数，其计算公式为.(4)因为R是实对称矩阵（即rij=rji)，所以只需计算其上三角元素或下三角元素即可。（2)计算特征值与特征向量首先解特征方程I-R=0求出特征值i（i=1，2，p)，并使其按大小顺序排列，即12，p0；然后分别求出对应于特征值i的特征向量ei（i=1，2，p)。（3)计算主成分贡献率及累计贡献率。一般取累计贡献率达85-95的特征值，所对应的第一，第二，第m（mp)个主成分。（4)计算主成分得分矩阵由此可以进一步计算主成分得分矩阵：Z= （5）进一步还可以根据式：计算各主成分得分：（6）和总得分： （7）主成分分析应用实例实证研究1本文是对实施西部大开发以来的经济增长状况作实证研究,把西部地区10个省（自治区、直辖市）的经济增长状况作为研究对象集,即= 重庆， 四川，贵州，云南，西藏，陕西，甘肃，青海，宁夏，新疆 选取17个经济指标值：即：地区生产总值、财政收入、固定资产投资、城市用水普及率、城市燃气普及率、每万人拥有交通公共车辆、人均城市道路面积、普通高等学校数、每千人医疗卫生机构床位数、居民收入与消费指标等17个经济指标。进行主成分分析：西部地区2011横向因子分析解释的总方差 成份初始特征值提取平方和载入旋转平方和载入合计 方差的 %累积 %合计方差的 %累积 %合计方差的 %累积 %17.30242.95142.9517.30242.95142.9516.51538.32138.32124.57626.91669.8674.57626.91669.8673.78222.24960.57032.13012.52782.3942.13012.52782.3943.71021.82482.394主成分载荷量表：西部地区2011年横向主成分.173-.070.045-.019.186.110.151-.012.002.172-.064.041-.012-.042.240.028.085.199.091-.136.294-.041.100.093.163-.071.016.037-.073.258-.022.261-.021-.003.232-.140-.098.330-.115.066.056.050.138-.021-.015.152-.005.034.086.025.006主成分得分函数：各地区主成分得分表：因子得分因子得分因子得分因子综合得分排名 重庆3.64490.96090.2711 2.00333 四 川6.50260.29980.3145 3.15201 贵 州1.81520.63920.0258 1.01195 云 南1.76720.78210.1428 1.05874 西 藏0.03610.8579-0.0085 0.243410 陕 西3.63850.87690.4434 2.02302 甘 肃1.48140.70160.0619 0.88467 青 海0.33211.08810.1317 0.47769 宁 夏0.74641.22180.2191 0.72678 新 疆1.42300.97650.2779 0.98776第一类主成分：经济实力、社会基础以及对外开程度是影响经济增长的主要因素(地区生产总值、财政收入、固定资产投资、普通高校数、客运量和货运量 等)第二类主成分：居民消费水平、城镇居民人均可支配收入、人均公园绿地面积、人均生产总值。第三类主成分有：城市用水普及率、城市燃气普及率、每万人拥有交通公共车辆数、每千人医疗卫生机构床位数等 。 例：投资项目的风险评估模型现在针对具体的综合投资项目，假设请N名专家对可能次年在的M项风险指标进行打分评估，采用10分制，分支越低，风险越小。具体打分数据统计表形式如表5-13所示：某项目投资分先评估打分表风险指标专家序号政策风险技术风险市场风险管理风险环境风险1684432573523492714464835753526364837545638764239474611067554Matlab命令窗口中输入语句：p=6 8 4 4 3;4 9 2 7 1;princomp(p)风险指标特征值方差贡献率（%）累计贡献率（%）15.059255.655.62 2.612228.7184.313 0.954410.4994.804 0.35733.9298.725 0.11681.28100从上表可知，前3个主成分的累计贡献率达到94.8%，因此取前三个主成分：所以最终风险综合评估函数： 主成分分析实例2对于某区域地貌-水文系统，其57个流域盆地的九项地理要素：x1为流域盆地总高度（m)x2为流域盆地山口的海拔高度（m)，x3为流域盆地周长（m)，x4为河道总长度（km)，x5为河等表2-14 某57个流域盆地地理要素数据道总数，x6为平均分叉率，x7为河谷最大坡度（度)，x8为河源数及x9为流域盆地面积（km2)的原始数据如表2-14所示。张超先生（1984)曾用这些地理要素的原始数据对该区域地貌-水文系统作了主成分分析。下面，我们将其作为主成分分析方法在地理学研究中的一个应用实例介绍给读者，以供参考。表2-15相关系数矩阵（1)首先将表2-14中的原始数据作标准化处理，由公式（4)计算得相关系数矩阵（见表2-15)。（2)由相关系数矩阵计算特征值，以及各个主成分的贡献率与累计贡献率（见表2-16)。由表2-16可知，第一，第二，第三主成分的累计贡献率已高达86.5，故只需求出第一，第二，第三主成分z1，z2，z3即可。表2-16 特征值及主成分贡献率（3)对于特征值1=5.043，2=1.746，3=0.997分别求出其特征向量e1，e2，e3，并计算各变量x1，x2，x9在各主成分上的载荷得到主成分载荷矩阵（见表2-17)。表2-17 主成分载荷矩阵从表2-17可以看出，第一主成分z1与x1，x3，x4，x5，x8，x9有较大的正相关，这是由于这六个地理要素与流域盆地的规模有关，因此第一主成分可以被认为是流域盆地规模的代表：第二主成分z2与x2有较大的正相关，与x7有较大的负相关，而这两个地理要素是与流域切割程度有关的，因此第二主成分可以被认为是流域侵蚀状况的代表；第三主成分z3与x6有较大的正相关，而地理要素x6是流域比较独立的特性河系形态的表征，因此，第三主成分可以被认为是代表河系形态的主成分。以上分析结果表明，根据主成分载荷，该区域地貌-水文系统的九项地理要素可以被归为三类，即流域盆地的规模，流域侵蚀状况和流域河系形态。如果选取其中相关系数绝对值最大者作为代表，则流域面积，流域盆地出口的海拔高度和分叉率可作为这三类地理要素的代表，利用这三个要素代替原来九个要素进行区域地貌-水文系统分析，可以使问题大大地简化。15教辅工具b