主成分分析、因子分析和聚类分析的联系与区别

主成分分析就是设法将原来众多具有一定相关性&＃xff08;比如P个指标&＃xff09;&＃xff0c;重新组合成一组新的互相无关的综合指标来代替原来的指标。
综合指标即为主成分。所得出的少数几个主成分&＃xff0c;要尽可能多地保留原始变量的信息&＃xff0c;且彼此不相关。

因子分析是研究如何以最少的信息丢失&＃xff0c;将众多原始变量浓缩成少数几个因子变量&＃xff0c;以及如何使因子变量具有较强的可解释性的一种多元统计分析方法。

聚类分析是依据实验数据本身所具有的定性或定量的特征来对大量的数据进行分组归类以了解数据集的内在结构&＃xff0c;并且对每一个数据集进行描述的过程。
其主要依据是聚到同一个数据集中的样本应该彼此相似&＃xff0c;而属于不同组的样本应该足够不相似。

三种分析方法既有区别也有联系&＃xff0c;本文力图将三者的异同进行比较&＃xff0c;并举例说明三者在实际应用中的联系,以期为更好地利用这些高级统计方法为研究所用有所裨益。

二、基本思想的异同

(一) 共同点

主成分分析法和因子分析法都是用少数的几个变量(因子) 来综合反映原始变量(因子) 的主要信息&＃xff0c;变量虽然较原始变量少&＃xff0c;但所包含的信息量却占原始信息的85 %以上&＃xff0c;所以即使用少数的几个新变量&＃xff0c;可信度也很高&＃xff0c;也可以有效地解释问题。并且新的变量彼此间互不相关&＃xff0c;消除了多重共线性。这两种分析法得出的新变量&＃xff0c;并不是原始变量筛选后剩余的变量。在主成分分析中&＃xff0c;最终确定的新变量是原始变量的线性组合&＃xff0c;如原始变量为x1 &＃xff0c;x2 &＃xff0c;. . . &＃xff0c;x3 &＃xff0c;经过坐标变换&＃xff0c;将原有的p个相关变量xi 作线性变换&＃xff0c;每个主成分都是由原有p 个变量线性组合得到。在诸多主成分Zi 中&＃xff0c;Z1 在方差中占的比重最大&＃xff0c;说明它综合原有变量的能力最强&＃xff0c;越往后主成分在方差中的比重也小&＃xff0c;综合原信息的能力越弱。因子分析是要利用少数几个公共因子去解释较多个要观测变量中存在的复杂关系&＃xff0c;它不是对原始变量的重新组合&＃xff0c;而是对原始变量进行分解&＃xff0c;分解为公共因子与特殊因子两部分。公共因子是由所有变量共同具有的少数几个因子&＃xff1b;特殊因子是每个原始变量独自具有的因子。
对新产生的主成分变量及因子变量计算其得分&＃xff0c;就可以将主成分得分或因子得分代替原始变量进行进一步的分析&＃xff0c;因为主成分变量及因子变量比原始变量少了许多&＃xff0c;所以起到了降维的作用&＃xff0c;为我们处理数据降低了难度。

聚类分析的基本思想是: 采用多变量的统计值&＃xff0c;定量地确定相互之间的亲疏关系&＃xff0c;考虑对象多因素的联系和主导作用&＃xff0c;按它们亲疏差异程度&＃xff0c;归入不同的分类中一元&＃xff0c;使分类更具客观实际并能反映事物的内在必然联系。也就是说&＃xff0c;聚类分析是把研究对象视作多维空间中的许多点&＃xff0c;并合理地分成若干类&＃xff0c;因此它是一种根据变量域之间的相似性而逐步归群成类的方法&＃xff0c;它能客观地反映这些变量或区域之间的内在组合关系[3 ]。聚类分析是通过一个大的对称矩阵来探索相关关系的一种数学分析方法&＃xff0c;是多元统计分析方法&＃xff0c;分析的结果为群集。对向量聚类后&＃xff0c;我们对数据的处理难度也自然降低&＃xff0c;所以从某种意义上说&＃xff0c;聚类分析也起到了降维的作用。

(二) 不同之处

主成分分析是研究如何通过少数几个主成分来解释多变量的方差一协方差结构的分析方法&＃xff0c;也就是求出少数几个主成分(变量) &＃xff0c;使它们尽可能多地保留原始变量的信息&＃xff0c;且彼此不相关。它是一种数学变换方法&＃xff0c;即把给定的一组变量通过线性变换&＃xff0c;转换为一组不相关的变量(两两相关系数为0 &＃xff0c;或样本向量彼此相互垂直的随机变量) &＃xff0c;在这种变换中&＃xff0c;保持变量的总方差(方差之和) 不变&＃xff0c;同时具有最大方差&＃xff0c;称为第一主成分&＃xff1b;具有次大方差&＃xff0c;称为第二主成分。依次类推。若共有p 个变量&＃xff0c;实际应用中一般不是找p 个主成分&＃xff0c;而是找出m (m
因子分析是寻找潜在的起支配作用的因子模型的方法。因子分析是根据相关性大小把变量分组&＃xff0c;使得同组内的变量之间相关性较高&＃xff0c;但不同的组的变量相关性较低&＃xff0c;每组变量代表一个基本结构&＃xff0c;这个基本结构称为公共因子。对于所研究的问题就可试图用最少个数的不可测的所谓公共因子的线性函数与特殊因子之和来描述原来观测的每一分量。通过因子分析得来的新变量是对每个原始变量进行内部剖析。因子分析不是对原始变量的重新组合&＃xff0c;而是对原始变量进行分解&＃xff0c;分解为公共因子和特殊因子两部分。具体地说&＃xff0c;就是要找出某个问题中可直接测量的具有一定相关性的诸指标&＃xff0c;如何受少数几个在专业中有意义、又不可直接测量到、且相对独立的因子支配的规律&＃xff0c;从而可用各指标的测定来间接确定各因子的状态。因子分析只能解释部分变异&＃xff0c;主成分分析能解释所有变异。

聚类分析算法是给定m 维空间R 中的n 个向量&＃xff0c;把每个向量归属到k 个聚类中的某一个&＃xff0c;使得每一个向量与其聚类中心的距离最小。聚类可以理解为: 类内的相关性尽量大&＃xff0c;类间相关性尽量小。聚类问题作为一种无指导的学习问题&＃xff0c;目的在于通过把原来的对象集合分成相似的组或簇&＃xff0c;来获得某种内在的数据规律。

从三类分析的基本思想可以看出&＃xff0c;聚类分析中并没于产生新变量&＃xff0c;但是主成分分析和因子分析都产生了新变量。

三、数据标准化的比较

主成分分析中为了消除量纲和数量级&＃xff0c;通常需要将原始数据进行标准化&＃xff0c;将其转化为均值为0方差为1 的无量纲数据。
而因子分析在这方面要求不是太高&＃xff0c;因为在因子分析中可以通过主因子法、加权最小二乘法、不加权最小二乘法、重心法等很多解法来求因子变量&＃xff0c;
并且因子变量是每一个变量的内部影响变量&＃xff0c;它的求解与原始变量是否同量纲关系并不太大&＃xff0c;当然在采用主成分法求因子变量时&＃xff0c;仍需标准化。
不过在实际应用的过程中&＃xff0c;为了尽量避免量纲或数量级的影响&＃xff0c;建议在使用因子分析前还是要进行数据标准化。在构造因子变量时采用的是主成分分析方法&＃xff0c;
主要将指标值先进行标准化处理得到协方差矩阵&＃xff0c;即相关矩阵和对应的特征值与特征向量&＃xff0c;然后构造综合评价函数进行评价。

聚类分析中如果参与聚类的变量的量纲不同会导致错误的聚类结果。因此在聚类过程进行之前必须对变量值进行标准化&＃xff0c;即消除量纲的影响。
不同方法进行标准化&＃xff0c;会导致不同的聚类结果要注意变量的分布。如果是正态分布应该采用z 分数法。

四、应用中的优缺点比较

(一) 主成分分析

1、优点

首先它利用降维技术用少数几个综合变量来代替原始多个变量&＃xff0c;这些综合变量集中了原始变量的大部分信息。其次它通过计算综合主成分函数得分&＃xff0c;对客观经济现象进行科学评价。
再次它在应用上侧重于信息贡献影响力综合评价。

2、缺点

当主成分的因子负荷的符号有正有负时&＃xff0c;综合评价函数意义就不明确。命名清晰性低。

(二) 因子分析

1、优点

第一它不是对原有变量的取舍&＃xff0c;而是根据原始变量的信息进行重新组合&＃xff0c;找出影响变量的共同因子&＃xff0c;化简数据&＃xff1b;第二&＃xff0c;它通过旋转使得因子变量更具有可解释性&＃xff0c;命名清晰性高。

2、缺点

在计算因子得分时&＃xff0c;采用的是最小二乘法&＃xff0c;此法有时可能会失效。

(三) 聚类分析

1、优点

聚类分析模型的优点就是直观&＃xff0c;结论形式简明。

2、缺点

在样本量较大时&＃xff0c;要获得聚类结论有一定困难。由于相似系数是根据被试的反映来建立反映被试间内在联系的指标&＃xff0c;
而实践中有时尽管从被试反映所得出的数据中发现他们之间有紧密的关系&＃xff0c;但事物之间却无任何内在联系&＃xff0c;此时&＃xff0c;如
果根据距离或相似系数得出聚类分析的结果&＃xff0c;显然是不适当的&＃xff0c;但是&＃xff0c;聚类分析模型本身却无法识别这类错误。