主成分(chéngfèn)分析的基本思想主成分(chéngfèn)的计算主成分(chéngfèn)的性质主成分(chéngfèn)分析的应用主成分(chéngfèn)回归一项十分著名的工作是美国的统计学家斯通(stone)在1947年关于国民经济的研究(yánjiū)。他曾利用美国1929一1938年各年的数据，得到了17个反映国民收入与支出的变量要素，例如雇主补贴、消费资料和生产资料、纯公共支出、净增库存、股息、利息外贸平衡等等。在进行主成分分析(fēnxī)后，竟以97.4％的精度，用三新变量就取代了原17个变量。根据经济学知识，斯通给这三个新变量分别命名为总收入F1、总收入变化率F2和经济发展趋势F3。更有意思的是，这三个变量其实都是可以直接测量的。斯通将他得到的主成分与实际测量的总收入I、总收入变化率I以及时间t因素做相关分析(fēnxī)，得到下表：主成分分析是把各变量之间互相关联的复杂关系进行简化(jiǎnhuà)分析的方法。在社会经济的研究中，为了全面系统的分析和研究问题，必须考虑许多经济指标，这些指标能从不同的侧面反映我们所研究的对象的特征，但在某种程度上存在信息的重叠，具有一定的相关性。主成分分析(fēnxī)试图在力保数据信息丢失最少的原则下，对这种多变量的截面数据表进行最佳综合简化，也就是说，对高维变量空间进行降维处理。很显然，识辨系统在一个低维空间要比在一个高维空间容易得多。其中(qízhōng)这种由讨论多个指标降为少数几个综合指标的过程在数学上就叫做降维。主成分分析通常的做法(zuòfǎ)是，寻求原指标的线性组合Fi。所以如果不对加以限制，问题就变得无意义。满足(mǎnzú)如下的条件：旋转变换的目的是为了使得(shǐde)n个样品点在Fl轴方向上的离散程度最大，即Fl的方差最大。变量Fl代表了原始数据的绝大部分信息，在研究某经济问题时，即使不考虑变量F2也无损大局。经过上述旋转变换原始数据的大部分信息集中到Fl轴上，对数据中包含的信息起到了浓缩作用。Fl，F2除了可以对包含在Xl，X2中的信息起着浓缩作用之外，还具有不相关的性质，这就使得(shǐde)在研究复杂的问题时避免了信息重叠所带来的虚假性。二维平面上的n个点的方差大部分都归结在Fl轴上，而F2轴上的方差很小。Fl和F2称为原始变量x1和x2的综合变量。F简化了系统结构，抓住了主要矛盾。§3主成分(chéngfèn)的计算观察图，我们已经把主成分F1和F2的坐标原点放在平均值所在处，从而使得F1和F2成为中心化的变量，即F1和F2的样本均值都为零。因此(yīncǐ)F1可以表示为同样，F2可以(kěyǐ)表示为求解主成分(chéngfèn)的步骤：例1下面(xiàmian)是8个学生两门课程的成绩表3.求特征值所对应(duìyìng)的单位特征向量4.得到(dédào)主成分的表达式6.比较(bǐjiào)主成分重要性身高x1(cm)1.求样本(yàngběn)均值和样本(yàngběn)协方差矩阵4.由此我们(wǒmen)可以写出三个主成分的表达式：三个主成分的方差(fānɡchà)贡献率分别为：例3对88个学生5门不同课程的考试成绩进行分析，要求用合适的方法对这5门课程成绩进行平均，以对88个学生的成绩进行评比。这5门课程是：MechanicsVectors(闭)，AlgebraAnalysisStatistics(开)。这5个主成分的方差分别(fēnbié)为679.2，199.8，102.6,83.7和31.8。前两个主成分各自的贡献率和累积贡献率为在一般(yībān)情况下，设有n个样品，每个样品观测p个指标，将原始数据排成如下矩阵：求样本均值根据累积贡献率的大小取前面m个(m<p)主成分选取(xuǎnqǔ)原则：且例4设的协方差矩阵为§4R型分析(fēnxī)为消除量纲影响，在计算之前先将原始数据标准化。标准化变量的S=R，所以用标准化变量进行主成分分析相当于从原变量的相关矩阵R出发进行主成分分析。统计学上称这种分析法为R型分析，由协方差矩阵出发的主成分分析为S型分析。S型分析和R型分析的结果是不同的。在一般情况下，若各变量的量纲不同，通常(tōngcháng)采用R型分析。§5主成分(chéngfèn)的性质第i个分量为1，其余为0同样，我们可以很容易地计算第二主成分(chéngfèn)与三个原变量之间的相关系数：二、主成分(chéngfèn)的性质总方差(fānɡchà)保持不变与的相关系数主成分分析后，若能以两个(liǎnɡɡè)主成分代表原变量大部分的信息，则我们可以在平面上分析每一个样品点。步骤如下：1、对每个样品分别求第一主成分F1和第二主成分F2的得分。2、