第04章主成分分析.ppt

文 档 名
总体主成分
如果第一主成分 还不足以反映原变量的信息，进一步求 。
在约束条件
求使 达到最大。

第二主成分：
依次类推……
总体主成分的求法
设 是 的协方差矩阵， 的特征值及相应的正交单位化特征向量分别为 及
，则 的第 个主成分为
其中 。易见：
事实上，令 ，则 为一正交矩阵，且
总体主成分的求法
设 为X的第一主成分，其中 。令
则
并且当 时，等号成立。这时
总体主成分的求法
在约束条件 下，当 时， 达到最大，且
设 为X的第二主成分，则有
即有
且
总体主成分的求法
令

则有
从而
并且当 ，即 时， 。由此知，当 时，满足 ， 且使
达到最大。
总体主成分的性质
主成分的协方差矩阵及总方差
记 为主成分向量，则 ，其中
，且
由此得主成分的方差为
总体主成分的性质
第 个主成分 的贡献率：
前 个主成分的累计贡献率：
总体主成分的性质
主成分 与变量 的相关系数
由于 ，故 ，从而

由此可得 与 的相关系数为
各主成分与原始变量间的相关系数
原
变
量
主
成
分