主成分分析 PCA：给数据做减法

一张表格有几百列，人眼看不出规律，模型也容易学歪。主成分分析能在尽量少丢信息的前提下把列数压下来。本文用“找最佳拍照角度”的类比讲清它的思路，以及降维到底丢了什么、留下了什么。

给数据找个好角度

给一尊雕塑拍照，选哪个角度最能把特征拍清楚？正侧面可能把鼻子拍没了，正面又看不出轮廓的起伏。主成分分析要解决的正是类似的问题：面对一张几百列的表格，能不能换一组坐标轴，让最重要的信息集中在少数几个方向上。

它的判断标准是方差。某个方向上数据铺得越开，说明这个方向携带的区分信息越多；反之，如果所有样本在某个方向上几乎挤在一点，那这个方向基本没用，可以丢掉。PCA 做的就是找出数据摊得最开的那个方向，把它定为第一根新坐标轴。

按重要性排队的新坐标

找完第一根轴，就在与它垂直的空间里继续找第二根，如此反复，得到一串按方差从大到小排列的新坐标轴，也就是主成分。每一根都是原始特征的某种线性组合。它们的巨大好处是彼此不相关，而原始表格里的列常常高度冗余，比如身高和体重往往一起变化。

有了这个排序，压缩就变得很简单：只保留前几个主成分，把剩下的丢掉。保留多少可以用累计解释方差来判断，常见的选择是留下能覆盖八九成信息的那几根。原本几百维的数据，往往几十维就够用，甚至降到二维、三维直接画成散点图，让人亲眼看到结构。

降维的代价

天下没有免费的午餐。新坐标轴是原始特征的混合，不再有“年龄”“收入”这样直观的名字，解释起来很费劲。如果你需要向别人说明每个特征起了多大作用，它会带来麻烦；如果你只是想压缩存储、加快训练或者去掉噪声，它的收益则相当可观。

另外要注意，它只关心方差大的方向，而方差大并不等于对任务有用。某个方向上数据铺得很开，可能只是测量噪声比较剧烈。在监督学习里更稳妥的做法是先看看降维后模型的表现有没有变差。还有一点：它擅长捕捉线性关系，遇到弯曲结构时需要换用非线性方法。

本文为 AI 科普内容，仅用于知识普及，不构成任何技术选型、投资或职业决策建议。