最終更新日:2026年9月26日
gk unsupervised_learning
まず結論
- 主成分分析(PCA)とは、ラベルを使わずにデータの分散が最大となる方向(主成分)を見つけ、次元削減を行う教師なし学習手法。
- G検定では「教師ありではない」「分散最大化」「主成分は直交」を正しく判断できるかが問われる。
直感的な説明
-
たくさん点が散らばっているデータを、
- いちばん広がっている向きに眺めると
- 少ない軸でも特徴がよく分かります。
-
PCAは、 👉 データを一番“情報が多く見える向き”に回転させて、軸を減らす方法です。
定義・仕組み
-
PCAは、
- データの分散が最大になる方向を第1主成分とし
- それと直交しつつ次に分散が大きい方向を第2主成分
- …と順に主成分を求めます。
-
特徴:
- 教師なし学習
- 線形次元削減
- 主成分同士は互いに直交(無相関)
いつ使う?(得意・不得意)
使われる場面(得意)
- 前処理としての次元削減
- 可視化(2次元・3次元)
- ノイズ除去
注意点・不得意
- ラベル情報は使わない
- 線形変換なので、複雑な非線形構造の表現には限界がある
- 特徴量のスケールが分散へ影響する
PCAは「分散が大きい方向」を重視するため、単位や桁が大きく違う特徴量をそのまま使うと、その特徴量が主成分へ強く影響することがあります。
そのため、各特徴量を同程度に扱いたい場合は、PCAの前に標準化を検討します。
ただし、標準化が常に必須というわけではありません。元の分散そのものに意味がある場合など、分析目的によって判断します。
G検定ひっかけポイント
-
よくある誤り表現:
- ❌ 「教師あり学習である」
- ❌ 「ラベル情報に基づいて軸を決める」
-
正しい理解:
- 分散最大化
- 教師なし学習
-
判断基準:
- 「分散が最大」→ PCA
- 「元の特徴を選ぶ」→ 特徴量選択
- 「元の特徴を組み合わせて新しい軸」→ PCA
- 「文書・トピック・単語分布」→ Latent Dirichlet Allocation
※ LDA という略称は Latent Dirichlet Allocation と Linear Discriminant Analysis の両方に使われるため、問題文の文脈で判断します。
まとめ(試験直前用)
- PCA=教師なし次元削減
- 分散が最大の方向を探す
- 主成分は直交・無相関
- 前処理・可視化でよく使う
- ラベルは使わない
- 特徴量スケールが大きく違う場合は標準化を検討
- 選ぶ=特徴量選択、変換する=PCA
参考資料(原論文)
- On Lines and Planes of Closest Fit to Systems of Points in Space|Philosophical Magazine
- Pearson(1901)によるPCAの源流となる原論文です。点群に最もよく適合する低次元の直線・平面を求める考え方を示しています。