最終更新日：2026年7月18日

ds linear-algebra math

まず結論

主成分分析（PCA：Principal Component Analysis）とは、互いに相関する複数の特徴量を、データのばらつき（分散）をできるだけ保つ少数の新しい軸へ変換する次元削減手法です。

DS検定では、次の3点を押さえます。

  • 教師なし学習であり、目的変数を使わない
  • 元の特徴量を選ぶのではなく、線形結合で新しい軸を作る
  • 第1主成分は分散が最大、第2主成分以降は前の主成分と直交する

直感的な説明

身長と体重のように、似た動きをする特徴量を考えます。

身長が高い人ほど体重も重いなら、2つの特徴量には重複した情報があります。

PCAは、この2つを別々に扱う代わりに、

身長と体重をまとめた「体格」という新しい軸を作る

ような考え方です。

データが細長く並んでいる方向へ軸を回転させると、少ない軸でもデータの特徴を表しやすくなります。

定義・仕組み

第1主成分と第2主成分

  • 第1主成分：データの分散が最も大きくなる方向
  • 第2主成分：第1主成分と直交し、その次に分散が大きい方向

主成分同士は互いに直交するため、重複した情報を持ちにくくなります。

主成分は元の特徴量の線形結合

主成分は、元の特徴量をそのまま残すのではなく、重み付きで組み合わせた新しい特徴量です。

たとえば、

第1主成分 = 0.7 × 身長 + 0.7 × 体重

のようなイメージです。

主成分得点と主成分負荷量

用語 意味
主成分得点 各データを主成分軸へ写した値
主成分負荷量 元の特徴量が各主成分へどれだけ関係するか

負荷量を見ると、主成分がどの特徴量の影響を強く受けているかを解釈できます。

寄与率

各主成分が元データの分散をどれだけ説明しているかを表す割合です。

  • 寄与率が高い主成分ほど、多くの情報を持つ
  • 累積寄与率を見て、何次元まで残すかを決める

標準化が必要になる場面

PCAは分散が大きい特徴量を重視します。

そのため、身長と年収のように単位や尺度が大きく異なる場合、そのままPCAを行うと、数値の大きい特徴量に引っ張られます。

このような場合は、平均0・標準偏差1へそろえる標準化を先に行います。

どんな場面で使う？

特徴量が多すぎるとき

次元の呪いを緩和し、計算量や過学習リスクを減らす目的で使います。

可視化したいとき

高次元データを2次元や3次元へ圧縮して、散布図などで確認します。

ノイズを減らしたいとき

寄与率の低い主成分を除くことで、細かなノイズを減らせる場合があります。

注意点

  • 主成分は解釈しにくいことがある
  • 次元削減により一部の情報は失われる
  • 非線形な構造は表しにくい
  • 教師なしなので、目的変数の予測に重要な方向とは限らない

よくある誤解・混同

PCAは特徴量選択である

誤りです。

手法 内容
特徴量選択 元の特徴量から必要なものを選ぶ
PCA 元の特徴量を組み合わせて新しい特徴量を作る

PCAは目的変数との関係を最大化する

誤りです。PCAは目的変数を使わず、説明変数側の分散を最大化します。

第1主成分は最も重要な元変数である

誤りです。第1主成分は元変数ではなく、複数の元変数の線形結合です。

次元削減しても情報は失われない

誤りです。情報をできるだけ保つ手法ですが、主成分を削れば一部の情報は失われます。

PCAとSVDは同じもの

完全に同じではありません。

  • PCA：分散が大きい方向を求める統計的な次元削減
  • SVD：行列を分解する数値計算手法

実装上、中心化したデータ行列へSVDを使ってPCAを求めることがあります。

まとめ（試験直前用）

  • PCAは教師なしの次元削減
  • 分散が最大になる方向へ新しい軸を作る
  • 第2主成分以降は前の主成分と直交
  • 元の特徴量を選ぶのではなく、線形結合で新しい特徴量を作る
  • 寄与率で残す主成分数を判断する
  • 尺度が違う場合は標準化を検討する
  • 目的変数は使わない

対応スキル項目（データサイエンス力）

  • 数理・統計基礎
  • 多変量解析
  • ★ 高次元データを少ない軸で表現する考え方を理解できる

🔗 関連記事

© 2024-2026 stemtazoo. All rights reserved.