最終更新日:2026年10月22日
ds linear-algebra math
まず結論
主成分分析(PCA:Principal Component Analysis)とは、互いに相関する複数の特徴量を、データのばらつき(分散)をできるだけ保つ少数の新しい軸へ変換する次元削減手法です。
DS検定では、次の3点を押さえます。
- 教師なし学習であり、目的変数を使わない
- 元の特徴量を選ぶのではなく、線形結合で新しい軸を作る
- 第1主成分は分散が最大、第2主成分以降は前の主成分と直交する
このページでは、寄与率の表から残す軸数を選び、主成分得点と負荷量が何を表すかを読み分けるところまで確認します。
直感的な説明
身長と体重のように、似た動きをする特徴量を考えます。
身長が高い人ほど体重も重いなら、2つの特徴量には重複した情報があります。
PCAは、この2つを別々に扱う代わりに、
身長と体重をまとめた「体格」という新しい軸を作る
ような考え方です。
データが細長く並んでいる方向へ軸を回転させると、少ない軸でもデータの特徴を表しやすくなります。
定義・仕組み
PCAでは第1主成分と第2主成分をどう決める?
PCAでは、第1主成分をデータの分散が最も大きくなる方向として決めます。第2主成分は、第1主成分と直交する方向のうち、その次に分散が大きくなる方向です。
主成分同士は互いに直交するため、重複した情報を持ちにくくなります。
PCAの主成分とは?
PCAの主成分は、元の特徴量を重み付きで組み合わせた新しい特徴量です。元の特徴量をそのまま選んで残すものではありません。
たとえば、
第1主成分 = 0.7 × 身長 + 0.7 × 体重
のようなイメージです。
主成分得点と主成分負荷量の違いは?
PCAでは、主成分得点は各データを主成分軸へ写した値、主成分負荷量は元の特徴量と主成分との関係を表す値として区別します。
| 用語 | 意味 | 設備データで読むなら |
|---|---|---|
| 主成分得点 | 各データを主成分軸へ写した値 | 設備A・設備Bなど、各設備が新しい軸のどこに位置するか |
| 主成分負荷量 | 元の特徴量が各主成分へどれだけ関係するか | 温度・振動などが、その主成分とどのように関係するか |
負荷量を見ると、主成分がどの特徴量の影響を強く受けているかを解釈できます。
「設備ごとの値を比べたい」なら得点、「その軸が何を表すか考えたい」なら負荷量を見ます。ただし、得点が大きいだけで設備の異常とは判断できません。正常時の分布など、別の判断根拠が必要です。
PCAの寄与率とは?
PCAの寄与率は、各主成分が元データの分散をどれだけ説明しているかを表す割合です。
- 寄与率が高い主成分ほど、多くの情報を持つ
- 累積寄与率を見て、何次元まで残すかを決める
寄与率の表から残す軸数を選ぶ
温度・振動・電流・回転数の4特徴量を標準化し、PCAを行ったとします。次の数値は、読み方を練習するための説明用の仮定です。
| 主成分 | 寄与率 | 累積寄与率 |
|---|---|---|
| 第1主成分 | 60% | 60% |
| 第2主成分 | 25% | 85% |
| 第3主成分 | 10% | 95% |
| 第4主成分 | 5% | 100% |
この分析では、「累積寄与率90%以上を満たす最少の軸数を残す」と決めたとします。
- 2軸まで:60% + 25% = 85%で、条件に届かない
- 3軸まで:60% + 25% + 10% = 95%で、条件を満たす
したがって、第1〜第3主成分の3軸を残します。元の特徴量を3個選ぶのではなく、4特徴量を組み合わせた新しい3軸へ変換します。
90%は、この例で置いた条件です。例えば条件を80%以上に変えれば2軸で満たします。実際の分析では、利用目的や解釈のしやすさ、後続の分析結果も考慮し、90%を一律の基準にはしません。
PCAでは標準化が必要?
PCAでは、特徴量の単位や尺度が大きく異なる場合に標準化を検討します。PCAは分散が大きい特徴量を重視するためです。
そのため、身長と年収のように単位や尺度が大きく異なる場合、そのままPCAを行うと、数値の大きい特徴量に引っ張られます。
このような場合は、平均0・標準偏差1へそろえる標準化を先に行います。
どんな場面で使う?
特徴量が多すぎるとき
PCAは、特徴量が多すぎるデータの次元を減らし、計算量や過学習リスクを抑えたい場面で使われます。
高次元データを可視化したいとき
PCAは、高次元データを2次元や3次元へ圧縮し、散布図などでデータの傾向を確認したい場面で使われます。
ノイズを減らしたいとき
PCAでは、寄与率の低い主成分を除くことで、細かなノイズを減らせる場合があります。
注意点
- 主成分は解釈しにくいことがある
- 次元削減により一部の情報は失われる
- 非線形な構造は表しにくい
- 教師なしなので、目的変数の予測に重要な方向とは限らない
よくある誤解・混同
PCAは特徴量選択である?
誤りです。PCAは特徴量選択ではなく、元の特徴量を組み合わせて新しい特徴量を作る特徴量抽出の手法です。
| 手法 | 内容 |
|---|---|
| 特徴量選択 | 元の特徴量から必要なものを選ぶ |
| PCA | 元の特徴量を組み合わせて新しい特徴量を作る |
PCAは目的変数との関係を最大化する?
誤りです。PCAは目的変数を使わず、説明変数側の分散が大きくなる方向を求めます。
第1主成分は最も重要な元変数である?
誤りです。PCAの第1主成分は元変数そのものではなく、複数の元変数の線形結合です。
PCAで次元削減しても情報は失われない?
誤りです。PCAは情報をできるだけ保ちながら次元を減らしますが、主成分を削れば一部の情報は失われます。
PCAとSVDは同じもの?
PCAとSVDは同じものではありません。
- PCA:分散が大きい方向を求める統計的な次元削減
- SVD:行列を分解する数値計算手法
実装上、中心化したデータ行列へSVDを使ってPCAを求めることがあります。
累積寄与率95%なら予測が95%当たる?
累積寄与率は予測の正解率ではありません。 残した主成分が、PCAに入力したデータの分散をどれだけ表すかを示します。上の設備データの例なら、標準化した4特徴量の分散が対象です。
PCAは目的変数を使わないので、分散を多く保てても、予測に重要な情報が残るとは限りません。回帰モデルの目的変数に対する説明力を表す決定係数とも、何のばらつきを見ているかを分けて考えます。
読み取りの確認(オリジナル)
上の設備データの表について、次の2点を考えてみましょう。
- 累積寄与率90%以上を満たす最少の軸数を残すとき、「第2主成分の25%」と「第2主成分までの85%」のどちらを使うか。
- 各設備を新しい軸の値で比べたいとき、主成分得点と負荷量のどちらを見るか。
答えと理由を見る
- 累積寄与率の85%を使います。90%に届かないため、第3主成分までの95%を確認して3軸を残します。第2主成分だけの25%と、それまでの合計を混同しません。
- 主成分得点を見ます。設備ごとの新しい軸上の値だからです。負荷量は、温度・振動などの元の特徴量と主成分との関係を読み、軸の意味を考えるときに使います。
まとめ(試験直前用)
- PCAは教師なしの次元削減
- 分散が最大になる方向へ新しい軸を作る
- 第2主成分以降は前の主成分と直交
- 元の特徴量を選ぶのではなく、線形結合で新しい特徴量を作る
- 寄与率で残す主成分数を判断する
- 尺度が違う場合は標準化を検討する
- 目的変数は使わない
公式情報・参考リンク
- Pearson|On Lines and Planes of Closest Fit to Systems of Points in Space
- PCAの源流となる原典です。多次元の点群を、情報をよく表す低次元の直線・平面で近似する考え方を示しています。
- scikit-learn|PCA
- PCAの現在の代表的な実装です。中心化、成分数、説明分散比など、実務で確認したい項目を確認できます。
対応スキル項目(データサイエンス力)
- 数理・統計基礎
- 多変量解析
- ★ 高次元データを少ない軸で表現する考え方を理解できる
🔗 関連記事
- eの微分・積分を最短で整理【DS検定リテラシー】
- 行列の固有値とは?意味を直感で整理【DS検定】
- ユーグリッドノルムとは?(ベクトルの長さの測り方)【DS検定】
- 逆行列とは何か?求め方と意味をやさしく整理【DS検定】
- 行列の掛け算とは?(行列同士の掛け算)【DS検定リテラシー】