最終更新日:2026年10月7日
ds linear-algebra math
まず結論
固有値は、行列をかけた結果が元の非零ベクトルの定数倍になるときの、その倍率です。その特別なベクトルを固有ベクトルと呼びます。
正の固有値では同じ向きに伸縮し、負では反転し、0ではゼロベクトルになります。PCAでは、共分散行列の固有ベクトルが主成分の方向、固有値がその方向の分散を表します。
直感的な説明
次の行列は、横方向を2倍、縦方向を1倍にする変換です。
\[A = \begin{pmatrix} 2 & 0 \\ 0 & 1 \end{pmatrix}\]- 横方向のベクトル $(1, 0)$ は $(2, 0)$ になるので、固有値は2。
- 縦方向のベクトル $(0, 1)$ は変わらないので、固有値は1。
横・縦以外のベクトルは、行列をかけると向きが変わる場合があります。例えば $(1, 1)$ は $(2, 1)$ となり、元のベクトルの定数倍ではありません。
固有ベクトルは、変換によって一般に向きが変わるベクトルの中で、結果が元のベクトルの定数倍になる特別なベクトルです。
定義・仕組み
固有値と固有ベクトルの関係
正方行列Aと、ゼロではないベクトルvについて、
\[Av = \lambda v\]を満たすとき、λが固有値、vが対応する固有ベクトルです。ゼロベクトルはどのλでも式を満たしてしまうため、固有ベクトルから除きます。
実数の固有値について、変換の意味は次のように整理できます。
| 固有値λ | 変換の意味 |
|---|---|
| λ > 1 | 同じ向きに伸びる |
| 0 < λ < 1 | 同じ向きに縮む |
| λ = 1 | 変わらない |
| λ < 0 | 反対向きになり、長さは元の$\lvert\lambda\rvert$倍 |
| λ = 0 | ゼロベクトルになる |
一般の実行列では複素数の固有値を持つ場合もあります。PCAで使う共分散行列の固有値は実数かつ非負なので、まずは分散の大きさとして理解できます。
2×2行列での求め方
固有値は、単位行列Iを使った次の式から求めます。
\[\det(A - \lambda I) = 0\]例えば、
\[A = \begin{pmatrix} a & b \\ c & d \end{pmatrix}\]なら、
\[(a-\lambda)(d-\lambda)-bc=0\]となります。計算方法に加えて、得られた固有値がどのベクトルの倍率なのかを確認することが大切です。
どんな場面で使う?
PCAでばらつきの方向を見つける
共分散行列の固有ベクトルは、主成分の方向を表します。対応する固有値は、単位長のその方向へデータを射影したときの分散です。
固有値が大きい主成分ほど、データのばらつきを多く表します。ただし、大きなばらつきがある方向が、目的にとって必ず重要な情報を持つとは限りません。
PCAの利用目的や寄与率は、主成分分析(PCA)の記事で確認できます。
行列の変換を理解する
例えば $\mathrm{diag}(-1, 0)$ という対角行列では、横方向の固有値は−1、縦方向は0です。横方向は反転し、縦方向のベクトルはゼロになります。
「固有ベクトルは向きが絶対に変わらない」と覚えるより、元の非零ベクトルの定数倍になると覚える方が、負や0の固有値も扱えます。
よくある誤解・混同
固有値と固有ベクトルは同じ?
- 固有ベクトル:行列をかけると定数倍になる非零ベクトル。
- 固有値:その定数倍の倍率。
PCAで「主成分の方向」を問うなら固有ベクトル、「その方向の分散」を問うなら共分散行列の固有値です。
PCAなら固有値、SVDなら特異値と分ければよい?
PCAは、共分散行列の固有値分解でも、中心化したデータ行列の特異値分解(SVD)でも計算できます。「PCA」と「SVD」は二者択一の合図ではありません。
| 観点 | 固有値 | 特異値 |
|---|---|---|
| 対象の行列 | 正方行列 | 長方形の行列も扱える |
| 値 | 一般には負や複素数もある | 実数かつ非負 |
| PCAでの役割 | 共分散行列の固有値が主成分の分散を表す | 中心化したデータ行列のSVDから主成分の分散を求められる |
標本数nが2以上で、中心化したデータ行列の特異値をsとすると、n−1で割る標本共分散行列の対応する固有値は、
\[\lambda = \frac{s^2}{n-1}\]です。どの行列の値か、共分散の分母は何かを確認して区別します。
共分散行列の固有値が非負なのは試験上の仮定?
共分散行列は半正定値行列であり、数学的に固有値は非負です。固有値は分散を表すので、0になることはあっても負にはなりません。
実際の数値計算では丸め誤差により、ごく小さい負の値が出る場合があります。理論上の性質と数値誤差を分けて考えます。
まとめ(試験直前用)
- 非零ベクトルvに対してAv=λvなら、λが固有値、vが固有ベクトル。
- 実数の固有値は、正なら同じ向きの伸縮、負なら反転、0ならゼロへの変換。
- PCAでは共分散行列の固有値が主成分の分散を表し、非負になる。
- PCAはSVDでも計算でき、固有値と特異値は関連する。
- 「方向」と「分散」を区別し、どの行列の値かを確認する。
公式情報・参考リンク
- scikit-learn公式:PCA
- PCAの計算方法、共分散行列の固有値、特異値と主成分の分散の関係を確認できます。
対応スキル項目(ver.6 データサイエンス)
- 分類:基礎技術
- スキルカテゴリ:数学的理解
- サブカテゴリ:線形代数基礎
- 必須スキル:—
- ★ 固有ベクトルおよび固有値の意味を理解している
- ver.6 ★1スキルチェックで確認する
🔗 関連記事
- eの微分・積分を最短で整理【DS検定リテラシー】
- ユーグリッドノルムとは?(ベクトルの長さの測り方)【DS検定】
- 逆行列とは何か?求め方と意味をやさしく整理【DS検定】
- 行列の掛け算とは?(行列同士の掛け算)【DS検定リテラシー】
- 数理・アルゴリズム・データ活用基礎とは?【DS検定学習ガイド】