最終更新日：2026年9月25日
gk linear_algebra
まず結論
G検定の線形代数は、細かな手計算より役割を押さえます。
- ベクトル → 数値の並び・方向
- 行列 → データ表現・線形変換
- 内積 → 向きの近さ・射影
- 固有ベクトル → 行列で変換しても方向が変わらない
- 固有値 → その方向に何倍されるか
- SVD → 行列を U・Σ・Vᵀ に分解
直感的な説明
行列を「空間を変形する装置」と考えます。
多くのベクトルは、行列を掛けると向きも長さも変わります。
しかし一部には、
向きは変わらず、長さだけ変わる
特別な方向があります。
それが固有ベクトルで、何倍になるかが固有値です。
定義・仕組み
ベクトル
複数の数値をまとめたものです。
機械学習では、
- 特徴量
- Embedding
- 勾配
などをベクトルとして扱います。
行列
複数のベクトルをまとめたり、線形変換を表したりします。
ニューラルネットワークの全結合層も、重み行列による線形変換を含みます。
内積
2つのベクトルの対応する成分を掛けて足した量です。
方向が近いかを見る尺度や、Attentionの類似度計算などにも関係します。
固有値・固有ベクトル
行列Aとベクトルvについて、
Av = λv
を満たすとき、
- v → 固有ベクトル
- λ → 固有値
です。
PCAとの関係
PCAでは、共分散行列の固有ベクトルから主成分方向を求める方法があります。
大きな固有値に対応する方向ほど、データの分散が大きい方向です。
SVDとの関係
SVDは正方行列に限らず長方形行列にも使える一般的な行列分解です。
中心化したデータ行列へSVDを使ってPCAを計算することもできます。
いつ使う？（得意・不得意）
線形代数は、
- PCA
- SVD
- ニューラルネットワーク
- Embedding
- Attention
など広い分野の土台です。
G検定ひっかけポイント
固有値＝ベクトル？
❌ 方向を持つ量
⭕ スカラー
固有ベクトル
❌ 変換後も値が完全に同じ
⭕ 方向が同じで、長さはλ倍になり得る
SVD
❌ 正方行列だけ
⭕ 長方形行列にも使える
PCA
❌ 元の特徴量をそのまま選ぶ
⭕ 分散が大きい新しい軸へ変換
まとめ（試験直前用）
- ベクトル＝数値の並び
- 行列＝線形変換
- 内積＝向き・類似度に関係
- 固有ベクトル＝方向が変わらない
- 固有値＝伸縮率
- PCA・SVDの基礎になる