最終更新日:2026年9月23日
gk neural_network generative_model
まず結論
VAE(Variational Autoencoder:変分オートエンコーダ)は、潜在変数を確率分布として扱う確率的生成モデルです。
G検定では、
- Encoderが潜在分布のパラメータを出す
- 潜在変数をサンプリングする
- Decoderがデータを再構成・生成する
- 再構成と潜在分布の正則化を同時に学習する
という流れを押さえます。
直感的な説明
通常のオートエンコーダは、入力を潜在空間の1点へ圧縮するイメージです。
VAEでは、
この入力は潜在空間のこのあたりにありそう
という分布として表します。
その分布から潜在変数をサンプリングしてDecoderへ渡すことで、新しいデータを生成できます。
定義・仕組み
Encoder
Encoderは入力 x から、潜在変数 z の分布を近似するためのパラメータを出力します。
代表的には、
- 平均
- 分散(または対数分散)
を出力します。
Decoder
Decoderは潜在変数 z から、元データ x を生成・再構成する確率モデルを表します。
再パラメータ化トリック
単純なランダムサンプリングを途中に入れると、勾配をそのまま伝えにくくなります。
VAEでは、確率的な部分をノイズ変数として分離する再パラメータ化トリックを使い、勾配法で学習できるようにします。
損失の考え方
VAEでは大きく、
- 再構成:入力をうまく復元できるか
- KLダイバージェンス:潜在分布を事前分布へ近づける
という2つをバランスさせます。
数式そのものより、
復元だけでなく、潜在空間を確率分布として整える
ことを押さえます。
いつ使う?(得意・不得意)
VAEは、
- データ生成
- 潜在表現の学習
- 異常検知
- 表現学習
などに利用されます。
生成品質について、
VAEは必ずぼやける
GANは必ずVAEより高品質
と固定的に覚えるのは避けます。
モデル構造や学習目的によって結果は変わるため、G検定では仕組みの違いで切り分けます。
G検定ひっかけポイント
VAE=通常のAE?
❌ 潜在変数を1つの決定的な値として扱うだけ
⭕ 潜在変数を確率分布として扱う
VAE=GAN?
❌ GeneratorとDiscriminatorを競わせる
⭕ Encoder / Decoderと確率的潜在変数を使う
VAE=入力データそのものの分布を直接覚える?
❌ 入力分布を単純に丸暗記する
⭕ 潜在変数モデルとして、近似事後分布と生成モデルを学習する
再パラメータ化
❌ 分類精度を上げる正則化手法
⭕ 確率的なサンプリングを含んだまま勾配学習しやすくする工夫
まとめ(試験直前用)
- VAE=確率的潜在変数モデル
- Encoder → 潜在分布のパラメータ
- 潜在変数をサンプリング
- Decoder → 再構成・生成
- 再パラメータ化トリック
- 再構成+KLダイバージェンス
- GANの敵対的学習とは別物
- 性能順位ではなく仕組みで判断する