最終更新日:2026年9月23日
gk deep_learning generative_ai
まず結論
基盤モデル(Foundation Model)とは、広い範囲のデータで事前学習され、ファインチューニングやプロンプトなどによって多様な下流タスクへ適応できるモデルです。
G検定では、次の切り分けが重要です。
- Transformer:モデルを構成する代表的なアーキテクチャ
- 基盤モデル:さまざまな用途の土台として再利用できる事前学習モデル
- LLM:言語を中心に扱う大規模な言語モデル
- 生成AI:文章・画像・音声などのコンテンツを生成するAI
特に、基盤モデル=生成AIそのものではない点に注意します。
直感的な説明
基盤モデルは、最初から「1つの仕事だけ」をする専用モデルではなく、
大きな共通の土台を先に作り、あとから用途に合わせて使い分ける
イメージです。
たとえば、1つの事前学習済みモデルを土台として、
- 分類
- 質問応答
- 要約
- 検索
- 生成
など複数のタスクへ適応させます。
従来の「タスクごとに最初から専用モデルを学習する」という考え方と比べると、共通の事前学習済みモデルを再利用する点が大きな特徴です。
定義・仕組み
NISTでは基盤モデルを、広いデータで自己教師あり学習などを行い、ファインチューニング等によってさまざまな下流タスクへ適応できるモデルとして整理しています。
1. 広いデータで事前学習する
基盤モデルは、特定の1タスクだけに限定したデータではなく、幅広いデータを使って一般的な表現やパターンを学びます。
学習方法としては、自己教師あり学習がよく使われます。
2. 学習済みモデルを土台として使う
事前学習したモデルを、そのまま利用したり、用途に応じて適応させたりします。
代表的な適応方法には、
- ファインチューニング:追加データで重みを更新する
- プロンプト:入力の与え方でタスクを指定する
- 少数例学習(Few-shot):少数の例を与えてタスクへ適応する
などがあります。
3. 多様な下流タスクへ使う
ここでいう下流タスク(Downstream Task)とは、事前学習後に実際に解かせる具体的な課題です。
たとえば、
- 文書分類
- 質問応答
- 画像分類
- 画像とテキストの対応付け
- 文章生成
などです。
LLMとの違い
LLM(大規模言語モデル)と基盤モデルは重なることが多いですが、同じ言葉ではありません。
| 観点 | 基盤モデル | LLM |
|---|---|---|
| 注目点 | 多様な下流タスクの土台になる | 大規模な言語モデルである |
| 扱うデータ | テキストに限定されない | 主に言語 |
| 役割 | 再利用・適応できる共通基盤 | 言語の理解・生成など |
| 関係 | LLMを含み得る広い概念 | 現代の代表的LLMは基盤モデルとして使われることが多い |
つまり、
基盤モデルは「何の土台になるか」
LLMは「何を扱う大規模モデルか」
という切り口の違いです。
Transformerとの関係
Transformerは、Self-Attentionを中心にしたモデル構造です。
現代の基盤モデルやLLMではTransformer系の構造が広く使われていますが、
- Transformerを使えば必ず基盤モデルになる
- 基盤モデルとはTransformerの別名である
というわけではありません。
構造の名前と、モデルの役割・利用形態を分けて考えることが重要です。
いつ使う?(得意・不得意)
基盤モデルが役立つ場面
- 複数のタスクへ同じ事前学習モデルを利用したい
- 大規模な事前学習結果を別用途へ転用したい
- 少ない追加データで特定タスクへ適応したい
- 言語・画像など複数の用途へ展開したい
注意点
基盤モデルは便利ですが、
- 学習データに含まれる偏り
- 不適切な出力
- 大きな計算資源
- 著作権やプライバシー
- 下流タスクへ問題が引き継がれる可能性
なども考える必要があります。
土台を多くのサービスで共有するほど、基盤モデル側の問題が複数の下流システムへ波及する可能性があります。
G検定ひっかけポイント
基盤モデル=LLM?
❌ 基盤モデルはすべて言語モデルである
⭕ 基盤モデルはテキスト以外も扱い得る。LLMは言語を中心としたモデル
基盤モデル=生成AI?
❌ 基盤モデルは必ず生成だけを目的とする
⭕ 分類・検索・表現学習など、生成以外の下流タスクにも利用できる
たとえばCLIPは画像とテキストの対応付けに利用され、生成モデルそのものではありません。
Transformer=基盤モデル?
❌ Transformerという構造を使えば自動的に基盤モデルになる
⭕ Transformerは構造、基盤モデルは事前学習と再利用の役割に注目した概念
専用モデルとの違い
❌ 基盤モデルは1つのタスクだけに最初から特化して学習する
⭕ 広く事前学習し、あとから複数の下流タスクへ適応する
まとめ(試験直前用)
- 基盤モデル=多様な下流タスクの土台となる事前学習モデル
- 広いデータを使った事前学習が重要
- ファインチューニングやプロンプトなどで適応する
- LLM=言語に注目、基盤モデル=再利用される土台に注目
- Transformer=構造なので、基盤モデルとは別の分類軸
- 基盤モデルは生成専用ではない
関連する4概念の違いは、基盤モデル・LLM・Transformer・生成AIの違いでまとめて確認できます。