最終更新日：2026年8月26日
gk nlp machine_learning
G検定トップ
＞ Word2Vec（CBOW / Skip-gram）とは？【分散表現の基本｜G検定対策】
まず結論
Word2Vecは、周囲の単語との関係から学習し、単語を低次元の密なベクトル（分散表現）として表す手法です。
G検定では次の2点を押さえます。
- CBOW：周囲 → 中心語を予測
- Skip-gram：中心語 → 周囲を予測
また、学習には文脈を使いますが、学習後は同じ単語に基本的に同じベクトルを割り当てる静的表現です。
直感的な説明
Word2Vecは、
一緒に現れやすい単語は、似た役割や意味を持ちやすい
という考え方を利用します。
たとえば「犬」と「猫」が似た文脈で使われることが多ければ、学習後のベクトルも近くなることがあります。
定義・仕組み
Word2Vecの代表的な学習方式は2つです。
CBOW
周囲の単語から中心語を予測します。
周囲の単語 → 中心語
詳しくはCBOWを確認してください。
Skip-gram
中心語から周囲の単語を予測します。
中心語 → 周囲の単語
詳しくはSkip-gramを確認してください。
TF-IDFとの違い
- TF-IDF → 文書内頻度と文書集合での珍しさを使う
- Word2Vec → 周辺語との関係から単語ベクトルを学ぶ
TF-IDFは頻度ベースの重み付けで、Word2Vecは学習によって単語間の関係を表す分散表現です。
BERTとの違い
Word2Vecは、同じ単語なら基本的に同じベクトルです。
一方、BERTなどでは、同じ単語でも周囲の文脈に応じて表現が変わります。
詳しくはWord2VecとBERTの違いで確認できます。
いつ使う？（得意・不得意）
向いている場面
- 単語の類似度を扱う
- 単語をニューラルネットワークの入力特徴として使う
- 軽量な静的単語ベクトルがほしい
注意点
- 文中の語順をそのまま表現するモデルではない
- 同じ表記の単語を文脈ごとに別ベクトルへ変えることは基本的にしない
- 学習データにない語や低頻度語の扱いには工夫が必要
G検定ひっかけポイント
Word2Vecは文脈を使わない
言い切ると不正確です。
学習時には周囲の単語という文脈を使います。 ただし、学習後の単語表現は基本的に静的です。
Word2VecはBoWと同じ
誤りです。
- BoW → 出現回数
- Word2Vec → 学習された密な単語ベクトル
CBOWとSkip-gramを逆にする
最頻出の混同です。
- 周囲 → 中心 → CBOW
- 中心 → 周囲 → Skip-gram
まとめ（試験直前用）
- Word2Vec＝静的な単語分散表現
- CBOW＝周囲 → 中心語
- Skip-gram＝中心語 → 周囲
- 学習時には周囲の文脈を使う
- 文脈ごとに表現が変わるのはBERTなど