３９９　スキップグラ厶

skip-gram：ある単語を与えて周辺の単語を予測するモデル。Word2vecの手法の一つ。

skip-gramモデルはCBOWで扱うコンテクストとターゲットを逆転させたようなモデルになります。下記のように中央の単語から前後の複数のコンテクストを予測するモデルです。

skip-Gramのモデルのイメージは下記のようになります。

skip-gramの入力層はひとつで出力層はコンテクストの数だけ存在します。それぞれの出力層で個別に損失を求め、それらを足し合わせたものを最終的な損失とします。