わーどとぅーべっく

word2vec

周辺の単語との関係からベクトルを学習し、単語を数値で表す手法です。CBOWとSkip-gramの2方式があり、単語どうしの意味的な演算を可能にした代表的な技術です。

詳しい説明

word2vecは、単語埋め込みを実現するための代表的なアルゴリズムの一つです。膨大なテキストデータから、単語の周辺語の文脈情報を利用して、各単語をベクトルとして表現します。Googleが開発し、自然言語処理分野に大きな転換点をもたらしました。

仕組みとして、周辺語から中心語を予測するCBOWと、中心語から周辺語を予測するSkip-gramの2つのアーキテクチャを持ちます。これにより、例えば「王様」から「男」を引いて「女」を足すと「女王」に近いベクトルが得られるような、単語同士の演算が可能になりました。

G検定では、単語埋め込みの具体的な手法として、また自然言語処理におけるベクトル化の代表例として扱われます。GloVeやFastTextといった後継・関連手法との比較や、ニューラルネットワークを用いた学習の仕組みが試験で問われることがあります。