BoW (Bag-of-Words)

Bag-of-Wordsは、テキスト内の単語の出現回数を記録し、文章を数値ベクトルに変換する手法です。単語の出現順序という文脈情報を切り捨て、単語がどれだけ含まれているかという頻度情報のみに着目することで、文章の特徴を簡略化して表現します。

文書を行、単語を列とした行列を作成し、各単語の出現頻度をカウントして埋め込みます。自然言語処理の初期段階でよく利用された手法であり、文章のトピック分類やスパム判定などで使われますが、単語の順序や意味的な近さを捉えられないのが弱点です。

G検定では、文章を数値化するもっとも基本的な手法として出題されます。近年のword2vecやBERTのような単語埋め込み技術と比較されることが多く、文脈を考慮しないBoWと、文脈を捉える現代の手法という対比で理解しておくことが重要です。