問題 No.1392
自然言語処理において、単語の意味を数十から数百次元の実数ベクトルとして数理的に表現する分散表現の代表的手法にWord2Vecがある。Word2Vecには2つのアーキテクチャがあるが、このうち「周囲の複数単語(コンテキスト)から、中心にある単語を予測する」ようネットワークを学習させるモデルの名称はどれか。
【正解の解説】
CBOW(Continuous Bag-of-Words)
CBOW(Continuous Bag-of-Words)とは、周囲の単語から、その真ん中にある単語を予測するように学習するモデルです。複数の単語をまとめた情報を入力にするため、計算が効率的です。
スポンサーリンク
【その他の選択肢の解説】
Skip-gram
Skip-gramとは、中心にある単語からその周囲の単語を予測するように学習するモデルです。少ないデータでも珍しい単語の関係性を捉えやすいという特徴があります。
FastText
FastTextとは、単語をそのまま扱うのではなく、単語を構成する「部分的な文字の塊(サブワード)」に分解してベクトル化する手法です。
Transformer
Transformerとは、Attentionという仕組みを主軸として、文章中の単語同士の遠い関係性まで一度に計算できる、現代の自然言語処理の標準的なモデル構造です。