問題 No.521
Word2Vecの発展形であり、単語を単なる記号として扱うのではなく、文字単位のn-gramに分解して埋め込みを学習することで、未知語(Out-of-vocabulary)にも対応可能な手法はどれか。
【正解の解説】
fastText
FastTextは、単語を文字単位のグループに分解して埋め込みを学習するため、学習データに含まれていない単語(未知語)でも、その構成要素からある程度の意味を推測できます。
スポンサーリンク
【その他の選択肢の解説】
Global Vectors for Word Representation (GloVe)
GloVeは、単語同士がどれだけ一緒に現れるかという統計情報をベースにして、単語間の意味的な距離をベクトルとして表現する手法です。
BERT
BERTは、文章の文脈全体を双方向から読み込むことで、単語の複雑な意味やニュアンスを非常に高い精度で理解するモデルです。
ELMo
ELMoは、双方向のRNNを用いて、文章の中での使われ方によって同じ単語でも異なるベクトルを割り当てる手法であり、文脈の理解に優れたモデルです。