問題 No.1050
Googleが発表した自然言語処理モデルであり、Transformerのエンコーダ文脈を双方向から同時に学習させることで、文脈を考慮した高度な単語の意味理解を可能にし、その後の多様なタスクに対して微調整して高い性能を発揮する基盤モデルを【 】という。
【正解の解説】
BERT
BERTは、文章を前後両方向から読み込むことで、単語の文脈に応じた意味を正確に理解する基盤モデルです。
スポンサーリンク
【その他の選択肢の解説】
GPT
GPTは、前の言葉から次の言葉を予測するように学習する言語モデルで、対話や文章作成を得意とするモデルの総称です。
word2vec
word2vecは、単語を数値のベクトルに変換し、単語同士の意味の近さを計算可能にする基礎技術です。
Text-to-Text Transfer Transformer (T5)
Text-to-Text Transfer Transformer(T5)は、あらゆる言語処理タスクを「テキストからテキストへの変換」という統一された形式で解くモデルです。