問題 No.394
BERT(Bidirectional Encoder Representations from Transformers)が従来の言語モデルと大きく異なる点として、「双方向」という性質がある。これが文章理解において有利に働く理由として適切なものはどれか。
【正解の解説】
単語の左右両方の文脈を考慮してベクトル化できるため、多義語の解釈精度が高い
正解です。BERTは文章を左から右、右から左の両方向から一度に読み込むことで、単語が文中でどういう意味で使われているかを深く理解します。これにより、『銀行(金融機関)』なのか『銀行(土手)』なのかといった文脈判断が非常に正確になります。
スポンサーリンク
【その他の選択肢の解説】
学習に必要な計算機資源が少なくて済み、PC一台でも数秒で学習を完了できるため
誤りです。BERTは非常に巨大なモデルであり、学習には高性能なGPUや大量の計算資源が必要となります。PC一台で瞬時に学習できるものではありません。
文章を一度も読み返さずに一方向のみから情報を得るため、処理が非常に高速であるため
誤りです。一方向のみから情報を得るモデルは、従来の(RNNなどを用いた)言語モデルの特徴です。BERTの強みはむしろその双方向性にあります。
文法的な誤りを自動的に修正する機能を標準搭載しているため
誤りです。BERTは言語の意味を捉えるためのモデルであり、文章の修正機能が直接的な目的ではありません。