問題 No.479
RNNの代わりにTransformerが自然言語処理の主流となった最大の理由はどれか。
【正解の解説】
シーケンス全体の情報を並列計算できるため
RNNが文章の先頭から順番に読み込むのに対し、Transformerは文全体を一度に見渡し、全ての単語間の関係性を同時に計算できます。これにより、学習を劇的に速くできるのが最大の特徴です。
スポンサーリンク
【その他の選択肢の解説】
メモリ消費量が少ないため
TransformerはAttentionという仕組みを使うため、むしろRNNよりもメモリを大量に消費することが多いのが一般的です。
単語の意味が不要なため
Transformerにおいても単語の意味や関係性は非常に重要であり、それが不要になるわけではありません。
学習データが不要なため
学習データが不要になるわけではなく、Transformerも大量のデータを使って事前学習を行うことで高性能を発揮します。