問題番号: No.604 (しっかりモード)

文章の空欄予測や誤字脱字の検出など、文章理解タスクで高い性能を発揮する事前学習モデルがある。このモデルが双方向（Bidirectional）の文脈情報を学習できる主な理由はどれか。