問題番号: No.1176 (しっかりモード)

2018年にGoogleから発表された自然言語処理モデルであり、ニューラルネットワークのアーキテクチャにTransformerを採用している。テキストを左から右、あるいは右から左へと一方向に読み込むのではなく、文脈を「左右両方向から同時に」学習することで、多義語や複雑な文脈を極めて正確に捉えられるようになった、その後の大規模言語モデルの基礎を築いたモデルはどれか。