問題 No.1085
BERTにおいて、文中の単語の一部をマスク(隠蔽)し、それを周辺の単語から予測させることで文脈を学習する手法を【 】と呼ぶ。
【正解の解説】
Masked Language Model (MLM)
マスク付き言語モデル(Masked Language Model)は、文章の一部の単語を隠し、周囲の文脈を見て「何が入るか」を当てることで言葉の意味を学習します。
スポンサーリンク
【その他の選択肢の解説】
Next Sentence Prediction (NSP)
次文予測(Next Sentence Prediction)は、2つの文が連続しているかどうかを判定して学習する手法であり、穴埋めではありません。
自己回帰モデル
自己回帰モデルは、前の単語から次の単語を一つずつ予測していくモデルであり、BERTの穴埋め手法とは異なります。
教師なし学習を用いたクラスタリング
教師なしクラスタリングは、正解ラベルなしで似たグループに分ける手法であり、文脈の穴埋め学習とは異なります。