スポンサーリンク

問題の解答・解説ページ

このページは解説の閲覧モードです。
実力試しをしたい方は、下のボタンからクイズに挑戦してください!

この問題をクイズ形式で解く
問題 No.1085
BERTにおいて、文中の単語の一部をマスク(隠蔽)し、それを周辺の単語から予測させることで文脈を学習する手法を【 】と呼ぶ。

【正解の解説】

Masked Language Model (MLM)

マスク付き言語モデル(Masked Language Model)は、文章の一部の単語を隠し、周囲の文脈を見て「何が入るか」を当てることで言葉の意味を学習します。

スポンサーリンク

【その他の選択肢の解説】

Next Sentence Prediction (NSP)

次文予測(Next Sentence Prediction)は、2つの文が連続しているかどうかを判定して学習する手法であり、穴埋めではありません。

自己回帰モデル

自己回帰モデルは、前の単語から次の単語を一つずつ予測していくモデルであり、BERTの穴埋め手法とは異なります。

教師なし学習を用いたクラスタリング

教師なしクラスタリングは、正解ラベルなしで似たグループに分ける手法であり、文脈の穴埋め学習とは異なります。