問題 No.641
自己回帰型のテキスト生成モデルにおいて、訓練時には常に正しい正解の単語を次のステップの入力として与える教師強制が行われる。しかし推論時には、モデル自身が一つ前に出力した単語を次の入力として用いるため、途中で一度でも単語の予測を誤ると、その間違いが雪だるま式に増幅して文章が崩壊してしまう。この訓練と推論の環境の違いから生じる問題を何というか。
【正解の解説】
露出バイアス
露出バイアスは、訓練時は正しいデータを見るのに、生成時は自分で出した間違いデータを見ることで、エラーが連鎖して文章が崩れていく現象です。
スポンサーリンク
【その他の選択肢の解説】
アルゴリズムバイアス
アルゴリズムバイアスは、AIが学習データに含まれる偏見を学習してしまい、特定の属性に対して不当な判断をしてしまう問題のことです。
プラトー
プラトーは、学習中にモデルの改善が停滞し、精度が全く上がらなくなるような平坦な状態のことを指します。
過学習
過学習は、AIが訓練データに完璧に合わせすぎてしまい、新しいデータに対する応用力がなくなってしまう現象です。