スポンサーリンク

問題番号: No.641 (しっかりモード)

自己回帰型のテキスト生成モデルにおいて、訓練時には常に正しい正解の単語を次のステップの入力として与える教師強制が行われる。しかし推論時には、モデル自身が一つ前に出力した単語を次の入力として用いるため、途中で一度でも単語の予測を誤ると、その間違いが雪だるま式に増幅して文章が崩壊してしまう。この訓練と推論の環境の違いから生じる問題を何というか。

スポンサーリンク