問題 No.951
学習済みのモデルに対して、新しいタスクのデータを用いてモデル全体の重みを微調整するファインチューニングを行う際、学習率を小さく設定する主な理由は「【 】」ことである。
【正解の解説】
既存の学習済み知識を破壊せず、新しいタスクに適応させる
ファインチューニングでは、すでに学習済みの良い重みを少しだけ調整します。学習率を大きくしすぎると、過去の学習内容を急激に上書き（破壊）してしまうため、小さな一歩で慎重に馴染ませます。
スポンサーリンク
【その他の選択肢の解説】
モデルの精度を劇的に向上させるため
精度を劇的に向上させるためというよりは、学習済みモデルが既に持っている「知識」を壊さないことを優先するために学習率を下げます。
計算リソースを節約して学習を終わらせる
学習率のサイズは計算リソースの節約には直結せず、むしろ学習が収束するまでの時間は長くなる傾向があります。
過学習を完全に防ぐため
学習率を下げることは過学習を防ぐ効果の一助にはなりますが、主な目的は知識を保持しながら適応させることにあります。