問題 No.1434
勾配降下法において、学習率(Learning Rate)が大きすぎる場合に起こりうる現象として最も適切なものはどれか。
【正解の解説】
最適値周辺で振動し、収束しなくなる
学習率が大きすぎると、最適値に対して歩幅が大きすぎて飛び越えてしまい、最適値の周辺で行ったり来たりして結果的に収束できなくなります。
スポンサーリンク
【その他の選択肢の解説】
勾配消失問題により学習が停止する
勾配消失問題は、主に活性化関数や層の深さに起因する現象であり、学習率の大きさだけが直接的な原因ではありません。
収束が非常に遅くなる
学習率が小さすぎる場合に、最適値にたどり着くまでの歩幅が狭くなり、収束が非常に遅くなる現象が起こります。
局所最適解に陥りやすくなる
局所最適解に陥りやすくなるのは、学習の進め方やモデルの構造に関連しますが、学習率が大きすぎることによる主な弊害とは少し異なります。