問題 No.1117
ディープラーニングにおいて、損失関数を最小化するためにパラメータを更新する勾配降下法に関する記述として【不適切なもの】はどれか。
【正解の解説】
学習率を極端に大きく設定するほど局所最適解を確実に回避して短時間で大域最適解に収束する
学習率を大きくしすぎると、答えの近くを通り過ぎてしまい、かえって学習がうまくいかなくなります。
スポンサーリンク
【その他の選択肢の解説】
確率的勾配降下法はデータを1件ずつランダムに選んで勾配を計算する
確率的勾配降下法は、1件ずつデータを選んで計算を繰り返す手法で、計算が速く局所最適解から抜け出しやすい利点があります。
高次元空間では局所最適解よりもすべての方向の勾配がゼロになる鞍点にとらわれるリスクが高い
高次元の空間では、すべての方向で勾配がゼロになるような「鞍点」という場所にはまりやすく、学習が停滞する原因となります。
ミニバッチ勾配降下法は計算効率と勾配の安定性のバランスを取るために広く使われる
ミニバッチ勾配降下法は、一度に複数のデータを計算することで、学習の効率と安定性を両立させています。