問題 No.484
Adagradの学習率が学習後半に著しく低下してしまう問題を解決するため、勾配の二乗和ではなく、勾配の移動平均を用いて学習率を自動調整する最適化手法はどれか。
【正解の解説】
Adadelta
Adadeltaは、Adagradの学習率が学習後半に小さくなりすぎる問題を解決するため、勾配の二乗和ではなく勾配の移動平均を用いて学習率を自動調整する手法です。
スポンサーリンク
【その他の選択肢の解説】
Adam
Adamは、勾配の移動平均と二乗平均の両方を利用し、学習率を効率的に調整しながら効率よく学習を進める最適化手法です。
確率的勾配降下法 (SGD)
確率的勾配降下法(SGD)は、データの一部をランダムに選び、その勾配方向に重みを更新していく最も基本的な最適化手法です。
RMSprop
RMSpropは、Adagradの学習率が極端に小さくなる問題を改善するため、勾配の移動平均を計算に取り入れ、学習率を適切に調整する手法です。