問題 No.1040
ニューラルネットワークの最適化手法において、過去の勾配の勢いを考慮するMomentumの利点と、パラメータごとに学習率を自動調整するAdagradの利点を組み合わせ、現在のディープラーニングにおいて最も広く主流として使われているオプティマイザを【 】という。
【正解の解説】
Adam
過去の勾配の勢いを活用しつつ、パラメータごとの学習率も自動調整する、現在もっとも汎用性が高く、多くのディープラーニングモデルで採用されている手法です。
スポンサーリンク
【その他の選択肢の解説】
確率的勾配降下法(SGD)
Stochastic Gradient Descentの略です。最も基本的な勾配降下法ですが、学習率の自動調整機能はありません。
RMSprop
学習率を自動調整する手法ですが、Adamほど広く主流として使われるわけではありません。
Adadelta
Adagradの欠点を改善しようとした手法ですが、Adamの方がより広く活用されています。