問題 No.442
Momentumの「慣性」による学習の加速と、Adagradの「パラメータごとの適応的な学習率調整」の利点を組み合わせた、汎用性の高い最適化手法はどれか。
【正解の解説】
Adam
慣性の要素と、パラメータごとの学習率の調整の両方を取り入れ、効率よく学習を進められる手法のことです。
スポンサーリンク
【その他の選択肢の解説】
Adagrad
過去の勾配の蓄積を利用して、パラメータごとに学習率を自動調整する手法のことです。
RMSprop
Adagradの学習率が小さくなりすぎる問題を解決するために、学習率を移動平均で調整する手法のことです。
SGD
データの塊ごとに誤差を計算し、モデルを少しずつ修正していく最も基本的な最適化手法のことです。