問題番号: No.724 (しっかりモード)

学習の初期は最適化の進行が速いが、終盤になると過去の勾配の二乗和が蓄積しすぎて学習率が極端に低下し、更新が停滞してしまうオプティマイザはどれか。