問題 No.564
勾配降下法において、全ての勾配がゼロになるが、局所的な最小値でも最大値でもない点（極小でも極大でもない）を何というか。
【正解の解説】
鞍点
鞍点（サドルポイント）は、ある方向から見ると谷底に見えるが、別の方向から見ると山の頂上に見えるような地点です。馬の鞍（くら）のような形をしているためこう呼ばれます。
スポンサーリンク
【その他の選択肢の解説】
勾配爆発問題
勾配爆発は、学習中に勾配の値が指数関数的に急増してしまい、計算が破綻してしまう現象です。ニューラルネットワークの層が深い時によく発生します。
デッドReLU
デッドReLUは、ReLU関数を使用している際、入力が常に負になってしまい、活性化関数が全く機能せず学習が進まなくなってしまう状態のことです。
バッチ正規化
バッチ正規化は、層の各データが適切な値の範囲に収まるように、平均と分散を調整して整える処理です。これにより学習速度や安定性が向上します。