問題 No.652
ディープラーニングにおいて層を深くしていくと出力層から入力層へ向かって誤差を伝播させる際に誤差情報がゼロに近づき入力層に近いパラメータの更新ができなくなる現象が発生する。この現象を何というか。
【正解の解説】
勾配消失問題
層が深くなるほど、誤差の情報がどんどん小さくなって伝わり、入力層に近い部分がうまく学習できなくなる現象です。これを解決するためにReLU関数などが導入されました。
スポンサーリンク
【その他の選択肢の解説】
次元の呪い
データが持つ特徴の数（次元）が増えるほど、データ同士の距離が遠くなり、学習に必要なデータ量が爆発的に増えてしまうという問題です。
局所最適解
学習中に、全体の中で一番良い状態ではないけれど、その近辺だけを見ると一番良く見える状態にはまってしまい、抜け出せなくなることです。
過学習
学習データに完璧に合わせすぎてしまい、未知のデータに対応する力が失われてしまった状態です。教科書を丸暗記して、少し問題を変えられると解けなくなることに似ています。