問題 No.1431
ニューラルネットワークの隠れ層において、勾配消失問題を軽減するために導入され、0未満を0として出力し、それ以外を入力値をそのまま出力する関数はどれか。
【正解の解説】
ReLU関数
ReLU関数は、入力が0以下のときは0、それ以外は入力値をそのまま出力します。単純な計算のため学習が速く、勾配消失問題を起こしにくいため、現在の深層学習で広く使われています。
スポンサーリンク
【その他の選択肢の解説】
シグモイド関数
シグモイド関数は、入力を0から1の範囲に変換する関数です。深い層で使うと、入力が大きく変化しても出力がほとんど変わらなくなるため、勾配消失問題の原因になりやすいです。
tanh関数
tanh関数は、入力をマイナス1から1の範囲に変換する関数です。シグモイド関数よりも学習効率は良いですが、依然として深い層では勾配消失問題の影響を受けることがあります。
ソフトマックス関数
ソフトマックス関数は、複数の数値の合計を1にし、それぞれの確率的な割合を算出するための関数で、主に分類問題の出力層で使われます。