スポンサーリンク

問題番号: No.307 (しっかりモード)

ディープラーニングの初期から多用された古典的な活性化関数である。入力された数値を、数式を用いて「0から1の間」の範囲に滑らかに圧縮して出力する特性を持つ。しかし、入力の値が極端に大きくなったり小さくなったりすると、関数の傾き(微分値)がほぼ「0」になってしまい、多層ネットワークにおいて勾配消失問題を引き起こす主因となった関数はどれか。

スポンサーリンク