問題 No.1013
ディープラーニングにおいて、層をどれだけ深く重ねても、すべての層で【 】を用いていると、モデル全体が結局は単層の単純な構造と数学的に等価になってしまい、複雑な非線形パターンの境界線を学習することができなくなる。
【正解の解説】
線形関数
線形関数を重ねると、数学的にはどんなに深くしても単なる1つの大きな掛け算・足し算に変換できてしまいます。つまり、複雑な曲線を表現する能力が失われ、単純な境界線しか引けなくなります。
スポンサーリンク
【その他の選択肢の解説】
非線形関数
非線形関数を用いることで、層を深くするごとに複雑な曲がり角を持つ境界線を学習できるようになり、ディープラーニングが高度なパターンを理解できるようになります。
ステップ関数
ステップ関数は、ある値で急にオン/オフが切り替わる関数です。急激すぎて学習が困難になるため、通常は滑らかに変化する他の非線形関数が使われます。
連続値関数
連続値関数は、出力が滑らかに変化する関数を指しますが、モデルの表現力を高めるためには、線形（直線）ではない複雑な変化を許容する非線形性が重要です。