スポンサーリンク

問題番号: No.29 (しっかりモード)

音声データや株価変動などの時系列データを処理する際、単純なRNN(回帰型ニューラルネットワーク)では、過去の時系列のステップが長くなると、誤差逆伝播の過程で勾配が途中で完全に消滅してしまう。この長期記憶の保持という課題を解決するため、ネットワークの内部に「入力ゲート」「出力ゲート」「忘却ゲート」という3つの制御弁と、情報をストックする「記憶セル」を組み込んだ構造はどれか。

スポンサーリンク