従来の単純なRNNが抱えていた、時間変化が長くなるにつれて過去の記憶の勾配が指数関数的に消滅、または爆発してしまうという致命的な欠点(勾配消失・爆発問題)を解決するために提案された「LSTM(Long Short-Term Memory)」の内部機構である。セルの中央に位置し、入力ゲートや出力ゲートなどの動的な制御とは独立して、誤差を減少させることなく過去の記憶(情報)をそのまま次の時点へと1倍の重みでストレートに保持・伝播し続けるコアな記憶回路はどれか。 トップへ戻る 次へ進む スポンサーリンク