371 LSTM

Long Short-Term Memory:LSTMブロックと呼ばれる機構を導入し、時系列情報をうまくネットワーク内に保持することを可能にした。
RNNの一つ。内部にゲート構造を設けることによリ、長い系列を遡るにつれて学習が困難になるというRNNの問題解決を試みる手法。

LSTM(Long short-term memory)は、RNN(Recurrent Neural Network)の拡張として1995年に登場した、時系列データ(sequential data)に対するモデル、あるいは構造(architecture)の1種です。その名は、Long term memory(長期記憶)とShort term memory(短期記憶)という神経科学における用語から取られています。LSTMはRNNの中間層のユニットをLSTM blockと呼ばれるメモリと3つのゲートを持つブロックに置き換えることで実現されています。