ロングショートタームメモリ

term_id: long_short_term_memory

Category: basic_concepts

Definition

LSTMネットワークは、入力ゲート、忘却ゲート、出力ゲートの3つのゲート機構とセル状態を使用することで、標準的なRNNで一般的に見られる消失勾配問題に対処します。これらのゲートは情報の流れを調整し、長期記憶を保持することを可能にします。

Summary

系列データ中の長期依存関係を学習するために設計された特殊な再帰型ニューラルネットワーク（RNN）アーキテクチャ。

Key Concepts

  • ゲート機構
  • セル状態
  • 系列データ
  • 消失勾配

Use Cases

  • 時系列予測
  • 音声認識
  • 機械翻訳

Code Example

1
2

import torch.nn as nn
lstm = nn.LSTM(input_size=10, hidden_size=20, num_layers=1)

Related