Långsiktig korttidsminne (LSTM)

term_id: long_short_term_memory

Category: basic_concepts

Definition

LSTM-nätverk löser problemet med försvinnande gradienter som är vanligt i standard-RNN:er genom att använda ett celltillstånd och tre portmekanismer: ingångs-, glömske- och utgångsportar. Dessa portar reglerar flödet av information, vilket gör det möjligt för nätverket att behålla eller glömma information över längre tidsperioder.

Summary

En specialiserad arkitektur för rekurrenta neuronnät (RNN) designad för att lära sig långsiktiga beroenden i sekventiell data.

Key Concepts

  • Portmekanismer
  • Celltillstånd
  • Sekventiell data
  • Försvinnande gradient

Use Cases

  • Prognos för tidsseriedata
  • Taligenkänning
  • Maskinöversättning

Code Example

1
2

import torch.nn as nn
lstm = nn.LSTM(input_size=10, hidden_size=20, num_layers=1)

Related