Memorie pe termen lung și scurt

term_id: long_short_term_memory

Category: basic_concepts

Definition

Rețelele LSTM rezolvă problema dispariției gradientului, comună în RNN-urile standard, folosind o stare a celulei și trei mecanisme de poartă: poarta de intrare, poarta de uitare și poarta de ieșire. Aceste porți reglează fluxul de informații

Summary

O arhitectură specializată de rețea neuronală recurrentă, concepută pentru a învăța dependențe pe termen lung în datele secvențiale.

Key Concepts

  • Mecanisme de poartă
  • Starea celulei
  • Date secvențiale
  • Dispariția gradientului

Use Cases

  • Previziuni seriale temporale
  • Recunoașterea vorbirii
  • Traducerea automată

Code Example

1
2
import torch.nn as nn
lstm = nn.LSTM(input_size=10, hidden_size=20, num_layers=1)