Mémoire à court et long terme

term_id: long_short_term_memory

Category: basic_concepts

Definition

Les réseaux LSTM résolvent le problème de disparition du gradient courant dans les RNN standards en utilisant un état de cellule et trois mécanismes de porte : portes d’entrée, d’oubli et de sortie. Ces portes régulent le flux d’information

Summary

Une architecture de réseau neuronal récurrent spécialisée conçue pour apprendre les dépendances à long terme dans les données séquentielles.

Key Concepts

  • Mécanismes de porte
  • État de cellule
  • Données séquentielles
  • Disparition du gradient

Use Cases

  • Prévision de séries temporelles
  • Reconnaissance vocale
  • Traduction automatique

Code Example

1
2

import torch.nn as nn
lstm = nn.LSTM(input_size=10, hidden_size=20, num_layers=1)

Related