Long Short-Term Memory (LSTM)

term_id: long_short_term_memory

Category: basic_concepts

Definition

LSTM-netwerken lossen het probleem van vervagende gradiënten op, dat veel voorkomt in standaard RNNs, door gebruik te maken van een celtoestand en drie poortmechanismen: input-, vergeet- en outputpoorten. Deze poorten reguleren de stroom van informatie, waardoor het netwerk kan beslissen welke informatie te onthouden en welke te vergeten.

Summary

Een gespecialiseerde architectuur voor recurrente neurale netwerken (RNN), ontworpen om langetermijnafhankelijkheden in sequentiële data te leren.

Key Concepts

  • Poortmechanismen
  • Celtoestand
  • Sequentiële data
  • Vervagende gradiënt

Use Cases

  • Prognose van tijdreeksen
  • Spraakherkenning
  • Machinevertaling

Code Example

1
2

import torch.nn as nn
lstm = nn.LSTM(input_size=10, hidden_size=20, num_layers=1)

Related