Pitkä lyhytaikamuisti

term_id: long_short_term_memory

Category: basic_concepts

Definition

LSTM-verkot ratkaisevat vakio-RNN-yleisesti esiintyvän häviävän gradientin ongelman käyttämällä solutilaa ja kolmea porttimekanismia: syöttö-, unohtamis- ja ulostuloportteja. Nämä portit säätelevät tiedon virtausta solun tilan läpi, mahdollistaen pitkien riippuvuuksien oppimisen.

Summary

Erikoistunut rekurrentti neuroverkkorakenne, joka on suunniteltu oppimaan pitkäaikaisia riippuvuuksia sekvenssidatassa.

Key Concepts

  • Porttimekanismit
  • Solutila
  • Sekvenssidata
  • Häivähtävä gradientti

Use Cases

  • Aikasarjan ennusteet
  • Puheentunnistus
  • Konekäännös

Code Example

1
2

import torch.nn as nn
lstm = nn.LSTM(input_size=10, hidden_size=20, num_layers=1)

Related