Portitettu rekurrentti yksikkö

term_id: gated_recurrent_unit

Category: basic_concepts

Definition

Portitettu rekurrentti yksikkö (GRU) on erikoistunut rekurrentti neuroverkkosolu (RNN), joka on suunniteltu sieppaamaan pitkän aikavälin riippuvuudet peräkkäisissä tiedoissa. Se yksinkertaistaa pitkälyhytkestoiselle muistille (LSTM) tyypillistä arkkitehtuuria säilyttäen samalla kyvyn käsitellä sekvenssejä tehokkaasti.

Summary

Tyyppi rekurrenteista neuroverkoista, jotka käyttävät porttimekanismeja informaation virtauksen hallintaan toimien yksinkertaistettuna vaihtoehtona LSTM-malleille.

Key Concepts

  • Rekurrentti neuroverkko
  • Päivitysportti
  • Nollausportti
  • Sekvenssimallinnus

Use Cases

  • Luonnollisen kielen käsittely
  • Aikasarjan ennustaminen
  • Puheentunnistus

Code Example

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
import torch.nn as nn

# Define a simple GRU layer
gru = nn.GRU(input_size=10, hidden_size=20, num_layers=1)

# Example input: (seq_len, batch, input_size)
input_data = torch.randn(5, 3, 10)
hidden_state = None

output, hidden = gru(input_data, hidden_state)