Gated Recurrent Unit

term_id: gated_recurrent_unit

Category: basic_concepts

Definition

En Gated Recurrent Unit (GRU) er en spesialisert celle i et rekurrent nevront nettverk (RNN) designet for å fange opp langsiktige avhengigheter i sekvensielle data. Den forenkler arkitekturen til Long Short-Term Memory (LSTM)…

Summary

En type rekurrent nevral nettverksarkitektur som bruker styringsmekanismer for å kontrollere informasjonsflyt, og fungerer som en forenklet alternativ til LSTM.

Key Concepts

  • Rekurrent nevront nettverk
  • Oppdateringsport
  • Tilbakestillerport
  • Sekvensmodellering

Use Cases

  • Naturlig språkbehandling
  • Tidsserieprognoser
  • Talegjenkjenning

Code Example

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
import torch.nn as nn

# Define a simple GRU layer
gru = nn.GRU(input_size=10, hidden_size=20, num_layers=1)

# Example input: (seq_len, batch, input_size)
input_data = torch.randn(5, 3, 10)
hidden_state = None

output, hidden = gru(input_data, hidden_state)