Gated Recurrent Unit

term_id: gated_recurrent_unit

Category: basic_concepts

Definition

En Gated Recurrent Unit (GRU) er en specialiseret celle i et rekurrent neuralt netværk (RNN), designet til at fange langsigtede afhængigheder i sekventielle data. Den forenkler Long Short-Term Memory (LSTM)-arkitekturen…

Summary

En type rekurrent neural netværksarkitektur, der bruger styringsmekanismer til at kontrollere informationsstrømmen og fungerer som en forenklet alternativ til LSTM.

Key Concepts

  • Rekurrent neuralt netværk
  • Opdateringsport
  • Nulstillingsport
  • Sekvensmodellering

Use Cases

  • Naturlig sprogbehandling
  • Tidsrækkeprognose
  • Talegenkendelse

Code Example

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
import torch.nn as nn

# Define a simple GRU layer
gru = nn.GRU(input_size=10, hidden_size=20, num_layers=1)

# Example input: (seq_len, batch, input_size)
input_data = torch.randn(5, 3, 10)
hidden_state = None

output, hidden = gru(input_data, hidden_state)