Gated Recurrent Unit

term_id: gated_recurrent_unit

Category: basic_concepts

Definition

En Gated Recurrent Unit (GRU) är en specialiserad cell i ett rekurrent neuralt nätverk (RNN) designad för att fånga långsiktiga beroenden i sekventiell data. Den förenklar arkitekturen för Long Short-Term Memory (LSTM) genom att kombinera glömske- och inmatningsportar till en uppdateringsport, vilket ofta leder till snabbare träning och färre parametrar utan nämnvärd prestandaförlust.

Summary

En typ av arkitektur för rekurrenta neuronnätverk som använder styrmechanismer för att kontrollera informationsflödet, vilket fungerar som en förenklad alternativ till LSTM.

Key Concepts

  • Rekurrent neuralt nätverk
  • Uppdateringsport
  • Återställningsport
  • Sekvensmodellering

Use Cases

  • Bearbetning av naturligt språk
  • Prognos för tidsseriedata
  • Taligenkänning

Code Example

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
import torch.nn as nn

# Define a simple GRU layer
gru = nn.GRU(input_size=10, hidden_size=20, num_layers=1)

# Example input: (seq_len, batch, input_size)
input_data = torch.randn(5, 3, 10)
hidden_state = None

output, hidden = gru(input_data, hidden_state)