Gated Recurrent Unit

term_id: gated_recurrent_unit

Category: basic_concepts

Definition

Eine Gated Recurrent Unit (GRU) ist eine spezialisierte Zelle eines rekurrenten neuronalen Netzwerks (RNN), die entwickelt wurde, um langfristige Abhängigkeiten in sequenziellen Daten zu erfassen. Sie vereinfacht die Architektur der Long Short-Term Memory (LSTM)-Netze, indem sie zwei Gates (Update- und Reset-Gate) verwendet, um den Informationsfluss zu regulieren.

Summary

Eine Art rekurrentes neuronales Netzwerk (RNN), das Gating-Mechanismen verwendet, um den Informationsfluss zu steuern, und als vereinfachte Alternative zu LSTM dient.

Key Concepts

  • Recurrent Neural Network
  • Update Gate
  • Reset Gate
  • Sequence Modeling

Use Cases

  • Natürliche Sprachverarbeitung
  • Zeitreihenvorhersage
  • Spracherkennung

Code Example

 1
 2
 3
 4
 5
 6
 7
 8
 9
10

import torch.nn as nn

# Define a simple GRU layer
gru = nn.GRU(input_size=10, hidden_size=20, num_layers=1)

# Example input: (seq_len, batch, input_size)
input_data = torch.randn(5, 3, 10)
hidden_state = None

output, hidden = gru(input_data, hidden_state)

Related