Gated Recurrent Unit (GRU)

term_id: gated_recurrent_unit

Category: basic_concepts

Definition

Gated Recurrent Unit (GRU) je specializovaná buňka rekurentní neuronové sítě (RNN) navržená tak, aby zachytila dlouhodobé závislosti v sekvenčních datech. Zjednodušuje architekturu Long Short-Term Memory (LSTM)

Summary

Typ architektury rekurentní neuronové sítě, který využívá bránící mechanismy k řízení toku informací a slouží jako zjednodušená alternativa k LSTM.

Key Concepts

  • Rekurentní neuronová síť
  • Aktualizační brána
  • Resetovací brána
  • Modelování sekvencí

Use Cases

  • Zpracování přirozeného jazyka
  • Předpovídání časových řad
  • Rozpoznávání řeči

Code Example

 1
 2
 3
 4
 5
 6
 7
 8
 9
10

import torch.nn as nn

# Define a simple GRU layer
gru = nn.GRU(input_size=10, hidden_size=20, num_layers=1)

# Example input: (seq_len, batch, input_size)
input_data = torch.randn(5, 3, 10)
hidden_state = None

output, hidden = gru(input_data, hidden_state)

Related