Zablokowana jednostka rekurencyjna (GRU)

term_id: gated_recurrent_unit

Category: basic_concepts

Definition

Zablokowana jednostka rekurencyjna (GRU) to specjalizowana komórka rekurencyjnej sieci neuronowej (RNN) zaprojektowana do przechwytywania długoterminowych zależności w danych sekwencyjnych. Upraszcza architekturę pamięci długotrwałej (LSTM)…

Summary

Typ architektury rekurencyjnej sieci neuronowej, która wykorzystuje mechanizmy bramkowania do kontrolowania przepływu informacji, stanowiąca uproszczoną alternatywę dla LSTM.

Key Concepts

  • Rekurencyjna sieć neuronowa
  • Brama aktualizacji
  • Brama resetu
  • Modelowanie sekwencji

Use Cases

  • Przetwarzanie języka naturalnego
  • Prognozowanie szeregów czasowych
  • Rozpoznawanie mowy

Code Example

import torch.nn as nn

# Define a simple GRU layer
gru = nn.GRU(input_size=10, hidden_size=20, num_layers=1)

# Example input: (seq_len, batch, input_size)
input_data = torch.randn(5, 3, 10)
hidden_state = None

output, hidden = gru(input_data, hidden_state)

Powiązane