Záras visszatérő egység

term_id: gated_recurrent_unit

Category: basic_concepts

Definition

A Záras Visszatérő Egység (GRU) egy specializált visszatérő neurális hálózati (RNN) sejt, amelyet szekvenciális adatokban lévő hosszú távú függőségek rögzítésére terveztek. Egyszerűsíti a Hosszú Rövidtávmemóriás (LSTM) architektúrát, miközben hasonló teljesítményt nyújt kevesebb paraméterrel.

Summary

Egy típusú visszatérő neurális hálózati architektúra, amely záramechanizmusokat használ az információáramlás szabályozására, és az LSTM egyszerűsített alternatívájaként szolgál.

Key Concepts

  • Visszatérő neurális hálózat
  • Frissítési zár
  • Visszaállítási zár
  • Szekvenciamodellés

Use Cases

  • Természetes nyelvfeldolgozás
  • Idősoros előrejelzés
  • Beszédfelismerés

Code Example

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
import torch.nn as nn

# Define a simple GRU layer
gru = nn.GRU(input_size=10, hidden_size=20, num_layers=1)

# Example input: (seq_len, batch, input_size)
input_data = torch.randn(5, 3, 10)
hidden_state = None

output, hidden = gru(input_data, hidden_state)