Gated Recurrent Unit

term_id: gated_recurrent_unit

Category: basic_concepts

Definition

Een Gated Recurrent Unit (GRU) is een gespecialiseerde cel in een recurrent neurale netwerk (RNN), ontworpen om langetermijnafhankelijkheden in sequentiële gegevens vast te leggen. Het vereenvoudigt de Long Short-Term Memory (LSTM)-architectuur door minder poorten te gebruiken, wat leidt tot efficiëntere berekeningen bij vergelijkbare prestaties.

Summary

Een type recurrente neurale netwerkarchitectuur dat gebruikmaakt van gating-mechanismen om de informatiestroom te reguleren, als vereenvoudigd alternatief voor LSTM.

Key Concepts

  • Recurrent neurale netwerk
  • Update-poort
  • Reset-poort
  • Sequentiemodellering

Use Cases

  • Natuurlijke taalverwerking
  • Tijdreeksvoorspelling
  • Spraakherkenning

Code Example

 1
 2
 3
 4
 5
 6
 7
 8
 9
10

import torch.nn as nn

# Define a simple GRU layer
gru = nn.GRU(input_size=10, hidden_size=20, num_layers=1)

# Example input: (seq_len, batch, input_size)
input_data = torch.randn(5, 3, 10)
hidden_state = None

output, hidden = gru(input_data, hidden_state)

Related