Unità Ricorrente con Gate (GRU)

term_id: gated_recurrent_unit

Category: basic_concepts

Definition

Un’Unità Ricorrente con Gate (GRU) è una cella specializzata di rete neurale ricorrente (RNN) progettata per catturare dipendenze a lungo termine nei dati sequenziali. Semplifica l’architettura della Memoria a Breve e Lungo Termine (LSTM) riducendo il numero di parametri e la complessità computazionale, mantenendo comunque un’elevata capacità di modellazione delle sequenze. Utilizza due gate principali: il gate di aggiornamento e il gate di reset.

Summary

Un tipo di architettura di rete neurale ricorrente che utilizza meccanismi di gate per controllare il flusso di informazioni, fungendo da alternativa semplificata all’LSTM.

Key Concepts

  • Rete Neurale Ricorrente
  • Gate di Aggiornamento
  • Gate di Reset
  • Modellazione di Sequenze

Use Cases

  • Elaborazione del linguaggio naturale
  • Previsione di serie temporali
  • Riconoscimento vocale

Code Example

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
import torch.nn as nn

# Define a simple GRU layer
gru = nn.GRU(input_size=10, hidden_size=20, num_layers=1)

# Example input: (seq_len, batch, input_size)
input_data = torch.randn(5, 3, 10)
hidden_state = None

output, hidden = gru(input_data, hidden_state)