Κλειδαρωτή Επαναλαμβανόμενη Μονάδα

term_id: gated_recurrent_unit

Category: basic_concepts

Definition

Μια Κλειδαρωτή Επαναλαμβανόμενη Μονάδα (GRU) είναι ένα εξειδικευμένο κύτταρο επαναλαμβανόμενου νευρωνικού δικτύου (RNN) σχεδιασμένο να καταγράφει μακροπρόθεσμους εξαρτήσεις σε ακολουθιακά δεδομένα. Απλοποιεί την αρχιτεκτονική του Long Short-Term Memory (LSTM) μειώνοντας τον αριθμό των παραμέτρων και τους υπολογιστικούς πόρους που απαιτούνται, ενώ διατηρεί υψηλή ικανότητα στη διαχείριση μακρών ακολουθιών μέσω δύο πυλών: της πύλης ενημέρωσης και της πύλης επαναφοράς.

Summary

Ένας τύπος αρχιτεκτονικής επαναλαμβανόμενου νευρωνικού δικτύου που χρησιμοποιεί μηχανισμούς κλειδαριάς για τον έλεγχο της ροής πληροφοριών, λειτουργώντας ως απλοποιημένη εναλλακτική λύση του LSTM.

Key Concepts

  • Επαναλαμβανόμενο Νευρωνικό Δίκτυο
  • Πύλη Ενημέρωσης
  • Πύλη Επαναφοράς
  • Μοντελοποίηση Ακολουθιών

Use Cases

  • Επεξεργασία φυσικής γλώσσας
  • Πρόβλεψη χρονοσειρών
  • Αναγνώριση ομιλίας

Code Example

 1
 2
 3
 4
 5
 6
 7
 8
 9
10

import torch.nn as nn

# Define a simple GRU layer
gru = nn.GRU(input_size=10, hidden_size=20, num_layers=1)

# Example input: (seq_len, batch, input_size)
input_data = torch.randn(5, 3, 10)
hidden_state = None

output, hidden = gru(input_data, hidden_state)

Related