Decoder

term_id: decoder

Category: basic_concepts

Definition

In Sequenz-zu-Sequenz-Modellen nimmt der Decoder den vom Encoder erzeugten Kontextvektor entgegen und generiert die Zielausgabe schrittweise. Er verwendet Aufmerksamkeitsmechanismen, um sich auf relevante Teile der…

Summary

Eine neuronale Netzwerkkomponente, die für die Generierung von Ausgabesequenzen aus kodierten latenten Repräsentationen verantwortlich ist.

Key Concepts

  • Sequenzgenerierung
  • Aufmerksamkeitsmechanismus
  • Latenter Raum
  • Autoregressive Vorhersage

Use Cases

  • Maschinelle Übersetzung (Englisch nach Französisch)
  • Textzusammenfassung
  • Bildunterschriftenerstellung