De-kooderi

term_id: decoder

Category: basic_concepts

Definition

Sekvenssi-sekvenssi-malleissa de-kooderi ottaa vastaan kooderilta tuotetun kontekstivektorin ja tuottaa kohdesekvenssin vaiheittain. Se käyttää huomiomekanismeja (attention mechanisms) keskittyäkseen merkittäviin osiin syötteestä generoidessaan tulosta.

Summary

Neuroverkon komponentti, joka on vastuussa lähtösekvenssien tuottamisesta koodatuista piilevistä esityksistä.

Key Concepts

  • Sekvenssin generointi
  • Huomiomekanismi
  • Piilevä avaruus
  • Autoregressiivinen ennustus

Use Cases

  • Konemielikäännös (esim. englanti ranskaksi)
  • Tekstin tiivistäminen
  • Kuvatekstitys