Dekoder

term_id: decoder

Category: basic_concepts

Definition

I sekvens-til-sekvens-modeller tar dekoderen kontekstvektoren produsert av enkoderen og genererer målutdataene steg for steg. Den bruker oppmerksomhetsmekanismer (attention mechanisms) til å fokusere på relevante deler av den innkodete representasjonen for å produsere nøyaktige utdata.

Summary

En komponent i et nevralt nettverk som er ansvarlig for å generere utdata-sekvenser fra kodete latente representasjoner.

Key Concepts

  • Sekvensgenerering
  • Oppmerksomhetsmekanisme
  • Latent rom
  • Autoregressiv prediksjon

Use Cases

  • Maskinoversettelse (engelsk til fransk)
  • Tekstsammendrag
  • Bildetekstgenerering