Transformers

Terms tagged with Transformers

Definition

Il Prefix Tuning è una tecnica di adattamento efficiente nei parametri per i transformer …

Il contesto lungo si riferisce alla capacità dei modelli basati su transformer di gestire …

Fill Mask è un obiettivo fondamentale di pre-addestramento utilizzato nei modelli basati …

ExBERT fornisce interpretabilità al modello transformer BERT analizzando …

Poiché i transformer elaborano tutti i token in parallelo anziché in sequenza come le …

Gli encoder elaborano sequenze di input grezze o strutture dati e le convertono in …

Gli adattatori sono una tecnica di fine-tuning efficiente nei parametri, utilizzata …

I meccanismi di attenzione permettono ai modelli di concentrarsi sulle informazioni …

L’auto-attenzione consente ai modelli di catturare le dipendenze tra tutte le …