Transformers

Terms tagged with Transformers

Definition

Prefix Tuning is een parameter-efficiënte adaptatietechniek voor voorgebouwde …

Lange context verwijst naar de capaciteit van transformer-gebaseerde modellen om …

Mask invullen is een fundamenteel doelwit voor voorafgaande training (pre-training) dat …

ExBERT biedt interpreteerbaarheid voor het BERT-transformermodel door het belang van …

Aangezien transformers alle tokens parallel verwerken in plaats van sequentieel zoals …

Encoders verwerken ruwe invoersequenties of gegevensstructuren en zetten deze om in …

Adapters zijn een techniek voor parameter-efficiënte fine-tuning, voornamelijk gebruikt …

Attention-mechanismen stellen modellen in staat om zich te focussen op relevante …

Zelfattentie stelt modellen in staat om afhankelijkheden tussen alle posities in een …