Transformers

Terms tagged with Transformers

Definition

Prefix-tuning er en parameter-effektiv tilpasningsteknik til for-trænede transformere. I …

Lang kontekst refererer til kapaciteten hos transformer-baserede modeller til at håndtere …

Fyld maske er et grundlæggende prætræningsmål, der bruges i transformer-baserede modeller …

ExBERT giver fortolkbarhed for BERT-transformermodellen ved at analysere vigtigheden af …

Da transformer-modeller behandler alle tokens parallelt i stedet for sekventielt som …

Encoders behandler rå inputsekvenser eller datastrukturer og konverterer dem til latent …

Adaptere er en teknik til finjustering med effektiv parameterbrug, der primært anvendes i …

Attention-mekanismer gør det muligt for modeller at fokusere på relevant information, når …

Selvopmærksomhed gør det muligt for modeller at fange afhængigheder mellem alle …