Token maxxing
term_id: token_maxxing
Category: basic_concepts
Definition
Token maxxing houdt in dat inputs zorgvuldig worden samengesteld om de volledige capaciteit van het contextvenster van een model te benutten of om de semantische dichtheid van tokens te optimaliseren voor betere prestaties. Beoefenaars kunnen padding toevoegen of teksten comprimeren om de efficiëntie te verhogen.
Summary
Een optimalisatiestrategie in prompt engineering die gericht is op het maximaliseren van het nut of de outputkwaliteit van een specifiek tokenaantal binnen grote taalmodellen.
Key Concepts
- Prompt engineering
- Contextvenster
- Semantische dichtheid
- Optimalisatie
Use Cases
- Maximaliseren van redeneervermogens van LLM’s
- Kostenverlaging bij API-gebruik
- Testen van modelgrenzen