Token maxxing
term_id: token_maxxing
Category: basic_concepts
Definition
Token maxxing innebærer å nøye utforme inndata for å utnytte modellens kontekstvindu fullt ut, eller for å optimalisere den semantiske tettheten av tokens for bedre ytelse. Utøvere kan fylle ut…
Summary
En optimaliseringsstrategi i prompt-engineering rettet mot å maksimere nytten eller kvaliteten på utdataene fra en bestemt antall tokens i store språkmodeller.
Key Concepts
- Prompt-engineering
- Kontekstvindu
- Semantisk tetthet
- Optimalisering
Use Cases
- Maksimere LLMs evne til resonnement
- Redusere kostnader ved API-bruk
- Teste modellens grenser