Token maxxing
term_id: token_maxxing
Category: basic_concepts
Definition
Le token maxxing consiste à concevoir soigneusement les entrées pour utiliser pleinement la capacité de la fenêtre de contexte d’un modèle ou pour optimiser la densité sémantique des tokens afin d’améliorer les performances. Les praticiens peuvent ajouter du remplissage…
Summary
Une stratégie d’optimisation en ingénierie de prompt visant à maximiser l’utilité ou la qualité de la sortie pour un nombre spécifique de tokens dans les grands modèles de langage.
Key Concepts
- Ingénierie de prompt
- Fenêtre de contexte
- Densité sémantique
- Optimisation
Use Cases
- Maximisation des capacités de raisonnement des LLM
- Réduction des coûts d’utilisation de l’API
- Test des limites du modèle