Token maxxing
term_id: token_maxxing
Category: basic_concepts
Definition
El token maxxing implica diseñar cuidadosamente las entradas para utilizar toda la capacidad de la ventana de contexto de un modelo o para optimizar la densidad semántica de los tokens con el fin de mejorar el rendimiento. Los practicantes pueden rellenar (pad) o estructurar los prompts para extraer el máximo potencial del modelo sin exceder sus límites.
Summary
Una estrategia de optimización en la ingeniería de prompts destinada a maximizar la utilidad o la calidad de la salida de un conteo específico de tokens dentro de modelos de lenguaje grandes.
Key Concepts
- Ingeniería de Prompts
- Ventana de Contexto
- Densidad Semántica
- Optimización
Use Cases
- Maximizar las capacidades de razonamiento de los LLM
- Reducción de costos en el uso de APIs
- Prueba de los límites del modelo