Contexto largo
term_id: long_context
Category: basic_concepts
Definition
El contexto largo se refiere a la capacidad de los modelos basados en transformadores para manejar longitudes de entrada extensas, a menudo superando los límites estándar como 2k o 4k tokens. Esta capacidad permite a los modelos analizar documentos completos, largas conversaciones o grandes conjuntos de código sin perder el hilo contextual, lo cual es crucial para tareas que requieren comprensión global y coherencia a lo largo de textos muy extensos.
Summary
La capacidad de un modelo de lenguaje para procesar y retener información de secuencias de entrada que contienen miles o millones de tokens.
Key Concepts
- Ventana de contexto
- Límite de tokens
- Mecanismo de atención
- Codificación posicional
Use Cases
- Resumen de contratos legales completos
- Análisis de repositorios completos de código fuente
- Procesamiento de transcripciones de audio de larga duración