Ventana de Contexto
term_id: context_window
Category: engineering_practice
Definition
La ventana de contexto define el límite operativo de la memoria de un modelo de IA para una sola interacción. Determina cuánto historial de conversación previo, texto de documentos o datos de entrada puede atender el modelo para generar respuestas coherentes y relevantes.
Summary
La cantidad máxima de texto o tokens que un modelo de lenguaje puede procesar y considerar simultáneamente durante la inferencia o el entrenamiento.
Key Concepts
- Límite de Tokens
- Mecanismo de Atención
- Restricciones de Memoria
- Longitud de Entrada
Use Cases
- Resumen de documentos largos
- Mantenimiento del historial de conversación en chatbots
- Análisis de grandes bases de código