Janela de Contexto
term_id: context_window
Category: engineering_practice
Definition
A janela de contexto define o limite operacional da memória de um modelo de IA para uma única interação. Ela determina quanto do histórico de conversas anteriores, texto de documentos ou dados de entrada o modelo pode atender.
Summary
A quantidade máxima de texto ou tokens que um modelo de linguagem pode processar e considerar simultaneamente durante a inferência ou o treinamento.
Key Concepts
- Limite de Tokens
- Mecanismo de Atenção
- Restrições de Memória
- Comprimento da Entrada
Use Cases
- Resumir documentos longos
- Manter o histórico de conversas em chatbots
- Analisar grandes bases de código