Alucinação
term_id: hallucination
Category: application_paradigms
Definition
As alucinações ocorrem quando modelos de IA generativa produzem saídas que parecem plausíveis, mas carecem de fundamentação na realidade ou nos dados de origem. Este é um desafio significativo em aplicações que exigem alta precisão.
Summary
Quando um modelo de IA gera informações confiantes, mas factualmente incorretas ou sem sentido.
Key Concepts
- Factualidade
- Erro Generativo
- Calibração de Confiança
- Ancoragem (Grounding)
Use Cases
- Identificação de erros na geração automatizada de relatórios
- Desenvolvimento de geração aumentada por recuperação (RAG) para reduzir erros
- Avaliação da confiabilidade do modelo em tomada de decisões críticas