Alucinación
term_id: hallucination
Category: application_paradigms
Definition
Las alucinaciones ocurren cuando los modelos de IA generativa producen salidas que parecen plausibles pero carecen de fundamento en la realidad o en los datos de origen. Este es un desafío significativo en aplicaciones que requieren alta precisión y fiabilidad.
Summary
Cuando un modelo de IA genera información confiable pero factualmente incorrecta o sin sentido.
Key Concepts
- Factualidad
- Error Generativo
- Calibración de Confianza
- Fundamentación (Grounding)
Use Cases
- Identificar errores en la generación automatizada de informes
- Desarrollar generación aumentada por recuperación (RAG) para reducir errores
- Evaluar la fiabilidad del modelo en la toma de decisiones críticas