Hallucination

Definition

Les hallucinations se produisent lorsque les modèles d’IA générative produisent des sorties qui semblent plausibles mais manquent de fondement dans la réalité ou les données sources. Il s’agit d’un défi majeur pour les applications nécessitant une grande précision…

Summary

Lorsqu’un modèle d’IA génère des informations factuellement incorrectes ou absurdes avec confiance.

Key Concepts

• Factualité
• Erreur générative
• Calibration de la confiance
• Ancrage (Grounding)

Use Cases

• Identifier les erreurs dans la génération automatisée de rapports
• Développer la génération augmentée par récupération (RAG) pour réduire les erreurs
• Évaluer la fiabilité du modèle dans la prise de décision critique

Related Terms

• Génération augmentée par récupération (RAG, technique pour réduire les hallucinations)
• Vérification des faits (processus de validation)
• IA digne de confiance (domaine axié sur la fiabilité)
• Vérité terrain (données de référence exactes)