Allucinazione
term_id: hallucination
Category: application_paradigms
Definition
Le allucinazioni si verificano quando i modelli di IA generativa producono output che appaiono plausibili ma non sono fondati nella realtà o nei dati di origine. Questa è una sfida significativa nelle applicazioni che richiedono alta accur
Summary
Quando un modello di IA genera informazioni fiduciose ma fattualmente errate o prive di senso.
Key Concepts
- Fattualità
- Errore Generativo
- Calibrazione della Fiducia
- Ancoraggio (Grounding)
Use Cases
- Identificazione di errori nella generazione automatizzata di rapporti
- Sviluppo della generazione aumentata con recupero (RAG) per ridurre gli errori
- Valutazione dell’affidabilità del modello nel processo decisionale critico