Interpretabilità
term_id: interpretability
Category: ethics_safety
Definition
L’interpretabilità, o spiegabilità, riguarda la resa trasparente e comprensibile agli esseri umani del funzionamento interno e dei processi decisionali dei modelli di IA. Questo è cruciale per il debug, la conformità normativa e la costruzione della fiducia.
Summary
Il grado con cui un essere umano può comprendere le cause alla base di una decisione presa da un modello di IA.
Key Concepts
- IA Spiegabile (XAI)
- Trasparenza
- Importanza delle Caratteristiche
- Fiducia
Use Cases
- Motivazione dell’approvazione di prestiti
- Raccomandazioni di trattamenti medici
- Audit dei pregiudizi negli algoritmi di assunzione