Interpretabilitate
term_id: interpretability
Category: ethics_safety
Definition
Interpretabilitatea, sau explicabilitatea, implică facerea transparentă și comprehensibilă pentru oameni a funcționării interne și a proceselor de luare a deciziilor ale modelelor AI. Acest aspect este crucial pentru depanare, asigurarea conformității și construirea încrederii.
Summary
Gradul în care un om poate înțelege cauza unei decizii luate de un model de inteligență artificială.
Key Concepts
- AI Explicabil (XAI)
- Transparență
- Importanța caracteristicilor
- Încredere
Use Cases
- Motivarea aprobării creditelor
- Recomandări de tratament medical
- Auditarea părtinirii în algoritmi de recrutare