Fortolkbarhet
term_id: interpretability
Category: ethics_safety
Definition
Fortolkbarhet, eller forklarbarhet, innebærer å gjøre de indre mekanismene og beslutningsprosessene til AI-modeller gjennomsiktige og forståelige for mennesker. Dette er avgjørende for feilsøking, sikkerhet og tillit til systemet.
Summary
Grad av hvor godt et menneske kan forstå årsaken til en beslutning tatt av en AI-modell.
Key Concepts
- Explainable AI (XAI)
- Gjennomsiktighet
- Funksjonsimportance
- Tillit
Use Cases
- Begrunnelse for lånegodkjenning
- Anbefalinger om medisinsk behandling
- Revisjon av bias i ansettelsesalgoritmer