Fortolkelighed
term_id: interpretability
Category: ethics_safety
Definition
Fortolkelighed, eller forklarbarhed, involverer at gøre de interne mekanismer og beslutningsprocesser i AI-modeller gennemsigtige og forståelige for mennesker. Dette er afgørende for fejlfinding, overholdelse af regulering og opbygning af tillid til AI-systemer.
Summary
Den grad, hvori et menneske kan forstå årsagen til en beslutning truffet af en AI-model.
Key Concepts
- Forklarbar AI (XAI)
- Gennemsigtighed
- Funktioners betydning
- Tillid
Use Cases
- Rådgivning bag lånegodkendelser
- Anbefalinger om medicinsk behandling
- Revision af bias i ansættelsesalgoritmer