Interpretierbarkeit
term_id: interpretability
Category: ethics_safety
Definition
Interpretierbarkeit, auch Erklärbarkeit genannt, beinhaltet die Transparenz und Verständlichkeit der internen Funktionsweise und Entscheidungsprozesse von KI-Modellen für den Menschen. Dies ist entscheidend für das Debugging und die Sicherstellung…
Summary
Das Ausmaß, in dem ein Mensch die Ursache einer Entscheidung eines KI-Modells nachvollziehen kann.
Key Concepts
- Erklärbare KI (XAI)
- Transparenz
- Merkmalswichtigkeit
- Vertrauen
Use Cases
- Begründung von Kreditgenehmigungen
- Empfehlungen für medizinische Behandlungen
- Audit auf Verzerrungen in Einstellungsalgorithmen