Erklärbare künstliche Intelligenz
term_id: explainable_artificial_intelligence
Category: basic_concepts
Definition
Da Machine-Learning-Modelle komplexer werden, insbesondere tiefe neuronale Netze, werden ihre Entscheidungsprozesse oft zu intransparenten ‘Black Boxes’. XAI zielt darauf ab, diese Entscheidungen interpretierbar und nachvollziehbar zu machen.
Summary
Erklärbare KI (XAI) bezeichnet Methoden und Techniken im Einsatz von KI-Technologien, sodass die Ergebnisse der Lösung von menschlichen Experten verstanden werden können.
Key Concepts
- Interpretierbarkeit
- Transparenz
- Vertrauen
- Black-Box-Modelle
Use Cases
- Diagnostik im Gesundheitswesen, bei der Ärzte Behandlungspläne begründen müssen
- Kreditentscheidungen im Finanzwesen, die regulatorische Compliance erfordern
- Sicherheitsüberprüfungen autonomer Fahrzeuge