Förklarbar artificiell intelligens
term_id: explainable_artificial_intelligence
Category: basic_concepts
Definition
När maskininlärningsmodeller blir mer komplexa, särskilt djupa neuronnät, blir deras beslutsfattande processer ofta opålitliga ‘svarta lådor’. XAI syftar till att göra dessa beslut tolkbara och transparenta.
Summary
Förklarbar AI (XAI) syftar på metoder och tekniker inom tillämpningen av artificiell intelligens så att lösningens resultat kan förstås av mänskliga experter.
Key Concepts
- Tolkbarhet
- Transparens
- Tillit
- Svarta låda-modeller
Use Cases
- Diagnostik inom vården där läkare behöver motivera behandlingsplaner
- Beslut om finansiella lån som kräver efterlevnad av reglering
- Säkerhetsrevision av autonoma fordon