Forklarbar kunstig intelligens
term_id: explainable_artificial_intelligence
Category: basic_concepts
Definition
Når maskinlæringsmodeller bliver mere komplekse, især dybe neurale netværk, bliver deres beslutningsprocesser ofte uigennemsigtige ‘sorte bokse’. XAI har til formål at gøre disse beslutninger fortolkelige og gennemsigtige.
Summary
Forklarbar AI (XAI) refererer til metoder og teknikker inden for anvendelsen af kunstig intelligens, således at løsningens resultater kan forstås af menneskelige eksperter.
Key Concepts
- Fortolkeligthed
- Gennemsigtighed
- Tillid
- Sorte boks-modeller
Use Cases
- Helbredstjenester, hvor læger skal retfærdiggøre behandlingsplaner
- Finansielle lånebeslutninger, der kræver overholdelse af regler
- Sikkerhedsrevision af autonome køretøjer