Forklarbar kunstig intelligens
term_id: explainable_artificial_intelligence
Category: basic_concepts
Definition
Ettersom maskinlæringsmodeller blir mer komplekse, spesielt dype nevrale nettverk, blir deres beslutningsprosesser ofte u gjennomsiktige «svarte bokser». XAI har som mål å gjøre disse beslutningene tolkbare og forståelige.
Summary
Forklarbar KI (XAI) refererer til metoder og teknikker i bruken av kunstig intelligens-teknologi slik at løsningens resultater kan forstås av menneskelige eksperter.
Key Concepts
- Tolknbarhet
- Gjennomsiktighet
- Tillit
- Svarte boks-modeller
Use Cases
- Helserelatert diagnostikk der leger må begrunne behandlingsplaner
- Finansielle lånebeslutninger som krever overholdelse av regelverk
- Sikkerhetsrevisjon av autonome kjøretøy