Selitettävä tekoäly
term_id: explainable_artificial_intelligence
Category: basic_concepts
Definition
Kun koneoppimismallit muuttuvat monimutkaisemmiksi, erityisesti syvät neuroverkot, niiden päätöksentekoprosessit muuttuvat usein läpinäkymättömiksi ‘mustiksi laatikoiksi’. XAI:n tavoitteena on tehdä näistä päätöksistä tulkittavissa olevia ja…
Summary
Selitettävä tekoäly (XAI) viittaa menetelmiin ja tekniikoihin tekoälyteknologian soveltamisessa siten, että ratkaisun tulokset ovat ymmärrettävissä ihmisasiantuntijoille.
Key Concepts
- Tulkittavuus
- Läpinäkyvyys
- Luottamus
- Mustan laatikon mallit
Use Cases
- Terveydenhuollon diagnostiikka, jossa lääkäreiden on perusteltava hoitosuunnitelmia
- Rahoituksen myöntöpäätökset, jotka vaativat sääntelyyn noudattamista
- Itseajavien ajoneuvojen turvallisuuden auditointi