Interpretovatelnost
term_id: interpretability
Category: ethics_safety
Definition
Interpretovatelnost, nebo také vysvětlitelnost, zahrnuje zpřístupnění vnitřního fungování a procesů rozhodování modelů AI lidem. To je klíčové pro ladění chyb, zajištění…
Summary
Míra, do které člověk může pochopit příčinu rozhodnutí přijatého modelem AI.
Key Concepts
- Vysvětlitelná AI (XAI)
- Transparentnost
- Důležitost znaků
- Důvěra
Use Cases
- Odůvodnění schválení úvěru
- Doporučení léčebných postupů v medicíně
- Audit zkreslení v náborových algoritmech