Tolkbarhet

Definition

Tolkbarhet, eller förklarbarhet, innebär att göra de interna arbetsmekanismerna och beslutsprocesserna i AI-modeller transparenta och begripliga för människor. Detta är avgörande för felsökning och säkerställande av rättvisa.

Summary

Den grad till vilken en människa kan förstå orsaken till ett beslut fattat av en AI-modell.

Key Concepts

• Förklarbar AI (XAI)
• Transparens
• Funktioners betydelse
• Tillit

Use Cases

• Motivering av lånebeslut
• Rekommendationer för medicinsk behandling
• Revision av bias i anställningsalgoritmer

Related Terms

• Svarta lådan (Modell vars inre logik är okänd)
• SHAP (Metod för att förklara modellutdata)
• Förklarbarhet (Synonymt med tolkbarhet)
• Pålitlig AI (AI som är säker och transparent)