Interpretabilitas
term_id: interpretability
Category: ethics_safety
Definition
Interpretabilitas, atau keterjelasan, melibatkan pembuatan transparansi terhadap mekanisme internal dan proses pengambilan keputusan model AI agar mudah dipahami manusia. Hal ini sangat penting untuk debug, memastikan keadilan, dan membangun kepercayaan.
Summary
Tingkat di mana seorang manusia dapat memahami penyebab keputusan yang dibuat oleh model AI.
Key Concepts
- AI yang Dapat Dijelaskan (XAI)
- Transparansi
- Pentingnya Fitur
- Kepercayaan
Use Cases
- Penalaran persetujuan pinjaman
- Rekomendasi perawatan medis
- Audit bias dalam algoritma perekrutan