פרשנותיות
term_id: interpretability
Category: ethics_safety
Definition
פרשנותיות, או הסבריות, כוללת הפיכת פעולות הפנים ותהליכי קבלת ההחלטות של מודלי בינה מלאכותית לשקופות וניתנות להבנה עבור בני אדם. זאת חשובה לניפוי באגים, הבטחת צדק ומניעת הטיות.
Summary
המידה שבה אדם יכול להבין את הגורם להחלטה שנעשתה על ידי מודל בינה מלאכותית.
Key Concepts
- בינה מלאכותית ניתנת להסבר (XAI)
- שקיפות
- חשיבות תכונה
- אמון
Use Cases
- הסברת סיבות לאישור הלוואות
- המלצות לטיפולים רפואיים
- ביקורת על הטיות באלגוריתמי גיוס