בינה מלאכותית ניתנת להסבר
term_id: explainable_artificial_intelligence
Category: basic_concepts
Definition
ככל שמודלים של למידת מכונה הופכים למורכבים יותר, ובמיוחד רשתות נוירונים עמוקות, תהליכי קבלת ההחלטות שלהם הופכים לעיתים קרובות לקופסאות שחורות אטומות. XAI שואפת להפוך החלטות אלו לפענחות ולשקופות.
Summary
בינה מלאכותית ניתנת להסבר (XAI) מתייחסת לשיטות וטכניקות ביישום טכנולוגיית בינה מלאכותית כך שתוצאות הפתרון יובנו על ידי מומחים אנושיים.
Key Concepts
- פרשנות
- שקיפות
- אמון
- מודלים מסוג קופסה שחורה
Use Cases
- אבחון רפואי שבו רופאים צריכים להצדיק תוכניות טיפול
- החלטות הלוואה פיננסיות הדורשות עמידה ברגולציה
- בדיקות בטיחות לרכב אוטונומי