שקיפות
term_id: transparency
Category: ethics_safety
Definition
שקיפות מבטיחה שבעלי עניין יוכלו להבין כיצד מודל בינה מלאכותית מגיע לפלט שלו, ובכך מעודד אמון ואחריות. היא כוללת חשיפת מקורות נתוני האימון, ארכיטקטורת המודל, ומגבלותיו. שקיפות היא קריטית לאיתור הטיה, עמידה ברגולציה ובניית אמון ציבורי במערכות AI הרגישות.
Summary
מידת פתיחות והבנת תהליכי קבלת ההחלטות, מקורות הנתונים והמגבלות של מערכת בינה מלאכותית על ידי המשתמשים.
Key Concepts
- הסבריות (Explainability)
- אחריות
- חשיפת הטיה
- אמון המשתמש
Use Cases
- דיווחים לעמידה ברגולציה
- בניית אמון המשתמשים ב-AI בתחום הבריאות
- ביקורת על החלטות אלגוריתמיות