פיקוח אנושי
term_id: human_oversight
Category: ethics_safety
Definition
פיקוח אנושי מתייחס למנגנונים ותהליכים שבהם בני אדם מנטרים, מעריכים ומתערטים בהחלטות או פעולות המונעות על ידי AI. רעיון זה קריטי להבטחה שמערכות אוטומטיות פועלות בצורה אחראית ובטוחה.
Summary
הפרקטיקה של שמירה על שליטה ובדיקה אנושיות מעל מערכות AI אוטומטיות כדי להבטיח בטיחות, דיוק ועמידה אתית.
Key Concepts
- אדם במעגל (Human-in-the-loop)
- אחריותיות
- ניטור בטיחות
- עמידה אתית
Use Cases
- סקירת אבחנות רפואיות שנוצרו על ידי AI לפני מתן טיפול
- ניטור התערבויות רכב אוטונומי במקרי קצה
- ביקורת על החלטות גיוס מבוססות אלגוריתמים לאפליה