אפליה אלגוריתמית
term_id: algorithmic_discrimination
Category: ethics_safety
Definition
תופעה זו נובעת כאשר מודלי בינה מלאכותית מטפלים באופן לא מכוון או שיטתי באנשים בצורה שונה בשל גזע, מגדר, גיל או תכונות רגישות אחרות. הדבר נובע לעיתים קרובות מנתוני אימון מוטים או מעיצוב לקוי.
Summary
אפליה אלגוריתמית מתרחשת כאשר מערכות אוטומטיות מייצרות תוצאות לא הוגנות או מוטות הפוגעות בקבוצות ספציפיות על בסיס מאפיינים מוגנים.
Key Concepts
- הוגנות
- מאפיינים מוגנים
- השפעה מפלה (Disparate Impact)
Use Cases
- ביקורת על אלגוריתמי גיוס לאפליה מגדרית
- הערכת מערכות אישור הלוואות לשוויון גזעי
- הבטחת דיוק בזיהוי פנים לאורך כל גווני העור