הטיה אלגוריתמית
term_id: algorithmic_bias
Category: ethics_safety
Definition
הטיה באלגוריתמים נובעת בדרך כלל מנתוני אימון שאינם מייצגים, בחירות עיצוב סובייקטיביות, או לולאות משוב שמגבירות דעות קדומות חברתיות קיימות. היא באה לידי ביטוי בתחזיות מעוותות או החלטות לא הוגנות.
Summary
הטיה אלגוריתמית מתייחסת לשגיאות שיטתיות וחוזרות במערכת מחשב היוצרות תוצאות לא הוגנות, כגון העדפת קבוצה אחת על פני אחרות.
Key Concepts
- ייצוג נתונים
- שגיאה שיטתית
- אסטרטגיות הקלה
Use Cases
- תיקון דירוג תוצאות חיפוש
- איזון ערכאות נתונים לאבחון רפואי
- הגוון ערכאות האימון לזיהוי תמונות