Αλγοριθμική Προκατάληψη
term_id: algorithmic_bias
Category: ethics_safety
Definition
Η προκατάληψη στους αλγορίθμους προέρχεται συνήθως από μη αντιπροσωπευτικά δεδομένα εκπαίδευσης, υποκειμενικές επιλογές σχεδιασμού ή βρόχους ανατροφοδότησης που ενισχύουν υπάρχουσες κοινωνικές προκαταλήψεις. Εκδηλώνεται ως παραμορφωμένες προβλέψεις ή αποφάσεις.
Summary
Η αλγοριθμική προκατάληψη αναφέρεται σε συστηματικά και επαναλαμβανόμενα σφάλματα σε έναν υπολογιστικό σύστημα που δημιουργούν άδικα αποτελέσματα, ευνοώντας μία αυθαίρετη ομάδα έναντι των άλλων.
Key Concepts
- Αναπαράσταση Δεδομένων
- Συστηματικό Σφάλμα
- Στρατηγικές Μετριασμού
Use Cases
- Διόρθωση κατάταξης αποτελεσμάτων αναζήτησης
- Ισορροπία συνόλων δεδομένων ιατρικής διάγνωσης
- Ποικιλομορφία συνόλων εκπαίδευσης αναγνώρισης εικόνας