Αλγοριθμική Διακρίσεις
term_id: algorithmic_discrimination
Category: ethics_safety
Definition
Αυτό το φαινόμενο προκύπτει όταν τα μοντέλα ΤΝ αντιμετωπίζουν ασυνείδητα ή συστηματικά διαφορετικά τα άτομα λόγω φυλής, φύλου, ηλικίας ή άλλων ευαίσθητων χαρακτηριστικών. Συχνά οφείλεται σε προκατειλημμένα δεδομένα εκπαίδευσης ή σε αρνητικές ανατροφοδοτήσεις.
Summary
Οι αλγοριθμικές διακρίσεις συμβαίνουν όταν τα αυτοματοποιημένα συστήματα παράγουν άδικα ή προκατειλημμένα αποτελέσματα που μειονεκτούν συγκεκριμένες ομάδες με βάση προστατευόμενα χαρακτηριστικά.
Key Concepts
- Δικαιοσύνη (Fairness)
- Προστατευόμενα Χαρακτηριστικά
- Διαφορετική Επίπτωση (Disparate Impact)
Use Cases
- Έλεγχος αλγορίθμων πρόσληψης για προκατάληψη φύλου
- Αξιολόγηση συστημάτων έγκρισης δανείων για φυλετικές ανισότητες
- Εξασφάλιση ακρίβειας αναγνώρισης προσώπων σε όλους τους τόνους δέρματος