Pregiudizio algoritmico
term_id: algorithmic_bias
Category: ethics_safety
Definition
Il pregiudizio negli algoritmi origina tipicamente da dati di addestramento non rappresentativi, scelte di progettazione soggettive o loop di feedback che amplificano i pregiudizi sociali esistenti. Si manifesta come previsioni distorte o decisioni discriminatorie.
Summary
Il pregiudizio algoritmico si riferisce a errori sistematici e ripetibili in un sistema informatico che creano risultati ingiusti, come favorire un gruppo arbitrario rispetto ad altri.
Key Concepts
- Rappresentazione dei dati
- Errore sistematico
- Strategie di mitigazione
Use Cases
- Correzione dei ranking nei risultati di ricerca
- Bilanciamento dei dataset per la diagnosi medica
- Diversificazione dei set di addestramento per il riconoscimento delle immagini