Părtinire algoritmică
term_id: algorithmic_bias
Category: ethics_safety
Definition
Părtinirea în algoritmi provine de obicei din date de antrenament ne-reprezentative, alegeri de design subiective sau bucle de feedback care amplifică prejudecățile sociale existente. Se manifestă prin predicții distorsionate sau decizii inechitabile.
Summary
Părtinirea algoritmică se referă la erorile sistematice și repetabile într-un sistem informatic care creează rezultate incorecte, cum ar fi favorizarea unui grup arbitrar față de altele.
Key Concepts
- Reprezentarea datelor
- Eroare sistematică
- Strategii de atenuare
Use Cases
- Corectarea clasamentului rezultatelor căutărilor
- Echilibrarea seturilor de date pentru diagnosticul medical
- Diversificarea seturilor de antrenament pentru recunoașterea imaginilor