Phân biệt đối xử thuật toán
term_id: algorithmic_discrimination
Category: ethics_safety
Definition
Hiện tượng này nảy sinh khi các mô hình AI vô tình hoặc có hệ thống đối xử khác biệt với các cá nhân dựa trên chủng tộc, giới tính, tuổi tác hoặc các thuộc tính nhạy cảm khác. Nó thường bắt nguồn từ dữ liệu huấn luyện bị thiên vị hoặc các thiết kế mô hình chưa cân bằng.
Summary
Phân biệt đối xử thuật toán xảy ra khi các hệ thống tự động tạo ra kết quả bất công hoặc thiên vị, gây bất lợi cho các nhóm cụ thể dựa trên các đặc điểm được bảo vệ.
Key Concepts
- Công bằng
- Thuộc tính được bảo vệ
- Tác động khác biệt (Disparate Impact)
Use Cases
- Kiểm toán thuật toán tuyển dụng để tìm thiên vị giới tính
- Đánh giá hệ thống phê duyệt khoản vay về sự chênh lệch chủng tộc
- Đảm bảo độ chính xác của nhận diện khuôn mặt qua các tông màu da khác nhau