Thiên kiến
term_id: bias
Category: ethics_safety
Definition
Trong đạo đức AI, thiên kiến đề cập đến sự phân biệt đối xử có hệ thống và không công bằng trong việc ra quyết định bằng thuật toán, thường bắt nguồn từ dữ liệu huấn luyện bị lệch hoặc thiết kế mô hình khiếm khuyết. Điều này có thể dẫn đến các tác động tiêu cực lên
Summary
Sự thiên vị hệ thống trong các mô hình AI dẫn đến các kết quả không công bằng đối với một số nhóm hoặc cá nhân nhất định.
Key Concepts
- Công bằng
- Độ lệch tập dữ liệu
- Phân biệt đối xử thuật toán
- AI có đạo đức
Use Cases
- Kiểm toán các thuật toán tuyển dụng
- Xem xét lại các hệ thống phê duyệt khoản vay
- Phân tích độ chính xác của nhận diện khuôn mặt qua các nhóm nhân khẩu học