Thiên vị thuật toán
term_id: algorithmic_bias
Category: ethics_safety
Definition
Thiên vị trong các thuật toán thường bắt nguồn từ dữ liệu huấn luyện không đại diện, các lựa chọn thiết kế chủ quan hoặc các vòng lặp phản hồi khuếch đại các định kiến xã hội hiện có. Nó biểu hiện dưới dạng các dự đoán bị lệch hoặc kết quả không công bằng.
Summary
Thiên vị thuật toán đề cập đến các lỗi có hệ thống và lặp đi lặp lại trong một hệ thống máy tính tạo ra kết quả bất công, chẳng hạn như ưu tiên một nhóm tùy ý nào đó so với các nhóm khác.
Key Concepts
- Đại diện dữ liệu
- Lỗi có hệ thống
- Chiến lược giảm thiểu
Use Cases
- Sửa chữa thứ hạng kết quả tìm kiếm
- Cân bằng tập dữ liệu chẩn đoán y tế
- Đa dạng hóa tập huấn luyện nhận diện hình ảnh