Định kiến
term_id: stereotype
Category: ethics_safety
Definition
Trong AI, các định kiến nảy sinh khi các mô hình học và khuếch đại những thiên kiến xã hội có trong dữ liệu huấn luyện. Những điều này có thể dẫn đến các kết quả phân biệt đối xử, chẳng hạn như liên kết các nghề nghiệp cụ thể với giới tính nhất định.
Summary
Một niềm tin khái quát hóa và thường đơn giản hóa quá mức về một nhóm người nhất định, được phản ánh trong đầu ra của AI.
Key Concepts
- Thiên kiến thuật toán
- Công bằng
- Thiên kiến xã hội
- Phân biệt đối xử
Use Cases
- Kiểm toán các thuật toán tuyển dụng để tìm thiên kiến giới tính
- Sửa chữa các thiên kiến chủng tộc trong nhận diện khuôn mặt
- Phát triển các mô hình xử lý ngôn ngữ tự nhiên công bằng hơn