Giám sát của con người
term_id: human_oversight
Category: ethics_safety
Definition
Giám sát của con người đề cập đến các cơ chế và quy trình mà ở đó con người giám sát, đánh giá và can thiệp vào các quyết định hoặc hành động do AI đưa ra. Khái niệm này rất quan trọng để đảm bảo rằng các hệ thống tự động hoạt động an toàn và có trách nhiệm.
Summary
Thực hành duy trì sự kiểm soát và xem xét của con người đối với các hệ thống AI tự động nhằm đảm bảo an toàn, độ chính xác và tuân thủ đạo đức.
Key Concepts
- Con người trong vòng lặp (Human-in-the-loop)
- Trách nhiệm giải trình
- Giám sát an toàn
- Tuân thủ đạo đức
Use Cases
- Xem xét các chẩn đoán y tế do AI tạo ra trước khi điều trị
- Giám sát các can thiệp của xe tự hành trong các trường hợp biên (edge cases)
- Kiểm toán các quyết định tuyển dụng dựa trên thuật toán để tìm thiên kiến