Khả năng diễn giải
term_id: interpretability
Category: ethics_safety
Definition
Khả năng diễn giải, hay khả năng giải thích, liên quan đến việc làm cho các hoạt động nội bộ và quy trình ra quyết định của các mô hình AI trở nên minh bạch và dễ hiểu đối với con người. Điều này rất quan trọng cho việc gỡ lỗi, đảm bảo công bằng và xây dựng niềm tin.
Summary
Mức độ mà con người có thể hiểu được nguyên nhân dẫn đến một quyết định do mô hình AI đưa ra.
Key Concepts
- AI có thể giải thích (XAI)
- Minh bạch
- Tầm quan trọng của đặc trưng
- Niềm tin
Use Cases
- Giải thích lý do phê duyệt vay vốn
- Khuyến nghị điều trị y tế
- Kiểm toán thiên kiến trong thuật toán tuyển dụng