An toàn AI
term_id: safety
Category: ethics_safety
Definition
An toàn AI là một lĩnh vực liên ngành tập trung vào việc ngăn chặn các kết quả bất lợi từ trí tuệ nhân tạo tiên tiến. Lĩnh vực này bao gồm các thách thức kỹ thuật như sự phù hợp giá trị (alignment), khả năng giải thích (interpretability) và tính bền vững, nhằm đảm bảo AI hoạt động vì lợi ích của con người.
Summary
Nghiên cứu và thực tiễn đảm bảo các hệ thống AI không gây ra tổn hại về vật lý, kỹ thuật số hoặc xã hội.
Key Concepts
- Phù hợp giá trị
- Khả năng giải thích
- Lý thuyết điều khiển
- Đánh giá rủi ro
Use Cases
- Phát triển công tắc tắt khẩn cấp cho xe tự hành
- Kiểm toán thuật toán để phát hiện thiên kiến
- Xây dựng khung quy định cho việc triển khai AI