人工监督
term_id: human_oversight
Category: ethics_safety
Definition
人工监督是指人类监控、评估并介入由人工智能驱动的决策或行动中的机制和流程。这一概念对于确保自动化系统安全运行至关重要。
Summary
在自动化人工智能系统中保持人类控制和审查的做法，以确保安全性、准确性和道德合规性。
Key Concepts
- 人在回路中
- 问责制
- 安全监控
- 道德合规
Use Cases
- 在治疗前审查人工智能生成的医学诊断
- 在边缘情况下监控自动驾驶车辆的干预措施
- 审计算法招聘决策中的偏见