可解释人工智能
term_id: explainable_artificial_intelligence
Category: basic_concepts
Definition
随着机器学习模型变得越来越复杂，特别是深度神经网络，其决策过程往往变得不透明的“黑盒”。XAI旨在使这些决策具有可解释性。
Summary
可解释人工智能（XAI）是指应用人工智能技术的方法和技巧，使得解决方案的结果能够被人类专家理解。
Key Concepts
- 可解释性
- 透明度
- 信任
- 黑盒模型
Use Cases
- 医生需要证明治疗计划合理性的医疗诊断
- 需要符合监管规定的金融贷款决策
- 自动驾驶汽车的安全审计