后门攻击
term_id: backdoor_attack
Category: ethics_safety
Definition
后门攻击涉及使用特定的模式（称为触发器）对机器学习模型的训练数据进行投毒。虽然模型在干净数据上表现正常，但在检测到触发器时会激活错误的行为，例如将特定图像错误分类为指定标签，
Summary
一种安全威胁，恶意行为者在训练期间将隐藏触发器嵌入 AI 模型，导致特定错误分类。
Key Concepts
- 数据投毒
- 模型完整性
- 对抗性机器学习
- 触发模式
Use Cases
- ML 流水线的安全测试
- 开发防御过滤器
- 审计第三方模型