对抗机器学习
term_id: adversarial_machine_learning
Category: training_techniques
Definition
该领域既包括破坏模型的进攻性技术，也包括加固模型的防御策略。它涉及在对抗样本上训练模型以提高其韧性，这一过程被称为对抗训练。
Summary
对抗机器学习是一个研究领域，旨在研究如何使机器学习模型对旨在欺骗它们的恶意输入保持鲁棒性。
Key Concepts
- 对抗训练
- 鲁棒性
- 泛化差距
- 安全性
Use Cases
- 提高模型韧性
- AI系统的安全审计
- 开发防御机制