Học máy đối nghịch
term_id: adversarial_machine_learning
Category: training_techniques
Definition
Lĩnh vực này bao gồm cả các kỹ thuật tấn công để phá vỡ mô hình và các chiến lược phòng thủ để tăng cường độ cứng rắn cho chúng. Nó liên quan đến việc huấn luyện các mô hình trên các ví dụ đối nghịch để cải thiện khả năng phục hồi, một quy trình được gọi là huấn luyện đối nghịch.
Summary
Học máy đối nghịch là lĩnh vực nghiên cứu cách giúp các mô hình học máy trở nên bền vững trước các đầu vào độc hại được thiết kế để đánh lừa chúng.
Key Concepts
- Huấn luyện đối nghịch
- Độ bền vững
- Khoảng cách tổng quát hóa
- Bảo mật
Use Cases
- Cải thiện khả năng phục hồi của mô hình
- Kiểm toán bảo mật hệ thống AI
- Phát triển cơ chế phòng thủ