Tấn công đối nghịch
term_id: adversarial_attack
Category: ethics_safety
Definition
Các cuộc tấn công đối nghịch khai thác điểm yếu của mạng nơ-ron bằng cách đưa nhiễu tinh vi vào dữ liệu đầu vào (như hình ảnh hoặc văn bản), gây ra lỗi đáng kể trong kết quả đầu ra của mô hình. Những cuộc tấn công này làm nổi bật sự nhạy cảm của các mô hình hiện đại trước những thay đổi nhỏ.
Summary
Tấn công đối nghịch là kỹ thuật thêm các nhiễu nhỏ, thường khó nhận biết, vào dữ liệu đầu vào để đánh lừa mô hình học máy đưa ra dự đoán sai.
Key Concepts
- Nhiễu (Perturbation)
- Độ bền vững của mô hình
- Hộp trắng so với Hộp đen
- Tấn công né tránh
Use Cases
- Kiểm tra bảo mật mô hình
- Tạo ví dụ đối nghịch để huấn luyện
- Phân tích lỗ hổng trong hệ thống thị giác máy tính