Data Poisoning
term_id: data_poisoning
Category: ethics_safety
Definition
Kỹ thuật đối kháng này nhằm mục đích làm suy yếu tính toàn vẹn của các mô hình học máy bằng cách thay đổi dữ liệu huấn luyện. Bằng cách đưa vào các lỗi tinh vi hoặc các ví dụ thiên vị, kẻ tấn công có thể khiến mô hình
Summary
Data Poisoning (Đầu độc dữ liệu) là một cuộc tấn công bảo mật trong đó các tác nhân độc hại tiêm dữ liệu bị hỏng hoặc gây hiểu lầm vào tập huấn luyện để làm giảm hiệu suất của mô hình.
Key Concepts
- Tấn công Đối kháng
- Tính toàn vẹn của Mô hình
- Bảo mật Dữ liệu Huấn luyện
- Tấn công Backdoor (Cửa sau)
Use Cases
- Kiểm tra bảo mật cho các quy trình đường ống học máy (ML pipelines)
- Hiểu rõ các lỗ hổng trong các tập dữ liệu mở
- Phát triển các cơ chế phòng thủ mạnh mẽ