Trích xuất mô hình
term_id: model_extraction
Category: ethics_safety
Definition
Trích xuất mô hình liên quan đến việc truy vấn API của mô hình máy học mục tiêu để suy luận cấu trúc bên trong, trọng số hoặc ranh giới quyết định của nó. Kẻ tấn công sử dụng các truy vấn này để xây dựng một mô hình giả lập (surrogate model) hoạt động tương tự như mô hình gốc.
Summary
Một cuộc tấn công trong đó kẻ thù truy vấn mô hình để tái tạo các tham số hoặc tạo ra một bản sao giả lập.
Key Concepts
- Mô hình giả lập
- Truy vấn API
- Đạo cắp sở hữu trí tuệ
- Tấn công đối nghịch
Use Cases
- Kiểm toán bảo mật cho các API AI thương mại
- Bảo vệ các thuật toán độc quyền khỏi việc sao chép
- Nghiên cứu các cơ chế phòng thủ chống lại việc trích xuất