模型提取
Definition
模型提取涉及查询目标机器学习模型的 API，以推断其内部结构、权重或决策边界。攻击者利用这些查询构建一个代理模型，从而窃取知识产权或绕过安全限制。
Summary
一种攻击方式， …
Adversarial ML
Terms tagged with Adversarial ML
Terms tagged with Adversarial ML
模型提取涉及查询目标机器学习模型的 API，以推断其内部结构、权重或决策边界。攻击者利用这些查询构建一个代理模型，从而窃取知识产权或绕过安全限制。
一种攻击方式， …
后门攻击涉及使用特定的模式（称为触发器）对机器学习模型的训练数据进行投毒。虽然模型在干净数据上表现正常，但在检测到触发器时会激活错误的行为，例如将特定图像错误分类为指定标签， …
抵抗人工智能是指个人或实体为避免被 AI 算法影响、追踪或分类而使用的方法。这包括针对感知系统的对抗性攻击、保护隐私的数据处理技术以及旨在规避算法监控的策略。
旨 …