モデル抽出
Definition
モデル抽出では、攻撃者はターゲット機械学習モデルのAPIをクエリして、その内部構造、重み、または意思決定境界を推測します。これらのクエリを使用して、元のモデルの挙動を模倣するサロ …
Adversarial ML
Terms tagged with Adversarial ML
Terms tagged with Adversarial ML
モデル抽出では、攻撃者はターゲット機械学習モデルのAPIをクエリして、その内部構造、重み、または意思決定境界を推測します。これらのクエリを使用して、元のモデルの挙動を模倣するサロ …
バックドア攻撃とは、機械学習モデルの訓練データに「トリガー」と呼ばれる特定のパターンを混入させる（ポイズニング）ことです。クリーンなデータでは通常どおり正常に動作しますが、トリ …
AIへの抵抗とは、個人や組織がAIアルゴリズムによる影響、追跡、分類を避けるために使用する手法を指します。これには、知覚システムに対する敵対的攻撃（adversarial …