データポイズニング
term_id: data_poisoning
Category: ethics_safety
Definition
この敵対的技術は、トレーニングデータを変更することで機械学習モデルの整合性を損なうことを目的としています。微妙なエラーやバイアスのある例を導入することで、攻撃者はモデルの判断を歪めたり、特定の条件下で誤動作させたりすることができます。
Summary
データポイズニングとは、悪意のある攻撃者がトレーニングセットに壊れたまたは誤解を招くデータを注入し、モデルの性能を低下させるセキュリティ攻撃です。
Key Concepts
- 敵対的攻撃
- モデルの整合性
- トレーニングデータのセキュリティ
- バックドア攻撃
Use Cases
- MLパイプラインのセキュリティテスト
- オープンデータセットの脆弱性理解
- 堅牢な防御メカニズムの開発