Envenenamento de Dados
term_id: data_poisoning
Category: ethics_safety
Definition
Esta técnica adversarial visa comprometer a integridade dos modelos de aprendizado de máquina alterando os dados de treinamento. Ao introduzir erros sutis ou exemplos tendenciosos, os atacantes podem fazer com que o modelo
Summary
O envenenamento de dados é um ataque de segurança no qual agentes maliciosos injetam dados corrompidos ou enganosos em um conjunto de treinamento para degradar o desempenho do modelo.
Key Concepts
- Ataque Adversarial
- Integridade do Modelo
- Segurança dos Dados de Treinamento
- Ataques de Porta dos Fundos
Use Cases
- Testes de segurança de pipelines de ML
- Compreensão de vulnerabilidades em conjuntos de dados abertos
- Desenvolvimento de mecanismos de defesa robustos