Robustez
term_id: robustness
Category: ethics_safety
Definition
Na segurança e ética da IA, a robustez refere-se à resiliência de um modelo contra entradas inesperadas ou manipulações maliciosas. Um sistema robusto continua a funcionar corretamente mesmo quando os dados de entrada contêm ruído ou anomalias.
Summary
A capacidade de um modelo de IA de manter o desempenho e a estabilidade ao enfrentar dados ruidosos, ataques adversariais ou mudanças na distribuição dos dados.
Key Concepts
- Ataques adversariais
- Mudança de distribuição
- Tolerância a ruído
- Confiabilidade do modelo
Use Cases
- Percepção em veículos autônomos
- Sistemas de detecção de fraude
- Modelos de diagnóstico médico