Robustez
term_id: robustness
Category: ethics_safety
Definition
En la seguridad y ética de la IA, la robustez se refiere a la resiliencia de un modelo frente a entradas inesperadas o manipulaciones maliciosas. Un sistema robusto continúa funcionando correctamente incluso cuando los datos de entrada contienen…
Summary
La capacidad de un modelo de IA para mantener su rendimiento y estabilidad ante datos ruidosos, ataques adversarios o cambios en la distribución de los datos.
Key Concepts
- Ataques adversarios
- Cambio de distribución
- Tolerancia al ruido
- Fiabilidad del modelo
Use Cases
- Percepción en vehículos autónomos
- Sistemas de detección de fraude
- Modelos de diagnóstico médico