Interpretabilidad
term_id: interpretability
Category: ethics_safety
Definition
La interpretabilidad, o explicabilidad, implica hacer transparentes y comprensibles para los humanos el funcionamiento interno y los procesos de toma de decisiones de los modelos de IA. Esto es crucial para la depuración, asegurando la equidad y construyendo confianza.
Summary
El grado en que un humano puede comprender la causa de una decisión tomada por un modelo de IA.
Key Concepts
- IA Explicable (XAI)
- Transparencia
- Importancia de las Características
- Confianza
Use Cases
- Razonamiento en la aprobación de préstamos
- Recomendaciones de tratamiento médico
- Auditoría de sesgos en algoritmos de contratación