Jailbreak (Romper Restricciones)
term_id: jailbreak
Category: ethics_safety
Definition
El jailbreak implica crear entradas o prompts específicos que engañan a un modelo de IA para que ignore sus directrices de seguridad integradas y genere contenido prohibido, como discurso de odio o instrucciones peligrosas.
Summary
Una técnica de ingeniería de prompts diseñada para eludir los filtros de seguridad y las restricciones éticas de un modelo de IA.
Key Concepts
- Inyección de Prompts
- Filtros de Seguridad
- Equipo Rojo (Red Teaming)
- Alineación
Use Cases
- Pruebas de investigación de seguridad
- Generación maliciosa de contenido dañino
- Evaluación de la robustez del modelo