IA Costituzionale
term_id: constitutional_ai
Category: application_paradigms
Definition
L’IA Costituzionale è un quadro per allineare i grandi modelli linguistici ai valori umani senza fare affidamento esclusivamente sul feedback umano per ogni passaggio. Coinvolge la creazione di una ‘costituzione’ di principi di alto livello che il modello utilizza per criticare e correggere se stesso, riducendo la necessità di annotazioni umane costose e scalabili per il rinforzo.
Summary
Un metodo per addestrare modelli di IA a seguire linee guida di sicurezza attraverso l’autovalutazione basata su un insieme predefinito di principi.
Key Concepts
- Auto-correzione
- Allineamento
- Addestramento Basato sui Principi
- Alternativa al RLHF
Use Cases
- Riduzione degli output dannosi nei LLM
- Miglioramento dell’utilità e dell’onestà del modello
- Scalabilità efficiente dell’addestramento alla sicurezza