IA Constituțională
term_id: constitutional_ai
Category: application_paradigms
Definition
IA Constituțională este un cadru pentru alinierea modelelor mari de limbaj cu valorile umane fără a se baza exclusiv pe feedback-ul uman pentru fiecare pas. Implică crearea unei ‘constituții’ de principii de nivel înalt pe care modelul le folosește pentru a-și evalua și corecta propriile răspunsuri.
Summary
O metodă de antrenare a modelelor de IA pentru a respecta ghiduri de siguranță prin auto-critică bazată pe un set predefinit de principii.
Key Concepts
- Auto-corectare
- Aliniere
- Antrenament Bazat pe Principii
- Alternativă la RLHF
Use Cases
- Reducerea ieșirilor dăunătoare în modelele de limbaj mari (LLMs)
- Îmbunătățirea utilității și onestității modelului
- Scalarea eficientă a antrenamentului pentru siguranță