Konstytucyjny AI
term_id: constitutional_ai
Category: application_paradigms
Definition
Konstytucyjny AI to ramy do dostosowywania dużych modeli językowych do ludzkich wartości bez polegania wyłącznie na ludzkiej opinii na każdym kroku. Polega na stworzeniu ‘konstytucji’ wysokopoziomowych zasad, których model używa do oceny i poprawy własnych odpowiedzi.
Summary
Metoda trenowania modeli AI do przestrzegania wytycznych bezpieczeństwa poprzez samokrytykę opartą na predefiniowanym zestawie zasad.
Key Concepts
- Samokorekta
- Dopasowanie (Alignment)
- Trenowanie oparte na zasadach
- Alternatywa dla RLHF
Use Cases
- Redukcja szkodliwych wyjść w dużych modelach językowych (LLM)
- Poprawa pomocności i uczciwości modelu
- Skalowalne i efektywne trenowanie bezpieczeństwa