Constitutionele AI
term_id: constitutional_ai
Category: application_paradigms
Definition
Constitutionele AI is een kader voor het afstemmen van grote taalmodellen op menselijke waarden zonder uitsluitend te vertrouwen op menselijke feedback voor elke stap. Het houdt in het creëren van een ‘grondwet’ van hoogwaardige principes die het model gebruikt om zijn eigen output te evalueren en te corrigeren.
Summary
Een methode voor het trainen van AI-modellen om veiligheidsrichtlijnen te volgen door middel van zelfkritiek gebaseerd op een vooraf gedefinieerde set principes.
Key Concepts
- Zelfcorrectie
- Afstemming
- Principes-gebaseerde Training
- Alternatief voor RLHF
Use Cases
- Verminderen van schadelijke outputs in LLM’s
- Verbeteren van behulpzaamheid en eerlijkheid van modellen
- Efficiënt schalen van veiligheidstraining