Konstitutionel AI
term_id: constitutional_ai
Category: application_paradigms
Definition
Konstitutionel AI er en ramme til at justere store sprogmodeller (LLM’er) til menneskelige værdier uden udelukkende at stole på menneskelig feedback i hvert trin. Det indebærer at oprette en ‘forfatning’ bestående af højtstående principper, som modellen bruger til at evaluere og rette sine egne svar.
Summary
En metode til træning af AI-modeller til at følge sikkerhedsretningslinjer gennem selv-kritik baseret på en foruddefineret række principper.
Key Concepts
- Selvkorrektion
- Justering (Alignment)
- Principbaseret træning
- Alternativ til RLHF
Use Cases
- Reducering af skadelige output i LLM’er
- Forbedring af modellens hjælpsomhed og ærlighed
- Effektiv skalering af sikkerhedstræning