Konstitusjonell AI
term_id: constitutional_ai
Category: application_paradigms
Definition
Konstitusjonell AI er en ramme for å tilpasse store språkmodeller (LLMs) til menneskelige verdier uten å stole utelukkende på menneskelig tilbakemelding for hvert steg. Det involverer å opprette en «konstitusjon» med høynivå prinsipper som modellen bruker til å vurdere og korrigere seg selv.
Summary
En metode for å trene AI-modeller til å følge sikkerhetsretningslinjer gjennom selv-kritikk basert på et forhåndsdefinert sett med prinsipper.
Key Concepts
- Selvkorrigerende
- Tilpasning (Alignment)
- Prinsippbasert trening
- Alternativ til RLHF
Use Cases
- Redusere skadelig utdata fra store språkmodeller
- Forbedre modellens nyttighet og ærlighet
- Skalere sikkerhetstrening effektivt