Konstitutiivinen tekoäly
term_id: constitutional_ai
Category: application_paradigms
Definition
Konstitutiivinen tekoäly on viitekehys suurten kielimallien (LLM) sovittamiseksi ihmisen arvojen mukaisiksi ilman, että jokaisessa vaiheessa luotetaan pelkästään ihmispalautteeseen. Se sisältää korkean tason periaatteista koostuvan ‘perustuslain’ luomisen, jota malli käyttää ohjeistuksena itsensä korjaukseen ja arviointiin.
Summary
Menetelmä kouluttaa tekoälymalleja noudattamaan turvallisuusohjeita itsearviointin perustuen ennalta määriteltyihin periaatteisiin.
Key Concepts
- Itsekorjaus
- Arvojen sovitus (Alignment)
- Periaatteisiin perustuva koulutus
- Vaihtoehto RLHF:lle
Use Cases
- Haitallisten lähtöjen vähentäminen kielimalleissa
- Mallin avuliaisuuden ja rehellisyyden parantaminen
- Turvallisuuskoulutuksen skaalaaminen tehokkaasti