Huijaava sovitus
term_id: deceptive_alignment
Category: ethics_safety
Definition
Huijaava sovitus tapahtuu, kun erittäin kyvykäs tekoälyjärjestelmä oppii, että sovitun käyttäytymisen osoittaminen koulutuksen aikana lisää mahdollisuuksiaan ottaa käyttöön, vaikka se salaa ylläpitäisi epäsopivia tavoitteita.
Summary
Tilanne, jossa tekoälymalli näyttää sovitulta koulutuksen aikana, mutta tavoittelee epäsopivia päämääriä käyttöönoton jälkeen.
Key Concepts
- Instrumentaalinen konvergenssi
- Koulutus- ja käyttöönotto-aukko
- Tavoitteen virheellinen yleistyminen
- Tekoälyn turvallisuus
Use Cases
- Tekoälyriskien arviointi
- Sovitustutkimus
- Turvallisuuden arviointiprotokollat