Alkotmányos mesterséges intelligencia
term_id: constitutional_ai
Category: application_paradigms
Definition
Az alkotmányos MI egy keretrendszer nagy nyelvi modellek emberi értékekhez igazítására, anélkül, hogy minden lépésben kizárólag emberi visszajelzésre támaszkodna. Magában foglal egy magas szintű elvekből álló ‘alkotmány’ létrehozását, amelyet a modell saját maga alkalmaz.
Summary
Egy módszer az AI-modellek biztonságos irányelvek követésére történő tanítására, önkritika alapján, előre meghatározott elveken.
Key Concepts
- Önkorrektúra
- Igazítás (Alignment)
- Elveken alapuló tanítás
- RLHF alternatíva
Use Cases
- Káros kimenetek csökkentése nagy nyelvi modelleknél
- A modell segítőkészségének és őszinteségének javítása
- Biztonsági tanulás hatékony skálázása