AI Konstitusional
term_id: constitutional_ai
Category: application_paradigms
Definition
AI Konstitusional adalah kerangka kerja untuk menyelaraskan model bahasa besar dengan nilai-nilai manusia tanpa bergantung sepenuhnya pada umpan balik manusia untuk setiap langkah. Ini melibatkan pembuatan ‘konstitusi’ berisi prinsip-prinsip tingkat tinggi yang membimbing model dalam mengevaluasi dan memperbaiki outputnya sendiri.
Summary
Sebuah metode untuk melatih model AI agar mengikuti pedoman keselamatan melalui kritik diri berdasarkan seperangkat prinsip yang telah ditentukan sebelumnya.
Key Concepts
- Koreksi Diri
- Penyelarasan
- Pelatihan Berbasis Prinsip
- Alternatif RLHF
Use Cases
- Mengurangi output berbahaya pada LLM
- Meningkatkan kebermanfaatan dan kejujuran model
- Skala pelatihan keselamatan secara efisien