Anayasal Yapay Zeka
term_id: constitutional_ai
Category: application_paradigms
Definition
Anayasal Yapay Zeka, büyük dil modellerini insan değerleriyle hizalamak için her adımda yalnızca insan geri bildirimine dayanmayan bir çerçevedir. Yüksek düzeyde ilkelerden oluşan bir ‘anayasa’ oluşturmayı ve modeli bu ilkeler doğrultusunda öz-düzeltmeye teşvik etmeyi içerir.
Summary
AI modellerini, önceden tanımlanmış ilkeler setine dayalı öz-düzeltme yoluyla güvenlik yönergelerini takip edecek şekilde eğitmek için bir yöntem.
Key Concepts
- Öz-Düzeltme
- Hizalama
- İlkeler Tabanlı Eğitim
- RLHF Alternatifi
Use Cases
- Büyük Dil Modellerinde zararlı çıktıları azaltma
- Modelin yardımseverliğini ve dürüstlüğünü iyileştirme
- Güvenlik eğitimini verimli şekilde ölçeklendirme