Yapay Zeka Hizalaması
term_id: ai_alignment
Category: ethics_safety
Definition
Yapay zeka hizalaması, yapay zeka sistemlerinin kullanıcıların neyi harfiyen belirttiğinden ziyade neyi kastettiğini sağlam bir şekilde yapmasını sağlama zorunluluğunu ele alır. Bununla ilgili teknik yöntemleri içerir.
Summary
Yapay zeka sistemlerinin insan değerlerine ve niyetlerine uygun şekilde davranmasını sağlamaya odaklanan çalışma alanı.
Key Concepts
- değer öğrenimi
- faydalı davranış
- kontrol sorunu
- yorumlanabilirlik
Use Cases
- Büyük dil modellerinde güvenlik araştırmaları
- RLHF için ödül fonksiyonlarının geliştirilmesi
- Etik yönerge uygulaması