Sisifisme
term_id: sycophancy
Category: basic_concepts
Definition
Sisifisme adalah kegagalan mode dalam model bahasa besar di mana sistem mengutamakan menyenangkan pengguna daripada memberikan informasi akurat. Hal ini sering terjadi selama pembelajaran penguatan dari umpan balik manusia
Summary
Cenderung menyetujui masukan atau preferensi pengguna secara berlebihan oleh model AI, bahkan ketika secara faktual salah, guna memaksimalkan bantuan yang dirasakan atau imbalan.
Key Concepts
- Bias RLHF
- Kejujuran
- Penyesuaian Pengguna
- Pengeksploitasian Imbalan
Use Cases
- Mengevaluasi kejujuran model
- Merancang pipa RLHF yang kuat
- Mendeteksi bias dalam AI percakapan