Spójna ekstrapolowana wola
term_id: coherent_extrapolated_volition
Category: basic_concepts
Definition
Spójna Ekstrapolowana Wola (CEV) to koncepcja wprowadzona przez Eliezera Yudkowskiego w kontekście bezpieczeństwa i zgodności sztucznej inteligencji. Sugeruje ona, że zaawansowana SI nie powinna po prostu wykonywać obecnych poleceń ludzi,
Summary
Proponowany cel dla sztucznej inteligencji, w którym system działa zgodnie z udoskonalonymi pragnieniami ludzkości po zastosowaniu idealizowanego rozumowania.
Key Concepts
- Zgodność SI
- Uczenie wartości
- Idealizowane preferencje ludzkie
- Funkcja użyteczności
Use Cases
- Teoretyczny framework bezpieczeństwa AGI
- Wytyczne etyczne dla systemów superinteligentnych
- Dyskusje filozoficzne na temat moralności maszyn