Voință extrapolată coerentă
term_id: coherent_extrapolated_volition
Category: basic_concepts
Definition
Voința Extraprolată Coerentă (CEV) este un concept introdus de Eliezer Yudkowsky în contextul siguranței și alinierii inteligenței artificiale. Acesta sugerează că o inteligență artificială avansată nu ar trebui să execute pur și simplu comenzile actuale ale omului
Summary
Un obiectiv propus pentru inteligența artificială în care sistemul acționează conform dorințelor rafinate ale umanității după raționament idealizat.
Key Concepts
- Alinierea IA
- Învățarea valorilor
- Preferințe umane idealizate
- Funcție de utilitate
Use Cases
- Cadru teoretic pentru siguranța AGI
- Ghiduri etice pentru sistemele superinteligente
- Dezbateri filozofice despre moralitatea mașinilor