Zakaz nadinteligencji
term_id: superintelligence_ban
Category: basic_concepts
Definition
Koncepcja ta odnosi się do debaty i potencjalnych polityk dotyczących ograniczenia lub całkowitego wstrzymania badań nad nadinteligencją sztuczną (ASI). Zwolennicy twierdzą, że ASI stwarza zagrożenia egzystencjalne.
Summary
Proponowany środek regulacyjny lub stanowisko etyczne opowiadające się za zakazem rozwijania sztucznej inteligencji ogólnej (AGI), która przewyższa ludzkie zdolności poznawcze.
Key Concepts
- Zagrożenie egzystencjalne
- Bezpieczeństwo AI
- Moratorium regulacyjne
- Problem wyrównania (alignment)
Use Cases
- Debaty polityczne na temat zarządzania AI
- Dyskusje etyczne w badaniach nad AI
- Ocena ryzyka przy rozwoju zaawansowanej AI