초지능 금지
term_id: superintelligence_ban
Category: basic_concepts
Definition
이 개념은 인공 초지능(ASI) 연구에 대한 제한 또는 완전한 중단과 관련된 논의 및 잠재적 정책을 지칭합니다. 지지자들은 ASI가 인류의 생존에 위협이 되는 존재론적 위험(existential risk)을 초래할 수 있다고 주장하며, 적절한 안전 장치 마련 전까지 개발을 금지하거나 모라토리엄을 선언해야 한다고 봅니다.
Summary
인간 인지 능력을 초월하는 인공지능 일반 지능(AGI) 개발을 금지해야 한다고 주장하는 규제 조치 또는 윤리적 입장.
Key Concepts
- 존재론적 위험 (Existential Risk)
- AI 안전 (AI Safety)
- 규제 모라토리엄 (Regulatory Moratorium)
- 정렬 문제 (Alignment Problem)
Use Cases
- AI 거버넌스에 관한 정책 토론
- AI 연구 분야의 윤리적 논의
- 고도화된 AI 개발에 대한 위험 평가