超级智能禁令

term_id: superintelligence_ban

Category: basic_concepts

Definition

这一概念涉及关于限制或完全停止人工智能超级智能（ASI）研究的辩论及潜在政策。支持者认为，ASI 构成存在性风险。

Summary

一种拟议的监管措施或伦理立场，主张禁止开发超越人类认知能力的人工智能通用智能。

Key Concepts

  • 存在性风险
  • AI安全
  • 监管暂停
  • 对齐问题

Use Cases

  • AI治理的政策辩论
  • AI研究中的伦理讨论
  • 先进AI开发的风险评估

Related