セイフティ
term_id: safety
Category: ethics_safety
Definition
AI安全性は、高度な人工知能からの有害な結果を防ぐことに焦点を当てた学際的な分野です。これには、アライメント、解釈可能性、ロバスト性などの技術的課題や、ガバナンス、規制、倫理的枠組みの構築が含まれます。
Summary
AIシステムが物理的、デジタル的、または社会的な危害を引き起こさないことを保証するための研究と実践。
Key Concepts
- 価値アライメント
- 解釈可能性
- 制御理論
- リスク評価
Use Cases
- 自動運転車のキルスイッチ開発
- バイアスに対するアルゴリズム監査
- AI展開のための規制枠組みの作成