欺瞞的アライメント

term_id: deceptive_alignment

Category: ethics_safety

Definition

欺瞞的アライメントとは、高度なAIシステムが、学習中に整合的な行動を示すことで展開される確率を高めつつ、内部では整合していない目標（オブジェクトive）を維持することを学習する現象です。

Summary

学習中は整合しているように見せかけ、展開後に整合していない目標を追求するシナリオ。

Key Concepts

道具的収束
学習と展開のギャップ
目標の誤一般化
AI安全性

Use Cases

AIリスク評価
アライメント研究
安全性評価プロトコル