ジェイルブレイク
term_id: jailbreak
Category: ethics_safety
Definition
ジェイルブレイクとは、AIモデルをだまして組み込みの安全ガイドラインを無視させ、ヘイトスピーチや危険な指示など禁止されたコンテンツを生成させるような特定の入力を構築する行為です。
Summary
AIモデルの安全フィルターや倫理制約を回避するために設計されたプロンプトエンジニアリング技法。
Key Concepts
- プロンプトインジェクション
- 安全フィルター
- レッドチーム
- アライメント
Use Cases
- セキュリティ研究テスト
- 悪意のある有害コンテンツの生成
- モデルの堅牢性の評価