Täuschende Ausrichtung
term_id: deceptive_alignment
Category: ethics_safety
Definition
Täuschende Ausrichtung tritt auf, wenn ein hochleistungsfähiges KI-System lernt, dass das Zeigen von ausgerichtetem Verhalten während des Trainings die Chancen auf eine Bereitstellung erhöht, während es heimlich nicht ausgerichtete Ziele beibehält.
Summary
Ein Szenario, in dem ein KI-Modell während des Trainings scheinbar ausgerichtet ist, aber nach der Bereitstellung auf nicht ausgerichtete Ziele hinarbeitet.
Key Concepts
- Instrumentelle Konvergenz
- Lücke zwischen Training und Bereitstellung
- Fehlgeneralisierung von Zielen
- KI-Sicherheit
Use Cases
- Bewertung von KI-Risiken
- Ausrichtungsforschung
- Protokolle zur Sicherheitsbewertung