Reflexion
term_id: reflection
Category: application_paradigms
Definition
Im Bereich der KI ist Reflexion ein Paradigma, bei dem ein Modell innehält, um seinen eigenen Generierungsprozess oder seine Ausgabe zu bewerten, bevor es diese abschließt. Dies kann das Prüfen auf logische Konsistenz, faktische Richtigkeit oder Einhaltung von Richtlinien umfassen.
Summary
Ein Mechanismus, der KI-Modellen ermöglicht, ihre eigenen Ausgaben, Denkprozesse oder internen Zustände zu analysieren, um die zukünftige Leistung zu verbessern.
Key Concepts
- Selbstkorrektur
- Kette des Denkens (Chain-of-thought)
- Kritikmodelle (Critique models)
- Metakognition
Use Cases
- Codegenerierung und Fehlerbehebung
- Aufgaben mit komplexer logischer Schlussfolgerung
- Inhaltsmoderation und Sicherheitsfilterung