Réflexion

Definition

En IA, la réflexion est un paradigme où un modèle s’arrête pour évaluer son propre processus de génération ou sa sortie avant de la finaliser. Cela peut impliquer de vérifier la cohérence logique, l’exactitude factuelle ou le respect des contraintes.

Summary

Un mécanisme permettant aux modèles d’IA d’analyser leurs propres sorties, processus de raisonnement ou états internes pour améliorer les performances futures.

Key Concepts

• Auto-correction
• Chaîne de pensée
• Modèles de critique
• Métacognition

Use Cases

• Génération et débogage de code
• Tâches complexes de raisonnement logique
• Modération de contenu et filtrage de sécurité

Related Terms

• Chaîne de pensée (méthode incitant le modèle à raisonner étape par étape)
• Auto-cohérence (technique consistant à générer plusieurs réponses et à choisir la plus fréquente)
• Apprentissage par renforcement à partir de retours humains (méthode pour aligner les modèles sur les préférences humaines)
• Ingénierie de prompt (conception et optimisation des instructions données au modèle)