الذكاء الاصطناعي الدستوري
term_id: constitutional_ai
Category: application_paradigms
Definition
الذكاء الاصطناعي الدستوري هو إطار عمل لمواءمة نماذج اللغات الكبيرة مع القيم البشرية دون الاعتماد كلياً على التغذية الراجعة البشرية في كل خطوة. يتضمن ذلك إنشاء ‘دستور’ من المبادئ العليا التي توجه سلوك النموذج وتصحيحه الذاتي.
Summary
أسلوب لتدريب نماذج الذكاء الاصطناعي على اتباع إرشادات السلامة من خلال النقد الذاتي القائم على مجموعة محددة مسبقاً من المبادئ.
Key Concepts
- التصحيح الذاتي
- المواءمة
- التدريب القائم على المبادئ
- بديل لتعزيز التعلم من التغذية الراجعة البشرية (RLHF)
Use Cases
- تقليل المخرجات الضارة في نماذج اللغات الكبيرة
- تحسين مساعدة النموذج وصدقه
- توسيع نطاق تدريب السلامة بكفاءة