בינה מלאכותית חוקתית
term_id: constitutional_ai
Category: application_paradigms
Definition
בינה מלאכותית חוקתית היא מסגרת לסנכרון מודלי שפה גדולים עם ערכי אנוש ללא הסתמכות בלעדית על משוב אנושי בכל שלב. היא כוללת יצירת ‘חוקה’ של עקרונות ברמה הגבוהה המנחים את התנהגות המודל.
Summary
שיטה לאימון מודלי בינה מלאכותית כדי לעקוב אחר הנחיות בטיחות באמצעות ביקורת עצמית המבוססת על עקרונות מוגדרים מראש.
Key Concepts
- תיקון עצמי
- סנכרון
- אימון מבוסס עקרונות
- חלופה ל-RLHF
Use Cases
- הפחתת פלט מזיק במודלי שפה גדולים
- שיפור העזרה והיושרה של המודל
- הרחבת אימון הבטיחות ביעילות