בטיחות
term_id: safety
Category: ethics_safety
Definition
בטיחות בינה מלאכותית היא תחום רב-תחומי המתמקד במניעת תוצאות שליליות מבינה מלאכותית מתקדמת. הוא כולל אתגרים טכניים כמו יישור ערכים, ניתנות לפרשנות (Interpretability) ויציבות, לצד היבטים אתיים וחברתיים.
Summary
הלימוד והפרקטיקה של הבטחה שמערכות בינה מלאכותית לא יגרמו לנזק פיזי, דיגיטלי או חברתי.
Key Concepts
- יישור ערכים
- ניתנות לפרשנות
- תיאוריית בקרה
- הערכת סיכונים
Use Cases
- פיתוח מתגי כיבוי לרכב אוטונומי
- ביקורת על אלגוריתמים לאטימות
- יצירת מסגרות רגולטוריות להטמעת בינה מלאכותית