בטיחות בינה מלאכותית (AI Safety)
term_id: ai_safety
Category: ethics_safety
Definition
בטיחות בינה מלאכותית כוללת מחקר ומעשים המכוונים להבטיח שמערכות אוטונומיות יתנהגו בדרכים המועילות ולא מזיקות לאנושות. התחום עוסק בסיכונים כמו הטיה, מידע כוזב, ואבטחת סייבר.
Summary
תחום מחקר המתמקד במניעת השלכות מזיקות לא מתוכננות ממערכי בינה מלאכותית מתקדמים.
Key Concepts
- חוסן (Robustness)
- הערכת סיכונים
- מנגנוני בטיחות (Fail-safes)
- שקיפות
Use Cases
- רגולציה לרכבים אוטונומיים
- תוקף כלים לאבחון רפואי
- מערכות לגילוי הונאות פיננסיות