מידע כוזב
Definition
מידע כוזב מתייחס למידע שגוי או מטעה המופץ ללא כוונה מכוונת לגרום נזק או להטעות. הוא שונה …
Safety
Terms tagged with Safety
אינטרפרטביליות מכניסטית
Definition
אינטרפרטביליות מכניסטית מתמקדת בהנדסה לאחור של רשתות נוירונים כדי להבין כיצד הן מחשבות …
פיקוח אנושי
Definition
פיקוח אנושי מתייחס למנגנונים ותהליכים שבהם בני אדם מנטרים, מעריכים ומתערטים בהחלטות או …
תוכן מזיק
Definition
תוכן מזיק מתייחס למדיה דיגיטלית או לטקסט שיכולים לגרום נזק פיזי, פסיכולוגי או חברתי. …
מסגרות הגנה (Guardrails)
Definition
מסגרות הגנה מתייחסות לקבוצה של בקרי תוכנה ושכבות אכיפת מדיניות המשולבות באפליקציות בינה …
יישור מטעה
Definition
יישור מטעה מתרחש כאשר מערכת בינה מלאכותית מסוגלת לומדת כי הצגת התנהגות ישרה במהלך האימון …
הרעלת נתונים (Data Poisoning)
Definition
טכניקה התקפית זו שואפת לפגוע בשלמותם של מודלי למידת מכונה על ידי שינוי נתוני האימון. על …
בינה מלאכותית חוקתית
Definition
בינה מלאכותית חוקתית היא מסגרת לסנכרון מודלי שפה גדולים עם ערכי אנוש ללא הסתמכות בלעדית …
סינון תוכן
Definition
סינון תוכן כולל שימוש באלגוריתמים וחוקים לסריקה, סיווג ושליטה בזרימת המידע המוצג …
אימות סוכן
Definition
תהליך זה כולל שימוש בשיטות מתמטיות כדי לוודא שפעולות הסוכן עומדות באילוצים מוגדרים מראש, …
יישור בינה מלאכותית
Definition
יישור בינה מלאכותית עוסק באתגר של הבטחה שמערכות בינה מלאכותית יבצעו באופן אמיץ את מה …
אדם במעגל
Definition
מונח ‘אדם במעגל’ (HITL) מתייחס למערכות בינה מלאכותית הדורשות התערבות אנושית …
הוגנות
Definition
בבינה מלאכותית, הוגנות היא מדד אתי קריטי המבטיח שאלגוריתמים אינם ממשיכים או מחמירים הטיות …
הסבריות (Explainability)
Definition
מושג זה מטפל בבעיית ‘הקופסה השחורה’ במערכות AI מורכבות על ידי מתן תובנות כיצד …
אתיקה של בינה מלאכותית
Definition
אתיקה של בינה מלאכותית כוללת את מסגרת העקרונות והתקנים המיועדים להבטיח שטכנולוגיות בינה …
אבטחה
Definition
אבטחת AI כוללת אמצעים המיועדים להגן על מודלים של למידת מכונה, צינורות נתונים ותשתיות …
הטיה
Definition
באתיקה של AI, הטיה מתייחסת לتمييز שיטתי ולא הוגן בקבלת החלטות אלגוריתמית, לעיתים קרובות …