תוכן מזיק
term_id: harmful_content
Category: ethics_safety
Definition
תוכן מזיק מתייחס למדיה דיגיטלית או לטקסט שיכולים לגרום נזק פיזי, פסיכולוגי או חברתי. בבטיחות בינה מלאכותית, זיהוי וסינון תוכן מסוג זה קריטיים כדי למנוע מהמודלים ליצור
Summary
מידע המציב סיכונים לאנשים או לחברה, כולל דיבור שטנה, אלימות ומעשים בלתי חוקיים.
Key Concepts
- מדיניות תוכן
- בטיחות בינה מלאכותית
- זיהוי רעילות
- הנחיות אתיות
Use Cases
- סינון בפלטפורמות מדיה חברתית
- מערכות סקירה אוטומטיות של תוכן
- אימון יישור מודלי AI