Toxickost

Definition

Toxickost v AI se vztahuje ke generování nebo šíření obsahu, který je nedůstojný, pravděpodobně by vedl k odchodu uživatele z diskuse nebo je zaměřen na specifickou identitu. Zahrnuje spektrum od mírného vulgárního jazyka až po závažné formy nenávisti a diskriminace. Je to klíčový aspekt etické AI, který vyžaduje pozornost při tréninku modelů, aby se předešlo jejich zneužití nebo generování nebezpečného obsahu.

Summary

Přítomnost škodlivého, urážlivého nebo obtěžujícího obsahu ve textu generovaném umělou inteligencí, včetně nenávistných projevů, obtěžování a hrozeb.

Key Concepts

• Nenávistné projevy
• Obtěžování
• Moderace obsahu
• Etická AI

Use Cases

• Bezpečnost sociálních médií
• Filtrování zákaznických chatbotů
• Provozování komunitních pravidel

Related Terms

• Zkreslení (Bias - systematické chyby nebo předsudky v datech nebo algoritmech)
• Bezpečnostní zarovnání (Safety Alignment - ladění modelu tak, aby dodržoval bezpečnostní a etická pravidla)
• Filtrování obsahu (Content Filtering - techniky pro blokování nežádoucího obsahu)
• Zpracování přirozeného jazyka (Natural Language Processing - obor AI zabývající se komunikací mezi počítači a lidským jazykem)