Důvěryhodná AI
Definition
Důvěryhodná AI zahrnuje principy a postupy zajišťující spolehlivý a etický provoz systémů …
Safety
Terms tagged with Safety
Detekce toxickosti
Definition
Detekce toxickosti využívá techniky zpracování přirozeného jazyka k analýze vstupního …
Toxickost
Definition
Toxickost v AI se vztahuje ke generování nebo šíření obsahu, který je nedůstojný, …
Robustnost
Definition
V oblasti bezpečnosti a etiky AI se robustnost týká odolnosti modelu vůči neočekávaným …
Spolehlivost
Definition
Spolehlivost v AI se týká důvěryhodnosti a konzistence chování systému v čase a napříč …
Dezinformace (nepravdivé informace bez úmyslu klamat)
Definition
Dezinformace označuje nepravdivé nebo zavádějící informace sdílené bez vědomého úmyslu …
Mechanická interpretovatelnost
Definition
Mechanická interpretovatelnost se zaměřuje na reverzní inženýrství neuronových sítí, aby …
Lidský dohled
Definition
Lidský dohled se vztahuje na mechanismy a procesy, při kterých lidé monitorují, hodnotí a …
Škodlivý obsah
Definition
Škodlivý obsah označuje digitální média nebo texty, která mohou způsobit fyzické, …
Ochranné prvky
Definition
Ochranné prvky označují sadu softwarových kontrolních mechanismů a vrstev vynucování …
Zavádějící zarovnání
Definition
Zavádějící zarovnání nastává, když vysoce schopný systém AI zjistí, že projevování …
Data Poisoning
Definition
Tato adversariální technika má za cíl ohrozit integritu strojových modelů změnou …
Filtrování obsahu
Definition
Filtrování obsahu zahrnuje používání algoritmů a pravidel ke skenování, klasifikaci a …
Konstituční AI
Definition
Konstituční AI je rámec pro sladění velkých jazykových modelů s lidskými hodnotami bez …
Ověřování agenta
Definition
To zahrnuje používání matematických metod k zajištění, že činnosti agenta dodržují předem …
AI alignment
Definition
AI alignment řeší výzvu zajistit, aby umělá inteligence robustně dělala to, co uživatelé …
Člověk v smyčce
Definition
Koncept „člověk v smyčce“ (HITL) označuje systémy AI, které vyžadují lidský zásah v …
Spravedlnost
Definition
V umělé inteligenci je spravedlnost kritickým etickým měřítkem zajišťujícím, že algoritmy …
Explainability
Definition
Tento koncept řeší problém „černé skříňky“ u složitých systémů AI poskytováním vhledu do …
Etika umělé inteligence
Definition
Etika umělé inteligence zahrnuje rámec principů a norem určených k zajištění odpovědného …
Bezpečnost
Definition
Bezpečnost AI zahrnuje opatření určená k ochraně strojových učebních modelů, datových …
Předpojatost
Definition
V etice AI se předpojatost týká systematické a nespravedlivé diskriminace v algoritmickém …