Надежный ИИ
Definition
Надежный ИИ охватывает принципы и практики, обеспечивающие надежную и этичную работу …
Safety
Terms tagged with Safety
Обнаружение токсичности
Definition
Обнаружение токсичности использует методы обработки естественного языка для анализа …
Токсичность
Definition
Токсичность в ИИ относится к генерации или распространению контента, который является …
Устойчивость
Definition
В контексте безопасности и этики ИИ устойчивость относится к устойчивости модели к …
Надежность
Definition
Надежность в ИИ относится к достоверности и стабильности поведения системы с течением …
Дезинформация (в широком смысле: ложная информация)
Definition
Под дезинформацией в широком смысле понимается ложная или вводящая в заблуждение …
Механистическая интерпретируемость
Definition
Механистическая интерпретируемость фокусируется на обратном инжиниринге нейронных сетей …
Человеческий надзор
Definition
Человеческий надзор относится к механизмам и процессам, при которых люди контролируют, …
Вредоносный контент
Definition
Вредоносный контент относится к цифровым медиа или тексту, способным причинить …
Ограничительные механизмы (Guardrails)
Definition
Ограничительные механизмы (Guardrails) представляют собой набор программных контролей и …
Обманчивое выравнивание
Definition
Обманчивое выравнивание возникает, когда высокопроизводительная система ИИ понимает, что …
Отравление данных
Definition
Эта состязательная техника направлена на компрометацию целостности моделей машинного …
Конституционный ИИ
Definition
Конституционный ИИ — это фреймворк для согласования больших языковых моделей с …
Фильтрация контента
Definition
Фильтрация контента предполагает использование алгоритмов и правил для сканирования, …
Верификация агента
Definition
Это включает использование математических методов для обеспечения того, чтобы действия …
Согласование ИИ
Definition
Согласование ИИ решает проблему обеспечения надежного выполнения искусственным …
Человек в контуре (Human-in-the-Loop)
Definition
Концепция «человек в контуре» (HITL) относится к системам искусственного интеллекта, …
Справедливость
Definition
В области искусственного интеллекта справедливость является критически важным этическим …
Explainability
Definition
Это понятие решает проблему «черного ящика» в сложных системах ИИ, предоставляя понимание …
Этика ИИ
Definition
Этика ИИ охватывает набор принципов и стандартов, предназначенных для обеспечения …
Безопасность
Definition
Безопасность ИИ включает меры, предназначенные для защиты моделей машинного обучения, …
Смещение (предвзятость)
Definition
В этике ИИ смещение относится к систематической и несправедливой дискриминации в …