Извлечение модели (Model Extraction)
Definition
Извлечение модели включает отправку запросов к API целевой модели машинного обучения для …
Security
Terms tagged with Security
Водяные знаки
Definition
По мере того как генеративный ИИ создает все больше синтетических медиа, водяные знаки …
Суверенный ИИ
Definition
Суверенный ИИ описывает способность страны или организации самостоятельно создавать, …
Медленная пропаганда (Слопаганда)
Definition
Медленная пропаганда описывает стратегическую форму дезинформации, которая опирается на …
Устойчивость
Definition
В контексте безопасности и этики ИИ устойчивость относится к устойчивости модели к …
Сопротивление ИИ
Definition
Сопротивление ИИ относится к методам, используемым отдельными лицами или организациями …
Ограничение частоты запросов
Definition
Ограничение частоты запросов защищает ИИ-сервисы и API от злоупотреблений, перегрузки и …
Обнаружение новизны
Definition
Обнаружение новизны — это задача машинного обучения, направленная на выявление точек …
Идентификация родного языка
Definition
Идентификация родного языка (Native-Language Identification, NLI) — это подраздел …
Неаутентичный текст
Definition
Неаутентичный текст относится к письменным материалам, созданным системами ИИ или людьми …
Дифференциальная приватность
Definition
Дифференциальная приватность обеспечивает надежную защиту конфиденциальности за счет …
Отравление данных
Definition
Эта состязательная техника направлена на компрометацию целостности моделей машинного …
Кибербезопасность
Definition
Кибербезопасность включает технологии, процессы и практики, предназначенные для защиты …
Происхождение контента
Definition
Происхождение контента (Content Provenance) относится к документации и проверке того, …
Обнаружение аномалий
Definition
Обнаружение аномалий, также известное как обнаружение выбросов, включает анализ данных …
Атакa на основе состязательных примеров
Definition
Состязательные атаки используют уязвимости нейронных сетей, внося тонкий шум во входные …
Состязательное машинное обучение
Definition
Эта область охватывает как наступательные техники для взлома моделей, так и …
Институт безопасности ИИ
Definition
Институт безопасности ИИ — это специализированная структура, сосредоточенная на снижении …
Инъекция промпта
Definition
Инъекция промпта эксплуатирует способ, которым большие языковые модели интерпретируют …
Джейлбрейк (взлом ограничений)
Definition
Джейлбрейк включает создание специфических входных данных или запросов, которые …
Федеративное обучение
Definition
Федеративное обучение позволяет организациям совместно обучать модели ИИ, не передавая …
Дипфейк
Definition
Дипфейки — это гиперреалистичные манипуляции с аудио или видео, созданные с помощью …
Защита данных
Definition
Защита данных включает в себя правовые, технические и организационные меры, направленные …
Безопасный
Definition
Безопасность в ИИ включает внедрение ограничений и мер защиты, чтобы гарантировать …