Набор данных: Nerfgun3/Bad Prompt
term_id: datasetnerfgun3bad_prompt
Category: application_paradigms
Definition
Этот термин относится к конкретному набору данных, размещённому на Hugging Face пользователем ‘Nerfgun3’ под названием ‘Bad Prompt’. Хотя такие наборы данных менее стандартизированы, чем основные бенчмарки, они часто используются для изучения устойчивости моделей
Summary
Нишевый набор данных, вероятно, содержащий враждебные, низкокачественные или намеренно некорректные промпты, используемые для проверки устойчивости или фильтрации зашумленных входных данных в языковых моделях.
Key Concepts
- Антагонистическое тестирование
- Инженерия промптов
- Шум данных
- Оценка устойчивости
Use Cases
- Тестирование режимов отказа модели
- Обучение санитайзеров ввода
- Оценка чувствительности промптов