Zabezpieczenia (Guardrails)
term_id: guardrails
Category: application_paradigms
Definition
Zabezpieczenia (guardrails) odnoszą się do zestawu kontroli oprogramowania i warstw egzekwowania polityk zintegrowanych z aplikacjami AI, szczególnie dużymi modelami językowymi, w celu zapewnienia bezpiecznego i zgodnego zachowania. Działają jako filtry blokujące niepożądane dane wejściowe i wyjściowe.
Summary
Mechanizmy bezpieczeństwa zaprojektowane tak, aby ograniczyć wyjścia modelu AI, zapobiegając generowaniu szkodliwych, stronniczych lub nieautoryzowanych treści.
Key Concepts
- Filtrowanie danych wejściowych/wyjściowych
- Egzekwowanie polityk
- Wykrywanie toksyczności
- Obrona przed atakami typu Prompt Injection
Use Cases
- Chatboty korporacyjne wymagające ścisłej zgodności z marką
- Asystenci medyczni zapewniający dokładność i prywatność
- Boty obsługi klienta zapobiegające używaniu obraźliwego języka