Sikkerhetsrekkverk
term_id: guardrails
Category: application_paradigms
Definition
Sikkerhetsrekkverk refererer til et sett med programvarekontroller og policy-oppfyllelseslag som er integrert i AI-applikasjoner, spesielt store språkmodeller, for å sikre at oppførselen er trygg og i samsvar med regelverket. De fungerer som filtre som overvåker og styrer både input og output.
Summary
Sikkerhetsmekanismer designet for å begrense AI-modellenes output for å forhindre generering av skadelig, bias eller uautorisert innhold.
Key Concepts
- Input/output-filtering
- Policy-oppfyllelse
- Deteksjon av toksisitet
- Forsvar mot prompt-injeksjon
Use Cases
- Bedriftskunder som krever streng merkeoverholdelse
- Helseassistent som sikrer medisinsk nøyaktighet og personvern
- Kundeservice-bot som forhindrer støtende språkbruk