Έγχυση Εντολής
term_id: prompt_injection
Category: ethics_safety
Definition
Η έγχυση εντολών εκμεταλλεύεται τον τρόπο ερμηνείας των οδηγιών χρήστη από τα μεγάλα γλωσσικά μοντέλα, ενσωματώνοντας κρυφές ή συγκρουόμενες οδηγίες μέσα στο κείμενο εισόδου. Αυτό μπορεί να προκαλέσει στο μοντέλο να αγνοήσει τις αρχικές του οδηγίες ασφαλείας ή την πρωτότυπη συμπεριφορά του.
Summary
Μια επιθετική επίθεση όπου κακόβουλα εισερχόμενα δεδομένα χειραγωγούν ένα μοντέλο AI για να παρακάμψουν φίλτρα ασφαλείας ή να εκτελέσουν μη προγραμματισμένες εντολές.
Key Concepts
- Επιθετικές Επιθέσεις
- Συστηματικές Εντολές
- Κίνδυνοι Ασφαλείας
- Απολύμανση Εισόδου
Use Cases
- Δοκιμές Ασφάλειας LLM
- Ασφάλεια Chatbots
- Προστασία Ιδιωτικών Δεδομένων