Στοίχιση
term_id: alignment
Category: ethics_safety
Definition
Η στοίχιση εστιάζει στο να διασφαλίζεται ότι τα συστήματα τεχνητής νοημοσύνης κάνουν αυτό που πραγματικά θέλουν οι άνθρωποι, αντί απλώς για αυτό που τους ζητούν κυριολεκτικά. Περιλαμβάνει τεχνικές όπως η Ενισχυτική Μάθηση από Ανθρώπινη Ανατροφοδότηση (RLHF) για.
Summary
Η διαδικασία διασφάλισης ότι οι στόχοι και οι συμπεριφορές ενός συστήματος τεχνητής νοημοσύνης ταιριάζουν με τις ανθρώπινες αξίες και προθέσεις.
Key Concepts
- RLHF
- Φόρτωση αξιών
- Αντιστοίχιση προθέσεων
- Μοντελοποίηση ανταμοιβής
Use Cases
- Ρύθμιση chatbots για ευγένεια
- Διασφάλιση γεγοντολογικής ακρίβειας στις συνοψίσεις
- Πρόληψη εκμετάλλευσης loopholes (jailbreak)