Ερμηνευσιμότητα
term_id: interpretability
Category: ethics_safety
Definition
Η ερμηνευσιμότητα, ή επεξηγησιμότητα, αφορά την καθιέρωση διαφάνειας και κατανόησης των εσωτερικών λειτουργιών και διαδικασιών λήψης αποφάσεων των μοντέλων ΤΝ από τους ανθρώπους. Αυτό είναι κρίσιμο για τον εντοπισμό σφαλμάτων και τη διασφάλιση…
Summary
Το βαθμό στον οποίο ένας άνθρωπος μπορεί να κατανοήσει την αιτία μιας απόφασης που λαμβάνεται από ένα μοντέλο τεχνητής νοημοσύνης.
Key Concepts
- Επεξηγήσιμη ΤΝ (XAI)
- Διαφάνεια
- Σημασία Χαρακτηριστικών
- Εμπιστοσύνη
Use Cases
- Αιτιολόγηση έγκρισης δανείου
- Συστάσεις ιατρικής θεραπείας
- Έλεγχος μεροληψίας σε αλγορίθμους πρόσληψης προσωπικού