| Περίληψη: | Τα τελευταία χρόνια παρατηρείται εκθετική πρόοδος στο τομέα της ΤΝ και συγκεκριμένα
των εφαρμογών μηχανικής μάθησης, με όλο και περισσότερα προϊόντα και υπηρεσίες να υ-
ιοθετούν τις νέες τεχνολογίες σε παγκόσμια κλίμακα. Η ταχύτατη αυτή εξέλιξη ώθησε την
ανάγκη δημιουργίας ενός νέου ερευνητικού κλάδου, αυτού της Εξηγήσιμης Τεχνητής Νοημο-
σύνης (XAI), ώστε να αναλυθούν σε βάθος και να εξηγηθούν οι προβλέψεις αλγορίθμων που
διατηρούν κρυφό τον τρόπο λειτουργίας τους. Η αναγνώριση των εσωτερικών διαδικασιών
με τις οποίες αυτά τα συστήματα λαμβάνουν αποφάσεις, είναι καθοριστικής σημασίας για την
ανάπτυξη διαφάνειας, λογοδοσίας και δικαιοσύνης στη χρήση των τεχνολογιών αυτών. Ω-
στόσο μέχρι σήμερα στη βιβλιογραφία, παρατηρούνται δυσκολίες ή και διαφωνίες στον ορισμό,
την περιγραφή και τα κριτήρια που καθιστούν εξηγήσιμη μια εφαρμογή μηχανικής μάθησης.
΄Εχουν αναπτυχθεί διάφορες μέθοδοι εξηγησιμότητας στις προσπάθειες μας να καταλάβουμε
καλύτερα τις εφαρμογές ΤΝ, παρ΄όλα αυτά υπάρχει ακόμα αμφιβολία για το λογικό τους υ-
πόβαθρο και τις εξηγήσεις που παράγουνε. ΄Ενας από τους παράγοντες που ευθύνονται για
αυτό είναι οι ελλείψεις στο τομέα της αξιολόγησης των υπάρχοντων μεθόδων εξηγησιμότητας.
Σε αυτή τη διπλωματική εργασία εστιάζουμε σε μία από τις πτυχές αξιολόγησης των με-
θόδων αυτών, αυτή της ευρωστίας, προτείνοντας μια καινοτόμο μεθοδολογία αξιολόγησης
ευρωστίας την οποία εφαρμόζουμε σε τρεις μεθόδους εξηγησιμότητας προς σύγκριση. Ο-
ρίζουμε και περιγράφουμε τις διαστάσεις της ευρωστίας, ώστε να περικλείει τις έννοιες της
συνέπειας και της σταθερότητας των εξηγήσεων, και σχεδιάζουμε διαφορετικά σενάρια για
την αξιολόγησή τους. Η αξιολόγηση των μεθόδων εξηγησιμότητας γίνεται μέσα από μια
πληθώρα πολυδιάστατων πειραμάτων, προκειμένου να αξιολογηθούν υπό διαφορετικές υλο-
ποιήσεις αλγορίθμων, σύνολα δεδομένων και κατηγορίες εξηγησιμότητας. Είναι σημαντικό
να ερευνήσουμε τη συμπεριφορά των μεθόδων εξηγησιμότητας σε πολλαπλές συνθήκες, για
να εντοπίσουμε τις αδυναμίες και τα πλεονεκτήματα του τρόπου λειτουργίας τους. Τέλος,
παραθέτουμε τις παρατηρήσεις μας από τα αποτελέσματα των πειραμάτων και ιδέες για την
επέκταση και τη βελτίωση της προτεινόμενης μεθόδου.
|
|---|
