| Περίληψη: | Η τεχνητή νοημοσύνη έχει διεισδύσει πλέον στον τομέα της βιομηχανίας και εκπαιδευμένα μοντέλα γίνονται υπεύθυνα ή επηρεάζουν τη λήψη σημαντικών αποφάσεων. Σε αυτές τις περιπτώσεις μια λάθος απόφαση του μοντέλου μπορεί να έχει πολύ σημαντικές επιπτώσεις. Για να είναι κανείς σε θέση να εμπιστευτεί πλήρως ένα μοντέλο πρέπει να ξέρει τι έχει μάθει, πως συμπεριφέρεται και γιατί πήρε την κάθε απόφαση. Το κενό αυτό έρχονται να καλύψουν οι τεχνικές εξήγησης, οι οποίες έχουν σκοπό να εξηγήσουν την λειτουργία του μοντέλου και να ερμηνεύσουν τα αποτελέσματα του. Αυτή τη διπλωματική εστιάζει στις τεχνικές εξήγησης βαθιών συνελικτικών νευρωνικών δικτύων κατηγοριοποίησης εικόνων. Το αποτέλεσμα μιας τέτοιας τεχνικής εξήγησης είναι ένας χάρτης ευαισθησίας, δηλαδή ένας πίνακας ίδιων διαστάσεων με την εικόνα στην είσοδο του μοντέλου που περιέχει τιμές για την σπουδαιότητα κάθε εικονοστοιχείου. Στόχος αυτής της εργασίας είναι η ανάπτυξη μιας νέας τεχνικής αποθορυβοποίησης χαρτών ευαισθησίας με όνομα RISE-Grad, η οποία συνδυάζει χαρακτηριστικά από δύο υπάρχουσες τεχνικές, SmoothGrad και RISE. Η αξιολόγηση της νέας τεχνικής και η σύγκριση της με την υπάρχουσα έγινε με χρήση ιστογραμμάτων πιθανότητας πρόβλεψης, ιστογραμμάτων σπουδαιότητας, διαγραμμάτων «εισαγωγής» και διαγραμμάτων «διαγραφής». Το συμπέρασμα που εξάγεται τελικά είναι ότι η ποιότητα της αποθορυβοποίησης με την νέα τεχνική είναι τόσο καλή (ίσως και ελαφρώς καλύτερη) όσο με την τεχνική SmoothGrad.
|
|---|
