Τεχνικές εξήγησης για συνελικτικά νευρωνικά δίκτυα αναγνώρισης εικόνων
Η τεχνητή νοημοσύνη έχει διεισδύσει πλέον στον τομέα της βιομηχανίας και εκπαιδευμένα μοντέλα γίνονται υπεύθυνα ή επηρεάζουν τη λήψη σημαντικών αποφάσεων. Σε αυτές τις περιπτώσεις μια λάθος απόφαση του μοντέλου μπορεί να έχει πολύ σημαντικές επιπτώσεις. Για να είναι κανείς σε θέση να εμπιστευτεί πλή...
| Κύριος συγγραφέας: | |
|---|---|
| Άλλοι συγγραφείς: | |
| Γλώσσα: | Greek |
| Έκδοση: |
2021
|
| Θέματα: | |
| Διαθέσιμο Online: | http://hdl.handle.net/10889/15383 |
| id |
nemertes-10889-15383 |
|---|---|
| record_format |
dspace |
| spelling |
nemertes-10889-153832022-09-05T05:38:02Z Τεχνικές εξήγησης για συνελικτικά νευρωνικά δίκτυα αναγνώρισης εικόνων Explainability techniques for convolutional neural networks for image recognition Τσάκας, Παναγιώτης Tsakas, Panagiotis Εξηγισημότητα Τεχνικές εξηγησιμότητας Συνελικτικά νευρωνικά δίκτυα Αναγνώριση εικόνων Τεχνητή νοημοσύνη Explainability Explainability techniques Convolutional neural networks Image recognition Artificial intelligence Η τεχνητή νοημοσύνη έχει διεισδύσει πλέον στον τομέα της βιομηχανίας και εκπαιδευμένα μοντέλα γίνονται υπεύθυνα ή επηρεάζουν τη λήψη σημαντικών αποφάσεων. Σε αυτές τις περιπτώσεις μια λάθος απόφαση του μοντέλου μπορεί να έχει πολύ σημαντικές επιπτώσεις. Για να είναι κανείς σε θέση να εμπιστευτεί πλήρως ένα μοντέλο πρέπει να ξέρει τι έχει μάθει, πως συμπεριφέρεται και γιατί πήρε την κάθε απόφαση. Το κενό αυτό έρχονται να καλύψουν οι τεχνικές εξήγησης, οι οποίες έχουν σκοπό να εξηγήσουν την λειτουργία του μοντέλου και να ερμηνεύσουν τα αποτελέσματα του. Αυτή τη διπλωματική εστιάζει στις τεχνικές εξήγησης βαθιών συνελικτικών νευρωνικών δικτύων κατηγοριοποίησης εικόνων. Το αποτέλεσμα μιας τέτοιας τεχνικής εξήγησης είναι ένας χάρτης ευαισθησίας, δηλαδή ένας πίνακας ίδιων διαστάσεων με την εικόνα στην είσοδο του μοντέλου που περιέχει τιμές για την σπουδαιότητα κάθε εικονοστοιχείου. Στόχος αυτής της εργασίας είναι η ανάπτυξη μιας νέας τεχνικής αποθορυβοποίησης χαρτών ευαισθησίας με όνομα RISE-Grad, η οποία συνδυάζει χαρακτηριστικά από δύο υπάρχουσες τεχνικές, SmoothGrad και RISE. Η αξιολόγηση της νέας τεχνικής και η σύγκριση της με την υπάρχουσα έγινε με χρήση ιστογραμμάτων πιθανότητας πρόβλεψης, ιστογραμμάτων σπουδαιότητας, διαγραμμάτων «εισαγωγής» και διαγραμμάτων «διαγραφής». Το συμπέρασμα που εξάγεται τελικά είναι ότι η ποιότητα της αποθορυβοποίησης με την νέα τεχνική είναι τόσο καλή (ίσως και ελαφρώς καλύτερη) όσο με την τεχνική SmoothGrad. Artificial intelligence has already penetrated the industry and trained models become responsible or influence important decisions. In these cases a wrong decision of the model may have very significant consequences. To be able to fully trust a model one must know what it has learned, how it behaves and why it made each decision. This gap is filled by explanation techniques, which aim to explain the operation of the model and to interpret its results. This thesis focuses on model-specific techniques for explaining deep convolutional neural networks for image classification. The result of such an explanation technique is a sensitivity map, which is a table of the same dimensions as the image given as input to the model and it contains values for the importance of each pixel. The aim of this work is to develop a new technique called RISE-Grad for reducing noise in a sensitivity map, which combines features from two existing techniques, SmoothGrad and RISE. The evaluation of this new technique and its comparison with the existing one was performed with the use of prediction probability histograms, importance histograms, insertion curves and deletion curves. It is concluded that the quality of the noise reduction with the new technique is as good (perhaps slightly better) as the SmoothGrad technique. 2021-10-19T06:06:53Z 2021-10-19T06:06:53Z 2021-10-18 http://hdl.handle.net/10889/15383 gr application/pdf |
| institution |
UPatras |
| collection |
Nemertes |
| language |
Greek |
| topic |
Εξηγισημότητα Τεχνικές εξηγησιμότητας Συνελικτικά νευρωνικά δίκτυα Αναγνώριση εικόνων Τεχνητή νοημοσύνη Explainability Explainability techniques Convolutional neural networks Image recognition Artificial intelligence |
| spellingShingle |
Εξηγισημότητα Τεχνικές εξηγησιμότητας Συνελικτικά νευρωνικά δίκτυα Αναγνώριση εικόνων Τεχνητή νοημοσύνη Explainability Explainability techniques Convolutional neural networks Image recognition Artificial intelligence Τσάκας, Παναγιώτης Τεχνικές εξήγησης για συνελικτικά νευρωνικά δίκτυα αναγνώρισης εικόνων |
| description |
Η τεχνητή νοημοσύνη έχει διεισδύσει πλέον στον τομέα της βιομηχανίας και εκπαιδευμένα μοντέλα γίνονται υπεύθυνα ή επηρεάζουν τη λήψη σημαντικών αποφάσεων. Σε αυτές τις περιπτώσεις μια λάθος απόφαση του μοντέλου μπορεί να έχει πολύ σημαντικές επιπτώσεις. Για να είναι κανείς σε θέση να εμπιστευτεί πλήρως ένα μοντέλο πρέπει να ξέρει τι έχει μάθει, πως συμπεριφέρεται και γιατί πήρε την κάθε απόφαση. Το κενό αυτό έρχονται να καλύψουν οι τεχνικές εξήγησης, οι οποίες έχουν σκοπό να εξηγήσουν την λειτουργία του μοντέλου και να ερμηνεύσουν τα αποτελέσματα του. Αυτή τη διπλωματική εστιάζει στις τεχνικές εξήγησης βαθιών συνελικτικών νευρωνικών δικτύων κατηγοριοποίησης εικόνων. Το αποτέλεσμα μιας τέτοιας τεχνικής εξήγησης είναι ένας χάρτης ευαισθησίας, δηλαδή ένας πίνακας ίδιων διαστάσεων με την εικόνα στην είσοδο του μοντέλου που περιέχει τιμές για την σπουδαιότητα κάθε εικονοστοιχείου. Στόχος αυτής της εργασίας είναι η ανάπτυξη μιας νέας τεχνικής αποθορυβοποίησης χαρτών ευαισθησίας με όνομα RISE-Grad, η οποία συνδυάζει χαρακτηριστικά από δύο υπάρχουσες τεχνικές, SmoothGrad και RISE. Η αξιολόγηση της νέας τεχνικής και η σύγκριση της με την υπάρχουσα έγινε με χρήση ιστογραμμάτων πιθανότητας πρόβλεψης, ιστογραμμάτων σπουδαιότητας, διαγραμμάτων «εισαγωγής» και διαγραμμάτων «διαγραφής». Το συμπέρασμα που εξάγεται τελικά είναι ότι η ποιότητα της αποθορυβοποίησης με την νέα τεχνική είναι τόσο καλή (ίσως και ελαφρώς καλύτερη) όσο με την τεχνική SmoothGrad. |
| author2 |
Tsakas, Panagiotis |
| author_facet |
Tsakas, Panagiotis Τσάκας, Παναγιώτης |
| author |
Τσάκας, Παναγιώτης |
| author_sort |
Τσάκας, Παναγιώτης |
| title |
Τεχνικές εξήγησης για συνελικτικά νευρωνικά δίκτυα αναγνώρισης εικόνων |
| title_short |
Τεχνικές εξήγησης για συνελικτικά νευρωνικά δίκτυα αναγνώρισης εικόνων |
| title_full |
Τεχνικές εξήγησης για συνελικτικά νευρωνικά δίκτυα αναγνώρισης εικόνων |
| title_fullStr |
Τεχνικές εξήγησης για συνελικτικά νευρωνικά δίκτυα αναγνώρισης εικόνων |
| title_full_unstemmed |
Τεχνικές εξήγησης για συνελικτικά νευρωνικά δίκτυα αναγνώρισης εικόνων |
| title_sort |
τεχνικές εξήγησης για συνελικτικά νευρωνικά δίκτυα αναγνώρισης εικόνων |
| publishDate |
2021 |
| url |
http://hdl.handle.net/10889/15383 |
| work_keys_str_mv |
AT tsakaspanagiōtēs technikesexēgēsēsgiasyneliktikaneurōnikadiktyaanagnōrisēseikonōn AT tsakaspanagiōtēs explainabilitytechniquesforconvolutionalneuralnetworksforimagerecognition |
| _version_ |
1771297161765453824 |
