Εφαρμογή τεχνικών βαθιάς μηχανικής μάθησης σε ιατρικές εικόνες
Η παρούσα διπλωματική εργασία αναφέρεται στην εφαρμογή τεχνικών Βαθιάς Μηχανικής Μάθησης σε ιατρικές εικόνες ακτινογραφίας θώρακα . Σκοπός της εργασίας αποτέλεσε η αυτόματη κατηγοριοποίηση ιατρικών εικόνων Covid-19 με χρήση Συνελικτικών Νευρωνικών Δικτύων. Οι διαδικασίες ταξινόμησης που δοκιμάστηκαν...
| Κύριος συγγραφέας: | |
|---|---|
| Άλλοι συγγραφείς: | |
| Γλώσσα: | Greek |
| Έκδοση: |
2021
|
| Θέματα: | |
| Διαθέσιμο Online: | http://hdl.handle.net/10889/15522 |
| id |
nemertes-10889-15522 |
|---|---|
| record_format |
dspace |
| institution |
UPatras |
| collection |
Nemertes |
| language |
Greek |
| topic |
Βαθιά μηχανική μάθηση Συνελικτικά νευρωνικά δίκτυα Deep learning Convolutional neural networks Covid-19 |
| spellingShingle |
Βαθιά μηχανική μάθηση Συνελικτικά νευρωνικά δίκτυα Deep learning Convolutional neural networks Covid-19 Παπανικολάου, Φώτιος-Βενιζέλος Εφαρμογή τεχνικών βαθιάς μηχανικής μάθησης σε ιατρικές εικόνες |
| description |
Η παρούσα διπλωματική εργασία αναφέρεται στην εφαρμογή τεχνικών Βαθιάς Μηχανικής Μάθησης σε ιατρικές εικόνες ακτινογραφίας θώρακα . Σκοπός της εργασίας αποτέλεσε η αυτόματη κατηγοριοποίηση ιατρικών εικόνων Covid-19 με χρήση Συνελικτικών Νευρωνικών Δικτύων. Οι διαδικασίες ταξινόμησης που δοκιμάστηκαν βασίζονται σε τεχνικές βαθιών νευρωνικών δικτύων (DNN). Τα Συνελικτικά Νευρωνικά Δίκτυα (CNNs) αποτελούν μερικές από τις καλύτερες τεχνικές αναγνώρισης προτύπων, ειδικά όσον αφορά την κατηγοριοποίηση ιατρικών εικόνων. Παρουσιάζουν διαφορές ως προς την αρχιτεκτονική τους, το βάθος τους, τις συναρτήσεις ενεργοποίησης που περιλαμβάνουν και ως προς τη γενικότερη παραμετροποίησή τους. Στην παρούσα εργασία εξετάσαμε αρχιτεκτονικές που παρουσιάζουν ξεχωριστή συμπεριφορά στην ταξινόμηση ιατρικών δεδομένων. Από αυτές επιλέξαμε επτά διαφορετικές, οι οποίες δοκιμάστηκαν κατά την πειραματική διαδικασία και είναι οι εξής: VGG16, VGG19, ResNet50, ResNet152, MobileNetV2, DenseNet121 και NasNetMobile. Για την εκπαίδευση και τον έλεγχο των συστημάτων, χρησιμοποιήθηκαν ως ιατρικά δεδομένα, ακτινογραφίες θώρακα (Chest X-rays) οι οποίες ταξινομήθηκαν σε 3 κατηγορίες: Normal (δηλαδή πνεύμονες χωρίς κάποια λοίμωξη), Covid-19 (δηλαδή πνεύμονες που έχουν προσβληθεί από τη λοίμωξη Covid-19) και Pneumonia (δηλαδή πνεύμονες με απλή πνευμονία). Συγκεκριμένα, χρησιμοποιήθηκε η Βάση Δεδομένων NIH (National Institutes of Health) που περιέχει συνολικά 6432 εικόνες. Αναφορικά με τις κατηγορίες, στην κατηγορία Normal έχουμε 1583 εικόνες, στην κατηγορία Covid-19 έχουμε 576 εικόνες και στην κατηγορία Pneumonia έχουμε 4273 εικόνες. Οι εικόνες είναι μορφής .jpeg και έχουν βάθος 24 bits. Επίσης, όλα τα Νευρωνικά Δίκτυα που χρησιμοποιήθηκαν ήταν προεκπαιδευμένα στον τεράστιο όγκο των δεδομένων της ImageNet. Τα επτά αυτά δίκτυα, εκπαιδεύτηκαν και ελέγχθηκαν σε έξι πειραματικές διαδικασίες: χωρίς προεπεξεργασία, με χρήση της τεχνικής ZCA, χωρίς προεπεξεργασία και 1 επιπλέον Dense Layer, με χρήση της τεχνικής ZCA και 1 επιπλέον Dense Layer, χωρίς προεπεξεργασία και 2 επιπλέον Dense Layers και τέλος, με χρήση της τεχνικής ZCA και 2 επιπλέον Dense Layers. Όσον αφορά το δίκτυο NasNetMobile, διεξήχθησαν και κάποια πειράματα με επιπλέον παραμετροποίηση, με στόχο μια περαιτέρω βελτίωση της επίδοσής του. Τα αποτελέσματα αναρτώνται σε 58 συγκεντρωτικούς πίνακες. Μέσα από την πειραματική διαδικασία διαπιστώσαμε πως όλα τα ΣΝΔ που χρησιμοποιήσαμε σημείωσαν καλύτερα αποτελέσματα έχοντας προσθέσει σε αυτά 2 επιπλέον Dense Layers. Επίσης, το δίκτυο DenseNet121 ανταποκρίθηκε συνολικά καλύτερα στο σύνολο των δεδομένων μας. Αυτό θα μπορούσαμε να πούμε πως είναι αναμενόμενο, καθώς το DenseNet121 ανήκει στα πλέον προηγμένα Συνελικτικά Νευρωνικά Δίκτυα. |
| author2 |
Papanikolaou, Fotios-Venizelos |
| author_facet |
Papanikolaou, Fotios-Venizelos Παπανικολάου, Φώτιος-Βενιζέλος |
| author |
Παπανικολάου, Φώτιος-Βενιζέλος |
| author_sort |
Παπανικολάου, Φώτιος-Βενιζέλος |
| title |
Εφαρμογή τεχνικών βαθιάς μηχανικής μάθησης σε ιατρικές εικόνες |
| title_short |
Εφαρμογή τεχνικών βαθιάς μηχανικής μάθησης σε ιατρικές εικόνες |
| title_full |
Εφαρμογή τεχνικών βαθιάς μηχανικής μάθησης σε ιατρικές εικόνες |
| title_fullStr |
Εφαρμογή τεχνικών βαθιάς μηχανικής μάθησης σε ιατρικές εικόνες |
| title_full_unstemmed |
Εφαρμογή τεχνικών βαθιάς μηχανικής μάθησης σε ιατρικές εικόνες |
| title_sort |
εφαρμογή τεχνικών βαθιάς μηχανικής μάθησης σε ιατρικές εικόνες |
| publishDate |
2021 |
| url |
http://hdl.handle.net/10889/15522 |
| work_keys_str_mv |
AT papanikolaouphōtiosbenizelos epharmogētechnikōnbathiasmēchanikēsmathēsēsseiatrikeseikones AT papanikolaouphōtiosbenizelos deeplearningonmedicalimages |
| _version_ |
1771297220611538944 |
| spelling |
nemertes-10889-155222022-09-05T13:56:27Z Εφαρμογή τεχνικών βαθιάς μηχανικής μάθησης σε ιατρικές εικόνες Deep learning on medical images Παπανικολάου, Φώτιος-Βενιζέλος Papanikolaou, Fotios-Venizelos Βαθιά μηχανική μάθηση Συνελικτικά νευρωνικά δίκτυα Deep learning Convolutional neural networks Covid-19 Η παρούσα διπλωματική εργασία αναφέρεται στην εφαρμογή τεχνικών Βαθιάς Μηχανικής Μάθησης σε ιατρικές εικόνες ακτινογραφίας θώρακα . Σκοπός της εργασίας αποτέλεσε η αυτόματη κατηγοριοποίηση ιατρικών εικόνων Covid-19 με χρήση Συνελικτικών Νευρωνικών Δικτύων. Οι διαδικασίες ταξινόμησης που δοκιμάστηκαν βασίζονται σε τεχνικές βαθιών νευρωνικών δικτύων (DNN). Τα Συνελικτικά Νευρωνικά Δίκτυα (CNNs) αποτελούν μερικές από τις καλύτερες τεχνικές αναγνώρισης προτύπων, ειδικά όσον αφορά την κατηγοριοποίηση ιατρικών εικόνων. Παρουσιάζουν διαφορές ως προς την αρχιτεκτονική τους, το βάθος τους, τις συναρτήσεις ενεργοποίησης που περιλαμβάνουν και ως προς τη γενικότερη παραμετροποίησή τους. Στην παρούσα εργασία εξετάσαμε αρχιτεκτονικές που παρουσιάζουν ξεχωριστή συμπεριφορά στην ταξινόμηση ιατρικών δεδομένων. Από αυτές επιλέξαμε επτά διαφορετικές, οι οποίες δοκιμάστηκαν κατά την πειραματική διαδικασία και είναι οι εξής: VGG16, VGG19, ResNet50, ResNet152, MobileNetV2, DenseNet121 και NasNetMobile. Για την εκπαίδευση και τον έλεγχο των συστημάτων, χρησιμοποιήθηκαν ως ιατρικά δεδομένα, ακτινογραφίες θώρακα (Chest X-rays) οι οποίες ταξινομήθηκαν σε 3 κατηγορίες: Normal (δηλαδή πνεύμονες χωρίς κάποια λοίμωξη), Covid-19 (δηλαδή πνεύμονες που έχουν προσβληθεί από τη λοίμωξη Covid-19) και Pneumonia (δηλαδή πνεύμονες με απλή πνευμονία). Συγκεκριμένα, χρησιμοποιήθηκε η Βάση Δεδομένων NIH (National Institutes of Health) που περιέχει συνολικά 6432 εικόνες. Αναφορικά με τις κατηγορίες, στην κατηγορία Normal έχουμε 1583 εικόνες, στην κατηγορία Covid-19 έχουμε 576 εικόνες και στην κατηγορία Pneumonia έχουμε 4273 εικόνες. Οι εικόνες είναι μορφής .jpeg και έχουν βάθος 24 bits. Επίσης, όλα τα Νευρωνικά Δίκτυα που χρησιμοποιήθηκαν ήταν προεκπαιδευμένα στον τεράστιο όγκο των δεδομένων της ImageNet. Τα επτά αυτά δίκτυα, εκπαιδεύτηκαν και ελέγχθηκαν σε έξι πειραματικές διαδικασίες: χωρίς προεπεξεργασία, με χρήση της τεχνικής ZCA, χωρίς προεπεξεργασία και 1 επιπλέον Dense Layer, με χρήση της τεχνικής ZCA και 1 επιπλέον Dense Layer, χωρίς προεπεξεργασία και 2 επιπλέον Dense Layers και τέλος, με χρήση της τεχνικής ZCA και 2 επιπλέον Dense Layers. Όσον αφορά το δίκτυο NasNetMobile, διεξήχθησαν και κάποια πειράματα με επιπλέον παραμετροποίηση, με στόχο μια περαιτέρω βελτίωση της επίδοσής του. Τα αποτελέσματα αναρτώνται σε 58 συγκεντρωτικούς πίνακες. Μέσα από την πειραματική διαδικασία διαπιστώσαμε πως όλα τα ΣΝΔ που χρησιμοποιήσαμε σημείωσαν καλύτερα αποτελέσματα έχοντας προσθέσει σε αυτά 2 επιπλέον Dense Layers. Επίσης, το δίκτυο DenseNet121 ανταποκρίθηκε συνολικά καλύτερα στο σύνολο των δεδομένων μας. Αυτό θα μπορούσαμε να πούμε πως είναι αναμενόμενο, καθώς το DenseNet121 ανήκει στα πλέον προηγμένα Συνελικτικά Νευρωνικά Δίκτυα. The purpose of this thesis is the classification of medical chest x-ray images with the use of deep learning approaches. The classification procedures that were tested are based on Convolutional Neural Networks (CNNs). CNNs are some of the best pattern recognition techniques, especially when it comes to classifying medical images. They have differences in terms of their architecture, their depth, the activation functions and their general configuration. In the present dissertation we examined architectures that exhibit distinct behavior in the classification of medical data. Among those, we chose seven different ones, which were tested during the experimental process. The chosen architectures are: VGG16, VGG19, ResNet50, ResNet152, MobileNetV2, DenseNet121 and NasNetMobile. In order to train and test our models, chest x- rays were used as medical data, which were classified into 3 categories: Normal (lungs without any infection), Covid-19 (lungs infected with Covid-19) and Pneumonia (lungs with pneumonia). Specifically, the NIH (National Institutes of Health) Database containing a total of 6432 images was used. Regarding the categories, the Normal category contains 1583 images, the Covid-19 category contains 576 images and the Pneumonia category contains 4273 images. The images are in .jpeg format and have a 24-bit depth. Also, all the Neural Networks used were pre-trained in the vast amount of ImageNet database. These seven networks were trained and tested in six experimental procedures: one without preprocess , one using ZCA technique, one without preprocess and 1 additional Dense Layer, one using ZCA technique and 1 additional Dense Layer, one without preprocess and 2 additional Dense Layers and finally, one using the ZCA technique and 2 additional Dense Layers. Regarding the NasNetMobile network, some experiments with additional configuration were performed, with the purpose of further improving its performance. The results are posted in 58 summary tables. Through the experimental process we found that all the CNNs we used had better results by adding 2 additional Dense Layers. Also, the DenseNet121 network responded better overall to our data set. This was expected, as DenseNet121 is one of the most advanced Convolutional Neural Networks. 2021-11-04T10:59:47Z 2021-11-04T10:59:47Z 2021-10-22 http://hdl.handle.net/10889/15522 gr application/pdf |
