Αυτόματη παραγωγή επιταχυντών συνελικτικών δικτύων με χρήση του προτύπου ONNX

Τα τεχνητά νευρωνικά δίκτυα έχουν σημειώσει αρκετά μεγάλη ανάπτυξη τα τελευταία 10 χρόνια, παρόλο που ο όρος αυτός υπάρχει στην επιστήμη των υπολογιστών για περισσότερο από μια 20ετία. Αυτό έγκειται κυρίως στη ραγδαία ανάπτυξη των υπολογιστών, αλλά και στο ενδιαφέρον που δείχνουν μεγάλές τεχνολογικέ...

Πλήρης περιγραφή

Λεπτομέρειες βιβλιογραφικής εγγραφής
Κύριος συγγραφέας: Χαλίλ, Κοσμάς
Άλλοι συγγραφείς: Chalil, Kosmas
Γλώσσα:Greek
Έκδοση: 2021
Θέματα:
Διαθέσιμο Online:http://hdl.handle.net/10889/14729
id nemertes-10889-14729
record_format dspace
spelling nemertes-10889-147292022-09-06T05:14:38Z Αυτόματη παραγωγή επιταχυντών συνελικτικών δικτύων με χρήση του προτύπου ONNX Automated production of accelerated convolution neural networks using the ONNX format Χαλίλ, Κοσμάς Chalil, Kosmas Νευρωνικά δίκτυα Συνελικτικά νευρωνικά δίκτυα Squeezenet Verilog/System verilog Τα τεχνητά νευρωνικά δίκτυα έχουν σημειώσει αρκετά μεγάλη ανάπτυξη τα τελευταία 10 χρόνια, παρόλο που ο όρος αυτός υπάρχει στην επιστήμη των υπολογιστών για περισσότερο από μια 20ετία. Αυτό έγκειται κυρίως στη ραγδαία ανάπτυξη των υπολογιστών, αλλά και στο ενδιαφέρον που δείχνουν μεγάλές τεχνολογικές εταιρείες, οι οποίες αρχίζουν να επενδύουν περισσότερο στην έρευνα και στην ανάπτυξη συστημάτων τεχνητής νοημοσύνης. Στόχος της διπλωματικής αυτής είναι η ανάπτυξη ενός προγράμματος για την αυτόματη παραγωγή επιταχυντών συνελικτικών δικτύων με χρήση του προτύπου ONNX. Σε πρώτο στάδιο γίνεται μια εκτενής ανάλυση στα νευρωνικά δίκτυα και παρουσιάζονται όλα τα διαθέσιμα επίπεδα που χρησιμοποιούνται σε ένα τέτοιο δίκτυο. Στο δεύτερο στάδιο ακολουθεί η επεξήγηση του πρότυπου ONNX, για ποιον λόγο έγινε η επιλογή αυτού του προτύπου και περιγράφεται ένα νευρωνικό δίκτυο σε αυτό το πρότυπο. Γίνεται ανάλυση των μοντέλων με βάση τα αποτελέσματα που βγήκαν από εργαλεία profiling όπως είναι το TVM. Μαζί με την ανάλυση των μοντέλων παρουσιάζεται και η οπτικοποίηση του κάθε μοντέλου, που βοηθάει στην καλύτερη κατανόηση της δομής του δικτύου. Με την ολοκλήρωση της ανάλυσης ακολουθεί το τρίτο στάδιο όπου παρουσιάζονται τα βήματα που ακολουθήθηκαν για την κατασκευή του προγράμματος το οποίο θα δημιουργεί το τελικό νευρωνικό δίκτυο σε Γλώσσα Περιγραφής Υλικού Verilog. Στο τέταρτο και τελευταίο στάδιο γίνεται η περιγραφή των testbench τόσο για το ολοκληρωμένο νευρωνικό δίκτυο όσο και για τα ξεχωριστά επίπεδα που δημιουργήθηκαν αυτόματα από το εργαλείο που υλοποιήθηκε στην παρούσα εργασία. The last 10 years Artificial Neural Networks have grown rapidly, although this term has existed in computer science for more than 20 years. This is, mainly, due to the rapid development of computers, but also to the interest shown by large technology companies that invest more in research and development of artificial intelligence systems. The aim of this thesis is to develop a program for the automatic production of accelerated convolutional neural network using the ONNX standard. At first, the term Neural Networks is extensively analyzed, and all the available levels used in such networks are presented. Next, the ONNX format selection is explained, where a neural network in this format is described. The models are analyzed based on the results obtained from profiling tools such as TVM. Along with the analysis of the models, the visualization of each model is presented to better understand the network structure. After that, the steps followed for the construction of the program which will create the final Neural Network in Verilog Hardware Description Language, are presented. Lastly, the testbench is described for both the final convolutional neural network and for the individual levels that were automatically created by the tool implemented in this thesis. 2021-03-31T07:38:54Z 2021-03-31T07:38:54Z 2021-03-30 http://hdl.handle.net/10889/14729 gr application/pdf winrar
institution UPatras
collection Nemertes
language Greek
topic Νευρωνικά δίκτυα
Συνελικτικά νευρωνικά δίκτυα
Squeezenet
Verilog/System verilog
spellingShingle Νευρωνικά δίκτυα
Συνελικτικά νευρωνικά δίκτυα
Squeezenet
Verilog/System verilog
Χαλίλ, Κοσμάς
Αυτόματη παραγωγή επιταχυντών συνελικτικών δικτύων με χρήση του προτύπου ONNX
description Τα τεχνητά νευρωνικά δίκτυα έχουν σημειώσει αρκετά μεγάλη ανάπτυξη τα τελευταία 10 χρόνια, παρόλο που ο όρος αυτός υπάρχει στην επιστήμη των υπολογιστών για περισσότερο από μια 20ετία. Αυτό έγκειται κυρίως στη ραγδαία ανάπτυξη των υπολογιστών, αλλά και στο ενδιαφέρον που δείχνουν μεγάλές τεχνολογικές εταιρείες, οι οποίες αρχίζουν να επενδύουν περισσότερο στην έρευνα και στην ανάπτυξη συστημάτων τεχνητής νοημοσύνης. Στόχος της διπλωματικής αυτής είναι η ανάπτυξη ενός προγράμματος για την αυτόματη παραγωγή επιταχυντών συνελικτικών δικτύων με χρήση του προτύπου ONNX. Σε πρώτο στάδιο γίνεται μια εκτενής ανάλυση στα νευρωνικά δίκτυα και παρουσιάζονται όλα τα διαθέσιμα επίπεδα που χρησιμοποιούνται σε ένα τέτοιο δίκτυο. Στο δεύτερο στάδιο ακολουθεί η επεξήγηση του πρότυπου ONNX, για ποιον λόγο έγινε η επιλογή αυτού του προτύπου και περιγράφεται ένα νευρωνικό δίκτυο σε αυτό το πρότυπο. Γίνεται ανάλυση των μοντέλων με βάση τα αποτελέσματα που βγήκαν από εργαλεία profiling όπως είναι το TVM. Μαζί με την ανάλυση των μοντέλων παρουσιάζεται και η οπτικοποίηση του κάθε μοντέλου, που βοηθάει στην καλύτερη κατανόηση της δομής του δικτύου. Με την ολοκλήρωση της ανάλυσης ακολουθεί το τρίτο στάδιο όπου παρουσιάζονται τα βήματα που ακολουθήθηκαν για την κατασκευή του προγράμματος το οποίο θα δημιουργεί το τελικό νευρωνικό δίκτυο σε Γλώσσα Περιγραφής Υλικού Verilog. Στο τέταρτο και τελευταίο στάδιο γίνεται η περιγραφή των testbench τόσο για το ολοκληρωμένο νευρωνικό δίκτυο όσο και για τα ξεχωριστά επίπεδα που δημιουργήθηκαν αυτόματα από το εργαλείο που υλοποιήθηκε στην παρούσα εργασία.
author2 Chalil, Kosmas
author_facet Chalil, Kosmas
Χαλίλ, Κοσμάς
author Χαλίλ, Κοσμάς
author_sort Χαλίλ, Κοσμάς
title Αυτόματη παραγωγή επιταχυντών συνελικτικών δικτύων με χρήση του προτύπου ONNX
title_short Αυτόματη παραγωγή επιταχυντών συνελικτικών δικτύων με χρήση του προτύπου ONNX
title_full Αυτόματη παραγωγή επιταχυντών συνελικτικών δικτύων με χρήση του προτύπου ONNX
title_fullStr Αυτόματη παραγωγή επιταχυντών συνελικτικών δικτύων με χρήση του προτύπου ONNX
title_full_unstemmed Αυτόματη παραγωγή επιταχυντών συνελικτικών δικτύων με χρήση του προτύπου ONNX
title_sort αυτόματη παραγωγή επιταχυντών συνελικτικών δικτύων με χρήση του προτύπου onnx
publishDate 2021
url http://hdl.handle.net/10889/14729
work_keys_str_mv AT chalilkosmas automatēparagōgēepitachyntōnsyneliktikōndiktyōnmechrēsētouprotypouonnx
AT chalilkosmas automatedproductionofacceleratedconvolutionneuralnetworksusingtheonnxformat
_version_ 1799945008960241664