Σύστημα μηχανικής μάθησης για την αυτόματη αναγνώριση χειρόγραφων ψηφίων βασισμένο σε υψηλής απόδοσης RBM hardware accelerator

• Κύριος συγγραφέας: Τουλγαρίδης, Νικόλαος
• Άλλοι συγγραφείς: Αντωνακόπουλος, Θεόδωρος
• Μορφή: Thesis
• Γλώσσα: Greek
• Έκδοση: 2018
• Θέματα: Αναγνώριση χειρόγραφων ψηφίων; Τεχνητή νοημοσύνη; Μηχανική μάθηση; Τεχνητά νευρωνικά δίκτυα; Παράλληλη επεξεργασία; Εξειδικευμένο υλικό; Artificial neural networks; Machine learning; Pattern recognition; Handwritten digits recognition; Hardware accelerators; Cloud services; Restricted Boltzmann machines; 006.31

Η ταχεία αύξηση του μεγέθους των δεδομένων και της προσβασιμότητας τα τελευταία χρόνια έχει προκαλέσει αλλαγή στη φιλοσοφία σχεδιασμού συστημάτων με κατεύθυνση τη χρήση αλγορίθμων τεχνητής νοημοσύνης. Τα συστήματα αυτά έχουν την ικανότητα να μαθαίνουν και να επεξεργάζονται τεράστιες ποσότητες δεδομένων ανοίγοντας νέους ορίζοντες σε σημαντικούς τομείς όπως η υπολογιστική όραση, η αναγνώριση προτύπων, η επεξεργασία φυσικής γλώσσας κ.λ.π. Η πιο δημοφιλής κατηγορία τεχνικών που χρησιμοποιούν τεχνητά νευρωνικά δίκτυα ονομάζεται Deep Learning Networks και έχει μεγάλο εύρος εφαρμογής τόσο στην καθημερινότητα όσο και στη βιομηχανία. Ωστόσο, αυτά τα μοντέλα έχουν πολύ υψηλές απαιτήσεις σε αποθήκευση δεδομένων και υπολογιστική ισχύ, ιδιαίτερα κατά τη διαδικασία της εκπαίδευσης (training). Λύση στο σύνθετο αυτό πρόβλημα των πόρων προσπαθεί να δοθεί με τη χρήση συστημάτων πολυεπεξεργασίας (Multiprocessors, GPUs, FPGAs). Ευρέως διαδομένη είναι η ανάπτυξη παράλληλων δομών από Graphics Processing Units (GPU), τα οποία διαμορφώνονται σε clusters. Σπουδαία αποτελέσματα με πληθώρα εφαρμογών στον τομέα της Μηχανικής Μάθησης προσφέρει η ανάπτυξη συστημάτων που περιλαμβάνουν εξειδικευμένο υλικό με τη χρήση FPGAs. Τρέχουσες τάσεις σε εργαλεία σχεδιασμού για FPGAs, όπως το High Level Synthesis, έχουν καταστήσει τον σχεδιασμό dedicated hardware accelerators πιο συμβατό με πρακτικές λογισμικού υψηλού επιπέδου (Software Engineering). Μέσω των τεχνικών αυτών μπορεί να επιτευχθεί η αποδοτικότερη "μεταφορά" των αλγορίθμων μηχανικής μάθησης στο επίπεδο του υλικού, τόσο από τη σκοπιά των απαιτούμενων πόρων υλοποίησης, όσο και από τη σκοπιά της βελτίωσης του ρυθμού επεξεργασίας. Η αναγνώριση ψηφίων ή γραμμάτων είναι ένα κλασσικό παράδειγμα εφαρμογής των αλγορίθμων μηχανικής μάθησης και ειδικότερα των τεχνητών νευρωνικών δικτύων. Συγκεκριμένα η παρούσα διπλωματική εργασία αφορά στην υλοποίηση των νευρωνικών δικτύων τύπου Restricted Boltzmann Machines για την επιτάχυνση της διαδικασίας αναγνώρισης χειρόγραφων ψηφίων, με τη χρήση εξειδικευμένου υλικού και τελευταίας γενεάς FPGA - Xilinx Virtex 7.