| Περίληψη: | Τα βαθιά νευρωνικά δίκτυα έχουν επιτύχει πολύ καλή απόδοση σε πολλές λειτουργίες υπολογιστικής όρασης που πολλές φορές μπορούν να συγκριθούν με την ανθρώπινη απόδοση. Γι’ αυτό τον λόγο έχουν χρησιμοποιηθεί σε συστήματα αντίληψης αυτόνομων οχημάτων για τον εντοπισμό και την αναγνώριση κινούμενων και ακίνητων αντικειμένων. Τα αυτοκίνητα με συστήματα αυτόνομης οδήγησης, τα οποία επιτρέπουν στο όχημα να αντιλαμβάνεται το περιβάλλον του και να κινείται μέσα σε αυτό χωρίς ανθρώπινη παρέμβαση, έχουν ήδη κυκλοφορήσει στην αγορά και η ανάπτυξή τους έχει επιταχυνθεί σημαντικά λόγο των αυξανόμενων πληροφοριών που παράγουν. Γι’ αυτό τον λόγο η ασφάλεια αυτών των συστημάτων είναι πολύ σημαντική για την αποφυγή επικίνδυνων ατυχημάτων που θα έθεταν σε κίνδυνο την ζωή του επιβατών του οχήματος αλλά και των πεζών.
Μελέτες έχουν δείξει ότι τα βαθιά νευρωνικά δίκτυα καθώς και άλλα μοντέλα μηχανικής μάθηση όπως τα \en{support vector machines} είναι ευάλωτα σε παραπλανητικές επιθέσεις οι οποίες έχουν στόχο να παραπλανήσουν το υπό επίθεση μοντέλο, έτσι ώστε να κατηγοριοποιεί λάθος τα δεδομένα εισόδου του, μειώνοντας κατά πολύ την ακρίβειά του. Αυτές οι επιθέσεις λειτουργούν προσθέτοντας ειδικά κατασκευασμένο θόρυβο στα αρχικά δεδομένα για να παραχθούν παραπλανητικά δεδομένα. Στην περίπτωση των δεδομένων εικόνας, ο θόρυβος αυτός θα πρέπει να είναι όσο το δυνατόν λιγότερο αντιληπτός από τον άνθρωπο. Έτσι, τροποποιώντας ένα αντικείμενο στο περιβάλλον ενός αυτόνομου οχήματος, για παράδειγμα ένα σήμα κυκλοφορίας, μπορούμε να ξεγελάσουμε το όχημα στο να αναγνωρίσει διαφορετικό σήμα από το πραγματικό. Σε αυτή την Διπλωματική εργασία εφάρμοστηκε μια μέθοδο επίθεσης που συμβάλει στην κατανόηση των παραπλανητικών δεδομένων και προσομοιώνει τις πραγματικές συνθήκες εφαρμογής μιας τέτοιας επίθεσης. Επιλέχθηκε ως πεδίο εφαρμογής τα σήματα οδικής κυκλοφορίας για την παραπλάνηση του συστήματος αναγνώρισης οδικής σήμανσης ενός αυτόνομου οχήματος. Συγκρίθηκαν τα αποτελέσματα της επίθεσης με διαφορετικές μεθόδους επίθεσης που αναφέρονται στην βιβλιογραφία και παρουσίαστηκε το πόσο επηρεάζουν οι πραγματικές συνθήκες θέασης της πινακίδας στην αποτελεσματικότητα της εφαρμοσμένης επίθεσης. Τέλος δείξαμε ότι τα παραπλανητικά δεδομένα που δημιουργήθηκαν με βάση ένα μοντέλο μπορούν να μειώνουν την ακρίβεια ένος διαφορετικού μοντέλου που έχει εκπαιδευτεί στα ίδια δεδομένα με το αρχικό.
|
|---|
