Ανάπτυξη άμυνας σε επιθέσεις data poisoning σε federated learning με graph clustering

Με την ραγδαία ανάπτυξη της τεχνολογίας παρατηρείται ότι το υλικό καθώς και το λογισμικό που χρησιμοποιείται αυξάνεται σε υπολογιστική ισχύ και μειώνεται σε όγκο. Λόγω αυτού, πολλές προσωπικές συσκευές πλέον είναι ικανές να χειριστούν και επεξεργαστούν σημαντικό όγκο δεδομένων όντας μικρές σε μέγεθο...

Πλήρης περιγραφή

Λεπτομέρειες βιβλιογραφικής εγγραφής
Κύριος συγγραφέας:	Αλ Μπαμπούλ, Γεώργιος
Άλλοι συγγραφείς:	Al Bampoul, George
Γλώσσα:	Greek
Έκδοση:	2022
Θέματα:	Ομοσπονδιακή μάθηση Ιδιωτικότητα Federated learning Privacy
Διαθέσιμο Online:	https://nemertes.library.upatras.gr/handle/10889/23273

id	nemertes-10889-23273
record_format	dspace
spelling	nemertes-10889-232732022-09-21T17:14:24Z Ανάπτυξη άμυνας σε επιθέσεις data poisoning σε federated learning με graph clustering Development of defense against data poisoning attacks in federated learning with graph clustering Αλ Μπαμπούλ, Γεώργιος Al Bampoul, George Ομοσπονδιακή μάθηση Ιδιωτικότητα Federated learning Privacy Με την ραγδαία ανάπτυξη της τεχνολογίας παρατηρείται ότι το υλικό καθώς και το λογισμικό που χρησιμοποιείται αυξάνεται σε υπολογιστική ισχύ και μειώνεται σε όγκο. Λόγω αυτού, πολλές προσωπικές συσκευές πλέον είναι ικανές να χειριστούν και επεξεργαστούν σημαντικό όγκο δεδομένων όντας μικρές σε μέγεθος, πράγμα που τις καθιστά ιδανικές για την εκπαίδευση μοντέλων μηχανικής μάθησης. Μία μέθοδος που εκμεταλλεύεται αυτό το γεγονός, είναι η "Ομοσπονδιακή Μάθηση" (Federated Learning). Το κύριο πλεονέκτημα της χρήσης αυτής της μεθόδου είναι η διασφάλιση της ιδιωτικότητας των δεδομένων του κάθε συμμετέχοντα, ενώ παράλληλα τα μοντέλα εκπαιδεύονται με δεδομένα που παρουσιάζουν σημαντικές διαφορές στο περιεχόμενο. Ως αποτέλεσμα, τα μοντέλα έχουν εκπαιδευτεί σε ένα ευρύ φάσμα δεδομένων χωρίς να υπάρχει ο κίνδυνος διαρροής τους. Δυστυχώς όμως, λόγω της φύσης της(αποκεντρωμένη), αυτή η μέθοδος είναι ευάλωτη σε πολυάριθμες επιθέσεις. Στην παρούσα διπλωματική, θα παρουσιαστεί μία μέθοδος επίθεσης ονόματι label-flipping ή αλλιώς backdoor attack που επιχειρεί να ε- πηρεάσει τις αποφάσεις του κεντρικού μοντέλου ως προς μία ορισμένη κλάση χωρίς να μειώνει σημαντικά την συνολική ακρίβειά του. Τέλος θα παρουσιαστούν διάφοροι τρόποι αντιμετώπισης που έχουν αναπτυχθεί από ερευνητές του χώρου και θα σχολιαστούν τα αποτελέσματα των πειραμάτων. With the rapid development of technology, it is observed that the hardware, as well as the software used, is increasing in computing power and decreasing in volume. Due to this, many personal devices are now capable of handling and processing a significant amount of data while being small in size, which makes them ideal for training machine learning models. One method that takes advantage of this fact is "Federated Learning". The main advantage of using this method is to ensure the privacy of each participant's data, while training models with data that have significant differences in content. As a result, the models are trained on a wide range of data without the risk of leakage. Unfortunately, however, due to its nature(decentralized), this method is vulnerable to numerous attacks. In this thesis, we will present an attack method called label-flipping or backdoor attack that attempts to influence the decisions of the central model with respect to a certain class without significantly reducing its overall accuracy. Finally, various countermeasures developed by researchers in the field will be presented and the results of experiments will be commented on. 2022-09-21T08:35:08Z 2022-09-21T08:35:08Z 2022-09-16 https://nemertes.library.upatras.gr/handle/10889/23273 el Attribution-NonCommercial-NoDerivs 3.0 United States http://creativecommons.org/licenses/by-nc-nd/3.0/us/ application/pdf
institution	UPatras
collection	Nemertes
language	Greek
topic	Ομοσπονδιακή μάθηση Ιδιωτικότητα Federated learning Privacy
spellingShingle	Ομοσπονδιακή μάθηση Ιδιωτικότητα Federated learning Privacy Αλ Μπαμπούλ, Γεώργιος Ανάπτυξη άμυνας σε επιθέσεις data poisoning σε federated learning με graph clustering
description	Με την ραγδαία ανάπτυξη της τεχνολογίας παρατηρείται ότι το υλικό καθώς και το λογισμικό που χρησιμοποιείται αυξάνεται σε υπολογιστική ισχύ και μειώνεται σε όγκο. Λόγω αυτού, πολλές προσωπικές συσκευές πλέον είναι ικανές να χειριστούν και επεξεργαστούν σημαντικό όγκο δεδομένων όντας μικρές σε μέγεθος, πράγμα που τις καθιστά ιδανικές για την εκπαίδευση μοντέλων μηχανικής μάθησης. Μία μέθοδος που εκμεταλλεύεται αυτό το γεγονός, είναι η "Ομοσπονδιακή Μάθηση" (Federated Learning). Το κύριο πλεονέκτημα της χρήσης αυτής της μεθόδου είναι η διασφάλιση της ιδιωτικότητας των δεδομένων του κάθε συμμετέχοντα, ενώ παράλληλα τα μοντέλα εκπαιδεύονται με δεδομένα που παρουσιάζουν σημαντικές διαφορές στο περιεχόμενο. Ως αποτέλεσμα, τα μοντέλα έχουν εκπαιδευτεί σε ένα ευρύ φάσμα δεδομένων χωρίς να υπάρχει ο κίνδυνος διαρροής τους. Δυστυχώς όμως, λόγω της φύσης της(αποκεντρωμένη), αυτή η μέθοδος είναι ευάλωτη σε πολυάριθμες επιθέσεις. Στην παρούσα διπλωματική, θα παρουσιαστεί μία μέθοδος επίθεσης ονόματι label-flipping ή αλλιώς backdoor attack που επιχειρεί να ε- πηρεάσει τις αποφάσεις του κεντρικού μοντέλου ως προς μία ορισμένη κλάση χωρίς να μειώνει σημαντικά την συνολική ακρίβειά του. Τέλος θα παρουσιαστούν διάφοροι τρόποι αντιμετώπισης που έχουν αναπτυχθεί από ερευνητές του χώρου και θα σχολιαστούν τα αποτελέσματα των πειραμάτων.
author2	Al Bampoul, George
author_facet	Al Bampoul, George Αλ Μπαμπούλ, Γεώργιος
author	Αλ Μπαμπούλ, Γεώργιος
author_sort	Αλ Μπαμπούλ, Γεώργιος
title	Ανάπτυξη άμυνας σε επιθέσεις data poisoning σε federated learning με graph clustering
title_short	Ανάπτυξη άμυνας σε επιθέσεις data poisoning σε federated learning με graph clustering
title_full	Ανάπτυξη άμυνας σε επιθέσεις data poisoning σε federated learning με graph clustering
title_fullStr	Ανάπτυξη άμυνας σε επιθέσεις data poisoning σε federated learning με graph clustering
title_full_unstemmed	Ανάπτυξη άμυνας σε επιθέσεις data poisoning σε federated learning με graph clustering
title_sort	ανάπτυξη άμυνας σε επιθέσεις data poisoning σε federated learning με graph clustering
publishDate	2022
url	https://nemertes.library.upatras.gr/handle/10889/23273
work_keys_str_mv	AT almpampoulgeōrgios anaptyxēamynasseepitheseisdatapoisoningsefederatedlearningmegraphclustering AT almpampoulgeōrgios developmentofdefenseagainstdatapoisoningattacksinfederatedlearningwithgraphclustering
_version_	1771297141436710912

Ανάπτυξη άμυνας σε επιθέσεις data poisoning σε federated learning με graph clustering

Παρόμοια τεκμήρια