| Περίληψη: | Η ομοσπονδιακή μάθηση έχει ένα κεντρικό μοντέλο στον διακομιστή, συγκεντρώνοντας μοντέλα που εκπαιδεύονται τοπικά σε πελάτες. Ως αποτέλεσμα, η ομοσπονδιακή μάθηση δεν απαιτεί από τους πελάτες να ανεβάσουν τα δεδομένα τους στο διακομιστή, διατηρώντας έτσι απόρρητα τα δεδομένα των πελατών. Μια πρόκληση στην ομοσπονδιακή μάθηση είναι η μείωση της επικοινωνίας πελάτη- διακομιστή, δηλαδή το πλήθος των bits που ανταλλάζονται μεταξύ τους. Οι συσκευές έχουν συνήθως πολύ περιορισμένο εύρος ζώνης επικοινωνίας. Στη παρούσα διπλωματική παρουσιάζεται μια στρατηγική μείωσης του κόστους επικοινωνίας,. Κατασκευάζουμε δύο νευρωνικά δίκτυα τα οποία κατηγοριοποιούνται σε ρηχά (ένα κρυφό επίπεδο) και βαθιά δίκτυα (τουλάχιστον 2 κρυφά επίπεδα). Το βαθύ μοντέλο ενημερώνεται λιγότερο συχνά από αυτό του ρηχού μοντέλου. Τα αποτελέσματά δείχνουν, ότι με αυτό τον τρόπο, μπορούμε να μειώσουμε το κόστος επικοινωνίας, χωρίς να χάσουμε σε ακρίβεια. Επιπλέον η παρούσα διπλωματική παρουσιάζει μια βελτιωμένη ομοσπονδιακή τεχνική μάθησης, προτείνοντας μια στρατηγική μάθησης, που αυξάνει την ακρίβεια του μοντέλου, πετυχαίνοντας παράλληλα και γρηγορότερη σύγκλιση, χρησιμοποιώντας στους optimizers των πελατών φθίνων ρυθμό μάθησης. Οπότε οι προτεινόμενες μέθοδοι, ξεπερνούν τον βασικό αλγόριθμο, τόσο σε όρους κόστος επικοινωνίας και ακρίβειας μοντέλου.
|
|---|
