Spectral conjugate gradient methods with sufficient descent property for neural network training

• Main Authors: Λιβιέρης, Ιωάννης, Πιντέλας, Παναγιώτης
• Other Authors: Livieris, Ioannis
• Format: Technical Report
• Language: English
• Published: 2010
• Subjects: Neural networks; Descent spectral conjugate gradient methods; Sufficient descent property; Truncate strategy; Νευρωνικά δίκτυα; Μέθοδοι συζυγών κλίσεων

Σε αυτήν την εργασία, αξιολογούμε την απόδοση μιας νέας κλάσης μεθόδων συζυγών κλίσεων για την εκπαίδευση νευρικών δικτύων. Οι προτεινόμενες μέθοδοι διατηρούν τα πλεονεκτήματα των κλασσικών μεθόδων συζυγών κλίσεων και εκμεταλλεύονται την απουσία των συχνά αναπαποτελεσματικών επανεκκινήσεων. Τα ενθα...