Logo el.boatexistence.com

Γιατί στοχαστική κλίση κάθοδος;

Πίνακας περιεχομένων:

Γιατί στοχαστική κλίση κάθοδος;
Γιατί στοχαστική κλίση κάθοδος;

Βίντεο: Γιατί στοχαστική κλίση κάθοδος;

Βίντεο: Γιατί στοχαστική κλίση κάθοδος;
Βίντεο: Γιατί μαθαίνουμε Αρχαία; (Εισαγωγικό βίντεο Αρχαία Α' Γυμνασίου) 2024, Ενδέχεται
Anonim

Σύμφωνα με έναν ανώτερο επιστήμονα δεδομένων, ένα από τα ευδιάκριτα πλεονεκτήματα της χρήσης της Στοχαστικής Κλίσης Κάθοδος είναι ότι κάνει τους υπολογισμούς πιο γρήγορα από την κάθοδο διαβάθμισης και την κατά παρτίδα κλίση … Επίσης, στις μαζικά σύνολα δεδομένων, η στοχαστική κλίση μπορεί να συγκλίνει πιο γρήγορα επειδή εκτελεί ενημερώσεις πιο συχνά.

Γιατί χρησιμοποιείται η Στοχαστική Κλίση Κάθοδος;

Η στοχαστική κλίση είναι ένας αλγόριθμος βελτιστοποίησης που χρησιμοποιείται συχνά σε εφαρμογές μηχανικής εκμάθησης για την εύρεση των παραμέτρων του μοντέλου που αντιστοιχούν στην καλύτερη προσαρμογή μεταξύ των προβλεπόμενων και των πραγματικών εξόδων Είναι μια ανακριβής αλλά ισχυρή τεχνική. Το στοχαστικό gradient descent χρησιμοποιείται ευρέως σε εφαρμογές μηχανικής εκμάθησης.

Γιατί χρειάζεται να χρησιμοποιήσουμε το Stochastic Gradient Descent αντί για την τυπική gradient descent για να εκπαιδεύσουμε ένα συνελικτικό νευρωνικό δίκτυο;

Στοχαστική κλίση κάθοδος ενημερώνει τις παραμέτρους για κάθε παρατήρηση που οδηγεί σε μεγαλύτερο αριθμό ενημερώσεων. Επομένως, είναι μια πιο γρήγορη προσέγγιση που βοηθά στην ταχύτερη λήψη αποφάσεων. Σε αυτό το κινούμενο σχέδιο μπορούν να παρατηρηθούν ταχύτερες ενημερώσεις σε διαφορετικές κατευθύνσεις.

Γιατί προτιμάμε την κλίση;

Ο κύριος λόγος για τον οποίο χρησιμοποιείται η ντεγκραντέ κάθοδος για γραμμική παλινδρόμηση είναι η υπολογιστική πολυπλοκότητα: είναι υπολογιστικά φθηνότερο (γρηγορότερο) η εύρεση της λύσης χρησιμοποιώντας τη βαθμιδωτή κάθοδο σε ορισμένες περιπτώσεις. Εδώ, πρέπει να υπολογίσετε τον πίνακα X′X και να τον αντιστρέψετε (βλ. σημείωση παρακάτω). Είναι ακριβός υπολογισμός.

Γιατί χρησιμοποιείται το SGD;

Η

Στοχαστική κλίση κάθοδος (συχνά συντομογραφία SGD) είναι μια επαναληπτική μέθοδος για τη βελτιστοποίηση μιας αντικειμενικής συνάρτησης με κατάλληλες ιδιότητες ομαλότητας (π.χ. διαφοροποιήσιμη ή υποδιαφορίσιμη).

Συνιστάται: