Μήπως η ψευδαίσθηση της μηχανικής μάθησης πήγε στο κεφάλι σας; Φτιάχνετε ένα σημειωματάριο, καθαρίζετε ένα σταθερό σύνολο δεδομένων και εκπαιδεύετε ένα μοντέλο μέχρι να λάμψει η ακρίβεια. Η εμπιστοσύνη αυξάνεται. Το πρωτότυπο είναι τέλειο και έχει ενθουσιάσει τους ενδιαφερόμενους. Αυτό είναι όπου οι περισσότερες ελπιδοφόρες πρωτοβουλίες διακόπτονται πρόωρα, ή ακόμη και ακυρώνονται εντελώς, σε πολλά προγράμματα μηχανικής μάθησης.Η ανάπτυξη ενός πρωτοτύπου φορητού υπολογιστή σε ένα εξαιρετικά βιώσιμο σύστημα παραγωγής cloud δεν είναι απλώς μια επέκταση της επίδειξης σας.Αυτό συνεπάγεται μια τεράστια μεταμόρφωση στις τεχνικές πρακτικές.Το cloud δεν μπορεί να λύσει τα υποκείμενα αρχιτεκτονικά προβλήματα από μόνη της, απλά ρίχνει περισσότερο φως σε αυτά. Why Notebook Success Does Not Translate to Production Reality Γιατί η επιτυχία των σημειωματαρίων δεν μεταφράζεται στην παραγωγική πραγματικότητα Πιθανότατα, τα σημειωματάρια είναι άνετα λόγω της έλλειψης τριβής. τα δεδομένα σας είναι στατικά. Ο κόσμος γύρω σας είναι σφραγισμένος. οι περιπτώσεις και οι αποτυχίες των άκρων είναι πολύ εύκολο να αγνοηθούν. Η παραγωγή αφαιρεί τα πάντα που είναι άνετα. Στην πραγματικότητα, οι πληροφορίες καθυστερούν, κατακερματίζονται ή στρεβλώνονται. Ανταγωνίζεστε με άλλες διαδικασίες υψηλής προτεραιότητας και όταν προκύπτουν σφάλματα, επηρεάζουν τους πραγματικούς χρήστες. Μία από τις πιο επικίνδυνες υποθέσεις που οδηγούν στην αποτυχία της ομάδας είναι ότι ένα μοντέλο που λειτούργησε ιστορικά θα λειτουργεί υπό συνεχή, ταυτόχρονα φορτία με τον ίδιο τρόπο που έκανε κατά τη διάρκεια μιας απομονωμένης, ενιαίας πρόβλεψης σε ένα σημειωματάριο. The Data Problem Nobody Sees Coming Το πρόβλημα των δεδομένων που κανείς δεν βλέπει να έρχεται Στο πρωτότυπό σας, οι πληροφορίες είναι τέλειες. Στην παραγωγή, ωστόσο, είναι τα δεδομένα που υπαγορεύουν την ατζέντα. Οι αλλαγές μορφής Upstream είναι συχνά σιωπηλές. Η πλειοψηφία των ομάδων είναι πρόθυμες να επεκτείνουν το μέγεθος της υποδομής cloud τους και δεν εξετάζουν καν την αξιοπιστία των δεδομένων. Η ιδέα ότι είναι απίστευτα εύκολο να ανεβάσετε περισσότερους υπολογισμούς σε παρόχους cloud, αλλά ότι δεν υπάρχει κουμπί αυτόματης κλίμακας όταν οι αγωγοί δεδομένων ρέουν με λάθος τρόπο, είναι απολύτως τρομακτική. Η ακρίβεια του μοντέλου σας θα υποβαθμιστεί ήσυχα καθώς αγνοεί τα πρότυπα των εισερχόμενων δεδομένων, ενώ οι διακομιστές γίνονται πιο απασχολημένοι και πιο απασχολημένοι, δημιουργώντας χαρούμενους θορύβους. Accuracy Is Not the Finish Line Η ακρίβεια δεν είναι το τέλος Στην πράξη, η ποιότητα της πρόβλεψης, η καθυστέρηση, η σταθερότητά της και το κόστος του μοντέλου στο cloud είναι όλες οι παράμετροι από τις οποίες εξαρτάται η απόδοση του μοντέλου. Ένα μοντέλο που προβλέπει λαμπρά, αλλά διαρκεί τρία δευτερόλεπτα για να φορτωθεί, θα κάνει τους χρήστες σας να θυμώνουν.Είναι δυνατόν να εργαστούν με ένα βαρύ μοντέλο, αλλά μπορείτε να ξοδέψετε περισσότερο από τον προϋπολογισμό συμπερίληψης σας για να πληρώσετε το λογαριασμό cloud.Το πρόβλημα είναι ότι οι μηχανικοί είναι πιο πιθανό να διαπράξουν το ψέμα της χρήσης τεράστιων και πολύπλοκων μοντέλων μόνο και μόνο επειδή υπάρχουν.Τα μικρότερα, εξαιρετικά βελτιστοποιημένα μοντέλα είναι σχεδόν πάντα η καλύτερη επιλογή μηχανικής: είναι φθηνότερα, ταχύτερα και απαιτούν λιγότερη λειτουργική παιδική φροντίδα. Environment Mismatch and Dependency Chaos Περιβαλλοντική ασυμφωνία και χάος εξάρτησης Η ανάπτυξη συχνά αποτυγχάνει λόγω περιβαλλοντικών ασυμβίβαστων. Οι διακομιστές cloud παραγωγής δεν μοιάζουν με περιβάλλοντα φορητών υπολογιστών με κανένα τρόπο. Οι εκδόσεις βιβλιοθηκών διαφέρουν. Οι επιταχυντές υλικού δεν είναι οι ίδιοι. οι διαμορφώσεις του συστήματος εισάγουν λεπτές, ενοχλητικές παραλλαγές στον τρόπο εκτέλεσης του κώδικα. Όταν οι ομάδες δεν διατηρούν αυστηρό έλεγχο του περιβάλλοντος, εμφανίζεται χάος κατά τη διάρκεια της ανάπτυξης. Το δοκιμαστικό σύνολο δεν χρησιμοποιείται πλέον για να κάνει όλες τις προβλέψεις ταυτόχρονα. Οι υπηρεσίες απλά εξασθενίζουν. Η διαδικασία εκκαθάρισης γίνεται εφιάλτης. Η αναπαραγωγιμότητα πρέπει να είναι η κύρια ανησυχία. Απαιτούνται αυστηρά συσκευασμένα μοντέλα και δοχεία εξαρτήσεων (Docker) για να εξασφαλιστεί ότι η κλιμάκωση δεν είναι μόνο αξιόπιστη αλλά και ανθεκτική. Scaling ML Is Not the Same as Scaling Software Το scaling ML δεν είναι το ίδιο με το scaling software Μια παραδοσιακή εφαρμογή web μπορεί να κλιμακωθεί εύκολα προσθέτοντας πρόσθετους διακομιστές πίσω από έναν ισοσκελιστή φορτίου. Τα μοντέλα μπορεί να απαιτούν ειδικό υλικό (όπως GPUs ή TPUs). Η κατανάλωση μνήμης μπορεί να αυξηθεί ξαφνικά και σημαντικά κατά τη διάρκεια της συμπερίληψης. Οι ψυχρές εκκινήσεις μπορούν να επιβραδύνουν τους χρόνους απόκρισης σας σε ένα crawl και τα φορτία εργασίας ροής σε πραγματικό χρόνο απαιτούν μια εντελώς διαφορετική αρχιτεκτονική από μια νυχτερινή διαδικασία παρτίδας. Μην υποθέτετε ότι η αυτόματη κλιμάκωση του νέφους θα διορθώσει αυτόματα αυτά τα κενά. Η κλιμάκωση είναι εφικτή μόνο όταν διαχειρίζεστε σωστά την κυκλοφορία σας, την κατανομή πόρων και κατανοείτε το αποτύπωμα υλικού του μοντέλου σας. The Silent Danger of Poor Monitoring Ο σιωπηλός κίνδυνος της κακής παρακολούθησης Το API και η υγεία του διακομιστή παρακολουθούνται στενά από τις περισσότερες ομάδες μηχανικής, αλλά η παρακολούθηση του μοντέλου συχνά παραβλέπεται. Όταν ένας διακομιστής ιστού καταρρεύσει, αποτυγχάνει ξαφνικά και αφήνει την υπηρεσία μη διαθέσιμη. Με ένα μοντέλο ML, ωστόσο, δεν μπορεί να υπάρξει κατάρρευση. Οι προβλέψεις σέρνονται αργά. Οι προκαταλήψεις σέρνονται. Το προϊόν γίνεται μη ευθυγραμμισμένο. Το μοντέλο σας υποβαθμίζεται και δεν μπορείτε να αντέξετε οικονομικά να περιμένετε μέχρι οι πελάτες να διαμαρτύρονται και τα έσοδα να αρνηθούν να το συνειδητοποιήσουν. Η παρακολούθηση της διαρροής δεδομένων και της διαρροής πρόβλεψης δεν είναι μια πολυτέλεια. είναι ο μόνος τρόπος για να διαπιστώσετε αν το σύστημά σας κάνει πραγματικά αυτό που σχεδιάσατε για να κάνει. Security and Governance Are Not Afterthoughts Η ασφάλεια και η διακυβέρνηση δεν είναι σκέψεις Ωστόσο, το έργο που αφήνετε εκτεθειμένο στο ανοιχτό διαδίκτυο μπορεί να περιέχει πολύτιμη πνευματική ιδιοκτησία και εξαιρετικά ευαίσθητες πληροφορίες. Οι χάκερ αντιλαμβάνονται τα ανοιχτά τερματικά σημεία ως ευκαιρίες για κλοπή μοντέλων ή διαφθορά δεδομένων κατάρτισης. Τα εργαλεία ασφαλείας και διακυβέρνησης του παρόχου cloud σας δεν πρέπει να παραμείνουν αχρησιμοποίητα. Ασφαλή πρόσβαση στα δεδομένα χρησιμοποιώντας αυστηρούς ρόλους IAM. Βεβαιωθείτε ότι οι αλλαγές μοντέλων και τα ερωτήματα δεδομένων είναι ελεγχόμενα. Η αποτυχία εφαρμογής αυτών των μέτρων στην αρχή θα οδηγήσει σε επώδυνη και δαπανηρή αναπροσαρμογή ασφαλείας μακροπρόθεσμα. Treating ML as a Living System Αντιμετωπίζοντας το ML ως ζωντανό σύστημα Ο μεγαλύτερος μύθος των MLOps είναι ότι ο σκοπός είναι η ανάπτυξη. Στην πραγματικότητα, η ανάπτυξη είναι μέρα μηδέν. Οι επιτυχημένες ομάδες μηχανικής δεν θεωρούν τη μηχανική μάθηση ως μια έκδοση λογισμικού, αλλά ως έναν ζωντανό οργανισμό. Πρέπει να συνεχίσετε να εκπαιδεύετε, να βελτιώνετε και να παρακολουθείτε τα μοντέλα σας καθώς λειτουργούν σε έναν μεταβαλλόμενο κόσμο. Closing Thoughts Κλειστές σκέψεις Συγκεκριμένα, η πρόκληση της μετατροπής ενός πρωτοτύπου σε παραγωγή είναι όπου η μηχανική μάθηση γίνεται πραγματικά εφικτή και όπου πολλές πρωτοβουλίες αποτυγχάνουν. Το να είσαι βασισμένος στο cloud δεν είναι για να καυχηθείς για ένα μεγαλύτερο μέγεθος μοντέλου ή τον αριθμό των διακομιστών που έχεις ξεκινήσει. Είναι για το σχεδιασμό, την αρχιτεκτονική και το σεβασμό στην καθαρή πολυπλοκότητα του πραγματικού κόσμου.

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Read My Stories

Αυτός ο ήχος παράγεται στην αρχική γλώσσα της ιστορίας!

Γιατί το πρωτότυπο ML σας θα αποτύχει στην παραγωγή (και πώς να το διορθώσετε)

About Author

ΣΧΟΛΙΑ

ΚΡΕΜΑΣΤΕ ΕΤΙΚΕΤΕΣ

ΑΥΤΟ ΤΟ ΑΡΘΡΟ ΠΑΡΟΥΣΙΑΣΤΗΚΕ ΣΤΟ

Related Stories

The DevOps Writing Contest by Aptible: Round 4 Winners Announced!

Who Really Runs Twitter?

Crypto Networks Can Overcome Obstacles Open-Source Projects Face, Drips Founder Says

Refactoring 021 - Remove Dead Code

The DevOps Writing Contest by Aptible: Round 4 Winners Announced!

Who Really Runs Twitter?

Crypto Networks Can Overcome Obstacles Open-Source Projects Face, Drips Founder Says

Refactoring 021 - Remove Dead Code

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps