Για το μεγαλύτερο μέρος της εποχής του cloud, η πληροφορική αντιμετωπίστηκε ως υποδομή. Την προβλέψατε, την κλιμακώσατε όταν χρειαζόταν και υποθέσατε ότι οι ίδιοι πόροι συμπεριφέρονταν πανομοιότυπα. Αυτό το ψυχολογικό μοντέλο σπάει. Όχι επειδή το cloud απέτυχε, αλλά επειδή η τεχνητή νοημοσύνη άλλαξε την υποκείμενη οικονομία των υπολογιστών.Αυτό που βλέπουμε τώρα μοιάζει πολύ λιγότερο με την παραδοσιακή υποδομή και πολύ περισσότερο με μια αγορά. Αυτή η αλλαγή είναι λεπτή, αλλά ήδη αναδιαμορφώνει τον τρόπο με τον οποίο οι ομάδες μηχανικής, χρηματοδότησης και επιχειρήσεων βιώνουν την τεχνητή νοημοσύνη στην πράξη. Το πρώτο σημάδι ότι κάτι άλλαξε Οι αγορές έχουν μερικά καθοριστικά χαρακτηριστικά. οι τιμές κινούνται. η διαθεσιμότητα μεταβάλλεται. τα ίδια περιουσιακά στοιχεία είναι σαφή σε διαφορετικές τιμές ανάλογα με το πλαίσιο. οι συμμετέχοντες σπάνια έχουν τέλεια πληροφορίες. Το Compute τώρα εκθέτει όλες αυτές τις συμπεριφορές. Οι ομάδες συναντούν συνήθως καταστάσεις όπου η ίδια διαμόρφωση GPU παρέχει σημαντικά διαφορετική απόδοση ανάλογα με το πότε και πού παρέχεται. Η χωρητικότητα που ήταν διαθέσιμη την περασμένη εβδομάδα εξαφανίζεται μέσα στη νύχτα. Οι τιμές που ήταν σταθερές ξαφνικά αυξάνονται ή μαλακώνουν χωρίς σαφή εξήγηση στην κονσόλα χρέωσης. Αυτές δεν είναι πια περιπτώσεις ορίων. γίνονται φυσιολογικές συνθήκες λειτουργίας για φορτία εργασίας AI. Όταν η υποδομή συμπεριφέρεται με αυτόν τον τρόπο, οι παλιές υποθέσεις παύουν να λειτουργούν. Ο μύθος των ίδιων GPU Μία από τις ισχυρότερες υποθέσεις που κληρονομήθηκαν από την εποχή του cloud είναι ότι το πανομοιότυπο υλικό συμπεριφέρεται πανομοιότυπα. Ένα GPU είναι ένα GPU. Η ίδια μνήμη, ο ίδιος υπολογιστής, οι ίδιες προδιαγραφές. Στην πραγματικότητα, η απόδοση ποικίλλει περισσότερο από ό, τι οι περισσότερες ομάδες αναμένουν. Η απόδοση εξαρτάται από παράγοντες που σπάνια εμφανίζονται σε συζητήσεις προμηθειών. συμφόρηση δικτύου. πίεση μνήμης από γειτονικά φορτία εργασίας. περιορισμοί ισχύος και ψύξης. τοποθέτηση εντός ενός κέντρου δεδομένων. χρονοδιάγραμμα σε σχέση με άλλες απαιτήσεις. Δύο GPUs που φαίνονται το ίδιο σε έναν κατάλογο μπορούν να παράγουν ουσιαστικά διαφορετικά αποτελέσματα στην παραγωγή. Σε μια αγορά, τα περιουσιακά στοιχεία τιμολογούνται με βάση την πραγματοποιημένη απόδοση, όχι τις προδιαγραφές. Το token μετατρέπει τη χρήση σε χρηματοοικονομική μεταβλητή Η τιμολόγηση με βάση τα token επιτάχυνε αυτή την αλλαγή. Τα tokens δεν απλοποίησαν μόνο τη χρέωση. Μετατρέπουν τη χρήση σε ένα οικονομικό σήμα σε πραγματικό χρόνο. Καθώς τα μοντέλα αλλάζουν, τα παράθυρα πλαισίου επεκτείνονται και τα πρότυπα χρήσης εξελίσσονται, το κόστος των tokens κυμαίνεται με τρόπους που μοιάζουν περισσότερο με την τιμολόγηση των εμπορευμάτων από τα παραδοσιακά τέλη SaaS. Αυτό εισάγει ένα νέο είδος κινδύνου. Οι ομάδες μπορούν να λάβουν τεχνικά σωστές αποφάσεις και ακόμα να καταλήξουν σε δυσμενείς οικονομικές συνέπειες. Μια αναβάθμιση μοντέλου βελτιώνει την ποιότητα αλλά αυξάνει την καύση token. Μια αλλαγή δρομολόγησης μειώνει την καθυστέρηση αλλά αυξάνει την αστάθεια του κόστους. Σε ένα περιβάλλον αγοράς, η χρήση δεν είναι πλέον μόνο μια επιχειρησιακή ανησυχία. Το κόστος, η απόδοση και η χωρητικότητα δεν είναι πλέον ξεχωριστά προβλήματα Ιστορικά, οι ευθύνες ήταν καθαρά κατανεμημένες. Οι μηχανικοί ανησυχούσαν για την απόδοση. τα οικονομικά ανησυχούσαν για το κόστος. οι επιχειρήσεις ανησυχούσαν για την ικανότητα. σπάσει αυτά τα όρια. Οι βελτιστοποιήσεις απόδοσης μπορούν να οδηγήσουν σε υψηλότερη κατανάλωση token. Οι αποφάσεις χωρητικότητας μπορούν να εισαγάγουν διακυμάνσεις απόδοσης. οι έλεγχοι κόστους μπορούν να μειώσουν τη ροή ή την αξιοπιστία. Οι αγορές αναγκάζουν τον συντονισμό μεταξύ των ρόλων.Ο υπολογισμός κάνει το ίδιο πράγμα.Οι οργανισμοί που αντιμετωπίζουν αυτές τις ανησυχίες σε απομόνωση αγωνίζονται να εξηγήσουν τα αποτελέσματα μετά το γεγονός. Ο πραγματικός κίνδυνος είναι να πετάξεις τυφλός Ο μεγαλύτερος κίνδυνος δεν είναι η ίδια η μεταβλητότητα. Ο κίνδυνος λειτουργεί με εργαλεία κατασκευασμένα για έναν διαφορετικό κόσμο. Πολλές ομάδες εξακολουθούν να βασίζονται σε στατικά δελτία τιμών, τριμηνιαίες προβλέψεις και μέσες παραδοχές απόδοσης. Αυτά τα εργαλεία λειτουργούν όταν οι συνθήκες είναι σταθερές. Όταν το κόστος ανεβαίνει, οι ομάδες το χαρακτηρίζουν ανωμαλία. Όταν η απόδοση πέφτει, ψάχνουν για σφάλματα. Όταν η χωρητικότητα σφίγγει, το αντιμετωπίζουν ως διακοπή. Συχνά αυτά δεν είναι αποτυχίες, είναι σημάδια. Στις αγορές, οι κινήσεις των τιμών και οι αλλαγές στη διαθεσιμότητα μεταδίδουν πληροφορίες.Το να αγνοείτε αυτά τα σήματα δεν τα κάνει να εξαφανιστούν. Τι είναι στην πραγματικότητα η προσαρμογή Η προσαρμογή στη συμπεριφορά της αγοράς δεν απαιτεί την τέλεια πρόβλεψη των τιμών ή το χρονοδιάγραμμα της αγοράς. Απαιτεί την αλλαγή του τι μετράται και του τρόπου λήψης των αποφάσεων. Οι μέσοι όροι είναι λιγότερο σημαντικοί από τη διακύμανση. Οι στιγμιότυπες εικόνες είναι λιγότερο σημαντικές από τις τάσεις. ο χρόνος και η τοποθέτηση γίνονται πρώτης τάξεως σκέψεις, όχι μετα-σκέψεις. Οι ομάδες που πετυχαίνουν αντιμετωπίζουν τις υπολογιστικές αποφάσεις ως δυναμικές. Περιμένουν ότι οι συνθήκες θα αλλάξουν. Χτίζουν κύκλους ανατροφοδότησης που επιφανώνουν τα οικονομικά και τα σήματα απόδοσης νωρίς, προτού γίνουν οδυνηρές εκπλήξεις. Αυτό είναι λιγότερο για τον έλεγχο και περισσότερο για την ευαισθητοποίηση. Το τέλος του Set It and Forget It Compute Η υποδομή ανταμείβει την τυποποίηση και την κλίμακα. οι αγορές ανταμείβουν την ευαισθητοποίηση της κατάστασης και την προσαρμοστικότητα. Η τεχνητή νοημοσύνη ανταμείβει τώρα ομάδες που καταλαβαίνουν πώς αλληλεπιδρούν οι τιμές, οι επιδόσεις και η διαθεσιμότητα με την πάροδο του χρόνου. Θα είναι εκείνοι που θα αναγνωρίσουν ότι ο υπολογιστής δεν είναι πλέον μόνο κάτι που αναπτύσσετε. Είναι κάτι στο οποίο συμμετέχετε. Και μόλις οι υπολογιστές συμπεριφέρονται σαν μια αγορά, το να προσποιούνται ότι εξακολουθούν να είναι μόνο υποδομές γίνεται ένα ακριβό λάθος.
