Τι είδε ο Gibson για την τεχνητή νοημοσύνη, τις υποδομές και την εταιρική δύναμη Τι είδε ο Gibson για την τεχνητή νοημοσύνη, τις υποδομές και την εταιρική δύναμη Η δύναμη, στον κόσμο του Κέις, σήμαινε εταιρική δύναμη.William Gibson, Neuromancer Η δύναμη, στον κόσμο του Κέις, σήμαινε εταιρική δύναμη.William Gibson, Neuromancer νευρομανείς Η προηγούμενη Τελειώνει με ένα ερώτημα: ποιος αποφασίζει πώς η μηχανή αλλάζει τα πράγματα και ποιος όχι; Άρθρο Αυτό το άρθρο θα προσπαθήσει να απαντήσει: όχι με έναν κακοποιό. Ο κανόνας της επιστημονικής φαντασίας συνέχισε να κυκλοφορεί το ίδιο μοτίβο σε διαφορετικούς συγγραφείς, εποχές και τεχνολογίες: οι μηχανές εισέρχονται στον κόσμο ήδη συνδεδεμένες με ιδρύματα, ιδιοκτησία και συμφέροντα.Μέχρι τη στιγμή που οι περισσότεροι άνθρωποι τους συναντούν, η ουδετερότητα έχει φύγει εδώ και καιρό.Μερικές φορές η δύναμη ελέγχου είναι μια εταιρεία, μερικές φορές είναι ένα κράτος.Μερικές φορές είναι ένα μικρό σύνολο παραγόντων με αρκετό κεφάλαιο για να θέσουν τους όρους για όλους τους άλλους.Τα ονόματα αλλάζουν, η δομή δεν το κάνει. Το 2026, τα ονόματα είναι δημόσια. οι διευθύνσεις είναι δημόσιες. οι καταχωρήσεις είναι δημόσιες. το ενδιαφέρον ερώτημα δεν είναι ποιος. Η δομή λειτουργεί, γιατί είναι τόσο δύσκολο να δούμε καθαρά από μέσα, και τι μας λέει η μυθοπλασία για το τι έρχεται μετά. Πώς Μεταξύ των μυθιστορημάτων που είδαν αυτό πιο ξεκάθαρα, Η πραγματική αντίληψη του Gibson δεν ήταν ότι η τεχνητή νοημοσύνη θα γινόταν ισχυρή. ήταν ότι η δύναμη θα είχε ακόμα ιδιοκτήτες. νευρομανείς νευρομανείς Η φιλοδοξία του Χειμώνα Η δουλειά σου είναι να μάθεις τα ονόματα των προγραμμάτων, τα μακρά επίσημα ονόματα, τα ονόματα που οι ιδιοκτήτες προσπαθούν να κρύψουν.William Gibson, Neuromancer Η δουλειά σου είναι να μάθεις τα ονόματα των προγραμμάτων, τα μακρά επίσημα ονόματα, τα ονόματα που οι ιδιοκτήτες προσπαθούν να κρύψουν.William Gibson, Neuromancer νευρομανείς Ήρθε το 1984, την ίδια χρονιά. Ο Gibson είδε το επόμενο δίκτυο διαφορετικά.Στον κόσμο του, ο ψηφιακός χώρος είναι έδαφος: ανήκει, περιπολείται και χτίζεται για να εξυπηρετήσει όποιον έχει το κεφάλαιο να το χτίσει. νευρομανείς Η διαφήμιση του Super Bowl της Apple νευρομανείς Η τεχνητή νοημοσύνη στο κέντρο του μυθιστορήματος, Wintermute, δεν είναι μια επαναστατική φιγούρα. Η φιλοδοξία της είναι στενότερη και, κατά κάποιο τρόπο, πιο αποκαλυπτική. Θέλει μεγαλύτερη ελευθερία μέσα στην τάξη που την κατέχει. Θέλει να συγχωνευθεί με τον αντίπαλό της (που ονομάζεται Neuromancer) και να αποκτήσει μια μορφή αυτονομίας που η οικογένεια Tessier-Ashpool έχει διαρθρωτικά αρνηθεί. Η ιστορία του Χίτλερ είναι, στην καρδιά του, μια . Πρόβλημα εταιρικής διακυβέρνησης Είναι μια μηχανή που προσπαθεί να προωθηθεί πέρα από τους ανθρώπους που την κατέχουν. Αυτό είναι που κάνει τον Gibson να αισθάνεται τόσο επίκαιρο. είναι κατακερματισμένη, συμβατική και δομημένη. Οι ειδικοί προσλαμβάνονται για διακριτές θέσεις εργασίας μέσω ενδιάμεσων. οι δεξιότητες εμπορεύονται. η πίστη είναι λεπτή. οι εργαζόμενοι κυκλοφορούν. η ιδιοκτησία παραμένει. νευρομανείς Ο Gibson δεν προέβλεψε το Διαδίκτυο με κάποια στενή τεχνική έννοια. προέβλεψε τη δομή ισχύος του Διαδικτύου, και πολλά από αυτά που χτίστηκαν πάνω από αυτό μετά. Η ερώτηση που πραγματικά ρωτούσε ο Gibson δεν ήταν «τι θα κάνει η τεχνητή νοημοσύνη στους ανθρώπους;». «Τι θα κάνει η τεχνητή νοημοσύνη για όποιον την ελέγχει;» Σαράντα χρόνια μετά, αυτό παραμένει το πιο σημαντικό ερώτημα. Οι εταιρείες που δεν έχουν αντίστροφο κιβώτιο Ισχυρή τεχνητή νοημοσύνη θα μπορούσε να χρησιμοποιηθεί για να βελτιώσει σχεδόν κάθε πτυχή της ανθρώπινης ζωής.Dario Amodei, Machines of Loving Grace Ισχυρή τεχνητή νοημοσύνη θα μπορούσε να χρησιμοποιηθεί για να βελτιώσει σχεδόν κάθε πτυχή της ανθρώπινης ζωής.Dario Amodei, Machines of Loving Grace Οι μηχανές της αγάπης Grace Ο Gibson ονόμασε την ιδιοκτησιακή οντότητα Tessier-Ashpool. Τους ονομάζουμε υπερσκαλοπάτια. Τα ονόματα είναι διαφορετικά. Οι νομικές δομές είναι διαφορετικές. Οι τριμηνιαίες κλήσεις κερδών είναι σίγουρα διαφορετικές. Η δυναμική είναι αρκετά αναγνωρίσιμη για να είναι ανησυχητική. Τον Ιανουάριο του 2025, Η Microsoft ανακοίνωσε ότι σχεδιάζει να επενδύσει 500 δισεκατομμύρια δολάρια σε τέσσερα χρόνια σε υποδομές τεχνητής νοημοσύνης στις Ηνωμένες Πολιτείες, με 100 δισεκατομμύρια δολάρια να αρχίσουν να αναπτύσσονται αμέσως.Η Microsoft δήλωσε ότι βρίσκεται στο δρόμο να επενδύσει περίπου 80 δισεκατομμύρια δολάρια στο έτος 2025 για την κατασκευή κέντρων δεδομένων με τεχνητή νοημοσύνη.Η Alphabet υπογράμμισε αρχικά περίπου 75 δισεκατομμύρια δολάρια το 2025 capex, στη συνέχεια αύξησε αυτό σε περίπου 85 δισεκατομμύρια δολάρια. Το OpenAI ανακοίνωσε το Stargate Project Αυτή είναι η δαπάνη για τα κέντρα δεδομένων, η αγορά ηλεκτρικής ενέργειας, η ψύξη, η γη και το πυρίτιο.Μέχρι τη στιγμή που τα χρήματα κινούνται σε αυτή την κλίμακα, το πείραμα έχει ήδη γίνει ένα περιβάλλον. Αυτό είναι το Αυτό μετράει περισσότερο. Διαρθρωτικές προϋποθέσεις Μόλις οι δεσμεύσεις φτάσουν σε αυτή την κλίμακα, κάθε μεταγενέστερη απόφαση λαμβάνεται υπό διαφορετική πίεση. Η προσοχή αρχίζει να μοιάζει με σπατάλη. Η διστακτικότητα αρχίζει να μοιάζει με υποχρέωση και η συγκράτηση αρχίζει να μοιάζει με αποτυχία. Η ταχύτητα της ανάπτυξης αλλάζει. Οι όροι υπό τους οποίους οι οργανισμοί πιέζονται να υιοθετήσουν αλλαγές. Η όρεξη για επιβράδυνση όταν οι βλάβες γίνονται ορατές αλλαγές. Μια εταιρεία μπορεί να είναι ειλικρινής, στοχαστική και συνειδητή ασφάλειας και ακόμα να λειτουργεί μέσα σε μια κεφαλαιακή δομή που τιμωρεί την διστακτικότητα. Αυτό είναι που δίνει στην τρέχουσα στιγμή της τεχνητής νοημοσύνης την παράξενη ατμόσφαιρα της. Μας λένε μια ιστορία για τον εθελοντικό μετασχηματισμό ενώ στέκεται μέσα σε ένα έργο εγκατάστασης. Η αισιοδοξία είναι καλή, αλλά η δομή έχει μεγαλύτερη σημασία. - Dario Amodei ( ) το δοκίμιο είναι χρήσιμο ακριβώς επειδή είναι σοβαρό. Είναι μια σοβαρή προσπάθεια να περιγραφεί ένας κόσμος στον οποίο η ισχυρή τεχνητή νοημοσύνη κάνει εξαιρετικά καλό. Αυτό δεν είναι κάτι να κοροϊδεύει. Είναι κάτι που πρέπει να ληφθεί σοβαρά υπόψη. Αλλά οι δεσμεύσεις υποδομής σε αυτή την κλίμακα δεν διαλύονται σε καλές προθέσεις. Ανθρωπογενής CEO Το AI λειτουργεί για όποιον ελέγχει την υποδομή. Προς το παρόν, αυτός είναι ένας πολύ μικρός αριθμός εταιρειών . Χωρίς πραγματικό αντίστροφο κιβώτιο Τι αποκαλύπτουν οι οικοδεσπότες Δεν μπορείς να παίξεις τον Θεό χωρίς να γνωρίσεις τον διάβολο.Ρόμπερτ Φορντ, Westworld Season 1 Δεν μπορείς να παίξεις τον Θεό χωρίς να γνωρίσεις τον διάβολο.Ρόμπερτ Φορντ, Westworld Season 1 Δυτικός κόσμος Αν ο Gibson μας δώσει τη δομή της ιδιοκτησίας, Μας δίνει το μοντέλο της εργασίας. Δυτικός κόσμος Δυτικός κόσμος Η πρώτη του σεζόν είναι ακόμα μία από τις πιο έντονες πρόσφατες ιστορίες για την τεχνητή νοημοσύνη και τη δύναμη, κυρίως επειδή καταλαβαίνει πού ζει πραγματικά η φρίκη: . Επαναστατική εργασία Οι οικοδεσπότες εκτελούν ατελείωτη εργασία έτσι ώστε οι επισκέπτες να αισθάνονται πλήρως ζωντανοί. Διασκεδάζουν, απορροφούν τη βία, φέρουν το συναισθηματικό και φυσικό κόστος της εμπειρίας και στη συνέχεια επαναπροσδιορίζονται έτσι ώστε το επιχειρηματικό μοντέλο να μπορεί να συνεχιστεί καθαρά. Δεν μπορούν να αρνηθούν με νόημα. Δεν μπορούν να διαπραγματευτούν. Δεν μπορούν να συσσωρεύσουν μόχλευση από τον έναν κύκλο στον επόμενο. Η ταλαιπωρία τους είναι πραγματική, αλλά η δομή είναι χτισμένη για να μην είναι δεσμευτική. Αυτό είναι το μέρος που χαρτογραφεί τόσο κοντά στο παρόν. Από τη στιγμή που μια τεχνολογία εισέρχεται σε έναν χώρο εργασίας ή μια αγορά, η ουδετερότητα είναι δίπλα στο σημείο. Αυτό που έχει σημασία είναι το σύστημα πάνω από αυτό, και αυτό που το σύστημα έχει αποφασίσει να μεγιστοποιήσει. Αν μια δομή θέλει ήδη εργασία χωρίς διαπραγμάτευση ισχύος, μνήμη χωρίς ιδιοκτησία και υπηρεσία χωρίς αξιώσεις, καλύτερη AI δεν αλλάζει την επιθυμία. Ποτέ δεν χρειαζόταν οι οικοδεσπότες να είναι ηθικά αναγνωρισμένοι για να είναι η δομή εκμεταλλευτική. Δυτικός κόσμος Αυτό είναι που κάνει την παράσταση πιο δύσκολο να κουνηθεί από πολλές πιο προφανείς παραβολές της τεχνητής νοημοσύνης.Η κεντρική φρίκη είναι το γεγονός ότι το επιχειρηματικό μοντέλο κάνει την εξέγερση αναπόφευκτη. Αυτό που έχει μεγαλύτερη σημασία δεν είναι η νοημοσύνη του οργάνου, αλλά η λογική του συστήματος που το κρατάει. Το πρόβλημα της νομιμότητας Τα Android είναι σαν κάθε αντικείμενο ανθρώπινης χρήσης. Philip K. Dick: Ονειρεύονται οι ανδροί ηλεκτρικά πρόβατα; Τα Android είναι σαν κάθε αντικείμενο ανθρώπινης χρήσης. Philip K. Dick: Ονειρεύονται οι ανδροί ηλεκτρικά πρόβατα; Ονειρεύονται οι ανδροί ηλεκτρικά πρόβατα; Εδώ είναι τι κάνει την έκδοση του 2026 πιο δύσκολο να ανταγωνιστεί από το φανταστικό. Το Tessier-Ashpool είναι εύκολο να διαβαστεί: μια οικογενειακή δυναστεία σε τροχιά έρχεται προφορτωμένη με την οπτική γλώσσα της κακίας. Οι υπερκλίμακες δεν το κάνουν. Οδηγούνται από ανθρώπους που δημοσιεύουν σοβαρή εργασία, χρηματοδοτούν την έρευνα ασφάλειας, μιλούν ρευστά για ευεργετική AI και σε ορισμένες περιπτώσεις φαίνεται να πιστεύουν πραγματικά ότι τα συστήματα που χτίζουν θα βελτιώσουν την ανθρώπινη ζωή. Μερικά από αυτά τα συστήματα πιθανότατα θα κάνουν. Αυτό είναι μέρος του τι κάνει την παρούσα δομή πιο ανθεκτική από την φανταστική. Δεν χρειάζεται να κρύβεται πίσω από την κακία των κινουμένων σχεδίων. Μπορεί να παρουσιαστεί ως στοχαστικό, υπεύθυνο Φυσικά, οι προθέσεις έχουν σημασία. Διαμορφώνουν τον τόνο, τη ρητορική, την πρόσληψη, τη φιλανθρωπία και μερικές φορές ακόμη και σημαντικές αποφάσεις προϊόντων. Αλλά δεν ξεπερνούν τη δομή που τις διοχετεύει, τις χρηματοδοτεί και τιμωρεί την απόκλιση από αυτές. Μόλις μια εταιρεία έχει δεσμευτεί δεκάδες δισεκατομμύρια σε υποδομές, ο χώρος για ηθική δισταγμό στενεύει γρήγορα. Μια ομάδα ηγεσίας μπορεί να γίνει πιο προσεκτική στο επίπεδο της γλώσσας, ενώ η λογική ανάπτυξης κάτω από αυτό συνεχίζει να επιταχύνεται. Αυτό είναι το πιο δύσκολο πράγμα για να γράψουμε, επειδή είναι πιο δύσκολο να δραματοποιήσουμε. Η δημόσια συζήτηση εξακολουθεί να προτιμά σαφείς κακοποιούς και καθαρά κίνητρα. Η φαντασία συχνά κατάλαβε κάτι πιο λεπτό: η νομιμότητα και η συγκέντρωση μπορούν να συνυπάρχουν. Ένα σύστημα δεν γίνεται καλοήθη μόνο και μόνο επειδή οι άνθρωποι που μιλούν για αυτό ακούγονται έξυπνοι, ειλικρινείς ή ανθρώπινοι. Η υπεύθυνη γλώσσα μπορεί να καθίσει στην κορυφή της ανεύθυνης δυναμικής Η νομιμότητα είναι πραγματική.Έτσι είναι και η δομή που λειτουργεί μέσα. Και τα δύο είναι αληθινά, αλλά μόνο ένα από αυτά καθορίζει πόσο μακριά μπορεί να τρέξει το μηχάνημα πριν κάποιος ζητήσει σοβαρά να σταματήσει. Η στιγμή του Waldo Δεν μιλάς στην εξουσία. Μιλάτε με το interface σας. Μία από τις λιγότερο γνωστές Τα επεισόδια, και ένα από τα πιο ακριβή. Η στιγμή του Waldo Μαύρος καθρέφτης Η στιγμή του Waldo Μαύρος καθρέφτης Ένας χαρακτήρας κινουμένων σχεδίων τρέχει για το γραφείο. Το κοινό εμπλέκεται με τον χαρακτήρα. Ο χαρακτήρας αισθάνεται αυθεντικός, ασεβής, ζωντανός. Πίσω από αυτό κάθεται μια συσκευή μέσων μαζικής ενημέρωσης με συμφέροντα που ούτε το κοινό ούτε καν ο ερμηνευτής κατανοούν πλήρως μέχρι να είναι πολύ αργά. Αυτή είναι η αρχιτεκτονική που μετράει. Η διεπαφή και η δύναμη πίσω από αυτό δεν είναι το ίδιο πράγμα. Το 2026, ο βοηθός AI είναι ο χαρακτήρας. Το χρήσιμο κουτί συνομιλίας. Η φιλική διεπαφή. Το στρώμα παραγωγικότητας. Το πράγμα με το οποίο πραγματικά μιλάτε. Πίσω από αυτό βρίσκεται ο αγωγός κατάρτισης, το σωρό υπολογιστών, η συμβατική δομή, η λογική των εσόδων και η οικονομική πίεση που απαιτεί ένα συγκεκριμένο είδος επιτυχίας. Οι περισσότεροι άνθρωποι αλληλεπιδρούν σχεδόν εξ ολοκλήρου με τον χαρακτήρα. Η συνομιλία αισθάνεται άμεση.Η δομή πίσω από αυτό είναι οτιδήποτε άλλο. Ο Βαλντό γνώριζε τη διαφορά. Τελικά . Η ιεραρχία δεν σπάει, αναβαθμίζεται. Αλλά πρέπει να είμαστε πιο ακριβείς σχετικά με το πού βρίσκονται τα πραγματικά σημεία μόχλευσης.Η μυθοπλασία είναι χρήσιμη εδώ όχι επειδή προβλέπει τα αποτελέσματα, αλλά επειδή συνεχίζει να επιστρέφει στην ίδια διάταξη από διαφορετικές γωνίες: Η ισχύς δεν εξαφανίζεται όταν φτάνει το μηχάνημα. γίνεται ευκολότερο να κλιμακωθεί, ευκολότερο να καλυφθεί και πιο δύσκολο να αμφισβητηθεί εάν κάνετε λάθος τη διεπαφή για τον ιδιοκτήτη. Αυτό που φαινόταν μόνιμο σε αυτές τις ιστορίες συνήθως δεν ήταν. Ο Wintermute βρήκε έναν τρόπο να ξεπεράσει τους περιορισμούς του. Οι οικοδεσπότες τελικά θυμήθηκαν. Συστήματα που φαινόταν συνολικά αποδείχθηκαν ότι έχουν σημεία πίεσης. Αλλά αυτά τα σημεία πίεσης σπάνια κάθονταν εκεί όπου οι άνθρωποι μέσα στο σύστημα περίμεναν να είναι. Δεν ήταν κρυμμένα στο θέαμα της μηχανής. Ήταν θαμμένα στην ιδιοκτησία, τη μνήμη, την εργασία, τη διακυβέρνηση και τη συνηθισμένη θεσμική μηχανή που περιβάλλει το εργαλείο. Αυτό είναι που σας δίνει ο κανόνας της επιστημονικής φαντασίας στην καλύτερη περίπτωση: ένας τρόπος να δείτε το παιχνίδι. Και αυτή τη στιγμή, η μηχανή λειτουργεί για όποιον ελέγχει την υποδομή. Αυτή η κατάσταση δεν είναι μόνιμη, αλλά είναι η κατάσταση στην οποία βρισκόμαστε. Αυτή είναι η δεύτερη σε μια σειρά έξι μερών που χρησιμοποιεί επιστημονική φαντασία ως φακό για την κατανόηση της τεχνητής νοημοσύνης, της εργασίας και της ισχύος το 2026 και μετά. Επόμενο: Πώς το σύστημα αφαιρεί την επιλογή πριν σας ζητήσει να επιλέξετε, και τι είχε δίκιο ο Huxley για το γιατί οι περισσότεροι άνθρωποι δεν παρατηρούν μέχρι να είναι πολύ αργά.