Θα παίζαμε μέσα σε βροχερές μέρες ή Παρασκευή πριν από τις διακοπές. Δύο σειρές καρέκλες στη μέση της τάξης, τακτοποιημένες από πίσω προς τα πίσω.Ο δάσκαλός μας θα άρχιζε να παίζει ένα τραγούδι σε ένα από αυτά τα τεράστια κασέτα της δεκαετίας του '70, και εμείς τα παιδιά θα περπατούσαμε γύρω από τις κενές καρέκλες μέχρι να σταματήσει η μουσική, οπότε ο καθένας έπρεπε να πάρει μια θέση. Που ήρθε στο μυαλό τώρα, διαβάζοντας το δοκίμιο του Dario Amodei, Για τους κινδύνους που αντιμετωπίζει η ανθρωπότητα, τόσο βραχυπρόθεσμα όσο και μακροπρόθεσμα, καθώς προγραμματίζουμε το δρόμο μας προς την τεχνητή γενική υπερ-ευφυΐα. Η εφηβεία της τεχνολογίας Η εφηβεία της τεχνολογίας Όσον αφορά τον ορθό λόγο, η γραμμή για τους τεχνολογικούς ολιγάρχες έχει οριστεί αρκετά χαμηλά τον τελευταίο καιρό, με όλες τις συζητήσεις για την λευκή υπεροχή, τον αντίχριστο, την παιδεραστία και τη χρήση των δικών μας παιδιών ως τράπεζες αίματος. Οι πιο επείγουσες ανησυχίες είναι υπαρξιακές, γιατί ακόμη και μια πιθανότητα 5% εξαφάνισης είναι μεγαλύτερη από μια πιθανότητα 80% σοβαρής ανεργίας. αλλά για μένα, η εξαφάνιση της ανθρωπότητας είναι ακόμα μια ασαφής απειλή μακριά. Αλλά αυτή η σοβαρή ανεργία είναι πραγματική και πλησιάζει σαν ένα σύννεφο καταιγίδας στον ορίζοντα. επειδή, ανεξάρτητα από το αν το μέλλον της τεχνητής νοημοσύνης είναι μια ευλογία ή μια κατάρα, σίγουρα θα βιώσουμε τεράστια αναταραχή καθώς εξαπλώνεται μέσα από την οικονομία. Οι επιπτώσεις μόλις αρχίζουν να γίνονται γνωστές και θα αυξηθούν με κάθε νέα έκδοση του LLM που κυκλοφορεί. Ακόμη και αν χτυπήσουμε κάποιο ποιοτικό οροπέδιο και η AGI δεν είναι εφικτή με τον τρέχοντα τεχνολογικό χάρτη πορείας μας, τα κέρδη που γίνονται τώρα και τα επόμενα χρόνια θα είναι αρκετά για να αποπροσανατολίσουν δραστικά το εργατικό δυναμικό. Και αυτός είναι ο λόγος που συνεχίζω να σκέφτομαι το παιχνίδι των μουσικών καρέκλων. Φυσικά, ο ανατρεπτικός αντίκτυπος της νέας τεχνολογίας υπήρξε ένας παράγοντας τουλάχιστον από την Βιομηχανική Επανάσταση, αν όχι από την ανακάλυψη της γεωργίας. Το 1785, η εφεύρεση του power loom έριξε χιλιάδες εξειδικευμένους υφαντές έξω από τη δουλειά. Γενιές αργότερα, θεωρήθηκε μια θετική εξέλιξη.Οι άνθρωποι πήραν φθηνά ρούχα, και αισθάνθηκαν καλύτερα για τον εαυτό τους. Αλλά η τεχνητή νοημοσύνη είναι ένα ποιοτικά διαφορετικό θηρίο: δεν αυτοματοποιεί μια συγκεκριμένη διαδικασία, αυτοματοποιεί την ανθρωπότητα. Αυτοματοποιεί τις διαδικασίες αυτοματισμού. Καθώς η τεχνητή νοημοσύνη αρχίζει να επεκτείνει την ατομική παραγωγικότητα και στη συνέχεια σταδιακά αντικαθιστά την ανθρώπινη προσπάθεια εντελώς, θα συνειδητοποιήσουμε ότι οι καρέκλες εξαφανίζονται με ταχύτερο ρυθμό.Υπάρχουν λιγότερες καρέκλες και περισσότεροι άνθρωποι που ανταγωνίζονται για να τις γεμίσουν. Δεν είναι μια τέλεια μεταφορά επειδή η αυξημένη ανθρώπινη ικανότητα που ενδυναμώνει η τεχνητή νοημοσύνη σημαίνει ότι θα υπάρχει μεγαλύτερη ικανότητα να δημιουργηθούν εντελώς νέα και απροσδόκητα οφέλη για την ανθρωπότητα. Δυστυχώς, η AI θα κάνει αυτές τις δουλειές καλύτερα από εσάς. Και σε μεγάλο βαθμό, αυτό θα είναι αλήθεια ακόμη και αν δεν επιτύχουμε τεχνητή γενική υπερ-ευφυΐα. οι καρέκλες εξαφανίζονται ήσυχα κάθε μέρα, και με κάθε νέα οικονομική συρρίκνωση που προκαλείται από αυτή τη διαταραχή, η μουσική θα σταματήσει για λίγο, ενώ το εργατικό δυναμικό διαχωρίζεται. Με την τεχνολογία που αναπτύχθηκε τώρα, ένα μεγάλο ποσοστό θεραπευτών, copywriters, πράκτορες εξυπηρέτησης πελατών, νομικοί βοηθοί, life coaches, ρεσεψιόν, λογιστές, συντάκτες, ταξιδιωτικοί πράκτορες, σχεδιαστές, εικονογράφοι, οδηγοί παράδοσης, αναλυτές, σύμβουλοι, σύμβουλοι, τραπεζίτες επενδύσεων, και όλα τα είδη των εργαζομένων εισόδου επίπεδο θα είναι δύσκολο να βρουν δουλειά. Η παραγωγικότητα της ανθρωπότητας θα έχει αυξηθεί δραστικά, η εξουσία θα έχει γίνει πιο πολωμένη και μεγάλα τμήματα των ανθρώπων θα συνειδητοποιήσουν ότι απλά δεν είναι απαραίτητα για την κοινωνία. Αλλά αυτό είναι μόνο σε σχέση με το παιχνίδι που παίζουμε και το παίζουμε εδώ και πολύ καιρό. Αλλά περισσότερο στο σημείο, αυτή η επερχόμενη μαζική συνειδητοποίηση της δικής μας έλλειψης σύνδεσης με τις βασικές ανάγκες της κοινωνίας δεν πρέπει να έρθει ως έκπληξη. Χωρίς να το συνειδητοποιήσουμε, κατά τη διάρκεια των τελευταίων δύο αιώνων, η συντριπτική πλειοψηφία της ανθρώπινης προσπάθειας έχει γίνει ασήμαντη.Περισσότερο από το 90% του αμερικανικού πληθυσμού ασχολήθηκε με τη γεωργία το 1776. Ναι, η δουλειά σας ως Διευθυντής Προϊόντος Ανάπτυξης του τμήματος της Κόστα Ρίκα της Airbnb παρέχει μια πολύτιμη υπηρεσία. Βοηθάτε να φέρνετε τους ενοικιαστές και τους παρόχους μαζί στην αγορά βραχυπρόθεσμων ενοικίασης στην Κεντρική Αμερική. Αλλά σε ποιο βαθμό αυτή η προσπάθεια έχει σημασία εγγενώς; Κάνετε τη ζωή λίγο καλύτερη για έναν περιορισμένο αριθμό ατόμων που κάνουν διακοπές στη Σάντα Τερέζα, απολύτως. Και αυτό είναι ένα καθαρό θετικό. Αλλά αν αυτή η δουλειά θα μπορούσε να γίνει εξίσου καλά ή καλύτερα από ό, τι ισοδυναμεί με έναν περίπλοκο αλγόριθμο, ήταν ποτέ κάτι περισσότερο από λεωφορείο; Εάν χάσετε τη δουλειά σας και βρείτε μια άλλη που η τεχνητή νοημοσύνη δεν έχει ακόμη συνεισφέρει, θα πρέπει να ρωτήσετε τον εαυτό σας ποια πραγματική αξία προσφέρετε και πόσο καιρό θα είστε σε θέση να την προσφέρετε πριν βρεθείτε ξανά στο δρόμο. Σύμφωνα με την έρευνα που βασίζω στην τεχνητή νοημοσύνη για να το κάνω για μένα, μόνο το 35% του αμερικανικού εργατικού δυναμικού ασχολείται με θέσεις εργασίας που σχετίζονται άμεσα με δραστηριότητες που είναι απαραίτητες για την ανθρώπινη επιβίωση.Αυτό περιλαμβάνει τη διδασκαλία, την υγεία, τις υποδομές, την ενέργεια, την κατασκευή κ.λπ. Αυτό σημαίνει ότι το υπόλοιπο 65% κάνει δουλειά που, στην καλύτερη περίπτωση, βελτιώνει την ποιότητα ζωής και, στη χειρότερη περίπτωση, χρησιμεύει ως τρόπος να τους κρατήσει απασχολημένους. Ας πάρουμε μια γυναίκα, τη Μάργκαρετ, που βελτιστοποιεί τις διαδικτυακές διαφημίσεις για τις πωλήσεις πολυτελών διαμερισμάτων με μισθό 130.000 δολαρίων ετησίως. Ας υποθέσουμε για λόγους επιχειρηματολογίας ότι η δουλειά της αντικαθίσταται από μια υπηρεσία AI που κοστίζει 10.000 δολάρια το χρόνο. Δεν είναι με κανένα τρόπο ένα κομμάτι της φαντασίας να δούμε αυτό να συμβαίνει στο εγγύς μέλλον, αν όχι αύριο. Έτσι ο εργοδότης της έχει τώρα την ίδια ποιότητα υπηρεσιών με εξοικονόμηση 120.000 δολάρια το χρόνο, και η Margaret είναι εκτός εργασίας. Οι οικονομολόγοι θα σας πουν ότι η τιμή των πολυτελών κατοικιών θα πέσει ελαφρώς, αλλά αυτό δεν πρόκειται να συμβεί. Αυτές οι αποταμιεύσεις πηγαίνουν απευθείας στην εταιρεία που την απασχολούσε και τους μετόχους της. Η Margaret θα πληρωθεί για ανεργία για μερικούς μήνες, και τότε θα Η εταιρεία της είναι πιο αποτελεσματική, και όμως είναι περιττή. Από την άποψη του παιχνιδιού που έχουμε παίξει, θα μπορούσε επίσης να πάψει να υπάρχει. Φυσικά, θα μπορούσε να ανανεώσει τις δεξιότητές της και να γίνει ένα διαφορετικό είδος εργαζόμενου στη γνώση, που δεν έχει ακόμη αντικατασταθεί από την AI. Θα μπορούσε να γίνει επιχειρηματίας και να ξεκινήσει τη δική της εταιρεία χρησιμοποιώντας εργαλεία που υποστηρίζονται από την AI. Και ίσως η εταιρεία που δημιούργησε η Margaret θα ήταν ένα όφελος για την κοινωνία. Είναι ένας κύλινδρος των τεμαχίων, φυσικά, δεδομένου ότι πάνω από το 80% όλων των νεοσύστατων επιχειρήσεων αποτυγχάνουν, ακόμη και πριν από την AI. Και όταν υπάρχουν 60 εκατομμύρια Μαργαρίτες εκεί έξω, ο καθένας ψάχνει για έναν σκοπό, δεν μπορούν όλοι να είναι επιχειρηματίες. η κοινωνία δεν χρειάζεται επιπλέον 60 εκατομμύρια εφαρμογές χρονολόγησης. Από ηθική άποψη, μπορεί να υποστηριχθεί ότι υπάρχει αξία στην εργασία για το δικό της καλό.Αλλά αυτό δεν είναι το κάλεσμά σας να κάνετε.Ο μόνος πραγματικός σκοπός της κοινωνίας είναι να υποστηρίξει και να προστατεύσει την ποιότητα της ανθρώπινης ζωής. Και η τεχνητή νοημοσύνη, με σχετικά μέτρια πρόσθετη εισροή ενέργειας και προσπάθειας, θα αντικαταστήσει πολύ σύντομα ολόκληρους τομείς του ανθρώπινου εργατικού δυναμικού, ενδεχομένως βελτιώνοντας την ποιότητα της ανθρώπινης ζωής. Και όμως, στην αλγεβρά της τρέχουσας πολιτιστικής μας νοοτροπίας, εκείνα τα ανθρώπινα όντα που αντικαθίστανται θα πάψουν να έχουν αξία, εκτός αν αλλάξουμε την προοπτική μας. Όταν παίζατε μουσικές καρέκλες, ήταν, φυσικά, πολύ σημαντικό να μην είστε ένας από τους πρώτους που χάνουν, αλλά καθώς μεγάλωσα, συνειδητοποίησα ότι και εσείς δεν θέλατε να είστε τόσο απελπισμένοι να κερδίσετε ώστε να αρχίσετε να παίζετε βρώμικα. Σε πολύ σύντομο χρονικό διάστημα, η συντριπτική πλειοψηφία από εμάς θα συνειδητοποιήσει σε κάποιο σημείο ότι η μουσική έχει σταματήσει.Δεν θα υπάρχει χώρος για εμάς σε αυτό το παιχνίδι που έχουμε παίξει και η πρόκληση θα είναι τόσο ατομικά όσο και ως κοινωνία να αποφασίσουμε τι ακριβώς πρέπει να κάνουμε στη συνέχεια. Αναφορά : The Adolescence of Technology by Dario Amodei: https://www.darioamodei.com/essay/the-adolescence-of-technology