Πώς η τεχνητή νοοτροπία καθρεφτίζει τη βιβλιοθήκη της Βαβέλ του Borge

Σημείωση: Τα παρακάτω είναι για μετασχηματιστές βανίλιας, αλλά τα συμπεράσματα και οι μεταφορές μπορούν να επεκταθούν για να συλλογιστούν καρποφόρα για τα νεότερα LLMs (τα οποία θα καλύπτονται σε ένα μεταγενέστερο άρθρο). Σημείωση: Τα παρακάτω είναι για μετασχηματιστές βανίλιας, αλλά τα συμπεράσματα και οι μεταφορές μπορούν να επεκταθούν για να συλλογιστούν καρποφόρα για τα νεότερα LLMs (τα οποία θα καλύπτονται σε ένα μεταγενέστερο άρθρο). Πολλοί άνθρωποι έχουν τη διαίσθηση ότι ένα LLM (Μεγάλο Μοντέλο Γλώσσας, π.χ. ChatGPT) δεν καταλαβαίνει πραγματικά τι λέει. Αν έχετε λίγη τεχνική γνώση, μπορείτε να επισημάνετε ότι ένα LLM είναι απλά μια φανταστική αυτό-συμπλήρωση, ή ένα "token predictor". Αυτό εδραιώνει τη διαίσθηση λίγο - προβλέποντας τα tokens (δηλαδή τα θραύσματα λέξεων, σύντομες λέξεις, σύμβολα...) φαίνεται σαν μια μακρινή κραυγή από τη συζήτηση - αλλά παραμένει μια διαίσθηση, η οποία μπορεί λογικά να αμφισβητηθεί: θα μπορούσατε να ολοκληρώσετε αυτή τη φράση αν δεν έχετε οικοδομήσει μια κατανόηση του τι η παράγραφος έρχεται σε; Τώρα, όσοι έχουν περισσότερη φιλανθρωπία προς τις μηχανές μας θα υποστηρίξουν ότι τα LLMs εξακολουθούν να είναι κακώς κατανοητά «μαύρα κουτιά» και θα κατηγορήσουν τους σκεπτικιστές του μειοψηφισμού: δεν είναι η φύση γεμάτη από «παγκόσμιους» μηχανισμούς που προκαλούν αναδυόμενα φαινόμενα, με ιδιότητες που διαφέρουν από τις βασικές αιτίες τους; Ίσως η σύνθετη μαθηματική μηχανή πίσω από την πρόβλεψη των token να παράγει με κάποιο τρόπο γνήσια κατανόηση; Και πιθανότατα όχι Το βασικό πράγμα που πρέπει να κατανοήσουμε σχετικά με την προοπτική του προγνωστικού token είναι ότι δεν είναι στην πραγματικότητα μειωτικός - τουλάχιστον όχι με τον τρόπο που ονομάζουμε τον εγκέφαλο "μόνο ένας όγκος νευρώνων". Είναι ένας αξιοπρεπής χαρακτηρισμός του υψηλού επιπέδου, λειτουργικού ορισμού του μοντέλου. Ναι, το ίδιο το μοντέλο είναι ένα τεράστιο σύνολο μικρών τμημάτων, αλλά όλοι συνεργάζονται για να ικανοποιήσουν ακριβώς μια απαίτηση: δεδομένων των προηγούμενων N tokens, προβλέψτε το επόμενο. η αναδυόμενη ιδιότητα που αναμένετε να είναι προς τα κάτω από τα αριθμητικά δεδομένα που ρέουν μέσα από τα στρώματα του μοντέλου. είναι Αλλά δεν θα μπορούσε να προκύψει κάτι επιπλέον από Προβλέψεις για το Τόκιο; Επαναλαμβάνεται Κατά μία έννοια, κάθε κείμενο είναι μεγαλύτερο από το άθροισμα των μερών του: το νόημα κάθε λέξης τροποποιείται από το σύνολο του περιβάλλοντος που το περιβάλλει, έτσι ώστε το νόημα ολόκληρου του κειμένου είναι πέρα από μια συσχέτιση απομονωμένων εννοιών λέξης. Ωστόσο, για ένα κείμενο που παράγεται από την πρόβλεψη token, κάθε βήμα είναι μια ανεξάρτητη διαδικασία κατ 'αρχήν - ακολουθεί απλώς μια τροχιά σιωπηρή στα ενδιάμεσα αποτελέσματα. Όπως θα δούμε, η πρόβλεψη των token επιβάλλει εγγενείς ποιοτικούς περιορισμούς, τους οποίους δεν μπορεί να παρακάμψει η μαγεία της εμφάνισης. Για να φτάσουμε εκεί, θα εξετάσουμε τι προκύπτει σε επίπεδο υψηλότερο από αυτό των μεμονωμένων κειμένων: τι θα συμβεί αν οργανώσουμε όλες τις πιθανές εξόδους του μοντέλου σε μια ενιαία δομή; Κατά ειρωνικό τρόπο, ο "μειωτικός" τυπικισμός είναι το τέλειο μαθηματικό εργαλείο για αυτή τη δουλειά. Αλλά πρώτα, στραφώ στη Βιβλιοθήκη της Βαβυλώνας του Μπόρχες για έμπνευση Η ιστορία περιγράφει μια βιβλιοθήκη που αποτελείται από ατελείωτα εξαγωνικά δωμάτια.Κάθε δωμάτιο φιλοξενεί ράφια βιβλίων που περιέχουν κάθε πιθανή διάταξη των γραμμάτων, των κενών και των σημείων στίξης. Κατά συνέπεια, η βιβλιοθήκη δεν περιέχει μόνο όλα τα σημαντικά έργα - κάθε αλήθεια, ψέμα, προφητεία, επιστημονική ανακάλυψη ή αριστούργημα - αλλά και ατελείωτους τόμους ακατανόητων ανοησιών. Οι κάτοικοι της βιβλιοθήκης – οι βιβλιοθηκονόμοι της – περιπλανιούνται ακούραστα μέσα από τους ατελείωτους διαδρόμους, οδηγούμενοι από μια ανεξάντλητη αναζήτηση για νόημα και διαφώτιση.Ωστόσο, το άπειρο της βιβλιοθήκης καθιστά κάθε νόημα κείμενο ουσιαστικά αδύνατο να βρεθεί, θαμμένο ανάμεσα σε ατελείωτες ανοησίες. Διάφορες αίρεσεις σχηματίζονται μεταξύ τους: μερικοί αναζητούν απεγνωσμένα έναν μυθικό «καταλόγο» του περιεχομένου της βιβλιοθήκης, άλλοι καταστρέφουν βιβλία που θεωρούνται άχρηστα, και όμως άλλοι παραδίδονται στην νιχιλιστική απελπισία - θρησκευτική πίστη, φονταμενταλισμό ή νιχιλισμό, όλα γεννημένα από μια λαχτάρα για βεβαιότητα. Η ιστορία περιγράφει μια βιβλιοθήκη που αποτελείται από ατελείωτα εξαγωνικά δωμάτια.Κάθε δωμάτιο φιλοξενεί ράφια βιβλίων που περιέχουν κάθε πιθανή διάταξη των γραμμάτων, των κενών και των σημείων στίξης. Κατά συνέπεια, η βιβλιοθήκη δεν περιέχει μόνο όλα τα σημαντικά έργα - κάθε αλήθεια, ψέμα, προφητεία, επιστημονική ανακάλυψη ή αριστούργημα - αλλά και ατελείωτους τόμους ακατανόητων ανοησιών. Οι κάτοικοι της βιβλιοθήκης – οι βιβλιοθηκονόμοι της – περιπλανιούνται ακούραστα μέσα από τους ατελείωτους διαδρόμους, οδηγούμενοι από μια ανεξάντλητη αναζήτηση για νόημα και διαφώτιση.Ωστόσο, το άπειρο της βιβλιοθήκης καθιστά κάθε νόημα κείμενο ουσιαστικά αδύνατο να βρεθεί, θαμμένο ανάμεσα σε ατελείωτες ανοησίες. Διάφορες αίρεσεις σχηματίζονται μεταξύ τους: μερικοί αναζητούν απεγνωσμένα έναν μυθικό «καταλόγο» του περιεχομένου της βιβλιοθήκης, άλλοι καταστρέφουν βιβλία που θεωρούνται άχρηστα, και όμως άλλοι παραδίδονται στην νιχιλιστική απελπισία - θρησκευτική πίστη, φονταμενταλισμό ή νιχιλισμό, όλα γεννημένα από μια λαχτάρα για βεβαιότητα. Σας ευχαριστώ για την ανάρτησή σας ή ακόμα καλύτερα, διαβάστε το για τον εαυτό σας. Είναι μια συγκλονιστική ιστορία, αλλά τι σχέση έχει με τα γλωσσικά μοντέλα; Για αρχή, σκεφτείτε τη Βιβλιοθήκη του Borges ως το σύνολο των αποτελεσμάτων από ένα πρωτόγονο μοντέλο γλώσσας: αυτό που προβλέπει χαρακτήρες αντί για μάρκες, αλλά με μηδενικό σεβασμό για την ακρίβεια. Φυσικά, ένα τέτοιο μοντέλο δεν προτείνει καμία αρχή οργάνωσης για τις εκροές του - τουλάχιστον καμία που να βοηθά να διαχωριστούν τα δεδομένα από τον θόρυβο.Ο Borges παίρνει καλλιτεχνική ελευθερία με την εξαγωνική διάταξη, αλλά ολόκληρη η βιβλιοθήκη αντιπροσωπεύει μια ομοιόμορφα τυχαία δημιουργική διαδικασία. Τώρα σκεφτείτε μια ανάλογη βιβλιοθήκη βασισμένη σε tokens αντί σε χαρακτήρες: θα περιείχε όλα τα πιθανά κείμενα μέχρι κάποιο μέγιστο αριθμό tokens, αντιπροσωπεύοντας εξόδους από ένα "αδιάκριτο" LLM. Αυτή η νέα βιβλιοθήκη θα είχε ουσιαστικά τις ίδιες ιδιότητες με το πρωτότυπο. Ωστόσο, θα συμπίπτει επίσης με το σύνολο των πιθανών εξόδων για ένα κανονικό LLM, υποθέτοντας ότι ακόμη και οι παράλογες ολοκληρώσεις αντιπροσωπεύονται από μικρές αλλά μη μη μη μηδενικές πιθανότητες. Βεβαίως, η σύγχυση Επισήμως, η σύγχυση ορίζεται ως η εκθετική μέση αρνητική πιθανότητα καταγραφής μιας ακολουθίας: PP(X) = exp(-1/N ∑ log P(xᵢ|x₁,…,xᵢ₋₁)) Λιγότερο τυπικά, αντιμετωπίζουμε ένα δεδομένο κείμενο ως ακολουθία αποτελεσμάτων από μια τυχαία διαδικασία (όχι απαραίτητα ομοιόμορφη). Κάθε token έχει εκχωρηθεί μια πιθανότητα, σύμφωνα με το μοντέλο, με βάση τα προηγούμενα tokens: αντανακλά το πόσο καλά κάθε παρακολούθηση συμμορφώνεται με τα δεδομένα εκπαίδευσης. Οι πιθανότητες στη συνέχεια συγκεντρώνονται με τρόπο που επιτρέπει τον υπολογισμό ενός χρήσιμου μέσου όρου για ολόκληρο το κείμενο. Τέλος, αυτό χαρτογραφείται σε μια διαισθητική τιμή που αντικατοπτρίζει (περίπου) τον μέσο αριθμό των βιώσιμων συνεχίσεων σε κάθε βήμα. Οι τιμές σύγχυσης κυμαίνονται από το 1 έως το άπειρο. 1 σημαίνει ότι το κείμενο είναι τόσο προβλέψιμο που κάθε βήμα οδηγεί αναπόφευκτα στο επόμενο - κάτι τόσο τυπικό για τα δεδομένα κατάρτισης που η ολοκλήρωσή του είναι σαν Οι υψηλές τιμές συνεπάγονται ένα λαβύρινθο δυνατοτήτων: το μοντέλο δεν είναι σίγουρο πού πηγαίνει το κείμενο και ο υψηλότερος αριθμός πιθανών συνεχίσεων σημαίνει χαμηλότερη εμπιστοσύνη σε κάθε ένα από αυτά. Η Ρόδος υπενθυμίζει Τώρα, φανταστείτε μια δομή συγκεντρωτικών κύκλων Οι κύκλοι είναι όρια που χωρίζουν μια επίπεδη, ατελείωτη έκταση σε δακτυλίους. Σε κάθε όριο έχει εκχωρηθεί τιμή σύγχυσης, ξεκινώντας από το 1 για το κυκλικό κέντρο και αυξάνοντας σταδιακά καθώς πηγαίνετε προς τα έξω. Οι περιοχές μεταξύ των γειτονικών κύκλων σχηματίζουν ζώνες σύγχυσης: κάθε δακτυλίδι φιλοξενεί όλα τα κείμενα των οποίων οι τιμές σύγχυσης εμπίπτουν στην περιοχή που ορίζεται από τα εσωτερικά και εξωτερικά όρια. Αυτή είναι η σύγχρονη βιβλιοθήκη της Βαβυλώνας. Αυτή η νέα βιβλιοθήκη ταξινομεί όλες τις πιθανές εκδόσεις του μοντέλου με τρόπο που να αντικατοπτρίζει πιστά αυτό που το μοντέλο έχει μάθει.Για να βρείτε μια πιθανή απάντηση για μια δεδομένη προειδοποίηση, απλά πρέπει να επιλέξετε μια μπάντα, να βρείτε σε αυτήν ένα κείμενο που αρχίζει με αυτή την προειδοποίηση και να συνεχίσετε να διαβάζετε. Ακούγεται αρκετά εύκολο, αλλά ποια μπάντα να επιλέξω; Όπως γνωρίζουν οι σχεδιαστές του LLM, τα περισσότερα από τα κείμενα που θέλουν οι χρήστες δεν βρίσκονται στο κέντρο της Βιβλιοθήκης, αν και εκεί είναι όπου είναι πιο πιθανό να βρείτε αληθινές δηλώσεις (ή τουλάχιστον δηλώσεις που ταιριάζουν τέλεια με τη συμβατική γνώση). Σκεφτείτε τι συμβαίνει αν ένας χρήστης θέλει τη λύση σε ένα δύσκολο ή ανοικτό πρόβλημα: το κέντρο της Βιβλιοθήκης μπορεί να προσφέρει γενικές ενδείξεις, ή απλά να δηλώσει ότι δεν υπάρχει γνωστή λύση. περιέχει ασφαλείς απαντήσεις που συμμορφώνονται αυστηρά με τα δεδομένα κατάρτισης. Στην πράξη, όταν προτρέπετε το αγαπημένο σας chatbot, εξερευνείτε μερικές ζώνες γύρω από το κέντρο, όπου μπορείτε να βρείτε κάποιες "δημιουργικές" εξόδους. Δεδομένου ότι ο σχεδιασμός του προγνωστικού token δεν παρέχει κανέναν εγγενή τρόπο για να αποσυνδέσετε την ορθότητα από τη δημιουργικότητα, η επιλογή των ζωνών είναι μια πράξη εξισορρόπησης. Αν μπορούσαμε να εξάγουμε ελαφρώς από τις εμπειρικές παρατηρήσεις, και να ακολουθήσουμε τις επιπτώσεις της μετρικής της σύγχυσης, θα έπρεπε να καταλήξουμε στο συμπέρασμα ότι τα πραγματικά καινοτόμα κείμενα θα ήταν μακριά από το κέντρο: οι μη γραπτές θεωρίες του Αϊνστάιν ή οι έγκυρες αποδείξεις της υπόθεσης Riemann είναι εγγενώς απίθανο κείμενα. Γιατί λοιπόν να μην κοιτάξουμε πιο πέρα; Λοιπόν, με βάση τον ορισμό της σύγχυσης, ο αριθμός των πιθανών απαντήσεων σε μια προειδοποίηση εκρήγνυται εκθετικά όσο πιο μακριά πηγαίνετε. Εν τω μεταξύ, ο αριθμός των σωστών απαντήσεων παραμένει σταθερός, με μόνο τόσους πολλούς διαφορετικούς τρόπους να τις δηλώσετε. Η αναλογία των χρήσιμων προς τα παράλογα κείμενα γρήγορα πέφτει. Με άλλα λόγια, ενώ η πιθανότητα τουλάχιστον ορισμένων κειμένων να περιέχουν νέα και πρωτοποριακά έργα αυξάνεται, η πιθανότητα να τα συναντήσετε εξαφανίζεται. Αν κοιτάξετε μια στενή ζώνη σύγχυσης, κοιτάτε κείμενα που είναι (περισσότερο ή λιγότερο) εξίσου "καλά" από το μοντέλο - εξίσου πιθανό να δημιουργηθούν, ανεξάρτητα από την ευαισθησία τους - εφ 'όσον ταιριάζουν με την προειδοποίηση. Εν ολίγοις, η εξωτερική εμβέλεια της εκσυγχρονισμένης Βιβλιοθήκης της Βαβυλώνας προσαρμόζει στην πραγματικότητα την κατάσταση από το κλασικό του Μπόρχες. Ίσως αρχίζετε να βλέπετε πώς αυτό συνδέεται με την αρχική διαίσθηση: μπορείτε να σκεφτείτε ένα κείμενο ως μια διαδρομή που ακολουθείται από τη γενετική διαδικασία - ένα αρχείο των επιλογών token (ha-ha) που γίνονται σε κάθε βήμα. αλλά ξεκινώντας από ένα δεδομένο προθέτημα (όπως μια προειδοποίηση), το μοντέλο δεν έχει εγγενή προτίμηση για οποιαδήποτε συγκεκριμένη διαδρομή έξω από την ποικιλία που προσφέρεται στη σχετική ζώνη σύγχυσης. Αυτό τεκμηριώνει τι σημαίνει να πούμε ότι το μοντέλο δεν καταλαβαίνει για τι μιλάει: δεν γνωρίζει ή δεν νοιάζεται για το πώς οι διαφορετικές διαδρομές που θα μπορούσε να πάρει συγκρίνονται μεταξύ τους, σε σχέση με την αλήθεια, τη χρησιμότητα ή οποιονδήποτε εξωτερικό παράγοντα - δεν είναι ένας λογικός κριτής. Ωστόσο, αυτή η σύγχρονη Βιβλιοθήκη της Βαβέλ έχει τους βιβλιοθηκονόμους της: είναι οι άπληστοι χρήστες. Μερικοί από αυτούς εξερευνούν τα περίχωρα για κρυμμένα κοσμήματα της αλήθειας. Άλλοι αναζητούν κάτι σαν τον Κατάλογο από την ιστορία του Μπόρχες: αν μόνο μπορούσαν να βρουν το σωστό μήνυμα, θα έβρισκαν μια αξιόπιστη απάντηση σε οποιαδήποτε ερώτηση. Όπως οι βιβλιοθηκονόμοι του Μπόρχες, περιπλανιούνται μέσα από ατελείωτους διαδρόμους, με τη μύτη τους κολλημένη σε ατελείωτους τόμους, χωρίς να καταλαβαίνουν την ευρύτερη εικόνα αυτής της επιδίωξης - τις αληθινές αναδυόμενες ιδιότητες της. Αλλά δεν μπορείτε να γυρίσετε το ίδιο επιχείρημα πίσω ενάντια στους ανθρώπους; Γιατί να μην υποθέσουμε μια Ανθρώπινη Βιβλιοθήκη της Βαβυλώνας; Απλά οργανώστε όλες τις πιθανές εκροές του ανθρώπινου νου με βάση ένα ανθρώπινο μέτρο σύγχυσης. Δεν το νομίζω έτσι. Για να ξεκινήσω, η ανθρώπινη «αδιαφορία» λειτουργεί διαφορετικά: Αν διαβάζω ένα πρωτοποριακό έργο, μπορεί να είναι συγκεχυμένο και αμφίβολο στην αρχή. Προσωρινά, θα μπορούσα να του αναθέσω μια τιμή σύγχυσης τόσο υψηλή όσο και χαζή - δεν θα ήταν τόσο καινοτόμο αν δεν ξεκίνησε από ασυνήθιστες προϋποθέσεις ή δεν ξεκίνησε σε απίθανο μονοπάτι. Αλλά στο τέλος του, το έργο θα έχει δικαιολογήσει τον εαυτό του. Κατανοητό στο σύνολό του, θα μπορούσε να είναι καλά ευθυγραμμισμένο με γνωστά γεγονότα και έγκυρο σκεπτικό. Στο τέλος, θα μπορούσα να καταλήξω να του αναθέσω μια τιμή σύγχυσης τόσο χαμηλή όσο εκείνη των αποδεκτών θεωριών. Μια τέτοια δραματική επανεκτίμηση των προηγούμενων tokens, με την απότομη αλλαγή της σύγχυσης, δεν συμβαίνει με τα κανονικά LLMs που βασίζονται σε μετασχηματιστές: ένα ασυνήθιστο κείμενο μπορεί τελικά να εγκατασταθεί σε σχετική προβλεψιμότητα, δεδομένου αρκετού πλαισίου, αλλά ο μέσος όρος θα παραμείνει μολυσμένος. Πιο σημαντικά, με τους προγνωστές token, υπάρχει μια συμμετρία μεταξύ της δημιουργίας και της αξιολόγησης κειμένων. Αλλά αυτό δεν συμβαίνει με τους ανθρώπους: Μέσω της βαθιάς διορατικότητας, το μυαλό μπορεί να αισθανθεί συνδέσεις μεταξύ ιδεών που φαίνονται απομακρυσμένες και άσχετες. Για να επικυρώσετε και να επικοινωνήσετε μια τέτοια διορατικότητα, θα πρέπει να μεσολαβήσετε μεταξύ των ιδεών ρητά - για να δημιουργήσετε ένα επιχείρημα με μια γραμμική πρόοδο που άλλα μυαλά μπορούν να ακολουθήσουν. Αυτή η διαδικασία μπορεί να είναι αργή και επίπονη, αλλά καθοδηγείται από την αρχική λάμψη της κατανόησης που δεν μπορείτε να περιμένετε ο αναγνώστης να έχει. Αυτό είναι μια σημαντική αντίθεση. Όταν ένα LLM δημιουργεί ένα κείμενο, ακολουθεί ένα μονοπάτι που εκτυλίσσεται πριν από αυτό σε έναν άγνωστο προορισμό. Τα βήματα - η διαδοχή των δημιουργημένων tokens - δεν είναι μεσολαβητές, αλλά οδηγούς. Είναι ακριβώς όπως "χαθεί" προσπαθώντας να κατασκευάσει ένα νέο κείμενο, όπως υποδηλώνει η αξιολόγηση της σύγχυσης του αποτελέσματος. δηλαδή το μεγαλύτερο μέρος του δρόμου, είναι στην άκρη της έδρας του, μαντέψτε σαν ένας αναγνώστης χωρίς ενδείξεις! Ωστόσο, η εικόνα ενός πυρήνα με συμπυκνωμένους κύκλους μπορεί να είναι χρήσιμη ακόμη και για τους ανθρώπους. Αφήστε τον πυρήνα να είναι η Γη: η γήινη αλήθεια. Γύρω της υπάρχουν ζώνες της πνευματικής ατμόσφαιρας της ανθρωπότητας, που σταδιακά αραιώνονται καθώς φτάνει σε έναν τεράστιο και ανεξερεύνητο χώρο. Μερικές ιδέες βρίσκονται ακριβώς στο έδαφος, σαν προφανή συμπεράσματα, εύκολο να πέσουν. Μια δέσμη είναι στον αέρα, πάνω από τα κεφάλια μας, περιμένοντας ένα διαισθητικό άλμα. Αλλά μπορείτε επίσης να φανταστείτε ένα βουνό: ξεκινά από το έδαφος και ανεβαίνει. Ο διανοητικός περιπετειώδης βλέπει το περίγραμμα του από μακριά και σχεδιάζει μια σκληρή πορεία για την κορυφή. Όταν αρχίζει να ανεβαίνει, το βουνό θέτει πολλές προκλήσεις που δεν είχε προβλέψει - τέτοιες που μπορούν να λυθούν μόνο από ψηλά κοντά. Τελικά, φτάνει στην κορυφή και βλέπει τον κόσμο από ένα νέο σημείο πλεονεκτήματος. Βρίσκεται εκεί όπου ακόμη και ο αέρας είναι λεπτός, αλλά συνδέεται με το έδαφος μέσω ενός καθαρού βουνού. Από εκεί, μπορεί να φέρει νέες γνώσεις πίσω στο έδαφος, μαζί με την ιστορία του πώς τους πήρε: μια ιστορία πολύ φανταστική στην αρχή, αλλά αναμφισ