
 
 Nota: il seguente riguarda i trasformatori di vaniglia, ma le conclusioni e le metafore possono essere estese per ragionare fruttuosamente sui LLM più recenti (che saranno coperti in un articolo successivo). Nota: il seguente riguarda i trasformatori di vaniglia, ma le conclusioni e le metafore possono essere estese per ragionare fruttuosamente sui LLM più recenti (che saranno coperti in un articolo successivo). Molte persone hanno l'intuizione che un LLM (Large Language Model, ad esempio ChatGPT) non capisce veramente cosa sta dicendo. non ha veramente ragione, non ha alcuna intenzione di trasmettere nulla, e manca una distinzione innata tra verità e menzogna. L'intuizione è sana, ma non così facile da giustificare. Se hai un po 'di conoscenza tecnica, puoi sottolineare che un LLM è solo un fancy autocomplete, o un "preveditore di token". Questo consolida un po' l'intuizione - prevedendo token (cioè frammenti di parole, parole brevi, simboli...) sembra un grido lontano dalla deliberazione - ma rimane un'intuizione, che può ragionevolmente essere messa in discussione: si potrebbe finire questa frase se non si ha costruito una comprensione di ciò che il paragrafo sta andando su? Ora, coloro che hanno più carità verso le nostre macchine parlanti argomenteranno che i LLM sono ancora scarsamente comprese "black boxes", e accusano gli scettici di riduzione: non è la natura piena di meccanismi "mundani" che danno origine a fenomeni emergenti, con qualità che differiscono dalle loro cause di base? Probabilmente non La cosa chiave da capire sulla prospettiva del predicatore di token è che non è in realtà riduzione - almeno non nel modo di chiamare il cervello "solo un cluster di neuroni". Sì, il modello stesso è un enorme insieme di piccole parti, ma tutti lavorano insieme per soddisfare esattamente una domanda: dato N token precedenti, prevedere il prossimo. la proprietà emergente che si aspetta di essere in basso dal flusso di dati numerici attraverso gli strati del modello. è Ma non poteva ancora emergere qualcosa di extra Previsioni di Token? ripetuto In un certo senso, qualsiasi testo è più grande della somma delle sue parti: il significato di ogni parola è modificato dall'intero contesto che lo circonda, quindi il significato dell'intero testo è al di là di una concatenazione di significati di parole isolate. Tuttavia, per un testo generato dalla previsione token, ogni passo è un processo indipendente in linea di principio - segue solo una traiettoria implicita nei risultati intermedi. Come vedremo, la previsione dei token impone vincoli qualitativi intrinseci, che non possono essere bypassati dalla magia dell'emergere. Per arrivare lì, esamineremo ciò che emerge a un livello superiore a quello dei singoli testi: cosa succede se organizziamo tutte le uscite possibili del modello in una singola struttura? Ironicamente, il formalismo "riduttivo" è lo strumento matematico perfetto per questo lavoro. Ma prima, mi rivolgo alla Biblioteca di Babel di Borges per ispirazione 
 
 
 
 
 La storia descrive una biblioteca composta da interminabili stanze esagonali.Ogni stanza ospita scaffali di libri contenenti ogni possibile disposizione di lettere, spazi e segni di punteggiatura. Di conseguenza, la biblioteca contiene non solo tutte le opere significative - ogni verità, menzogna, profezia, scoperta scientifica o capolavoro - ma anche infiniti volumi di insensatezza incomprensibile. Gli abitanti della biblioteca - i suoi bibliotecari - vagano incessantemente attraverso gli infiniti corridoi, guidati da una insaziabile ricerca di significato e di illuminazione.Tuttavia l'infinità della biblioteca rende ogni testo significativo effettivamente impossibile da trovare, sepolto in mezzo a infinite sciocchezze.Più peggio ancora, i bibliotecari sono assaliti dall'impossibilità di distinguere la verità dalla menzogna, poiché ogni affermazione concebibile è ugualmente presente. Diverse sette si formano tra di loro: alcuni cercano disperatamente un mitico "catalogo" dei contenuti della biblioteca, altri distruggono libri ritenuti inutili, e tuttavia altri si arrendono alla disperazione nihilista - fede religiosa, fondamentalismo o nihilismo, tutti nati da un desiderio di certezza. La storia descrive una biblioteca composta da interminabili stanze esagonali.Ogni stanza ospita scaffali di libri contenenti ogni possibile disposizione di lettere, spazi e segni di punteggiatura. Di conseguenza, la biblioteca contiene non solo tutte le opere significative - ogni verità, menzogna, profezia, scoperta scientifica o capolavoro - ma anche infiniti volumi di insensatezza incomprensibile. Gli abitanti della biblioteca - i suoi bibliotecari - vagano incessantemente attraverso gli infiniti corridoi, guidati da una insaziabile ricerca di significato e di illuminazione.Tuttavia l'infinità della biblioteca rende ogni testo significativo effettivamente impossibile da trovare, sepolto in mezzo a infinite sciocchezze.Più peggio ancora, i bibliotecari sono assaliti dall'impossibilità di distinguere la verità dalla menzogna, poiché ogni affermazione concebibile è ugualmente presente. Diverse sette si formano tra di loro: alcuni cercano disperatamente un mitico "catalogo" dei contenuti della biblioteca, altri distruggono libri ritenuti inutili, e tuttavia altri si arrendono alla disperazione nihilista - fede religiosa, fondamentalismo o nihilismo, tutti nati da un desiderio di certezza. Grazie per questo link, o meglio ancora, leggilo da soli. È una storia affascinante, ma cosa ha a che fare con i modelli linguistici? Per cominciare, pensi alla Biblioteca di Borges come all'insieme delle uscite di un modello di lingua primitivo: uno che prevede i caratteri invece che i token, ma con zero considerazione per l'accuratezza. Naturalmente, un tale modello non suggerisce principi di organizzazione per le sue uscite - almeno nessuno che aiuti a distinguere i dati dal rumore.Borges assume la libertà artistica con il layout esagonale, ma l'intera libreria rappresenta un processo di generazione casuale uniforme. Ora considerare una libreria analoga basata su token invece di caratteri: contenerebbe tutti i testi possibili fino ad un certo numero massimo di token, rappresentando le uscite da un LLM "indiscriminato".Questa nuova libreria avrebbe essenzialmente le stesse proprietà dell'originale. Tuttavia, coinciderebbe anche con l'insieme delle uscite possibili per un LLM normale, presumendo che anche le conclusioni insensate siano rappresentate da probabilità minuscole ma non zero. Perplessità - Perplessity Formalmente, perplexity è definito come la media esponenziata negativa log-probabilità di una sequenza: PP(X) = exp(-1/N ∑ log P(xᵢ|x₁,…,xᵢ₋₁)) Meno formalmente, trattiamo un testo dato come una sequenza di risultati da un processo casuale (non necessariamente uniforme). A ciascun token viene assegnata una probabilità, secondo il modello, basata sui token precedenti: riflette quanto bene ogni follow-up sia conforme ai dati di formazione. Le probabilità vengono quindi aggregate in modo da permettere di calcolare una media utile per l'intero testo. Infine, questo viene mappato in un valore intuitivo che riflette (approssimativamente) il numero medio di continuazioni fattibili a ciascun passo. I valori di confusione vanno da 1 all'infinito. 1 significa che il testo è così prevedibile che ogni passo porta inevitabilmente al successivo - qualcosa di così tipico dei dati di addestramento che il suo completamento è come Valori elevati implicano un labirinto di possibilità che si ramifica: il modello non è sicuro di dove va il testo, e il maggior numero di continuazioni possibili significa una minore fiducia in ciascuno. Rossi ricorda Immaginate una struttura di cerchi concentrici I cerchi sono confini che dividono un'estensione piatta, infinita in anelli. A ogni confine è assegnato un valore di perplexità, a partire da 1 per il centro circolare e aumentando gradualmente mentre si va verso l'esterno. Le aree tra i cerchi adiacenti formano bande di perplexità: ogni anello ospita tutti i testi i cui valori di perplexità rientrano nell'intervallo definito dai suoi confini interni ed esterni. La biblioteca moderna di Babilonia. Questa nuova libreria ordina tutte le uscite possibili del modello in modo da riflettere fedelmente ciò che il modello ha imparato. Per trovare una risposta potenziale per una data prompt, devi solo selezionare una banda, trovare in essa un testo che inizia con quella prompt e continuare a leggere. Sembra abbastanza semplice, ma quale band scegliere? Come i progettisti LLM sanno bene, la maggior parte dei testi che gli utenti vogliono non sono nel centro della Biblioteca, anche se è lì che è più probabile che si trovino affermazioni vere (o almeno, affermazioni che si allineano perfettamente con la conoscenza convenzionale). Considerare cosa succede se un utente vuole la soluzione a un problema difficile o aperto: il centro della Biblioteca può offrire indicatori generali, o semplicemente affermare che non vi è una soluzione nota; contiene risposte sicure che rispettano rigorosamente i dati di formazione. In pratica, quando stai invitando il tuo chatbot preferito, stai esplorando alcune bande intorno al centro, dove puoi trovare alcune uscite "creative". Dal momento che il design del predicatore token non fornisce un modo intrinseco per disconnettere la correttezza dalla creatività, la scelta delle bande è un atto di bilanciamento. Naturalmente, alcuni prodotti sono dotati di un controllo "temperatura" che ti consente di esplorare ulteriormente; ma è nominato correttamente, perché quando lo schiacci, la povera AI inizia a soffrire di delirio di febbre. Se possiamo estrapolare leggermente dalle osservazioni empiriche, e seguire le implicazioni della metrica della perplessità, dovremmo concludere che i testi veramente innovativi sarebbero lontani dal centro: le teorie non scritte di Einstein o le prove valide dell'ipotesi di Riemann sono inerentemente testi improbabili. Perché non guardare oltre? Bene, sulla base della definizione di perplessità, il numero di potenziali risposte a un prompt esplode esponenzialmente più lontano si va. Nel frattempo, il numero di risposte corrette rimane costante, con solo così tanti modi diversi per esprimerle. Il rapporto tra i testi utili e gli insensati rapidamente crolla. In altre parole, mentre la probabilità che almeno alcuni testi contengano opere nuove e rivoluzionarie aumenta, la probabilità di trovarsi su di loro scompare. Se guardi una stretta banda di perplessità, stai guardando testi che sono (più o meno) ugualmente "buoni" dal modello - ugualmente probabile che vengano generati, indipendentemente dalla loro sensibilità - purché corrispondano al prompt. In breve, la portata esterna della nostra Biblioteca modernizzata di Babilonia si avvicina in realtà alla situazione del classico di Borges. Forse stai iniziando a vedere come questo ritorna all'intuizione originale: puoi pensare a un testo come un percorso tracciato dal processo generativo - un record di scelte token (ha-ha) effettuate a ogni passo. ma a partire da un prefisso dato (come un prompt), il modello non ha una preferenza intrinseca per qualsiasi percorso specifico fuori dalla varietà offerta nella pertinente banda di perplessità. Ciò giustifica ciò che significa dire che il modello non capisce di cosa sta parlando: non sa o non si preoccupa di come i diversi percorsi che potrebbe prendere si confrontano tra loro, in termini di verità, utilità, o qualsiasi fattore esterno - non è un giudice ragionevole. Tuttavia, questa moderna biblioteca di Babilonia ha i suoi bibliotecari: sono gli utenti avidi. Alcuni di loro esplorano le periferie per ricercare gemme nascoste della verità. Altri cercano qualcosa come il catalogo dalla storia di Borges: se solo potessero trovare la giusta prompt, avrebbero una risposta affidabile a qualsiasi domanda. Alcuni persino cercano un incanto segreto per risvegliare la Biblioteca alla propria coscienza addormentata. Come i bibliotecari di Borges, vagano attraverso infiniti corridoi, con il naso intrappolato in infiniti volumi, senza cogliere il quadro più ampio di questa ricerca - le sue vere proprietà emergenti. Ma non si può rivolgere lo stesso argomento contro gli esseri umani? Perché non ipotizzare una Biblioteca Umana di Babilonia? semplicemente organizzare tutte le potenziali uscite della mente umana sulla base di una misura umana di perplessità. Non penso così. Per cominciare, la "perplessità" umana funziona in modo diverso: se sto leggendo un lavoro rivoluzionario, può apparire confuso e dubbio all'inizio. Provisoriamente, potrei assegnargli un valore di perplessità altrettanto alto quanto il ragionamento - non sarebbe così nuovo se non iniziasse da premissioni insolite o non avesse iniziato su una strada improbabile. Ma alla fine, il lavoro si sarebbe giustificato. Compreso nel suo complesso, potrebbe essere ben in linea con i fatti noti e il ragionamento valido. In ultima analisi, potrei finire per assegnargli un valore di perplessità così basso come quello delle teorie accettate. Tale drammatica ri-valutazione dei token precedenti, con il suo brusco cambiamento di confusione, non accade con i normali LLM basati su trasformatori: un testo insolito può alla fine stabilirsi in relativa prevedibilità, dato abbastanza contesto, ma la media rimarrà contaminata. Più significativamente, con i predittori di token, c'è una simmetria tra la generazione e la valutazione dei testi. Ma questo non è il caso con gli esseri umani: attraverso la profonda intuizione, la mente può percepire le connessioni tra idee che sembrano distanti e non correlate. Per convalidare e comunicare tale intuizione, dovresti mediare esplicitamente tra le idee - per costruire un argomento con una progressione lineare che altre menti possono seguire. Questo processo può essere lento e arduo, ma guidato dal flash iniziale di comprensione che non puoi aspettarti che il lettore abbia. Questo è un contrasto significativo. Quando un LLM genera un testo, segue un percorso che si sviluppa prima di esso verso una destinazione sconosciuta. Le pietre di marcia - la successione di token generati - non sono mediatori, ma guide. È esattamente come "perduto" tentare di costruire un testo nuovo, come implica la valutazione della perplessità del risultato. vale a dire la maggior parte del modo attraverso, è sul bordo del suo posto, indovinando come un lettore senza indizi! Tuttavia, l'immagine di un nucleo con cerchi concentrici può essere utile anche per gli esseri umani Lasciate che il nucleo sia la Terra: la verità terrestre. Intorno a esso ci sono bande dell'atmosfera intellettuale dell'umanità, gradualmente diluite mentre raggiunge un vasto e inesplorato spazio. Alcune idee si trovano proprio sul terreno, come conclusioni ovvie, facili da imbattersi. Un mucchio sono in aria, sopra la nostra testa, in attesa di un salto intuitivo. La maggior parte sono in cielo, o tutto il modo nello spazio- teorie non provate, fantasie infondate, delusioni dirette... Ma puoi anche immaginare una montagna: inizia dal suolo e va verso l’alto. L’avventuriero intellettuale vede la sua cornice da lontano e pianifica un percorso duro per il picco. Quando inizia a salire, la montagna presenta molte sfide che non ha previsto – tali che possono essere risolte solo da vicino. Alla fine, raggiunge il picco e vede il mondo da un nuovo punto di vantaggio. Si trova dove anche l’aria è sottile, ma è connesso al suolo attraverso una montagna pura. Da lì, può portare nuove intuizioni di nuovo al suolo, insieme alla storia di come è arrivato a loro: una storia troppo fantastica all’inizio, ma indiscutibilmente vera alla fine.

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Read My Stories

Questo audio è prodotto nella lingua originale della storia!

Come il ragionamento AI specchia la biblioteca di Babel di Borge

About Author

COMMENTI

CARTELLINI

QUESTO ARTICOLO È STATO PRESENTATO IN

Related Stories

Meet Dealscard, Winner of Startups of The Year 2024 in Ghaziabad/Deal Aggregator

OpenAI Has Everything Under Control 😎

Link-To-Earn Incentive Model: A Blueprint For Mass Adoption?

HackerNoon - A User Experience Analysis: Part 2

Meet Dealscard, Winner of Startups of The Year 2024 in Ghaziabad/Deal Aggregator

OpenAI Has Everything Under Control 😎

Link-To-Earn Incentive Model: A Blueprint For Mass Adoption?

HackerNoon - A User Experience Analysis: Part 2

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps