
 
 Notă: următoarele sunt despre transformatoarele de vanilie, dar concluziile și metaforele pot fi extinse pentru a raționa fructuos despre LLM-urile mai noi (care vor fi acoperite într-un articol ulterior). Notă: următoarele sunt despre transformatoarele de vanilie, dar concluziile și metaforele pot fi extinse pentru a raționa fructuos despre LLM-urile mai noi (care vor fi acoperite într-un articol ulterior). Mulți oameni au intuiția că un LLM (Large Language Model, de exemplu, ChatGPT) nu înțelege cu adevărat ceea ce spune. Dacă aveți un pic de cunoștințe tehnice, puteți arăta că un LLM este doar un autocomplete fantezist, sau un "predictor de jetoane". Acest lucru consolidează intuiția un pic - prezicerea jetoanelor (adică fragmente de cuvinte, cuvinte scurte, simboluri...) pare a fi departe de a plânge de deliberare - dar rămâne o intuiție, care poate fi în mod rezonabil pusă la îndoială: ați putea termina această propoziție dacă nu ați construit o înțelegere a ceea ce se întâmplă în acest paragraf? Acum, cei cu mai multă caritate față de mașinile noastre vorbitoare vor argumenta că LLM-urile sunt încă prost înțelese "cutii negre", și îi acuză pe sceptici de reducționism: nu este Natura plină de mecanisme "mundane" care dau naștere fenomenelor emergente, cu calități care diferă de cauzele lor de bază? Probabil că nu Lucrul cheie de înțeles despre perspectiva predictorului de token este că nu este de fapt reducționist - cel puțin nu în modul de a numi creierul "doar un grup de neuroni". Da, modelul în sine este un ansamblu imens de părți mici, dar toate lucrează împreună pentru a satisface exact o cerere: dat fiind N token-uri anterioare, prezice următorul. proprietatea emergentă pe care v-ați aștepta să o obțineți din datele numerice care curg prin straturile modelului. este Dar nu putea să iasă ceva în plus din Previziuni pentru TOKEN? Repetă Într-un sens, orice text este mai mare decât suma părților sale: semnificația fiecărui cuvânt este modificată de întregul context care îl înconjoară, astfel încât semnificația întregului text este dincolo de o concatenare a semnificațiilor cuvintelor izolate. Cu toate acestea, pentru un text generat de predicția token, fiecare pas este un proces independent în principiu - urmează doar o traiectorie implicită în rezultatele intermediare. După cum vom vedea, predicția tokenului impune constrângeri calitative inerente, care nu pot fi ocolite de magia apariției. Pentru a ajunge acolo, vom examina ceea ce apare la un nivel mai înalt decât cel al textelor individuale: ce se întâmplă dacă organizăm toate ieșirile posibile ale modelului într-o singură structură? Dar mai întâi, mă întorc la Biblioteca Borges din Babel pentru inspirație 
 
 
 
 
 Povestea descrie o bibliotecă compusă din camere hexagonale nesfârșite.Fiecare cameră găzduiește rafturi de cărți care conțin toate aranjamentele posibile de litere, spații și punctuații. În consecință, biblioteca conține nu numai toate lucrările semnificative - fiecare adevăr, minciună, profeție, descoperire științifică sau capodoperă - ci și volume nesfârșite de nonsensuri de neînțeles. Locuitorii bibliotecii – bibliotecarii ei – rătăcesc neobosit prin coridoarele infinite, călăuziți de o căutare insatiabilă a sensului și a iluminării.Totuşi infinitatea bibliotecii face ca fiecare text semnificativ să fie efectiv imposibil de găsit, îngropat în mijlocul nebuniei infinite. Diferite secte se formează între ele: unele caută cu disperare un mitic "catalog" al conținutului bibliotecii, altele distrug cărți considerate inutile, iar totuși altele se predă disperării nihiliste - credința religioasă, fundamentalismul sau nihilismul, toate născute dintr-o dorință de certitudine. Povestea descrie o bibliotecă compusă din camere hexagonale nesfârșite.Fiecare cameră găzduiește rafturi de cărți care conțin toate aranjamentele posibile de litere, spații și punctuații. În consecință, biblioteca conține nu numai toate lucrările semnificative - fiecare adevăr, minciună, profeție, descoperire științifică sau capodoperă - ci și volume nesfârșite de nonsensuri de neînțeles. Locuitorii bibliotecii – bibliotecarii ei – rătăcesc neobosit prin coridoarele infinite, călăuziți de o căutare insatiabilă a sensului și a iluminării.Totuşi infinitatea bibliotecii face ca fiecare text semnificativ să fie efectiv imposibil de găsit, îngropat în mijlocul nebuniei infinite. Diferite secte se formează între ele: unele caută cu disperare un mitic "catalog" al conținutului bibliotecii, altele distrug cărți considerate inutile, iar totuși altele se predă disperării nihiliste - credința religioasă, fundamentalismul sau nihilismul, toate născute dintr-o dorință de certitudine. Vă mulțumesc ChatGPT pentru acest rezumat. sau mai bine, citiți-l pentru dvs. Este o poveste captivantă, dar ce legătură are cu modelele lingvistice? Pentru început, gândiți-vă la Biblioteca lui Borges ca la setul de rezultate dintr-un model de limbă primitivă: unul care prezice caractere în loc de jetoane, dar cu zero respect pentru acuratețe. Desigur, un astfel de model nu sugerează principii de organizare pentru ieșirile sale - cel puțin nici unul care să ajute la separarea datelor de zgomot. Borges ia libertatea artistică cu aspectul hexagonal, dar întreaga bibliotecă reprezintă un proces generativ aleatoriu uniform. Acum, gândiți-vă la o bibliotecă analogă bazată pe jetoane în loc de caractere: ar conține toate textele posibile până la un număr maxim de jetoane, reprezentând ieșirile dintr-un LLM "indiscriminat". Această nouă bibliotecă ar avea în esență aceleași proprietăți ca și originalul. Cu toate acestea, ar coincide și cu setul de ieșiri posibile pentru un LLM normal, presupunând că chiar și finalizările absurde sunt reprezentate de probabilități mici, dar non-zero. Desigur - perplexitate În mod formal, perplexitatea este definită ca fiind probabilitatea medie negativă exponențiată a unei secvențe: PP(X) = exp(-1/N ∑ log P(xᵢ|x₁,…,xᵢ₋₁)) Mai puțin formal, tratăm un text dat ca o secvență de rezultate dintr-un proces aleatoriu (nu neapărat uniform). Fiecare token este atribuit o probabilitate, în funcție de model, pe baza token-urilor anterioare: reflectă cât de bine fiecare urmărire se conformează datelor de instruire. Probabilitățile sunt apoi agregate într-un mod care permite calcularea unei medii utile pentru întregul text. În cele din urmă, aceasta este cartografiată într-o valoare intuitivă care reflectă (aproximativ) numărul mediu de continuări viabile la fiecare pas. Valorile de perplexitate variază de la 1 la infinit. 1 înseamnă că textul este atât de previzibil încât fiecare pas duce în mod inevitabil la următorul - ceva atât de tipic pentru datele de instruire încât finalizarea sa este ca Valorile ridicate implică un labirint de posibilități: modelul nu este sigur unde se îndreaptă textul, iar numărul mai mare de continuări posibile înseamnă o încredere mai mică în fiecare. Roșu reamintește Acum, imaginați-vă o structură de cercuri concentrice Cercurile sunt granițe care împart o expansiune plană, infinită în inele. Fiecare graniță are o valoare de perplexitate, începând cu 1 pentru centrul circular și crescând treptat pe măsură ce te îndrepți spre exterior. Zonele dintre cercurile adiacente formează benzi de perplexitate: fiecare inel găzduiește toate textele ale căror valori de perplexitate se încadrează în intervalul definit de limitele sale interioare și exterioare. Aceasta este biblioteca modernă din Babel. Această nouă bibliotecă sortează toate ieșirile posibile ale modelului într-un mod care reflectă cu fidelitate ceea ce a învățat modelul. Pentru a găsi un răspuns potențial pentru o anumită invitație, trebuie doar să alegeți o bandă, să găsiți în ea un text care începe cu acea invitație și să citiți mai departe. Sună destul de ușor, dar ce band să alegi? După cum designerii LLM știu bine, majoritatea textelor pe care utilizatorii le doresc nu sunt în centrul bibliotecii, deși acolo este cel mai probabil să găsiți declarații adevărate (sau cel puțin, declarații care se aliniază perfect cu cunoștințele convenționale). Luați în considerare ce se întâmplă dacă un utilizator dorește soluția la o problemă dificilă sau deschisă: Centrul Bibliotecii poate oferi indicații generale, sau pur și simplu afirmă că nu există o soluție cunoscută; conține răspunsuri sigure care respectă cu strictețe datele de instruire. În practică, atunci când vă solicitați chatbot-ul preferat, explorați câteva benzi în jurul centrului, unde puteți găsi unele ieșiri "creative". Deoarece designul predictorului token nu oferă o modalitate inerentă de a deconecta corectitudinea de creativitate, alegerea benzi este un act de echilibrare. Dacă putem extrapola puțin din observațiile empirice și urmăm implicațiile metricilor de perplexitate, ar trebui să concluzionăm că textele cu adevărat inovatoare ar fi departe de centru: teoriile nescrise ale lui Einstein sau dovezile valide ale ipotezei lui Riemann sunt în mod inerent texte improbabile. De ce să nu privim mai departe? Ei bine, pe baza definiției perplexității, numărul de răspunsuri potențiale la o promptă explodează exponențial pe măsură ce ieșiți mai departe. Între timp, numărul de răspunsuri corecte rămâne constant, cu doar atât de multe moduri diferite de a le afirma. Raportul dintre textele utile și nonsensul se prăbușește rapid. Cu alte cuvinte, în timp ce probabilitatea ca cel puțin unele texte să conțină lucrări noi și revoluționare crește, probabilitatea de a se ciocni cu ele dispare. Dacă te uiți la o bandă îngustă de perplexitate, te uiți la texte care sunt (mai mult sau mai puțin) la fel de "bune" de model - la fel de probabil să fie generate, indiferent de sensibilitatea lor - atâta timp cât se potrivesc cu promptul. Pe scurt, aspectele exterioare ale Bibliotecii noastre modernizate din Babel se apropie de situația clasică a lui Borges. Poate că începeți să vedeți cum se leagă acest lucru de intuiția originală: puteți gândi la un text ca la o cale urmărită de procesul generativ - o înregistrare a alegerilor de jetoane (ha-ha) făcute la fiecare pas. dar pornind de la un prefix dat (cum ar fi o promptă), modelul nu are o preferință inerentă pentru orice cale specifică din varietatea oferită în banda de perplexitate relevantă. Acest lucru justifică ceea ce înseamnă să spunem că modelul nu înțelege despre ce vorbește: nu știe sau nu-i pasă cum diferitele căi pe care le-ar putea lua se compară între ele, în ceea ce privește adevărul, utilitatea sau orice factor extern - nu este un judecător rațional. Cu toate acestea, această bibliotecă modernă din Babel are bibliotecarii săi: ei sunt utilizatorii avizi. Unii dintre ei explorează marginile pentru a găsi bijuterii ascunse ale adevărului. Alții caută ceva de genul Catalogul din povestea lui Borges: dacă numai ei ar putea găsi promptul potrivit, ar obține un răspuns fiabil la orice întrebare. La fel ca bibliotecarii lui Borges, ei rătăcesc prin coridoare nesfârșite, cu nasul blocat în volume nesfârșite, fără a înțelege imaginea mai mare a acestei căutări - adevăratele sale proprietăți emergente. Dar nu puteți întoarce același argument împotriva oamenilor? De ce să nu ipotezezi o bibliotecă umană din Babel? organizează pur şi simplu toate rezultatele potenţiale ale minţii umane pe baza unei măsuri umane de perplexitate. Nu cred aşa. Pentru început, „perplexitatea” umană funcționează în mod diferit: dacă citesc o lucrare revoluționară, poate să pară confuză și îndoielnică la început. În mod provizoriu, i-aș putea atribui o valoare de perplexitate la fel de mare ca și o perplexitate - nu ar fi atât de nouă dacă nu ar fi început din premise neobișnuite sau ar fi pornit pe o cale improbabilă. Dar la sfârșitul ei, lucrarea s-ar fi justificat. Înțeles în ansamblu, ar putea fi bine în concordanță cu faptele cunoscute și raționamentul valid. În final, aș putea să-i atribui o valoare de perplexitate la fel de scăzută ca cea a teoriilor acceptate. O astfel de reevaluare dramatică a jetoanelor anterioare, cu schimbarea bruscă a perplexității, nu se întâmplă cu LLM-urile normale bazate pe transformator: un text neobișnuit se poate stabili în cele din urmă în predictibilitate relativă, dat fiind suficient context, dar media va rămâne murdară. Mai semnificativ, cu predictorii token, există o simetrie între generarea și evaluarea textelor. Dar acest lucru nu este cazul cu oamenii: Prin înțelegere profundă, mintea poate simți conexiuni între idei care par îndepărtate și fără legătură. Pentru a valida și comunica o astfel de înțelegere, ar trebui să mediați între idei în mod explicit - pentru a construi un argument cu o progresie liniară pe care alte minți o pot urma. Acest proces poate fi lent și dificil, dar ghidat de fulgerul inițial de înțelegere pe care nu îl puteți aștepta pe cititor. Acesta este un contrast semnificativ. Când un LLM generează un text, acesta urmează un drum care se desfășoară înaintea lui într-o destinație necunoscută. Pietrele de pas - succesiunea de jetoane generate - nu sunt mediatori, ci ghiduri. Este exact ca și cum ar fi "pierdut" încercarea de a construi un text nou, așa cum implică evaluarea perplexității rezultatului. adică cea mai mare parte a drumului prin, este la marginea scaunului său, ghicind ca un cititor fără ghid! Cu toate acestea, imaginea unui nucleu cu cercuri concentrice poate fi utilă chiar și pentru oameni. Lăsați miezul să fie Pământul: adevărul pământesc. În jurul lui sunt benzi ale atmosferei intelectuale a omenirii, care se subțirează treptat pe măsură ce ajunge într-un spațiu vast și neexplorat. Unele idei se află chiar pe pământ, ca concluziile evidente, ușor de lovit. O grămadă sunt în aer, deasupra capetelor noastre, așteptând un salt intuitiv. Cele mai multe sunt în sus în cer, sau tot drumul în spațiu- teorii nedovedite, fantezii fără bază, iluzii directe... Dar poți să-ți imaginezi și un munte: începe de pe pământ și merge în sus. Aventurierul intelectual vede conturul său de departe și trage un curs dur pentru vârf. Când începe să urce, muntele prezintă multe provocări pe care nu le-a prevăzut - astfel încât pot fi rezolvate numai de sus aproape. În cele din urmă, el ajunge la vârf și vede lumea dintr-un nou punct de vedere. Stă acolo unde chiar și aerul este subțire, dar este conectat la pământ printr-un munte pur. De acolo, poate aduce noi înțelegeri înapoi la pământ, împreună cu povestea despre cum a ajuns la ele: o poveste prea fantastică la început, dar incontestabil adevărată la sfârșit.

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Read My Stories

Acest audio este produs în limba originală a poveștii!

Cum reflectă AI Biblioteca lui Borge din Babel

About Author

COMENTARII

Etichete suspendate

ACEST ARTICOL A FOST PREZENTAT IN

Related Stories

Round the year with the stars by Garrett Putman Serviss - Table of Links

The Data Behind Colorado's First-ever Rural Venture Capital Pitch Event

The TechBeat: Digital Transformation Success Stories in Mezzanine Lending (3/1/2024)

Design Shifts at HackerNoon: Streamlined Top Nav, Quick Search and Settings Dashboard 🚀

Round the year with the stars by Garrett Putman Serviss - Table of Links

The Data Behind Colorado's First-ever Rural Venture Capital Pitch Event

The TechBeat: Digital Transformation Success Stories in Mezzanine Lending (3/1/2024)

Design Shifts at HackerNoon: Streamlined Top Nav, Quick Search and Settings Dashboard 🚀

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps