
 
 Poznámka: Nasledujúce je o vanilkových transformátoroch, ale závery a metafory možno rozšíriť na plodné uvažovanie o novších LLM (ktoré budú pokryté v neskoršom článku). Poznámka: Nasledujúce je o vanilkových transformátoroch, ale závery a metafory možno rozšíriť na plodné uvažovanie o novších LLM (ktoré budú pokryté v neskoršom článku). Mnohí ľudia majú intuíciu, že LLM (Veľký jazykový model, napríklad ChatGPT) naozaj nerozumie tomu, čo hovorí. Ak máte trochu technické znalosti, môžete poukázať na to, že LLM je len fantaziou autocomplete, alebo "token prediktor". To konsoliduje intuíciu trochu - predpovedanie tokenov (tj slovné fragmenty, krátke slová, symboly ...) sa zdá byť ďaleko od rozjímania - ale zostáva to intuícia, ktorá môže byť rozumne spochybnená: mohli by ste dokončiť túto vetu, ak ste nevytvorili pochopenie toho, na čo sa odsek dostáva? Teraz tí, ktorí majú viac charity voči našim hovoriacim strojom, budú tvrdiť, že LLM sú stále zle chápané „čierne skrinky“ a obviňujú skeptikov z redukcionizmu: nie je príroda plná „mundánnych“ mechanizmov, ktoré vedú k vznikajúcim javom, s vlastnosťami, ktoré sa líšia od ich základných príčin? Pravdepodobne nie Kľúčovou vecou, ktorú treba pochopiť o perspektíve prediktora tokenov, je, že v skutočnosti nie je redukcionistická - aspoň nie v spôsobe, akým sa mozog nazýva "len zhluk neurónov". Áno, samotný model je obrovským súborom malých častí, ale všetky pracujú spoločne, aby uspokojili presne jednu požiadavku: vzhľadom na predchádzajúce tokeny N predpovedajte ďalšiu. vyskytujúca sa vlastnosť, ktorú by ste očakávali, že bude z číselných údajov prúdiacich cez vrstvy modelu. je Nemohlo sa však stať, že by z nej vyšlo niečo extra. A predpoveď na to? Opakované V istom zmysle je akýkoľvek text väčší ako súčet jeho častí: význam každého slova je modifikovaný celým kontextom, ktorý ho obklopuje, takže význam celého textu presahuje spojenie izolovaných slovných významov. Avšak pre text generovaný predpovedaním tokenov je každý krok v zásade nezávislým procesom - len nasleduje trajektóriu implicitnú v priebežných výsledkoch. Ako uvidíme, predpovedanie tokenov ukladá inherentné kvalitatívne obmedzenia, ktoré nemožno obísť kúzlom vzniku. Aby sme sa tam dostali, preskúmame, čo sa objavuje na úrovni vyššej ako v jednotlivých textoch: čo keby sme usporiadali všetky možné výstupy modelu do jednej štruktúry? Ironicky, „redukčný“ formalizmus je pre túto prácu dokonalým matematickým nástrojom. Ale najprv sa obrátim na Borgesovu knižnicu Babylon pre inšpiráciu 
 
 
 
 
 Príbeh opisuje knižnicu zloženú z nekonečných hexagonálnych miestností.Každá miestnosť je domovom regálov kníh obsahujúcich všetky možné usporiadanie písmen, medzier a bodiek. V dôsledku toho knižnica obsahuje nielen všetky zmysluplné diela - každú pravdu, lož, proroctvo, vedecký prielom alebo majstrovské dielo - ale aj nekonečné objemy nepochopiteľných nezmyslov. Obyvatelia knižnice – jej knihovníci – neúnavne putujú nekonečnými chodbami, poháňanými neúnavným hľadaním zmyslu a osvietenia. Avšak nekonečnosť knižnice robí každý zmysluplný text prakticky nemožným nájsť, pochovaný uprostred nekonečných nezmyslov. Medzi nimi vznikajú rôzne sekty: niektorí zúfalo hľadajú mýtický "katalóg" obsahu knižnice, iní ničia knihy považované za zbytočné a napriek tomu sa iní vzdávajú nihilistickému zúfalstvu - náboženskej viere, fundamentalizmu alebo nihilizmu, všetko zrodené z túžby po istote. Príbeh opisuje knižnicu zloženú z nekonečných hexagonálnych miestností.Každá miestnosť je domovom regálov kníh obsahujúcich všetky možné usporiadanie písmen, medzier a bodiek. V dôsledku toho knižnica obsahuje nielen všetky zmysluplné diela - každú pravdu, lož, proroctvo, vedecký prielom alebo majstrovské dielo - ale aj nekonečné objemy nepochopiteľných nezmyslov. Obyvatelia knižnice – jej knihovníci – neúnavne putujú nekonečnými chodbami, poháňanými neúnavným hľadaním zmyslu a osvietenia. Avšak nekonečnosť knižnice robí každý zmysluplný text prakticky nemožným nájsť, pochovaný uprostred nekonečných nezmyslov. Medzi nimi vznikajú rôzne sekty: niektorí zúfalo hľadajú mýtický "katalóg" obsahu knižnice, iní ničia knihy považované za zbytočné a napriek tomu sa iní vzdávajú nihilistickému zúfalstvu - náboženskej viere, fundamentalizmu alebo nihilizmu, všetko zrodené z túžby po istote. Ďakujeme ChatGPT za toto zhrnutie. alebo ešte lepšie, prečítajte si to sami. Je to úchvatný príbeh, ale čo to má spoločné s jazykovými modelmi? Na začiatok si predstavte Borgesovu knižnicu ako súbor výstupov z primitívneho jazykového modelu: ten, ktorý predpovedá znaky namiesto žetónov, ale s nulovým ohľadom na presnosť. Prirodzene, takýto model nenaznačuje žiadne organizačné princípy pre jeho výstupy - aspoň žiadne, ktoré pomáhajú odlíšiť dáta od hluku.Borges berie umeleckú slobodu s hexagonálnym rozložením, ale celá knižnica predstavuje jednotne náhodný generatívny proces. Teraz zvážte analógovú knižnicu založenú na žetónoch namiesto znakov: obsahovala by všetky možné texty až do určitého maximálneho počtu žetónov, čo predstavuje výstupy z „nediskriminačného“ LLM. Táto nová knižnica by mala v podstate rovnaké vlastnosti ako pôvodná. Avšak, to by tiež zhodovalo so súborom možných výstupov pre normálnu LLM, za predpokladu, že aj nezmyselné dokončenia sú reprezentované malými, ale nonzero pravdepodobnosťami. Samozrejme - perplexita Formálne je perplexita definovaná ako exponenciálna priemerná negatívna log-pravdepodobnosť sekvencie: PP(X) = exp(-1/N ∑ log P(xᵢ|x₁,…,xᵢ₋₁)) Menej formálne, zaobchádzame s daným textom ako s postupnosťou výsledkov z náhodného procesu (nie nevyhnutne jednotný). Každému tokenu je pridelená pravdepodobnosť, podľa modelu, založená na predchádzajúcich tokenoch: odráža to, ako dobre sa každé sledovanie zhoduje s dátami školenia. Pravdepodobnosti sú potom agregované spôsobom, ktorý umožňuje vypočítať užitočný priemer pre celý text. Konečne, to sa mapuje do intuitívnej hodnoty, ktorá odráža (približne) priemerný počet životaschopných pokračovaní na každom kroku. Hodnoty zmätenosti sa pohybujú od 1 do nekonečna. 1 znamená, že text je tak predvídateľný, že každý krok nevyhnutne vedie k ďalšiemu - niečo tak typické pre školiace údaje, že jeho dokončenie je ako Vysoké hodnoty znamenajú rozvetvujúci sa labyrint možností: model nie je istý, kam text ide, a vyšší počet možných pokračovaní znamená nižšiu dôveru v každú z nich. Ružová pripomína Teraz si predstavte štruktúru koncentrovaných kruhov Kruhy sú hranice, ktoré rozdeľujú ploché, nekonečné rozpätie na krúžky. Každému hranici je pridelená hodnota zmatku, počnúc hodnotou 1 pre kruhové centrum a postupne sa zvyšujúcou, keď idete von. Oblasti medzi susediacimi kruhmi tvoria pásma zmatku: každý krúžok obsahuje všetky texty, ktorých hodnoty zmatku spadajú do rozsahu definovaného jeho vnútornými a vonkajšími hranicami. Ide o modernú babylonskú knižnicu. Táto nová knižnica zoradí všetky možné výstupy modelu tak, aby verne odrážali to, čo sa model naučil.Ak chcete nájsť potenciálnu odpoveď pre danú výzvu, stačí vybrať kapelu, nájsť v nej text začínajúci touto výzvou a čítať ďalej. Znie to dosť jednoducho, ale ktorú kapelu si vybrať? Ako dizajnéri LLM dobre vedia, väčšina textov, ktoré používatelia chcú, nie je v centre knižnice, aj keď to je miesto, kde je pravdepodobné, že nájdete pravdivé vyhlásenia (alebo aspoň vyhlásenia, ktoré dokonale zodpovedajú konvenčným vedomostiam). Zvážte, čo sa stane, ak používateľ chce riešenie ťažkého alebo otvoreného problému: Centrum knižnice môže ponúknuť všeobecné ukazovatele, alebo jednoducho tvrdiť, že neexistuje žiadne známe riešenie; obsahuje bezpečné odpovede, ktoré sú striktne v súlade s školiacimi údajmi. V praxi, keď vyzývate svojho obľúbeného chatbotu, skúmate niektoré pásma okolo stredu, kde môžete nájsť niektoré "kreatívne" výstupy. Keďže dizajn prediktora tokenov neposkytuje inherentný spôsob, ako odpojiť správnosť od kreativity, výber pásma je vyrovnávacím činom. Samozrejme, niektoré produkty prichádzajú s "teplotnou" kontrolou, ktorá vám umožní preskúmať ďalej; ale je to vhodne pomenované, pretože keď ho odtrhnete, chudobná AI začne trpieť delíriom horúčky. Ak by sme mohli trochu extrapolovať z empirických pozorovaní a nasledovať dôsledky metriky zmätenosti, mali by sme dospieť k záveru, že skutočne inovatívne texty by boli ďaleko od stredu: Einsteinove nepísané teórie alebo platné dôkazy o Riemannovej hypotéze sú prirodzene nepravdepodobné texty. Tak prečo sa nepozeráte ďalej? No, na základe definície zmätenosti, počet potenciálnych odpovedí na výzvu exploduje exponenciálne, čím ďalej idete. Medzitým počet správnych odpovedí zostáva konštantný, s len toľkými rôznymi spôsobmi, ako ich vyjadriť. Pomer užitočných k nezmyselným textom rýchlo klesá. Inými slovami, zatiaľ čo pravdepodobnosť, že aspoň niektoré texty obsahujú nové a prelomové diela, sa zvyšuje, pravdepodobnosť, že na ne narazíte, zmizne. Ak sa pozriete na úzky pruh zmätku, pozriete sa na texty, ktoré sú (viac-menej) rovnako "dobré" modelom - rovnako pravdepodobné, že budú generované, bez ohľadu na ich citlivosť - pokiaľ sa zhodujú s upozornením. Stručne povedané, vonkajší dosah našej modernizovanej Babylonskej knižnice v skutočnosti približuje situáciu z Borgesovej klasiky. Možno začnete vidieť, ako sa to spája s pôvodnou intuíciou: môžete si myslieť, že text je cesta sledovaná generatívnym procesom - záznamom tokenových možností (ha-ha) vykonaných na každom kroku. ale počnúc daným predponou (ako je výzva), model nemá prirodzenú preferenciu pre žiadnu konkrétnu cestu z ponuky odrody v príslušnom pásme zmätku. To zdôvodňuje, čo to znamená povedať, že model nerozumie tomu, o čom hovorí: nevie ani sa nestará, ako sa rôzne cesty, ktoré by mohol vziať, porovnávajú navzájom, pokiaľ ide o pravdu, užitočnosť alebo akýkoľvek vonkajší faktor - nie je to rozumný sudca. Napriek tomu má táto moderná knižnica v Babylone svojich knihovníkov: sú to vášniví používatelia. Niektorí z nich preskúmajú okraje pre skryté klenoty pravdy. Iní hľadajú niečo ako Katalóg z Borgesovho príbehu: keby len našli ten správny návod, dostali by spoľahlivú odpoveď na akúkoľvek otázku. Rovnako ako Borgesovi knihovníci, putujú nekonečnými chodbami, nosmi uviaznutými v nekonečných zväzkoch, bez toho, aby chytili väčší obraz tohto úsilia - jeho skutočných vznikajúcich vlastností. Ale nedokážete zvrátiť ten istý argument proti ľuďom? Prečo nehypotetizovať ľudskú knižnicu z Babylonu?Jednoducho zorganizujte všetky potenciálne výstupy ľudskej mysle na základe ľudskej miery zmätenosti.Nie by to odhalilo podobnú situáciu? Ja si to tak nemyslím. Po prvé, ľudská "zmatenosť" funguje inak: Ak čítam prelomovú prácu, môže to spočiatku vyjsť ako zmätené a pochybné. Dočasne by som mu mohol priradiť hodnotu zmatenosti tak vysokú ako hlúpy - nebolo by to tak nové, keby to nezačalo z neobvyklých predpokladov alebo sa nezačalo na nepravdepodobnej ceste. Ale na konci sa práca ospravedlnila. Pochopené ako celok, mohlo by to byť dobre v súlade so známymi faktami a platným uvažovaním. V konečnom dôsledku by som mohol skončiť priradením hodnoty zmatenosti tak nízkej ako akceptované teórie. Takéto dramatické prehodnotenie predchádzajúcich tokenov, so svojou náhlou zmenou v zmätku, sa nestane s normálnymi transformátorovými LLM: nezvyčajný text sa môže nakoniec usadiť do relatívnej predvídateľnosti, vzhľadom na dostatočný kontext, ale priemer zostane znečistený. Významnejšie je, že s prediktormi tokenov existuje symetria medzi generovaním a hodnotením textov. Ale to nie je prípad s ľuďmi: Prostredníctvom hlbokého vnímania môže myseľ cítiť spojenia medzi myšlienkami, ktoré sa zdajú byť vzdialené a nesúvisiace. Ak chcete overiť a oznámiť takýto vhľad, budete musieť explicitne sprostredkovať medzi myšlienkami - vytvoriť argument s lineárnou progresiou, ktorú môžu nasledovať iné myšlienky. Tento proces môže byť pomalý a náročný, ale riadený počiatočným bleskom porozumenia, ktoré čitateľ nemôže očakávať. To je významný kontrast. Keď LLM vytvára text, nasleduje cestu, ktorá sa pred ním rozvíja do neznámeho cieľa. Kameňové kroky - postupnosť generovaných žetónov - nie sú sprostredkovateľmi, ale sprievodcami. Je to presne ako "stratený" pokus o vytvorenie nového textu, ako to naznačuje posúdenie zmätenosti výsledku. t.j. väčšina cesty, je na okraji svojho sedadla, hádajúc ako bezohľadný čitateľ! Napriek tomu môže byť obraz jadra s koncentrovanými kruhmi užitočný aj pre ľudí. Nech je jadrom Zem: zemská pravda. Okolo nej sú pásy intelektuálnej atmosféry ľudstva, ktoré sa postupne riedia, keď sa dostávajú do obrovského a nepreskúmaného priestoru. Niektoré myšlienky ležia priamo na zemi, ako zjavné závery, ľahko sa do nich narazia. Hromada je vo vzduchu, nad našimi hlavami, čaká na intuitívny skok. Väčšina je hore na oblohe, alebo celú cestu v priestore - nepreukázané teórie, nepodložené fantázie, priame delusie... Ale môžete si tiež predstaviť horu: začína od zeme a ide smerom nahor. Intelektuálny dobrodruh vidí jej obrys z diaľky a plánuje hrubý kurz na vrchol. Keď začne stúpať, hora predstavuje mnohé výzvy, ktoré nepredpokladal - také, ktoré možno vyriešiť len zblízka. Nakoniec dosiahne vrchol a vidí svet z nového bodu výhody. Stáva sa tam, kde je aj vzduch tenký, ale je pripojený k zemi cez čistú horu. Odtiaľ môže priniesť nové poznatky späť na zem, spolu s príbehom o tom, ako sa k nim dostal: príbeh príliš fantastický na začiatku, ale nesporne pravdivý na konci.

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Read My Stories

Tento zvuk je vyrobený v pôvodnom jazyku príbehu!

Príliš dlho; Čítať

Get Free Unlimited IP Geo Data With IPinfo Lite

Ako AI uvažovanie zrkadlá Borge knižnice Babylon

About Author

KOMENTÁRE

ZAVISTE ŠTÍTKY

TENTO ČLÁNOK BOL PREDSTAVENÝ V

Related Stories

Code Smell 298 - How to Fix Microsoft Windows Time Waste

THE CRAB-SPIDER

Mutmut: a Python mutation testing system

112 Stories To Learn About Hackernoon Community

Code Smell 298 - How to Fix Microsoft Windows Time Waste

THE CRAB-SPIDER

Mutmut: a Python mutation testing system

112 Stories To Learn About Hackernoon Community

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps