
 
 Poznámka: Následující se týká vanilkových transformátorů, ale závěry a metafory lze rozšířit, aby bylo možné plodně uvažovat o novějších LLM (které budou pokryty v pozdějším článku). Poznámka: Následující se týká vanilkových transformátorů, ale závěry a metafory lze rozšířit, aby bylo možné plodně uvažovat o novějších LLM (které budou pokryty v pozdějším článku). Mnoho lidí má intuici, že LLM (velký jazykový model, např. ChatGPT) opravdu nerozumí tomu, co říká. Pokud máte trochu technické znalosti, můžete poukázat na to, že LLM je jen fantazií autocomplete, nebo "token predictor". To konsoliduje intuici trochu - předpovídání žetony (tj slovní fragmenty, krátká slova, symboly ...) se zdá být daleko od rozjímání - ale zůstává to intuice, která může být rozumně zpochybněna: mohli byste dokončit tuto větu, pokud jste nevybudovali pochopení toho, co odstavec se dostává do? Nyní ti, kteří mají více charity vůči našim mluvícím strojům, budou tvrdit, že LLM jsou stále špatně chápány „černé skříňky“ a obviňují skeptiky z redukcionismu: není příroda plná „světských“ mechanismů, které dávají vzniknout vznikajícím jevům, se vlastnostmi, které se liší od jejich základních příčin? Pravděpodobně ne Klíčovou věcí, kterou je třeba pochopit ohledně tokenového prediktoru, je, že ve skutečnosti není redukcionistický - alespoň ne způsobem, jak nazývat mozek "jen hromadou neuronů". Ano, model sám o sobě je obrovský soubor malých částí, ale všechny pracují společně, aby uspokojily přesně jednu poptávku: vzhledem k předchozím N tokenům předpovídají další. vznikající vlastnost, kterou byste očekávali od číselných dat proudících přes vrstvy modelu. je Ale nemohl něco navíc ještě vyskočit z Jaká je předpověď? Opakované V jistém smyslu je jakýkoliv text větší než součet jeho částí: význam každého slova je modifikován celým kontextem, který ho obklopuje, takže význam celého textu je nad rámec propojení izolovaných slovních významů. Nicméně pro text generovaný tokenovou předpovědí je každý krok v zásadě nezávislým procesem - pouze následuje trajektorii implicitní v průběžných výsledcích. Jak uvidíme, tokenová předpověď ukládá vnitřní kvalitativní omezení, která nelze obejít kouzlem vzniku. Abychom se tam dostali, podíváme se na to, co se objevuje na úrovni vyšší než u jednotlivých textů: co když uspořádáme všechny možné výstupy modelu do jedné struktury? Ale nejprve se obrátím na Borgesovu knihovnu Babylon pro inspiraci 
 
 
 
 
 Příběh popisuje knihovnu složenou z nekonečných hexagonálních místností.Každá místnost obsahuje police s knihami obsahujícími veškeré možné uspořádání písmen, mezer a bodových znamení. V důsledku toho knihovna obsahuje nejen všechna smysluplná díla - každou pravdu, lež, proroctví, vědecký průlom nebo mistrovské dílo - ale také nekonečné objemy nepochopitelných nesmyslů. Obyvatelé knihovny - její knihovníci - neúnavně putují nekonečnými chodbami, poháněni neúnavným hledáním smyslu a osvícení.Nicméně nekonečnost knihovny činí každý smysluplný text skutečně nemožným k nalezení, pohřbený uprostřed nekonečného nesmyslu.Nejhorší je, že knihovníky honí nemožnost rozlišit pravdu od nepravdy, protože každé představitelné prohlášení je stejně přítomno. Mezi nimi vznikají různé sekty: někteří zoufale hledají mýtický „katalog“ obsahu knihovny, jiní ničí knihy, které považují za zbytečné, a přesto se jiní vzdávají nihilistickému zoufalství – náboženské víře, fundamentalismu nebo nihilismu, které se rodí z touhy po jistotě. Příběh popisuje knihovnu složenou z nekonečných hexagonálních místností.Každá místnost obsahuje police s knihami obsahujícími veškeré možné uspořádání písmen, mezer a bodových znamení. V důsledku toho knihovna obsahuje nejen všechna smysluplná díla - každou pravdu, lež, proroctví, vědecký průlom nebo mistrovské dílo - ale také nekonečné objemy nepochopitelných nesmyslů. Obyvatelé knihovny - její knihovníci - neúnavně putují nekonečnými chodbami, poháněni neúnavným hledáním smyslu a osvícení.Nicméně nekonečnost knihovny činí každý smysluplný text skutečně nemožným k nalezení, pohřbený uprostřed nekonečného nesmyslu.Nejhorší je, že knihovníky honí nemožnost rozlišit pravdu od nepravdy, protože každé představitelné prohlášení je stejně přítomno. Mezi nimi vznikají různé sekty: někteří zoufale hledají mýtický „katalog“ obsahu knihovny, jiní ničí knihy, které považují za zbytečné, a přesto se jiní vzdávají nihilistickému zoufalství – náboženské víře, fundamentalismu nebo nihilismu, které se rodí z touhy po jistotě. Děkujeme za shrnutí, nebo ještě lépe, přečtěte si to sami. Je to dojemný příběh, ale co to má společného s jazykovými modely? Pro začátek si představte Borgesovu knihovnu jako soubor výstupů z primitivního jazykového modelu: ten, který předpovídá znaky namísto žetonů, ale s nulovým ohledem na přesnost. Samozřejmě, že takový model nenabízí žádné organizační principy pro jeho výstupy - alespoň žádné, které pomáhají odlišit data od hluku.Borges bere uměleckou svobodu s hexagonálním rozložením, ale celá knihovna představuje jednotně náhodný generativní proces. Nyní zvažte analogovou knihovnu založenou na tokenech namísto znaků: obsahovala by všechny možné texty až do určitého maximálního počtu tokenů, představující výstupy z „nediskriminačního“ LLM. Tato nová knihovna by měla v podstatě stejné vlastnosti jako původní. Nicméně by se také shodovala se sadou možných výstupů pro normální LLM, za předpokladu, že i nesmyslné dokončení jsou zastoupeny malými, ale ne nulovými pravděpodobnostmi. Samozřejmě - zmatek Formálně je zmatenost definována jako exponenciální průměrná negativní log-pravděpodobnost sekvence: PP(X) = exp(-1/N ∑ log P(xᵢ|x₁,…,xᵢ₋₁)) Méně formálně, zacházíme s daným textem jako se sekvencí výsledků z náhodného procesu (ne nutně jednotný). Každému tokenu je přiřazena pravděpodobnost, podle modelu, založená na předchozích tokenech: odráží, jak dobře se každé sledování shoduje s tréninkovými údaji. Pravděpodobnosti jsou pak agregovány tak, aby bylo možné vypočítat užitečný průměr pro celý text. Konečně, to je mapováno do intuitivní hodnoty odrážející (přibližně) průměrný počet životaschopných pokračování v každém kroku. Hodnoty zmatku se pohybují od 1 do nekonečna. 1 znamená, že text je tak předvídatelný, že každý krok nevyhnutelně vede k dalšímu - něco tak typického pro tréninkové údaje, že jeho dokončení je jako Vysoké hodnoty znamenají rozvětvující se bludiště možností: model není jistý, kam text směřuje, a vyšší počet možných pokračování znamená nižší důvěru v každou z nich. Rudá vzpomínka Nyní si představte strukturu koncentrických kruhů Kruhy jsou hranice, které rozdělují plochou, nekonečnou rozlohu na kroužky. Každému kroužku je přiřazena hodnota zmatku, počínaje hodnotou 1 pro kruhové centrum a postupně se zvyšující, když jdete ven. Oblasti mezi sousedními kruhy tvoří pásma zmatku: každý kroužek obsahuje všechny texty, jejichž hodnoty zmatku spadají do rozsahu definovaného jeho vnitřními a vnějšími hranicemi. Jedná se o moderní knihovnu Babel. Tato nová knihovna třídí všechny možné výstupy modelu způsobem, který věrně odráží to, co se model naučil.Chcete-li najít potenciální odpověď na daný výzvu, stačí vybrat kapelu, najít v ní text začínající tímto výzvou a číst dál. Zní to snadno, ale jakou kapelu si vybrat? Jak dobře vědí návrháři LLM, většina textů, které uživatelé chtějí, není v centru knihovny, ačkoli to je místo, kde s největší pravděpodobností najdete pravdivá prohlášení (nebo alespoň prohlášení, která dokonale odpovídají konvenčním znalostem). Zvažte, co se stane, pokud uživatel chce řešení obtížného nebo otevřeného problému: Centrum knihovny může nabídnout obecné ukazatele, nebo jednoduše tvrdit, že neexistuje žádné známé řešení; obsahuje bezpečné odpovědi, které přísně odpovídají vzdělávacím údajům. V praxi, když vyzýváte svého oblíbeného chatbotu, zkoumáte několik pásem kolem centra, kde můžete najít nějaké "kreativní" výstupy. Vzhledem k tomu, že design prediktoru tokenů neposkytuje žádný přirozený způsob, jak oddělit správnost od tvořivosti, volba pásem je vyrovnávacím úkonem. Samozřejmě, některé produkty přicházejí s "teplotní" kontrolou, která vám umožní prozkoumat dále; ale je to vhodně pojmenováno, protože když ji rozdrtíte, špatná AI začne trpět deliriem horečky. Pokud můžeme trochu extrapolovat z empirických pozorování a následovat důsledky metriky zmatku, měli bychom dospět k závěru, že skutečně inovativní texty by byly daleko od středu: Einsteinovy nepsané teorie nebo platné důkazy o Riemannově hypotéze jsou v podstatě nepravděpodobné texty. Proč se tedy nedívat dále? Na základě definice zmatku počet potenciálních odpovědí na poptávku exploduje exponenciálně, čím dál jdete. Mezitím počet správných odpovědí zůstává konstantní, s tolika různými způsoby, jak je vyjádřit. Poměr užitečných textů k nesmyslným textům rychle klesá. Jinými slovy, zatímco pravděpodobnost, že alespoň některé texty obsahují nová a průkopnická díla, se zvyšuje, pravděpodobnost, že na ně narazíte, zmizí. Pokud se podíváte na úzké pásmo zmatku, podíváte se na texty, které jsou (více nebo méně) stejně "dobré" modelem - stejně pravděpodobné, že budou generovány, bez ohledu na jejich citlivost - pokud se shodují s popisem. Stručně řečeno, vnější dosah naší modernizované Babylonské knihovny skutečně přibližuje situaci z Borgesovy klasiky. Možná začínáte vidět, jak se to vztahuje k původní intuici: můžete si myslet na text jako na cestu sledovanou generativním procesem - záznam tokenových voleb (ha-ha) provedených v každém kroku. ale počínaje daným předponou (jako je výzva), model nemá vnitřní preferenci pro žádnou konkrétní cestu z nabídky rozmanitosti v příslušném pásmu zmatku. To zdůvodňuje, co to znamená říci, že model nerozumí tomu, o čem mluví: neví ani se nestará, jak se různé cesty, které by mohly přijmout, srovnávají navzájem, pokud jde o pravdu, užitečnost nebo jakýkoli vnější faktor - není to rozumný soudce. Nicméně, tato moderní knihovna v Babelu má své knihovníky: jsou to vášniví uživatelé. Někteří z nich prozkoumají okraje pro skryté klenoty pravdy. Jiní hledají něco jako katalog z Borgesova příběhu: kdyby jen mohli najít ten správný návod, dostali by spolehlivou odpověď na jakoukoli otázku. Stejně jako Borgesovi knihovníci, procházejí nekonečnými chodbami, nosy uvíznutými v nekonečných svazcích, aniž by chytili větší obraz tohoto hledání - jeho skutečné vznikající vlastnosti. Ale nemůžete obrátit stejný argument zpět proti lidem? Proč nehypotetizovat lidskou knihovnu z Babylonu?Jen organizovat všechny potenciální výstupy lidské mysli na základě lidského měřítka zmatku. Nemyslím si to tak. Pro začátek, lidská „zmatenost“ funguje jinak: Pokud čtu průkopnickou práci, může to být zpočátku zmatené a pochybné. Dočasně bych mu mohl přiřadit hodnotu zmatenosti tak vysokou, jako je zmatenost - nebyla by tak nová, kdyby nezačala z neobvyklých předpokladů nebo se vydala na nepravděpodobnou cestu. Ale na konci se práce ospravedlnila. Pochopeno jako celek, mohlo by to být dobře v souladu se známými fakty a platným uvažováním. Na konci bych mu mohl přiřadit hodnotu zmatenosti stejně nízkou jako přijaté teorie. Takové dramatické přehodnocení předchozích tokenů, s jeho náhlou změnou v zmatku, se nestane s normálními LLM založenými na transformátorech: neobvyklý text se může nakonec usadit do relativní předvídatelnosti, vzhledem k dostatečnému kontextu, ale průměr zůstane znečištěn. Významněji, s tokenovými prediktory existuje symetrie mezi generováním a vyhodnocováním textů. Ale to není případ s lidmi: Prostřednictvím hlubokého vhledu může mysl cítit spojení mezi myšlenkami, které se zdají být vzdálené a nesouvisející. Chcete-li ověřit a sdělit takový vhled, musíte mezi myšlenkami explicitně zprostředkovat - vytvořit argument s lineárním postupem, který mohou následovat jiné mysli. Tento proces může být pomalý a náročný, ale řízený počátečním bleskem porozumění, který nemůžete očekávat, že čtenář bude mít. To je významný kontrast. Když LLM vytváří text, následuje cestu, která se před ním rozkládá do neznámého cíle. Kámeny kroku - pořadí generovaných tokenů - nejsou zprostředkovateli, ale průvodci. Je to přesně jako "ztratil" se snaží vybudovat nový text, jak zmatek hodnocení výsledku znamená. tj. většinu cesty přes, je na okraji svého místa, hádejte jako bezmyšlenkový čtenář! Nicméně, obraz jádra s koncentrickými kruhy může být užitečné i pro člověka Nechte jádro být Země: pozemní pravda. Kolem ní jsou pásy intelektuální atmosféry lidstva, postupně se ztenčují, jak se dostává do obrovského a neprozkoumaného prostoru. Některé myšlenky leží přímo na zemi, jako zřejmé závěry, snadno narazit do. Hromada jsou ve vzduchu, nad našimi hlavami, čeká na intuitivní skok. Většina jsou nahoře na obloze, nebo celou cestu v prostoru- neprokázané teorie, bezdůvodné fantazie, naprosté bludy... Ale můžete si také představit horu: začíná od země a jde směrem nahoru. Intelektuální dobrodruh vidí její obrys z dálky a plánuje drsný průběh pro vrchol. Když začíná stoupat, hora představuje mnoho výzev, které nečekal - takové, které lze vyřešit pouze zblízka. Nakonec dosáhne vrcholu a vidí svět z nového bodu výhody. Stává se tam, kde je i vzduch tenký, ale je připojen k zemi prostřednictvím čisté hory. Odtud může přinést nové poznatky zpět na zem, spolu s příběhem o tom, jak se k nim dostal: příběh příliš fantastický na začátku, ale nesporně pravdivý na konci.

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Read My Stories

Tento zvuk je produkován v původním jazyce příběhu!

Jak umělá inteligence odráží knihovnu Babel Borge

About Author

KOMENTÁŘE

ZAVĚŠIT ZNAČKY

TENTO ČLÁNEK BYL PŘEDSTAVEN V

Related Stories

Coinshift Launches csUSDL, Announces Strategic Partnerships

Coinshift Launches csUSDL, Announces Strategic Partnerships

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps