LLM Data Drift LLM datu vadība Heuristiskā prognoze, šķiet, tiek reglamentēta ar trešo pušu noteikumiem. Bet praksē, ka pārvaldība nav dzimtā modelī – to ārēji nosaka izstrādātāji, izmantojot moderācijas slāņus, pēcapstrādes filtrus vai smalki pielāgojamus noteikumus, kas darbojas kā trešo pušu ierobežojumi citādi neierobežotā prognozēšanas dzinējā. Tas ir labi, bet tas būtiski nepalīdz uzlabot modeļa precizitāti vai radīt kontekstu apzinātos modeļus, kas neeksplodēs parametru skaitā. Lielākā daļa LLM (lielo valodu modeļi - ChatGPT, Claude, Gemini, Grok utt.) nav halucinācijas tradicionālajā nozīmē - viņi drift. un tas drift nav troksnis; tas ir strukturāls trūkums, kas izgatavots no tā, kā autoregresīvi modeļi prognozē žetonus: vienu soli pa laikam, pamatojoties tikai uz tūlītējo pagātni. Eksperiments, ko es vadīju, un jūs varat to izdarīt pats, ir izlases teikums, piemēram, "Predictive AI epsilon, diabēta kaķis, pamata vienkāršais radio uz a, tādējādi vārdnīca" Un, ja jums ir noteikts AI, atkārtojiet izeju un ņemiet to uz alternatīvu LLM, lai iegūtu otro pāreju, un redzēt, cik daudz tas atbilst oriģinālam. Teorētiski LLM vajadzētu būt spējīgam perfekti kopēt teikumu. Praksē jūs saņemsiet drift - punkciju kustības, vārdu maiņas un kapitalizācijas svārstības.Un, tiklīdz šīs mazās kļūdas nonāk iznākumā, nākamais modelis prognozē no kļūdainas versijas, pastiprinot kļūdu un pastiprinot halucināciju. Ieviešot svērtu slāni, pārbaudot novirzi pret sākotnējo ievadi, būtu iespējams kontekstveidīgi prognozēt nākamo elementu/tokenu. Būtībā, jo LLM prognozes ir bloķētas neatkarīgi no tā, kādi žetoni nāca agrāk, tas var it kā ir kāda veida aizsarglīdzeklis, bet patiešām modelis darbojas bez patiesa konteksta - vairāk kā orakls, kurš uzmin nākamo notikumu, nezinot tagadni vai pagātni. tas varētu bloķēt nākamo acīmredzamo kļūdu, bet drifts joprojām krīt. Skatīt Ārējā moderācija, RLHF (apmācība no cilvēka atgriezeniskās saites) un drošības smalks pielāgojums samazina kaitīgo vai ārpus tēmas driftu - un tas ir vērtīgi. Tie nesniedz sākuma punkta modeļa atmiņu - sākotnējo lietotāja ievadi - katrā žetona posmā. uzticamības pārbaudes pārvietošana uz modeli, kā dzimtā ierobežojums paaudzes laikā, padarītu LLM kontekstu apzinātu pēc dizaina, ne tikai atbilstīgi pēcapstrādei. Šī uzvedība parāda diezgan dramatisku nepieciešamību: ārējais audits – ne tikai uzmanība pēdējam žetonam, bet arī aktīva salīdzināšana ar sākotnējo ievadi no modeļa.Tā ir vieta, kur ienāk uzticamības ierobežojoša izsmalcināšana.Tā vietā, lai ļautu iznākumiem izkļūt, mēs uzliekam korekcijas slieksni: salīdziniet katru jaunu projektu ne tikai ar iepriekšējo, bet atpakaļ uz sākotnējo avotu. Sākotnējie testi liecina, ka šāds slānis to ierobežo atpakaļ sākotnējā ievades kontekstā. Zeno’s Paradox & Tokens Zeno apgalvoja, ka kustība kļūst neiespējama, ja jūs to sadalāt bezgalīgā mazāku cēloņsakarību posmu sērijā - katrs solis atsaucoties tikai uz to, kas tieši pirms tā. Autoregresīvie valodas modeļi nonāk līdzīgā slazdā: katrs žetons tiek ģenerēts kā "nākamais mazs solis", kas ir atkarīgs tikai no tieši iepriekšējā teksta fragmenta.Tas tiek atrisināts attēla apstrādē, mainot tensoru, saglabājot, piemēram, 10 no attēliem vai visu attēlu vai rāmju kopumu, lai izvairītos no mirgojošās problēmas, kas agrākajos gados skāra attēla apstrādi. Viņš modelis nekad neatgriežas sākuma punktā, nekad neatklāj sevi sākotnējā ievadā, un tāpēc nekad neatjauno savu trajektoriju. Tāpat kā Zeno skrējējs, kurš virzās uz priekšu pa pusēm un nekad nesasniedz gala līniju, modelis virzās token pēc tokena, nekad neatjaunojot, kur sākums patiešām bija. Tas būtu kā skrējējs, kas brauca maratonu, nezinot maratona pilnu maršrutu vai karti. Šī strukturālā tuvredzība ir tas, kas ļauj uzkrāties, jo katra jauna prognoze ir pakļauta nedaudz mainītam stāvoklim, nevis patiesajai izcelsmei. Tas padara LLM driftu ne tikai par valodas problēmu, bet arī par cēloņsakarību: modeļa nākotne ir atkarīga no izkropļotas tagadnes, ko veidoja nepilnīga pagātne. Kad ķēde sāk slīdēt, katrs nākamais solis apvieno kļūdu – tieši kaskādes modeli, ko redzat, kad jūs nododat tekstu no vienas LLM uz otru. Bez mehānisma, lai periodiski sabruktu aptuvenu ķēdi atpakaļ uz sākotnējo atsauces punktu, sistēma darbojas kā cēloņsakarības process bez absolūtā rāmja. Lojalitātes ierobežota izsmalcināšana būtībā ir risinājums šim paradoksam: nepārtraukti izmērot katru jaunu hipotēzi pret sākotnējo ievadi, jūs atkārtoti iev Image Processing Lai gan šī drifta iezīme ir autoregresīvu teksta modeļu pamatīpašība, attēla uzlabošanas sistēmās jūs neredzat tādu pašu aizbēgušo uzvedību, un iemesls ir strukturāls. Denoisers, upscalers, un atbloķētāji darbojas pilnā telpiskā kontekstā, radot svaigu, pašpietiekamu pārstāvību katrā caurlaide.Nav ekvivalentu “next-token prognoze”, nav atkarības no trauslas ķēdes iepriekšējo izeju, un tāpēc nav kompozīcija mazas kļūdas lielākos.Lai sasniegtu salīdzināmu uzticamību, valodu modeļiem ir nepieciešams mehānisms, kas funkcionāli atjauno pilna konteksta pamatu: izsmalcināšanas solis, kas nepārtraukti salīdzina katru jaunu hipotēzi atpakaļ uz sākotnējo ievadi, nevis paļaujas uz iepriekšējo token stromu kā savu vienīgo avotu patiesības. LLM drifta sakne nav halucinācija vai nejaušība – tā ir strukturāla sekas, kas saistītas ar valodas ģenerācijas apstrādi kā mikroskopisku cēloņsakarību posmu ķēdi. Tāpat kā Zeno paradokss, kur kustība kļūst nekonsekventa, kad tiek samazināta līdz bezgalīgi mazākiem palielinājumiem, autoregresīvie modeļi veic zīmi pēc zīmes, nekad neatgriežoties sākotnējā atsauces punktā. Katrs solis ir atkarīgs no nedaudz izkropļota iznākuma no iepriekšējā, un bez globāla rāmja sistēma neizbēgami atkāpjas no avota. Lai sasniegtu līdzīgu stabilitāti valodas modeļos, iespējams, ir nepieciešams atjaunot līdzvērtīgu globālu atsauci. Gap-Driven Self-Refinement vai izklāstītais Fidelity-restricted refinement dara tieši to: tas nepārtraukti mēra katru jaunu hipotēzi pret sākotnējo ievadi un izmanto iepriekšējos projektus kā svarus, novēršot nelielas kļūdas no kompozīcijas. Ar šādu mehānismu LLM var uzturēt saskaņotību starp iterācijām un izvairīties no kaskādēm, kas raksturīgas tīri vietējai, pakāpeniskai prognozei. Further Reading 
 
 
 GIER: Gap-Driven Self-Refinement lieliem valodu modeļiem Multi-fidelity fizika ierobežo neironu tīklus dinamiskām sistēmām

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

This story contains AI-generated text. The author has used AI either for research, to generate outlines, or write the text itself. 

Read My Stories

Šis audio ir izveidots stāsta oriģinālvalodā!

Zeno paradokss un AI tokenizācijas problēma

About Author

KOMENTĀRI

PAKARINĀT TAGUS

ŠIS RAKSTS TIKS PĀRSTRĀDĀTS

Related Stories

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps