AI ösüşi haýalmy? Giňeldilen jedel OpenAI islemeýär

OpenAI maglumatlary ulaltmak we diňe hasaplamak bilen AI-iň ulalmagynyň azalýan girdejilerine dogruçyl däl diýip pikir edýärin. Meniň pikirimçe, bu tema barada has aç-açan gürleşmezlik bilen ykdysadyýetiň, dünýäniň we bu pudagyň köpüsini howp astynda goýýarlar.

Ilki bilen, olaryň bize aýdan zatlaryna ynanýardym, etmeli zadyňyz has köp hasaplaýyş güýji we has köp maglumat goşmak, LLM-ler we beýleki modeller has gowulaşar. Modelleriň, olaryň hasaplamalarynyň we maglumatlarynyň arasyndaky bu gatnaşyk wagtyň ahyryna çenli çyzykly ösüp biler. GPT-3 we GPT-3.5-den böküş gaty uludy. GPT-3.5-den GPT-4-e bökmek, bu çaklamanyň dogrudygyny aýdyň görkezýän ýalydy. Emma soň zatlar geň galdy.

GPT-5 ýa-da GPT-4.5 atly modeli çykarmagyň ýerine GPT-4-turbo çykardylar. GPT-4-turbo GPT-4 ýaly akylly däl, ýöne has çalt we arzan. Bularyň hemmesi manyly. Emma soň bu tendensiýa dowam etdi.

GPT-4-turbo-dan soň, OpenAI-iň indiki goýberilişi GPT-4o (rawertudana) boldy. GPt-4o, GPT-4-turbo ýaly has akylly, ýöne has çalt we hatda arzan. Bizi hakykatdanam satan funksiýa, ses we tizlik arkaly gürleşmek we düşünmek ukybydy. Şeýle-de bolsa, üns beriň, hekaýamyzyň şu pursatynda GPT-4-turbo GPT-4-den, GPT-4o bolsa GPT-4-turbo-dan has akylly däl. Olaryň hiç biri-de GPT-4-den has akylly däl.

Indiki we iň soňky goýberilişi GPT-o1 boldy. GPT-o1 käbir meselelerde GPT-4-den has gowy ýerine ýetirip biler. That'söne munuň sebäbi o1 hakykatdanam ýekeje model däl. GPT-o1 aslynda bilelikde işleýän köp ýeňil LLM modelleriniň gara gutusy. Belki, o1 hakyky modelden has programma üpjünçiligi ýa-da orta programma üpjünçiligi hökmünde has gowy suratlandyrylýar. Siz oňa sorag berýärsiňiz, jogap tapýar, soň bolsa jogabyň dogrudygyna göz ýetirmek üçin tabşyrylan beýleki modelleri yzygiderli ulanýar we bu amallaryň hemmesini gizleýär. Bularyň hemmesini gaty çalt ýerine ýetirýär.

Näme üçin diňe GPT-4-den has güýçli LLM ýasamaly däl? Näme üçin täze çykmagy gazanmak üçin beýle eşik we hanjar usullaryna ýüz tutmaly? GPT-4 2 ýyl ozal çykdy, häzirlikçe onuň mümkinçiliklerinden has ýokary bolmaly. Dogrusy, OpenAI-iň gözlegçisi Noam Braun, TED AI-de o1 bilen bu ugra näme üçin gidendikleri barada bir zat aýtdy. "Botuň elinde bary-ýogy 20 sekuntlap pikirlenmek, modeli 100,000x ulaltmak we 100,000 esse uzak türgenleşdirmek ýaly güýçlendiriji netijä eýe boldy" -diýdi.

Indi dur we ol ýerde aýdylýan zatlar hakda hakykatdanam pikirlen. 20 sekuntlap pikirlenýän bot, 100,000 esse köp hasaplaýyş güýji bilen 100,000 esse uzyn tälim alan bot ýaly gowy. Ulaltmak kanunlary çäksiz bolsa, bu matematika mümkin däl. Bu ýerde bir zat ýalňyş ýa-da kimdir biri ýalan sözleýär.

Näme üçin bu zatlaryň hemmesi möhüm? “OpenAI” -iň bahasy 150 milliard dollar we şol bazar kapitalynyň köpüsi wagtyň geçmegi bilen modelleriň gowulaşmagyna bagly çaklamalara esaslanýar. AI diňe şu günki ýaly gowy bolsa, bu henizem gyzykly gelejek, ýöne tutuş IP modeli bolan AI kompaniýalary tarapyndan maýadarlara satylýan zat däl. Şeýle hem, LLM-leriniň öz önümlerini gurmak üçin dowamly ösüşine bagly bolan beýleki köp sanly kompaniýanyň önüm ýol kartasyny üýtgedýär. Bularyň hemmesi dogry bolsa, OpenAI-iň maksady we ambisiýalary gaty gijikdirilýär.

Gipoteza

LLM-leriň şeýle ajaýyp bolmagynyň sebäbi, hiç haçan pikir etmedik has ýokary derejeli filosofiki hadysa, diliň hatda tekstiň kiçi bölümlerinde-de dünýä hakda gaty köp mazmuna we maglumatlara eýe bolmagydyr. Suratdaky ýa-da wideodaky piksellerden tapawutlylykda sözlemdäki sözler biri-birini aç-açan suratlandyrýar. Doly bitewi sözlem “rasional” kesgitleme boýunça. Dogrymy ýa-da ýokmy, düýbünden başga bir hekaýa we diňe dilden geçýän mesele. Näçe tekst sarp etseňizem, “hakykat” we “ýalanlar” diňe dil düşünjesi däl. Bir zadyň düýbünden rasionaldygyny aýdyp bilersiňiz, ýöne asla “dogry” däl. Hut şu wagt LLM-ler yzygiderli kerpiç diwara urlar. Soňky 12 aýyň dowamynda, ýapyk gapylaryň aňyrsynda OpenAI, GrokAI ýa-da Google-da LLM-lerde uly böküşleriň bolmandygyny resmi taýdan çaklamak isleýärin. Has takygy, hiç kim, GPT-4-den hatda 1,5X has gowy LLM ýasady öýdemok.

OpenAI-de ýokary derejeli işgärler işden çykýan ýaly. Häzirki wagtda munuň sebäbini aýdýarlar, ýöne men häzir tinfoil şlýapa geýip, şol ýere bir pikir atjak. Bu meseläni bilýärler we giç bolmazdan gämä bökýärler.

Tassyklama

Bu aladany 3 aý öň dostlarym bilen ara alyp maslahatlaşyp başladym. Maňa köp at dakdylar haha.

Emma soňky 3 hepdäniň dowamynda metbugatyň köpüsi balykly bir zadyň ysyny başlady:

• OpenAI indi Oriony (GPT-5) çykarmaýar, sebäbi garaşylýan öndürijilik görkezijilerine laýyk gelmeýär we girdejileriniň azalýandygyny görýär. ( https://www.theinformation.com/articles/openai-shifts-strategy-as-rate-of-gpt-ai-improvements-slows )

  
  

• “Bloomberg”, “OpenAI”, “Google” we “Anthropic” -iň has ösen AI döretmek üçin kynçylyk çekýändigini habar berdi. ( https://www.bloomberg.com/news/articles/2024-11-13/openai-google-and-anthropic-are-struggling-to-build-more-advanced-ai )
  

Bu barada näme edip bileris?

Solutioneke-täk çözgüdi maslahat bermek kyn. O1-iň aňyrsyndaky tehnologiýa, hatda pes öndürijilikli modelleriň hem çylşyrymly amallary ýerine ýetirip boljakdygyny görkezýär. Emma bu AI ulalmak meselesiniň çözgüdi däl. Täze model arhitekturasyna ep-esli maýa goýumlary we çalt synag edilmeli diýip pikir edýärin. Şeýle hem, maglumatlarymyz gutardy we LLM-leriň tälim almagy üçin peýdaly maglumatlary ekstrapolýasiýa etmegiň täze usullary gerek. Mümkin, dogry maglumat üçin salgylanmalara gönüden-göni ýol görkezmäge kömek edýän köp ölçegli bellikleri ulanmak. Anotherene bir gowy pikir, matematika, ylym we saglygy goraýyş ýaly aýratyn ulanylyş ýagdaýlary üçin LLM-leri gowy düzmegi dowam etdirmek we o1-e meňzeş AI agentiniň iş akymlaryny ulanmak bolup biler. Täze arhitektura ýüze çykýança köp kompaniýalara otag çalşyp biler. Bu mesele hakykatdanam erbet, ýöne maşyn öwrenmekde we ylham berjek programma üpjünçiligini döretmekde döredijilik ummasyz bolar diýip pikir edýärin. Bu päsgelçiligi ýeňip geçenimizden soň, elbetde AGI we belki ASI üçin tertipli bolarys.