Ku tlakuka ka vutlhari byo endliwa ku tumbuluxe xilaveko lexi nga si tshamaka xi va kona xa matimba ya khomphyuta ya GPU, kambe mfikelelo wu tshama wu kongomisiwile exikarhi ka vaphakeri va nga ri vangani lavakulu va mapapa. IO.NET, ku sungula loku kongomisaka eka switirhisiwa swa GPU leswi hangalasiweke, swi kongomisa ku cinca ku cinca loku hi ku tumbuluxa leswi varhangeri va swona va swi vitanaka "Airbnb ya ti-GPU." Eka mbhurisano lowu wo hlawuleka, Gaurav, CTO wa IO.NET na khale ka murhangeri wa xithekiniki wa Binance, u burisana hi ndlela leyi khamphani yi akaka ha yona pulatifomo leyi nga endlaka leswaku ku va na xidemokirasi eka mfikelelo eka switirhisiwa swa khomphyuta ya AI loko yi ri karhi yi hunguta ku durha hi ku fika eka 75% loko ku pimanisiwa na vaphakeri va ndhavuko.
Ishan : Mi amukeriwile eka nongonoko wa hina wa 'Behind the Startup'. Hi kombela u hi byela hi wena, riendzo ra wena, na leswaku i yini lexi ku hlohloteleke ku joyina IO.NET ?
Gaurav : Riendzo ra mina ri ve leri kongomeke swinene, ku sungula tanihi munjhiniyara wa software ePune. Ndzi tirhile eka ti startups to hlaya kwalaho ndzi nga si rhurhela eBangalore, laha ndzi joyineke HP R&D naswona ndzi pfunetile ku aka sisiteme ya vona ya tifayela ta network ku suka eka xiyimo xa le hansi. Eka Amazon, ndzi tirhile eka phayiphi ya vona yo kandziyisa ya ti-app ta Android, tibuku ta elektroniki, na tibuku ta Audible. Kutani ndzi rhurhele eka eBay, ndzi landzeriwa hi khampani leyikulu ya OTA eThailand leyi a yi ri murhangeri wa makete eVietnam, Singapore na Malaysia eka ku bukuta tihotela na swihahampfhuka.
Ndzi hete kwalomu ka 5-6 wa malembe eka ntlawa wa vona wa vurhangeri ndzi nga si joyina Binance, laha ndzi rhangeleke ku tumbuluxiwa ka pulatifomo leyi nga ringanisiwaka ya ku landzelela KYC na ku kumiwa ka vuxisi eka vatirhisi vo tlula hafu ya biliyoni. Eka ntirho wa mina hinkwawo, ndzi tirhile na AI hi swivumbeko swo hambana naswona ndzi vone hi mahlo ndlela leyi vanhu va lwisanaka ha yona hi ku fikelela switirhisiwa swa khomphyuta leswi va swi lavaka.
Ishan : Hi byele hi xiave xa wena eka IO.NET na leswaku i vumundzuku byihi lebyi u byi vonaka eka decentralized computing loko yi pimanisiwa na centralized architecture?
Gaurav : Tanihi CTO, ntirho wa mina lowukulu i ku tumbuluxa pulatifomo leyi nga ringanisiwaka leyi endlaka leswaku swi olova eka vaphakeri ku nghenisa na vatirhisi ku tirhisa switirhisiwa leswi. Hi sungule hi ti-GPU, kambe xivono xa hina xi anama ku tlula sweswo.
Vuyelo bya nkoka bya endlelo ra hina ra ku hangalasiwa i ku ringaniseriwa. Tisenthara ta datha ta ndhavuko ti langutana na mintlhontlho leyikulu loko ti ndlandlamuxa eka swifundzha leswintshwa - ti lava ku hirha ndhawu, ku thola swipano, ku oda switirhisiwa, na ku khoma vuhlayiseki. Leswi swi tumbuluxa tihakelo ta le henhla ta le mahlweni leti eku heteleleni ti hundziseriwaka eka vatirhisi. Modele wa hina lowu hangalasiweke wu hi pfumelela ku ringanisa hi ndlela leyinene swinene hi ku tirhisa switirhisiwa leswi nga kona.
Ishan : Xana modele wa wena wa bindzu wu tirha njhani loko wu pimanisiwa na vaxavisi lava nga exikarhi ku fana na Azure, lava hakelaka mali yo tala eka AI model hosting?
Gaurav : Hi landzelela modele lowu fanaka na Uber - loko un’wana na un’wana a nga tumbuluxa software yo fana, ku vuyeriwa ka hina ku le ka vuhlanganisi bya hina bya le tlhelo ra mphakelo. Xipano xa hina xi akile vuxaka lebyi dzikeke na vaphakeri va switirhisiwa emisaveni hinkwayo, leswi hi pfunaka ku kuma ti-GPU hi minxavo yo phikizana. Minxavo ya hina hi ntolovelo yi le hansi hi 75% ku tlula Amazon na Google.
Hi nyika havumbirhi bya tihakelo ta awara na ku tinyiketela ka nkarhi wo leha ka 6-9 wa tinhweti. Hi tlhela hi nyika vukorhokeri lebyi lawuriwaka eka masungulo lama lavaka ku kongomisa eka bindzu ra wona ra nkoka ku tlula ku lawula switirhisiwa.
Ishan : Xana traction yi ve njhani ku fikela sweswi?
Gaurav : Nhlamulo yi ve ya matimba. Sweswinyana hi hetisisile oda ya 1,500 wa ti 4090 naswona hi le kusuhi no sayina mintwanano na tikhamphani timbirhi ta Web2 ta le Asia leti yin’wana na yin’wana yi nga na vatirhisi vo tlula 200 wa timiliyoni. Loko eku sunguleni hi kongomise eka tikhamphani ta crypto hikwalaho ka netiweke ya hina, hi vona ku tsakela loku andzaka ku suka eka tikhamphani ta thekinoloji ta ndhavuko leti lavaka ku hlayisa swiendleko.
Ishan : Xana u nga hlamusela leswaku decentralized training architecture yi nga tirha njhani? Hi ku hangalasiwa ka vulawuri, kumbe ku ringaniseriwa kumbe vuhlayiseki swi nga khumbeka, xana hi pfumelelanisa njhani leswi.
Gaurav : Swi ya hi ndlela leyi u hlamuselaka scalability ha yona. Ndzi ta kombisa hi xikombiso ku suka eka bindzu ra data center. Loko u ri muphakeri wa senthara ya data eAmerika N’walungu naswona ndzi lava 1,000 wa ti-H100 eSingapore, endlelo ra ndhavuko ri na ntlhontlho lowukulu swinene. U ta lava ku hirha ndhawu, u thola ntlawa, u oda ti-GPU, u khoma ku rhumeriwa, ku lunghisa ni ku lulamisa. Leswi swi tumbuluxa ku durha lokukulu ka le mahlweni na nkarhi wo nonoka ku ya emakete, leswi eku heteleleni swi hundziseriwaka eka vatirhisi.
Eka modele wa hina lowu hangalasiweke, hikuva nhundzu yi hangalasiwa, a hi langutani na mintlhontlho leyi. Ku engetela vuswikoti swi olova ku fana na ku hlanganisa vaphakeri lavantshwa eka pulatifomo ya hina. Swifana na ndlela leyi ku kumeka ka tihotela swi tirhaka ha yona - ntsena hikuva ti chain letikulu ti bukuteriwile hiku hetiseka aswi vuli leswaku akuri na makamara e dorobeni. Kahle kahle ku na vuswikoti lebyikulu bya GPU lebyi kumekaka, kambe a nga kona loyi a akeke "Airbnb for GPUs" ku hlengeleta nhundzu leyi hi ndlela leyinene.
Ishan : Ku twisisa kahle - loko ku ri na xichudeni kumbe gamer eBangalore na khamphani eUS leyi nga na ti idle GPU, va nga hlanganisa hi ku tirhisa platform ya wena?
Gaurav : Hi swona. Munhu wo huma eThailand kumbe India loyi a lavaka ku letela modele yo karhi - hambi ku ri LSTM kumbe muxaka wun’wana na wun’wana - a nga tirhisa ti-GPU leti. Hikuva i modele leyi simekiweke eka ku hirha, yi na ikhonomi ku tlula vaphakeri va ndhavuko.
Ishan : Xana u ehleketa yini hi mphikizano exikarhi ka ti frontier models sweswi - ku suka eka Llama ku ya eka OpenAI ku ya eka Anthropic?
Gaurav : I ku ringanyeta ngopfu eka nkarhi lowu. Hi tekile ku tlula lokukulu eka vuswikoti bya AI eka malembe mambirhi lama hundzeke. Hambi leswi swi nga se va erivaleni leswaku hi yihi khamphani leyi nga ta hetelela yi rhangela ndhawu leyi - yi nga ha va hambi ku ri mutlangi wa Web3 - lexi tiyisekaka hileswaku hi ta vona vutumbuluxi lebyikulu eka malembe manharhu lama taka.
Ishan : Xana modele wa vulawuri bya IO.NET wu hleriwile njhani sweswi?
Gaurav : Sweswi hi le ka semi-decentralized. Hi yingisela vaaki va hina hi xihatla hi ku tirhisa ti-AMA ta vhiki na vhiki na ku tirhisa mbuyelo wa vona. Xipano xa hina xa le ndzeni xi kambisisa mathikithi hinkwawo ya vatirhisi na swikombelo vhiki na vhiki ku kongomisa swilo swa hina swa nkoka swa nhluvukiso. Ku nghenelela ka hina ka vaaki ngopfungopfu ku humelela hi ku tirhisa X (khale ka Twitter), Discord, na ti-AMA ta hina, na valandzeri vo tlula hafu ya miliyoni eka tipulatifomo hinkwato.
Ishan : Hi yihi mintlhontlho ya xithekiniki leyi u langutaneke na yona loko u ri karhi u hluvukisa pulatifomo leyi, hi ku nyikiwa leswaku i mhaka ya novhele leyi nga riki na ti-architecture ta AI leti nga kona leti hangalasiweke?
Gaurav : Ku ringanisa ka hina hi xihatla ku humese minkarhi na mintlhontlho. Loko ndzi joyina, pulatifomo leyi a yi endleriwe ti-GPU ta 100 000, kambe hi ku hatlisa a hi fanele hi khoma timiliyoni. Leswi a swi lava ku cinca lokukulu ka vumaki ku lawula vuhlayiseki, ku tshamiseka ni ku ringaniseriwa. Musunguri u xiye xilaveko xa vurhangeri lebyi nga na ntokoto eku akeni ka tipulatifomo leti nga ringanisiwaka, leswi nga endla leswaku ndzi thola na ku ndzi pfumelela ku aka ntlawa wa tiphurofexinali leti nga na ntokoto ku suka eka tikhamphani to fana na Amazon, VMware, na valavisisi va le henhla va AI.
Xilotlelo a ku ri ku va ni vanhu lava khale a va aka tisisiteme leti fanaka leti nga ringaniseriwaka. Hi hlengeletile ntlawa ku katsa na ti-PhD eka dyondzo ya michini na khale ka masocha ku suka eka tikhamphani letikulu ta thekinoloji, hinkwavo va kongomisiwile eka ku tlhantlha mintlhontlho leyi yo tika ya xithekiniki loko hi ri karhi hi hlayisa ntumbuluko lowu hangalasiweke wa pulatifomo.
Ishan : Hi byele swo tala hi ndhavuko wa xipano, ndlela leyi riendzo ri sunguleke ha yona, leswaku miehleketo yo sungula a ku ri yini, ti-pivot tihi na tihi u nga si fika eka modele leyi, na leswaku i vumundzuku byihi lebyi u byi vonaka eka IO.NET eka malembe ya 1-2 lama taka.
Gaurav : Ndzi joyinile kwalomu ka tinhweti ta nkombo leti hundzeke, kwalomu ka tinhweti tinharhu ku ya eka mune endzhaku ka loko khamphani yi simekiwile. Ku sukela hi siku ro sungula, xivono a ku ri ku tumbuluxa xihlanganisi xa tipulatifomo ta DeFi na AI ku endlela leswaku vaaki va kota ku tumbuluxa timodeli. Loko ndzi joyina, mina na vasunguri hi ringanile eka maqhinga ya nkoka - a hi fanele ku nyika nchumu lowu a wu ta tika swinene eka vaphikizani ku fambisana na wona. Hi hlawurile ku kuma swihlovo swa GPU hi minxavo yo phikizana tanihi xihlawulekisi xexo xa nkoka.
Hambileswi tipulatifomo tin’wana ta crypto ti nga ha nyikaka minxavo leyi fanaka, ti lwisana ni xikalo. Loko u va kombela 1,500 wa ti-GPU, hakanyingi a va swi koti ku tisa hikuva modele wa vona wa bindzu a wu hangalasiwi hakunene. Hambi loko va tumbuluxa tikontiraka to tlhariha, loko va ri na tisenthara ta vona ta data, ku ringanisa swi hundzuka ntlhontlho lowukulu swinene. I xiphiqo lexi fanaka lexi Azure yi langutaneke na xona - a wu nge vuli leswaku u hangalasiwa ntsena hi ku engetela tikontiraka to tlhariha ehenhla ka switirhisiwa leswi nga exikarhi.
Ishan : Nhluvukiso wa software wu tshama wu ri na ntlhontlho. Loko u hluvukisa pulatifomo leyi, leyi hakunene yi nga novhele tanihileswi ku nga riki na ti-architecture ta AI leti hangalasiweke ta ku rhurhela GPU sweswi, hi swihi swiphiqo swa xithekiniki leswi u hlanganeke na swona?
Gaurav : Hi langutane na ntlhontlho wo tsakisa wa ku ringanisa hi ku hatlisa swinene ku tlula leswi a swi languteriwile - xiphiqo lexinene hi ku ya hi langutelo ra bindzu kambe lexi nga na vukanganyisi hi ku ya hi langutelo ra vunjhiniyara. Anakanya u aka pulatifomo ya ti-GPU ta 100 000 naswona hi xitshuketa u lava ku khoma hafu ya miliyoni kumbe ku tlula. Hi nkarhi wa airdrops, hi langutane na ku nghena lokukulu ka vatirhisi na nhlaselo lowu nga vaka kona wa Sybil loko hi ri karhi hi scaling hi ku hatlisa.
Ku tumbuluxa pulatifomo leyi sirhelelekeke, leyi tiyeke leyi nga khomaka 50-100 wa switluletavuvabyi hi nkarhi wun’we, ku nga ri na swiphiqo, loko ku ri karhi ku pfumelela ku engeteriwa ka mphakelo hi xihatla wa 1,000 wa ti-GPU hi minete - leswi a ku ri mintlhontlho leyikulu. Musunguri u swi xiyile leswaku hambi leswi a nga aka khamphani ku ya eka xiyimo xo karhi, ku yi yisa emahlweni swi lava vanhu lava nga na ntokoto wo aka tipulatifomo leti nga ringanisiwaka na mabindzu.
Hi swona leswi ndzi swi xiximaka hi yena - u amukerile xilaveko lexi naswona u ndzi nyikile matimba yo aka xipano lexi faneleke. Hi tisile titalenta ku suka eka Amazon, VMware, na tikhamphani tin’wana to hambana ta le henhla. Hi na ti PhD eka dyondzo ya muchini, vativi va swikumiwa ku suka eka tikhamphani letikulu ta thekinoloji - u nga tiyisisa swivumbeko leswi eka webusayiti ya hina.
Vasunguri va seketele endlelo leri, va twisisa leswaku ku hundzula xitirhisiwa lexi xi va bindzu ra xiviri swi lava vanhu lava tshameke va swi endla. Nseketelo wa vona eka ku cinca loku wu vile wa nkoka swinene eka ku humelela ka hina.
U nga rivali ku like no share xitori!
Vested Interest Disclosure: Mutsari loyi i muhoxa xandla loyi a tiyimeleke loyi a kandziyisaka hi ku tirhisa ya hina