Democratizarea inteligenței artificiale: cum CTO al IO.NET construiește „Airbnb-urilor GPU””

Boom-ul inteligenței artificiale a creat o cerere fără precedent pentru putere de calcul GPU, dar accesul rămâne concentrat printre câțiva furnizori importanți de cloud. IO.NET, un startup care se concentrează pe infrastructura GPU descentralizată, își propune să schimbe această dinamică prin crearea a ceea ce liderii săi numesc „Airbnb al GPU-urilor”. În acest interviu exclusiv, Gaurav, CTO al IO.NET și fost lider tehnic Binance, discută despre modul în care compania construiește o platformă care ar putea democratiza accesul la resursele de calcul AI, reducând în același timp costurile cu până la 75% în comparație cu furnizorii tradiționali.

Ishan : Bine ați venit la seria noastră „În spatele pornirii”. Vă rugăm să ne spuneți despre dvs., călătoria dvs. și ce v-a inspirat să vă alăturați IO.NET ?

Gaurav : Călătoria mea a fost destul de simplă, începând ca inginer software în Pune. Am lucrat la mai multe startup-uri acolo înainte de a mă muta în Bangalore, unde m-am alăturat HP R&D și am ajutat la construirea sistemului de fișiere de rețea de la zero. La Amazon, am lucrat la canalul lor de publicare pentru aplicații Android, cărți electronice și cărți Audible. M-am mutat apoi la eBay, urmat de o companie importantă OTA din Thailanda, care era lider de piață în Vietnam, Singapore și Malaezia pentru rezervări de hoteluri și zboruri.

Am petrecut aproximativ 5-6 ani în echipa lor de conducere înainte de a mă alătura Binance, unde am condus crearea unei platforme scalabile pentru conformitatea KYC și detectarea fraudelor pentru peste jumătate de miliard de utilizatori. De-a lungul carierei mele, am lucrat cu AI sub diferite forme și am fost martor direct la felul în care oamenii se luptă să acceseze resursele de calcul de care au nevoie.

Ishan : Spune-ne despre rolul tău la IO.NET și ce viitor vezi pentru calculul descentralizat în comparație cu arhitectura centralizată?

Gaurav : În calitate de CTO, rolul meu principal este de a crea o platformă scalabilă care să faciliteze conectarea furnizorilor și consumatorilor să utilizeze aceste resurse. Am început cu GPU-uri, dar viziunea noastră se extinde dincolo de asta.

Avantajul cheie al abordării noastre descentralizate este scalabilitatea. Centrele de date tradiționale se confruntă cu provocări semnificative atunci când se extind în noi regiuni - trebuie să închirieze spațiu, să angajeze echipe, să comande echipamente și să se ocupe de întreținere. Acest lucru creează costuri inițiale ridicate care în cele din urmă sunt transferate utilizatorilor. Modelul nostru descentralizat ne permite să creștem mult mai eficient prin valorificarea infrastructurii existente.

Ishan : Cum funcționează modelul tău de afaceri în comparație cu furnizorii centralizați precum Azure, care percep sume semnificative pentru găzduirea modelului AI?

Gaurav : Urmăm un model similar cu Uber - în timp ce oricine poate crea software similar, avantajul nostru constă în conexiunile noastre din partea ofertei. Echipa noastră a construit relații profunde cu furnizorii de infrastructură din întreaga lume, permițându-ne să obținem GPU-uri la prețuri competitive. Prețurile noastre sunt de obicei cu 75% mai mici decât Amazon și Google.

Oferim atât tarife orare, cât și angajamente pe termen lung de 6-9 luni. Oferim, de asemenea, servicii gestionate pentru startup-urile care doresc să se concentreze pe activitatea lor de bază, mai degrabă decât pe gestionarea infrastructurii.

Ishan : Cum a fost tracțiunea până acum?

Gaurav : Răspunsul a fost puternic. Am onorat recent o comandă pentru 1.500 de 4090 și suntem aproape de a semna contracte cu două companii asiatice Web2, fiecare având peste 200 de milioane de utilizatori. Deși inițial ne-am concentrat pe companiile cripto datorită rețelei noastre, observăm un interes din ce în ce mai mare din partea companiilor tradiționale de tehnologie care caută să economisească costuri.

Ishan : Puteți explica cum ar funcționa o arhitectură de instruire descentralizată? Odată cu descentralizarea, scalabilitatea sau securitatea ar putea fi afectate, cum reconciliem acest lucru.

Gaurav : Depinde de modul în care definiți scalabilitatea. Permiteți-mi să ilustrez cu un exemplu din afacerea centrului de date. Dacă sunteți un furnizor de centre de date în America de Nord și am nevoie de 1.000 de H100 în Singapore, procesul tradițional este extrem de dificil. Ar trebui să închiriezi spațiu, să angajezi o echipă, să comanzi GPU-uri, să te ocupi de transport, întreținere și configurare. Acest lucru creează costuri inițiale semnificative și timp de lansare pe piață lent, care în cele din urmă este transferat utilizatorilor.

În modelul nostru descentralizat, deoarece inventarul este distribuit, nu ne confruntăm cu aceste provocări. Adăugarea capacității este la fel de simplă ca și conectarea de noi furnizori la platforma noastră. Este similar cu modul în care funcționează disponibilitatea hotelului - doar pentru că lanțurile majore sunt complet rezervate nu înseamnă că nu există camere într-un oraș. De fapt, există o capacitate GPU substanțială disponibilă, dar nimeni nu a construit un „Airbnb pentru GPU” pentru a agrega acest inventar în mod eficient.

Ishan : Pentru a înțelege corect - dacă există un student sau un jucător în Bangalore și o companie din SUA cu GPU-uri inactive, s-ar putea conecta prin platforma ta?

Gaurav : Exact. Cineva din Thailanda sau India care vrea să antreneze un anumit model - fie că este un LSTM sau orice alt tip - poate folosi aceste GPU. Deoarece este un model bazat pe închiriere, este mai economic decât furnizorii tradiționali.

Ishan : Ce părere ai despre cursa dintre modelele de frontieră în acest moment - de la Llama la OpenAI la Anthropic?

Gaurav : Sunt în mare parte speculații în acest moment. Am făcut un salt înainte semnificativ în ceea ce privește capabilitățile AI în ultimii doi ani. Deși nu este clar care companie va conduce în cele din urmă spațiul - ar putea fi chiar un jucător Web3 - ceea ce este sigur este că vom vedea inovații extraordinare în următorii trei ani.

Ishan : Cum este structurat modelul de guvernanță al IO.NET în acest moment?

Gaurav : În prezent suntem semi-descentralizați. Ascultăm în mod activ comunitatea noastră prin intermediul AMA săptămânale și implementăm feedback-ul acestora. Echipa noastră internă examinează săptămânal toate biletele și solicitările utilizatorilor pentru a ne ghida prioritățile de dezvoltare. Implicarea comunității noastre are loc în principal prin X (fostul Twitter), Discord și AMA-urile noastre, cu peste jumătate de milion de urmăritori pe platforme.

Ishan : Cu ce provocări tehnice v-ați confruntat în timpul dezvoltării acestei platforme, având în vedere că este un concept nou, fără arhitecturi AI descentralizate existente?

Gaurav : Creșterea noastră rapidă a prezentat atât oportunități, cât și provocări. Când m-am alăturat, platforma a fost concepută pentru 100.000 de GPU-uri, dar a trebuit rapid să gestionăm milioane. Acest lucru a necesitat schimbări arhitecturale semnificative pentru a gestiona securitatea, stabilitatea și scalabilitatea. Fondatorul a recunoscut necesitatea unui leadership cu experiență în construirea de platforme scalabile, ceea ce a condus la angajarea mea și mi-a permis să construiesc o echipă de profesioniști cu experiență din companii precum Amazon, VMware și cercetători de top în domeniul inteligenței artificiale.

Cheia a fost să ai oameni care au construit anterior sisteme scalabile similare. Am adunat o echipă care include doctori în învățare automată și veterani de la marile companii tehnologice, toate concentrate pe rezolvarea acestor provocări tehnice complexe, menținând în același timp natura descentralizată a platformei.

Ishan : Spune-ne mai multe despre trecutul echipei, cum a început călătoria, care a fost prima idee, orice pivot înainte de a ajunge la acest model și ce viitor vezi pentru IO.NET în următorii 1-2 ani.

Gaurav : M-am alăturat acum aproximativ șapte luni, aproximativ trei până la patru luni după înființarea companiei. Din prima zi, viziunea a fost de a crea un hibrid de platforme DeFi și AI pentru a le permite constructorilor să creeze modele. Când m-am alăturat, fondatorii și cu mine ne-am aliniat pe o strategie crucială - trebuia să oferim ceva care ar fi extrem de dificil de egalat pentru concurenți. Am identificat aprovizionarea cu GPU la prețuri competitive drept diferențierea cheie.

În timp ce alte platforme cripto ar putea oferi prețuri similare, se luptă cu scara. Dacă le ceri 1.500 de GPU-uri, adesea nu pot livra, deoarece modelul lor de afaceri nu este cu adevărat descentralizat. Chiar dacă creează contracte inteligente, dacă dețin propriile centre de date, scalarea devine extrem de dificilă. Este aceeași problemă cu care se confruntă Azure - nu puteți pretinde că sunteți descentralizat doar adăugând contracte inteligente pe deasupra infrastructurii centralizate.

Ishan : Dezvoltarea software este întotdeauna o provocare. Când ați dezvoltat această platformă, care este cu adevărat nouă, deoarece nu există arhitecturi AI descentralizate pentru găzduirea GPU în acest moment, ce probleme tehnice ați întâmpinat?

Gaurav : Ne-am confruntat cu o provocare interesantă de a scala mult mai rapid decât era anticipat - o problemă bună din perspectiva afacerii, dar dificilă din punct de vedere ingineresc. Imaginați-vă că construiți o platformă pentru 100.000 de GPU și trebuie brusc să gestionați jumătate de milion sau mai mult. În timpul airdropurilor, ne-am confruntat cu afluxuri masive de utilizatori și potențiale atacuri Sybil, în timp ce am escaladat rapid.

Crearea unei platforme sigure și stabile care ar putea gestiona 50-100 de clustere simultan, fără blocaje, permițând în același timp adăugări rapide de aprovizionare de 1.000 de GPU-uri pe minut - acestea au fost provocări semnificative. Fondatorul a recunoscut că, deși putea construi compania la un anumit nivel, să o ducă mai departe necesită oameni cu experiență în construirea de platforme și afaceri scalabile.

Asta respect la el - a recunoscut această nevoie și mi-a dat autoritatea de a construi echipa potrivită. Am adus talent de la Amazon, VMware și diverse alte companii de top. Avem doctori în învățare automată, experți în produse de la marile companii tehnologice - puteți verifica aceste medii pe site-ul nostru.

Fondatorii au susținut această abordare, înțelegând că transformarea produsului într-o adevărată afacere necesită oameni care au făcut-o înainte. Sprijinul lor în această tranziție a fost crucial pentru succesul nostru.

Nu uita să dai like și să distribui povestea!