A mesterséges intelligencia fellendülése példátlan keresletet teremtett a GPU számítási teljesítménye iránt, de a hozzáférés továbbra is néhány nagyobb felhőszolgáltatónál koncentrálódik. Az IO.NET, egy decentralizált GPU-infrastruktúrára összpontosító startup célja, hogy megváltoztassa ezt a dinamikát azáltal, hogy létrehozza azt, amit vezetői "GPU-k Airbnb-jének" neveznek. Ebben az exkluzív interjúban Gaurav, az IO.NET technológiai igazgatója és a Binance korábbi műszaki vezetője megvitatja, hogyan épít a vállalat egy olyan platformot, amely demokratizálhatja az AI számítási erőforrásokhoz való hozzáférést, miközben a költségeket akár 75%-kal is csökkentheti a hagyományos szolgáltatókhoz képest.    : Üdvözöljük a Behind the Startup sorozatunkban. Kérlek, mesélj magadról, az utazásodról, és arról, hogy mi inspirált   hez való csatlakozásra? Ishan az IO.NET-    : Az utam meglehetősen egyszerű volt, szoftvermérnökként kezdtem Pune-ban. Több startupnál dolgoztam ott, mielőtt Bangalore-ba költöztem, ahol csatlakoztam a HP R&D-hez, és segítettem a nulláról felépíteni a hálózati fájlrendszerüket. Az Amazonnál dolgoztam az Android-alkalmazások, e-könyvek és Audible könyvek kiadói csatornáján. Ezután az eBay-re költöztem, majd egy nagy thaiföldi OTA-céget követtem, amely piacvezető volt Vietnamban, Szingapúrban és Malajziában a szálloda- és repülőjegy-foglalások terén. Gaurav  Körülbelül 5-6 évet töltöttem a vezetői csapatukban, mielőtt csatlakoztam volna a Binance-hez, ahol egy méretezhető platform létrehozását vezettem a KYC-megfelelőség és a csalások felderítésére több mint félmilliárd felhasználó számára. Pályafutásom során különféle formákban dolgoztam a mesterséges intelligencia segítségével, és első kézből tapasztaltam, hogyan küzdenek az emberek a szükséges számítási erőforrásokhoz való hozzáféréssel.    : Meséljen   nél betöltött szerepéről, és milyen jövőt lát a decentralizált számítástechnikában a központosított architektúrához képest? Ishan az IO.NET-    : Technikai igazgatóként a fő szerepem egy méretezhető platform létrehozása, amely megkönnyíti a beszállítók számára a csatlakoztatást és a fogyasztók számára ezen erőforrások használatát. GPU-kkal kezdtük, de elképzelésünk ezen túlmutat. Gaurav  Decentralizált megközelítésünk legfőbb előnye a skálázhatóság. A hagyományos adatközpontoknak jelentős kihívásokkal kell szembenézniük, amikor új régiókra terjeszkednek – helyet kell bérelniük, csapatokat kell bérelniük, berendezéseket rendelniük és karbantartást kell végezniük. Ez magas előzetes költségeket eredményez, amelyek végül a felhasználókra hárulnak. Decentralizált modellünk lehetővé teszi, hogy a meglévő infrastruktúra kihasználásával sokkal hatékonyabban skálázzuk.    : Hogyan működik az Ön üzleti modellje a központosított szállítókhoz, például az Azure-hoz képest, amelyek jelentős összegeket számítanak fel az AI-modell tárolásáért? Ishan    : Az Uberhez hasonló modellt követünk – bár bárki készíthet hasonló szoftvert, előnyünk a kínálati oldali kapcsolatainkban rejlik. Csapatunk mély kapcsolatokat épített ki infrastruktúra-szolgáltatókkal világszerte, lehetővé téve számunkra, hogy versenyképes áron szerezzünk be GPU-kat. Áraink jellemzően 75%-kal alacsonyabbak, mint az Amazon és a Google. Gaurav  Óradíjat és hosszabb távú, 6-9 hónapos vállalást egyaránt kínálunk. Felügyelt szolgáltatásokat is nyújtunk azon induló vállalkozások számára, amelyek az infrastruktúra kezelése helyett az alaptevékenységükre szeretnének összpontosítani.    : Milyen volt a húzás eddig? Ishan    : A válasz erős volt. Nemrég teljesítettünk egy 1500 4090-es rendelést, és közel állunk ahhoz, hogy szerződést írjunk alá két ázsiai Web2-céggel, amelyek mindegyike több mint 200 millió felhasználóval rendelkezik. Míg kezdetben a kriptográfiai cégekre összpontosítottunk a hálózatunk miatt, egyre nagyobb érdeklődést tapasztalunk a hagyományos technológiai cégek részéről, amelyek költségmegtakarításra törekednek. Gaurav    : El tudná magyarázni, hogyan működne egy decentralizált képzési architektúra? A decentralizáció akár a méretezhetőséget, akár a biztonságot érintheti, hogyan tudjuk ezt összeegyeztetni. Ishan    : Attól függ, hogyan határozza meg a méretezhetőséget. Hadd illusztráljam egy példával az adatközponti üzletágból. Ha Ön adatközpont-szolgáltató Észak-Amerikában, és 1000 H100-ra van szükségem Szingapúrban, a hagyományos eljárás rendkívül nagy kihívást jelent. Helyet kell bérelnie, csapatot kell bérelnie, GPU-kat kell rendelnie, kezelnie kell a szállítást, a karbantartást és a beállítást. Ez jelentős előzetes költségeket és lassú piacra kerülési időt eredményez, ami végül a felhasználókra hárul. Gaurav  Decentralizált modellünkben, mivel a készlet elosztott, nem nézünk szembe ezekkel a kihívásokkal. A kapacitás növelése olyan egyszerű, mint új szolgáltatók csatlakoztatása platformunkhoz. Ez hasonló ahhoz, ahogyan a szállodák elérhetősége működik – csak azért, mert a nagyobb láncok tele vannak, még nem jelenti azt, hogy nincsenek szobák a városban. Valójában jelentős GPU-kapacitás áll rendelkezésre, de senki sem épített „Airbnb-t GPU-khoz”, hogy hatékonyan összesítse ezt a készletet.    : Hogy helyesen értsem: ha van egy diák vagy játékos Bangalore-ban és egy amerikai cég tétlen GPU-kkal, akkor csatlakozhatnak az Ön platformján keresztül? Ishan    : Pontosan. Valaki Thaiföldről vagy Indiából, aki egy adott modellt szeretne betanítani – legyen az LSTM vagy bármilyen más típus – használhatja ezeket a GPU-kat. Mivel ez egy bérleti alapú modell, gazdaságosabb, mint a hagyományos szolgáltatók. Gaurav    : Mi a véleményed a mostani határmodellek közötti versenyről – a Llamától az OpenAI-n át az Anthropicig? Ishan    : Ez jelenleg nagyrészt spekuláció. Az elmúlt néhány évben jelentős előrelépést tettünk az AI-képességek terén. Bár nem világos, hogy végül melyik cég vezeti majd a teret – akár egy Web3-lejátszó is lehet –, az azonban biztos, hogy a következő három évben óriási innovációval fogunk találkozni. Gaurav    : Hogyan épül fel jelenleg   irányítási modellje? Ishan az IO.NET    : Jelenleg félig decentralizáltak vagyunk. Aktívan hallgatjuk közösségünket a heti AMA-kon keresztül, és megvalósítjuk visszajelzéseiket. Belső csapatunk hetente felülvizsgálja az összes felhasználói jegyet és kérést, hogy irányítsa fejlesztési prioritásainkat. Közösségi szerepvállalásunk elsősorban az X-en (korábban Twitteren), a Discordon és az AMA-n keresztül történik, több mint félmillió követővel a platformokon. Gaurav    : Milyen technikai kihívásokkal kellett szembenéznie ennek a platformnak a fejlesztése során, mivel ez egy új koncepció, a meglévő decentralizált AI architektúrák nélkül? Ishan    : Gyors skálázásunk lehetőségeket és kihívásokat is jelentett. Amikor csatlakoztam, a platformot 100 000 GPU-ra tervezték, de gyorsan milliókat kellett kezelnünk. Ez jelentős építészeti változtatásokat igényelt a biztonság, a stabilitás és a méretezhetőség érdekében. Az alapító felismerte, hogy tapasztalt vezetésre van szükség a skálázható platformok építésében, aminek köszönhetően felvettem, és lehetővé tette számomra, hogy tapasztalt szakemberekből álló csapatot hozzak létre olyan cégektől, mint az Amazon, a VMware és a legjobb AI-kutatók. Gaurav  A kulcs az volt, hogy olyan emberek legyenek, akik korábban építettek hasonló méretezhető rendszereket. Összeállítottunk egy csapatot, amelyben gépi tanulással foglalkozó PhD-k és nagy technológiai cégek veteránjai vannak, akik mind ezen összetett technikai kihívások megoldására összpontosítottak, miközben megőrizték a platform decentralizált jellegét.    : Mesélj többet a csapat hátteréről, hogyan indult az út, mi volt az első ötlet, milyen fordulatok voltak a modellhez való eljutás előtt, és milyen jövőt lát   számára a következő 1-2 évben. Ishan az IO.NET    : Körülbelül hét hónapja csatlakoztam, nagyjából három-négy hónappal a cég alapítása után. Az első naptól kezdve a vízió az volt, hogy a DeFi és az AI platformok hibridjét hozzuk létre, hogy az építők modelleket készíthessenek. Amikor csatlakoztam, az alapítókkal egy kulcsfontosságú stratégiát követtünk el – olyasmit kellett kínálnunk, amit a versenytársak számára rendkívül nehéz lenne összehozni. A GPU versenyképes áron történő beszerzését azonosítottuk kulcsfontosságú megkülönböztető tényezőként. Gaurav  Míg más kriptoplatformok hasonló árat kínálhatnak, küzdenek a méretekkel. Ha 1500 GPU-t kérsz tőlük, gyakran nem tudnak szállítani, mert üzleti modelljük nem igazán decentralizált. Még ha intelligens szerződéseket is kötnek, ha saját adatközpontjaik vannak, a méretezés rendkívüli kihívást jelent. Ugyanaz a probléma, amellyel az Azure is szembesül – nem állíthatja, hogy decentralizált csak azáltal, hogy intelligens szerződéseket ad hozzá a központosított infrastruktúrához.    : A szoftverfejlesztés mindig kihívást jelent. Milyen technikai problémákkal találkozott a platform fejlesztése során, amely valóban újszerű, mivel jelenleg nincsenek decentralizált AI architektúrák a GPU-tárhelyhez? Ishan    : Érdekes kihívással kellett szembenéznünk a vártnál sokkal gyorsabb méretezéssel – ez üzleti szempontból jó probléma, de mérnöki szempontból bonyolult. Képzeld el, hogy 100 000 GPU számára építesz platformot, és hirtelen félmilliót vagy még többet kell kezelned. Az airdrops során a felhasználók tömeges beáramlásával és a potenciális Sybil-támadásokkal szembesültünk, miközben gyorsan bővültünk. Gaurav  Biztonságos, stabil platform létrehozása, amely egyidejűleg 50-100 klasztert tudott kezelni szűk keresztmetszetek nélkül, miközben lehetővé tette a gyors, percenkénti 1000 GPU-val történő kiegészítést – ezek jelentős kihívások voltak. Az alapító felismerte, hogy bár fel tudja építeni a céget egy bizonyos szintre, ennek továbbviteléhez skálázható platformok és vállalkozások építésében tapasztalt emberekre van szükség.  Ezt tisztelem benne – elismerte ezt az igényt, és felhatalmazást adott a megfelelő csapat felépítésére. Tehetségeket hoztunk az Amazontól, a VMware-től és számos más vezető cégtől. Doktori fokozataink vannak gépi tanulásból, termékszakértőink a nagy technológiai cégektől – ezeket a háttereket webhelyünkön ellenőrizheti.  Az alapítók támogatták ezt a megközelítést, megértve, hogy a termék valódi vállalkozássá alakításához olyan emberekre van szükség, akik ezt korábban megtették. Az ő támogatásuk ebben az átalakulásban kulcsfontosságú volt sikerünk szempontjából.  Ne felejtsd el like-olni és megosztani a történetet!    Ez a szerző független közreműködő, aki a mi oldalunkon keresztül publikál  . A HackerNoon áttekintette a jelentés minőségét, de az itt szereplő állítások a szerzőt illetik. #DYOR Vested Interest Disclosure:   üzleti blogírás program

This story contains new, firsthand information uncovered by the writer.

The writer was physically present in relevant location(s) to this story. The location is also a prevalent aspect of this story be it news or otherwise.

Between Two Computer Monitors: This story includes an interview between the writer and guest/interviewee. 

Winner of Noonies 2020 for the award Hacker Noon Contributor of the Year - DATA.

2020 - Hacker Noon Contributor of the Year in DATA

Read My Stories

Ez a hanganyag a történet eredeti nyelvén készült!

Túl hosszú; Olvasni

Get Free Unlimited IP Geo Data With IPinfo Lite

A mesterséges intelligencia demokratizálása: Hogyan építi fel az IO.NET technológiai igazgatója a „GPU-k Airbnb-jét”

About Author

HOZZÁSZÓLÁSOK

HANG TAGOK

EZT A CIKKET BEMUTATTA

Related Stories

HackerNoon Social Media Presence: A Complete Guide

Of The First and Last Things: Part 3

Of The First and Last Things: Part 4

THE LAST DAY OF NEW YORK

HackerNoon Social Media Presence: A Complete Guide

Of The First and Last Things: Part 3

Of The First and Last Things: Part 4

THE LAST DAY OF NEW YORK

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps