Жасанды интеллектіні демократияландыру: IO.NET техникалық директоры «GPU Airbnb» жүйесін қалай құруда?

Жасанды интеллект бумы GPU есептеу қуатына бұрын-соңды болмаған сұранысты тудырды, бірақ қолжетімділік бірнеше негізгі бұлттық провайдерлер арасында шоғырланған. IO.NET, орталықтандырылмаған GPU инфрақұрылымына бағытталған стартап, оның көшбасшылары «GPU Airbnb» деп атайтын нәрсені жасау арқылы осы динамикасын өзгертуге бағытталған. Осы эксклюзивті сұхбатта Гаурав, IO.NET-тің техникалық директоры және бұрынғы Binance техникалық жетекшісі, компания дәстүрлі провайдерлермен салыстырғанда шығындарды 75%-ға дейін төмендете отырып, AI есептеу ресурстарына қолжетімділікті демократияландыратын платформаны қалай құрып жатқанын талқылайды.

Ишан : «Стартаптың артында» топтамасына қош келдіңіздер. Өзіңіз туралы, саяхатыңыз және IO.NET-ке қосылуға не шабыттандырды?

Гаурав : Менің саяхатым Пунада бағдарламалық жасақтама инженері ретінде басталған өте қарапайым болды. Мен Бангалорға көшкенге дейін бірнеше стартапта жұмыс істедім, онда мен HP R&D компаниясына қосылдым және олардың желілік файлдық жүйесін нөлден бастап құруға көмектестім. Amazon-да мен олардың Android қолданбаларына, электрондық кітаптарға және дыбыстық кітаптарға арналған баспа желісінде жұмыс істедім. Содан кейін мен eBay-ге, одан кейін Вьетнамдағы, Сингапурдағы және Малайзиядағы қонақүйлер мен рейстерді брондау нарығында көшбасшы болған Тайландтағы ірі OTA компаниясына көштім.

Мен Binance-ке қосылғанға дейін олардың жетекші командасында шамамен 5-6 жыл жұмыс істедім, онда мен жарты миллиардтан астам пайдаланушы үшін KYC сәйкестігі мен алаяқтықты анықтауға арналған ауқымды платформаны құруға жетекшілік еттім. Мансап барысында мен әртүрлі формаларда AI-мен жұмыс істедім және адамдардың өздеріне қажетті есептеу ресурстарына қол жеткізуде қалай күресетінін өз көзіммен көрдім.

Ишан : IO.NET- тегі рөліңіз туралы айтып беріңіз және орталықтандырылған архитектурамен салыстырғанда орталықтандырылмаған есептеулер үшін қандай болашақты көресіз?

Гаурав : CTO ретінде менің басты рөлім жеткізушілерге қосылуды және тұтынушылардың осы ресурстарды пайдалануын жеңілдететін ауқымды платформаны жасау болып табылады. Біз графикалық процессорлардан бастадық, бірақ біздің көзқарасымыз одан да асып түседі.

Біздің орталықтандырылмаған тәсіліміздің басты артықшылығы - масштабтау. Дәстүрлі деректер орталықтары жаңа аймақтарға кеңейген кезде айтарлықтай қиындықтарға тап болады - олар кеңістікті жалға алуы, командаларды жалдау, жабдыққа тапсырыс беру және техникалық қызмет көрсетуді өңдеуі керек. Бұл пайдаланушыларға берілетін жоғары бастапқы шығындарды тудырады. Біздің орталықтандырылмаған модель бізге бар инфрақұрылымды пайдалану арқылы әлдеқайда тиімді масштабтауға мүмкіндік береді.

Ишан : AI үлгісін хостинг үшін қомақты соманы алатын Azure сияқты орталықтандырылған жеткізушілермен салыстырғанда сіздің бизнес үлгіңіз қалай жұмыс істейді?

Гаурав : Біз Uber-ге ұқсас модельді ұстанамыз - кез келген адам ұқсас бағдарламалық жасақтаманы жасай алады, бірақ біздің артықшылығымыз жеткізу жағындағы қосылымдарда жатыр. Біздің команда бүкіл әлемдегі инфрақұрылымдық провайдерлермен терең қарым-қатынас орнатты, бұл бізге GPU-ларды бәсекеге қабілетті бағамен алуға мүмкіндік береді. Біздің бағалар әдетте Amazon мен Google-дан 75% төмен.

Біз сағаттық тарифтерді де, 6-9 айлық ұзақ мерзімді міндеттемелерді де ұсынамыз. Біз сондай-ақ инфрақұрылымды басқаруға емес, өздерінің негізгі бизнесіне назар аударғысы келетін стартаптар үшін басқарылатын қызметтерді ұсынамыз.

Ишан : Осы уақытқа дейін тарту қалай болды?

Гаурав : Жауап күшті болды. Жақында біз 1500 4090 тапсырысын орындадық және әрқайсысында 200 миллионнан астам пайдаланушысы бар екі азиялық Web2 компаниясымен келісімге қол қоюға жақынбыз. Біз желіге байланысты бастапқыда криптовалюта компанияларына назар аударғанымызбен, шығындарды үнемдеуге тырысатын дәстүрлі технологиялық компаниялардың қызығушылығы артып келе жатқанын байқаймыз.

Ишан : Орталықтандырылмаған оқу архитектурасы қалай жұмыс істейтінін түсіндіре аласыз ба? Орталықсыздандыру кезінде ауқымдылыққа немесе қауіпсіздікке әсер етуі мүмкін, біз мұны қалай үйлестіреміз.

Гаурав : Бұл масштабтауды қалай анықтайтыныңызға байланысты. Дата орталығы бизнесінен мысал келтірейін. Егер сіз Солтүстік Америкадағы деректер орталығының провайдері болсаңыз және маған Сингапурда 1000 H100 қажет болса, дәстүрлі процесс өте қиын. Сізге орын жалдау, команда жалдау, GPU-ға тапсырыс беру, жөнелту, техникалық қызмет көрсету және орнатуды өңдеу қажет. Бұл айтарлықтай бастапқы шығындар мен нарыққа шығу уақытын баяу жасайды, ол ақыр соңында пайдаланушыларға беріледі.

Біздің орталықтандырылмаған үлгімізде, түгендеу бөлінгендіктен, біз мұндай қиындықтарға тап болмаймыз. Сыйымдылықты қосу біздің платформаға жаңа провайдерлерді қосу сияқты қарапайым. Бұл қонақүйлердің қолжетімділігі қалай жұмыс істейтініне ұқсас - негізгі желілер толығымен брондалғандықтан, қалада бөлмелер жоқ дегенді білдірмейді. Шынында да айтарлықтай GPU сыйымдылығы бар, бірақ бұл инвентаризацияны тиімді жинақтау үшін ешкім «GPU үшін Airbnb» құрастырған жоқ.

Ишан : Дұрыс түсіну үшін - егер Бангалорда студент немесе ойыншы және АҚШ-та жұмыс істемейтін GPU-лары бар компания болса, олар сіздің платформаңыз арқылы қосыла алады ма?

Гаурав : Дәл. Таиландтан немесе Үндістаннан белгілі бір үлгіні оқытқысы келетін адам - бұл LSTM немесе кез келген басқа түрі болсын - бұл графикалық процессорларды пайдалана алады. Бұл жалға алуға негізделген модель болғандықтан, дәстүрлі провайдерлерге қарағанда үнемді.

Ишан : Дәл қазір шекаралық модельдер арасындағы жарыс туралы не ойлайсыз - Llama-дан OpenAI-дан Anthropic-ке дейін?

Гаурав : Бұл қазірдің өзінде болжам. Соңғы екі жылда біз AI мүмкіндіктерінде алға қарай айтарлықтай секіріс жасадық. Сайып келгенде, қай компанияның кеңістікті басқаратыны белгісіз - бұл тіпті Web3 ойнатқышы болуы мүмкін - біз келесі үш жылда керемет жаңашылдықты көретініміз анық.

Ишан : IO.NET басқару моделі дәл қазір қалай құрылымдалған?

Гаурав : Біз қазір жартылай орталықтандырылмағанбыз. Біз апта сайынғы AMA арқылы қауымдастықты белсенді түрде тыңдаймыз және олардың пікірлерін жүзеге асырамыз. Біздің ішкі командамыз дамудың басымдықтарын бағыттау үшін апта сайын барлық пайдаланушы билеттері мен сұрауларын қарайды. Біздің қауымдастықпен қарым-қатынасымыз негізінен X (бұрынғы Twitter), Discord және AMA арқылы жүзеге асады, платформалардағы жарты миллионнан астам ізбасарлары бар.

Ишан : Орталықтандырылмаған AI архитектуралары жоқ жаңа тұжырымдама болғандықтан, осы платформаны әзірлеу кезінде сіз қандай техникалық қиындықтарға тап болдыңыз?

Гаурав : Біздің жылдам масштабтау мүмкіндіктер мен қиындықтарды ұсынды. Мен қосылған кезде платформа 100 000 графикалық процессорға арналған, бірақ бізге тез арада миллиондарды өңдеу керек болды. Бұл қауіпсіздікті, тұрақтылықты және ауқымдылықты басқару үшін маңызды архитектуралық өзгерістерді қажет етті. Құрылтайшы ауқымды платформаларды құруда тәжірибелі көшбасшылықтың қажеттілігін мойындады, бұл мені жұмысқа алуға және Amazon, VMware сияқты компаниялардан тәжірибелі мамандар тобын құруға мүмкіндік берді және AI зерттеушілері.

Ең бастысы, бұрын ұқсас масштабталатын жүйелерді құрастырған адамдар болды. Біз машиналық оқыту саласындағы PhD докторларын және ірі технологиялық компаниялардың ардагерлерін қамтитын топты жинадық, олардың барлығы платформаның орталықтандырылмаған сипатын сақтай отырып, осы күрделі техникалық мәселелерді шешуге бағытталған.

Ишан : Команданың тарихы, саяхат қалай басталғаны, алғашқы идея қандай болғаны, осы модельге келгенге дейінгі кез келген бұрылыстар және алдағы 1-2 жылда IO.NET үшін қандай болашақ күтіп тұрғаны туралы көбірек айтып беріңізші.

Гаурав : Мен шамамен жеті ай бұрын, компания құрылғаннан кейін шамамен үш-төрт айдан кейін қосылдым. Алғашқы күннен бастап құрылысшыларға модельдер жасауға мүмкіндік беру үшін DeFi және AI платформаларының гибридін жасау мақсаты тұрды. Мен қосылған кезде, негізін қалаушылар мен мен маңызды стратегияға сәйкес келдік - бәсекелестердің сәйкес келуі өте қиын болатын нәрсені ұсынуымыз керек еді. Біз бәсекеге қабілетті бағамен GPU ресурсын негізгі дифференциатор ретінде анықтадық.

Басқа криптографиялық платформалар ұқсас баға ұсынуы мүмкін болса да, олар ауқыммен күреседі. Егер сіз олардан 1500 GPU сұрасаңыз, олар көбінесе жеткізе алмайды, өйткені олардың бизнес үлгісі шын мәнінде орталықтандырылмаған. Тіпті олар ақылды келісім-шарттар жасаса да, олардың жеке деректер орталықтары болса, масштабтау өте қиын болады. Бұл Azure-де кездесетін мәселе - орталықтандырылған инфрақұрылымның үстіне смарт келісім-шарттарды қосу арқылы орталықсыздандыруды талап ете алмайсыз.

Ишан : Бағдарламалық жасақтаманы әзірлеу әрқашан қиын. Дәл қазір GPU хостингіне арналған орталықтандырылмаған AI архитектуралары болмағандықтан шынымен жаңа болып табылатын осы платформаны әзірлеу кезінде сіз қандай техникалық мәселелерге тап болдыңыз?

Гаурав : Біз күткеннен әлдеқайда жылдам масштабтаудың қызықты мәселесіне тап болдық - бизнес тұрғысынан жақсы мәселе, бірақ инженерлік тұрғыдан қиын. 100 000 графикалық процессорға арналған платформаны құруды елестетіп көріңіз және кенеттен жарты миллион немесе одан да көп жұмыс істеу қажет. Airdrops кезінде біз жылдам масштабтау кезінде пайдаланушылардың үлкен ағынына және ықтимал Sybil шабуылдарына тап болдық.

Бір уақытта 50-100 кластерді басқара алатын қауіпсіз, тұрақты платформа құру, сонымен бірге минутына 1000 графикалық процессорды жылдам жеткізуге мүмкіндік береді. Құрылтайшы компанияны белгілі бір деңгейге дейін құра алғанымен, оны одан әрі көтеру үшін ауқымды платформалар мен бизнес құру тәжірибесі бар адамдар қажет екенін мойындады.

Мен оны құрметтеймін - ол бұл қажеттілікті мойындап, маған дұрыс команда құруға өкілеттік берді. Біз Amazon, VMware және басқа да жетекші компаниялардан таланттарды әкелдік. Бізде машиналық оқыту бойынша PhD докторлары, ірі технологиялық компаниялардың өнім сарапшылары бар - сіз біздің веб-сайтта бұл мәліметтерді тексере аласыз.

Құрылтайшылар өнімді нақты бизнеске айналдыру үшін оны бұрын жасаған адамдар қажет екенін түсініп, бұл тәсілді қолдады. Осы өтпелі кезеңдегі олардың қолдауы біздің жетістігіміз үшін шешуші болды.

Лайк басып, оқиғамен бөлісуді ұмытпаңыз!