Süni intellektin demokratikləşdirilməsi: IO.NET-in texniki direktoru “GPU-ların Airbnb”ini necə qurur”

Süni intellekt bumu GPU hesablama gücünə görünməmiş tələbat yaratdı, lakin giriş bir neçə əsas bulud provayderi arasında cəmləşib. Qeyri-mərkəzləşdirilmiş GPU infrastrukturuna diqqət yetirən bir başlanğıc olan IO.NET, liderlərinin "GPU-ların Airbnb" adlandırdıqları şeyi yaratmaqla bu dinamikanı dəyişdirməyi hədəfləyir. Bu eksklüziv müsahibədə IO.NET-in texniki direktoru və keçmiş Binance texniki lideri Gaurav şirkətin ənənəvi provayderlərlə müqayisədə xərcləri 75%-ə qədər azaldaraq süni intellekt hesablama resurslarına çıxışı demokratikləşdirə biləcək platformanı necə qurduğunu müzakirə edir.

İşan : "Başlanğıcın arxasında" seriyamıza xoş gəlmisiniz. Zəhmət olmasa, özünüz, səyahətiniz və sizi IO.NET-ə qoşulmağa nə ilhamlandırdı?

Gaurav : Mənim səyahətim Punedə proqram mühəndisi kimi başlayan çox sadə oldu. Banqalora köçməzdən əvvəl orada bir neçə startapda işlədim, burada HP R&D-yə qoşuldum və onların şəbəkə fayl sistemini sıfırdan qurmağa kömək etdim. Amazonda mən onların Android proqramları, e-kitablar və Audible kitabları üçün nəşr xətti üzərində işləmişəm. Daha sonra eBay-ə, ardınca Taylandda Vyetnam, Sinqapur və Malayziyada otel və uçuş sifarişləri üzrə bazar lideri olan böyük OTA şirkəti ilə əlaqə saxladım.

Binance-ə qoşulmazdan əvvəl onların rəhbərlik komandasında təxminən 5-6 il keçirdim, burada yarım milyarddan çox istifadəçi üçün KYC uyğunluğu və fırıldaqçılığın aşkarlanması üçün genişləndirilə bilən platformanın yaradılmasına rəhbərlik etdim. Karyeram boyunca mən süni intellektlə müxtəlif formalarda işləmişəm və insanların ehtiyac duyduqları hesablama resurslarına daxil olmaqda necə mübarizə apardığının birbaşa şahidi olmuşam.

İşan : IO.NET -dəki rolunuz və mərkəzləşdirilmiş arxitektura ilə müqayisədə mərkəzləşdirilməmiş hesablama üçün hansı gələcək görürsünüz haqqında danışın?

Gaurav : Texniki direktor olaraq mənim əsas vəzifəm təchizatçıların qoşulmasını və istehlakçıların bu resurslardan istifadə etmələrini asanlaşdıran genişləndirilə bilən platforma yaratmaqdır. Biz GPU-larla başladıq, lakin görmə qabiliyyətimiz bundan kənara çıxır.

Bizim qeyri-mərkəzləşdirilmiş yanaşmamızın əsas üstünlüyü miqyaslılıqdır. Ənənəvi məlumat mərkəzləri yeni bölgələrə genişlənərkən əhəmiyyətli çətinliklərlə üzləşirlər - onlar yer icarəyə götürməli, komandalar işə götürməli, avadanlıq sifariş etməli və texniki xidmətlə məşğul olmalıdırlar. Bu, sonda istifadəçilərə ötürülən yüksək ilkin xərclər yaradır. Bizim qeyri-mərkəzləşdirilmiş modelimiz mövcud infrastrukturdan istifadə etməklə daha səmərəli şəkildə miqyas almağa imkan verir.

İşan : AI model hostinqi üçün əhəmiyyətli məbləğlər tələb edən Azure kimi mərkəzləşdirilmiş təchizatçılarla müqayisədə biznes modeliniz necə işləyir?

Gaurav : Biz Uber-ə bənzər bir modeli izləyirik - hər kəs oxşar proqram təminatı yarada bilsə də, bizim üstünlüyü təchiz tərəfi əlaqələrimizdədir. Komandamız dünya üzrə infrastruktur təminatçıları ilə dərin əlaqələr qurmuşdur və bu, bizə GPU-ları rəqabətli qiymətlərlə əldə etməyə imkan verir. Qiymətlərimiz adətən Amazon və Google-dan 75% aşağıdır.

Biz həm saatlıq tariflər, həm də 6-9 aylıq daha uzunmüddətli öhdəliklər təklif edirik. Biz həmçinin infrastrukturu idarə etməkdənsə, diqqətini əsas biznesinə yönəltmək istəyən startaplar üçün idarə olunan xidmətlər təqdim edirik.

İşan : Bu günə qədər çəkmə necə olub?

Gaurav : Cavab güclü oldu. Biz bu yaxınlarda 1500 4090 sifarişi yerinə yetirdik və hər birinin 200 milyondan çox istifadəçisi olan iki Asiya Web2 şirkəti ilə müqavilə imzalamağa yaxınıq. Şəbəkəmizə görə əvvəlcə kriptovalyuta şirkətlərinə diqqət yetirsək də, xərclərə qənaət etmək istəyən ənənəvi texnologiya şirkətlərinin artan marağının şahidi oluruq.

İşan : Mərkəzləşdirilməmiş təlim arxitekturasının necə işləyəcəyini izah edə bilərsinizmi? Mərkəzsizləşdirmə ilə ya miqyaslanma, ya da təhlükəsizlik təsir edə bilər, biz bunu necə uzlaşdıra bilərik.

Gaurav : Bu, miqyaslılığı necə təyin etdiyinizdən asılıdır. İcazə verin, məlumat mərkəzi biznesindən bir nümunə ilə izah edim. Əgər siz Şimali Amerikada məlumat mərkəzi provayderisinizsə və mənə Sinqapurda 1000 H100 lazımdırsa, ənənəvi proses olduqca çətin olur. Siz yer icarəyə götürməli, komanda işə götürməli, GPU-lar sifariş etməli, göndərmə, texniki xidmət və quraşdırma ilə məşğul olmalısınız. Bu, əhəmiyyətli ilkin xərclər və bazara çıxma müddətini yavaşlatır və nəticədə istifadəçilərə ötürülür.

Mərkəzləşdirilməmiş modelimizdə inventar paylandığı üçün bu problemlərlə üzləşmirik. Gücün əlavə edilməsi yeni provayderləri platformamıza qoşmaq qədər sadədir. Bu, otelin mövcudluğunun necə işlədiyinə bənzəyir - əsas şəbəkələrin tam rezervasiyası şəhərdə otaqların olmaması demək deyil. Əslində əhəmiyyətli GPU tutumu mövcuddur, lakin heç kim bu inventarı səmərəli şəkildə toplamaq üçün "GPU-lar üçün Airbnb" qurmayıb.

İşan : Düzgün başa düşmək üçün - Banqalorda tələbə və ya oyunçu və ABŞ-da boş GPU-ları olan bir şirkət varsa, onlar sizin platformanız vasitəsilə əlaqə qura bilərmi?

Gaurav : Tam olaraq. Taylanddan və ya Hindistandan olan, müəyyən bir modeli - istər LSTM, istərsə də hər hansı digər növ - öyrətmək istəyən biri bu GPU-lardan istifadə edə bilər. İcarəyə əsaslanan model olduğu üçün ənənəvi provayderlərdən daha qənaətcildir.

İşan : Hal-hazırda sərhəd modelləri arasındakı yarış haqqında nə düşünürsünüz - Llamadan OpenAI-ə qədər Anthropic?

Gaurav : Bu, əsasən spekulyasiyadır. Son bir neçə ildə süni intellekt imkanlarında irəliyə doğru əhəmiyyətli bir sıçrayış etdik. Hansı şirkətin son nəticədə məkana rəhbərlik edəcəyi bəlli olmasa da - bu hətta Web3 oyunçusu da ola bilər - əmin olan odur ki, qarşıdakı üç il ərzində böyük yeniliklər görəcəyik.

İşan : IO.NET -in idarəetmə modeli hazırda necə qurulub?

Gaurav : Hal-hazırda biz yarı mərkəzləşdirilməmişik. Biz həftəlik AMA-lar vasitəsilə cəmiyyətimizi fəal şəkildə dinləyir və onların rəylərini həyata keçiririk. Daxili komandamız inkişaf prioritetlərimizi istiqamətləndirmək üçün həftəlik bütün istifadəçi biletlərini və sorğularını nəzərdən keçirir. İcma əlaqəmiz ilk növbədə platformalarda yarım milyondan çox izləyicisi olan X (əvvəllər Twitter), Discord və AMA-larımız vasitəsilə baş verir.

İşan : Mövcud mərkəzləşdirilməmiş AI arxitekturaları olmayan yeni bir konsepsiya olduğunu nəzərə alsaq, bu platformanı hazırlayarkən hansı texniki çətinliklərlə üzləşdiniz?

Gaurav : Sürətli miqyaslılığımız həm imkanlar, həm də çətinliklər təqdim etdi. Mən qoşulduğum zaman platforma 100.000 GPU üçün nəzərdə tutulmuşdu, lakin tez bir zamanda milyonlarla işləməli olduq. Bu, təhlükəsizliyi, sabitliyi və miqyaslılığı idarə etmək üçün əhəmiyyətli memarlıq dəyişikliklərini tələb etdi. Təsisçi genişləndirilə bilən platformaların qurulmasında təcrübəli liderliyə ehtiyac olduğunu dərk etdi və bu, məni işə götürdü və Amazon, VMware və ən yaxşı AI tədqiqatçıları kimi şirkətlərdən təcrübəli peşəkarlardan ibarət komanda yaratmağa imkan verdi.

Əsas odur ki, əvvəllər oxşar genişlənə bilən sistemlər qurmuş insanlar var idi. Biz maşın öyrənməsi üzrə fəlsəfə doktorları və əsas texnoloji şirkətlərin veteranlarından ibarət komanda topladıq, onların hamısı platformanın qeyri-mərkəzləşdirilmiş təbiətini qoruyaraq bu mürəkkəb texniki problemlərin həllinə yönəldilib.

İşan : Komandanın keçmişi, səyahətin necə başladığı, ilk ideyanın nə olduğu, bu modelə gəlməzdən əvvəl hansı dönmələr və yaxın 1-2 il ərzində IO.NET üçün hansı gələcək görəcəyiniz barədə bizə ətraflı məlumat verin.

Gaurav : Mən təxminən yeddi ay əvvəl, şirkət qurulandan təxminən üç-dörd ay sonra qoşuldum. İlk gündən məqsəd inşaatçılara modellər yaratmağa imkan vermək üçün DeFi və AI platformalarının hibridini yaratmaq idi. Mən qoşulduqda təsisçilər və mən mühüm strategiyaya uyğunlaşdıq - rəqiblərin uyğunlaşması çox çətin olacaq bir şey təklif etməliydik. Rəqabətli qiymətlərlə GPU qaynaqlarını əsas fərqləndirici kimi müəyyən etdik.

Digər kriptovalyutalar oxşar qiymət təklif edə bilsələr də, miqyasla mübarizə aparırlar. Onlardan 1500 GPU istəsəniz, onlar çox vaxt çatdıra bilmirlər, çünki onların biznes modeli həqiqətən mərkəzləşdirilməmişdir. Ağıllı müqavilələr yaratsalar belə, öz məlumat mərkəzlərinə sahib olsalar da, miqyaslandırma olduqca çətinləşir. Bu Azure-un üzləşdiyi eyni problemdir - mərkəzləşdirilmiş infrastrukturun üstünə ağıllı müqavilələr əlavə etməklə mərkəzləşdirilməmiş olduğunuzu iddia edə bilməzsiniz.

İşan : Proqram təminatının inkişafı həmişə çətin olur. Hazırda GPU hostinqi üçün mərkəzləşdirilməmiş AI arxitekturaları olmadığı üçün həqiqətən yeni olan bu platformanı inkişaf etdirərkən hansı texniki problemlərlə qarşılaşdınız?

Gaurav : Biz gözləniləndən çox daha sürətli miqyaslandırma ilə bağlı maraqlı problemlə üzləşdik - biznes baxımından yaxşı problem, lakin mühəndislik baxımından çətin. Təsəvvür edin ki, 100.000 GPU üçün bir platforma qurur və birdən yarım milyon və ya daha çoxunu idarə etmək lazımdır. Airdrops zamanı biz sürətlə miqyaslanarkən kütləvi istifadəçi axını və potensial Sybil hücumları ilə üzləşdik.

50-100 klasteri eyni vaxtda idarə edə bilən, heç bir maneə olmadan, eyni zamanda dəqiqədə 1000 GPU-nun sürətli təchizatı əlavələrinə imkan verən təhlükəsiz, sabit platformanın yaradılması - bunlar əhəmiyyətli problemlər idi. Təsisçi başa düşdü ki, o, şirkəti müəyyən səviyyəyə qədər qura bilsə də, daha da genişləndirilə bilən platformalar və biznes qurmaq təcrübəsi olan insanlar tələb edir.

Ona hörmət etdiyim budur - o, bu ehtiyacı etiraf etdi və düzgün komanda qurmaq üçün mənə səlahiyyət verdi. Biz Amazon, VMware və digər ən yaxşı şirkətlərdən istedadlar gətirmişik. Maşın öyrənməsi üzrə fəlsəfə doktorlarımız, böyük texnoloji şirkətlərin məhsul mütəxəssisləri var - bu fonları veb saytımızda yoxlaya bilərsiniz.

Təsisçilər məhsulu real biznesə çevirmək üçün əvvəllər bunu etmiş insanlar tələb etdiyini başa düşərək bu yanaşmanı dəstəklədilər. Bu keçiddə onların dəstəyi bizim uğurumuz üçün mühüm rol oynadı.

Hekayəni bəyənməyi və paylaşmağı unutmayın!