Süni intellekt bumu GPU hesablama gücünə görünməmiş tələbat yaratdı, lakin giriş bir neçə əsas bulud provayderi arasında cəmləşib. Qeyri-mərkəzləşdirilmiş GPU infrastrukturuna diqqət yetirən bir başlanğıc olan IO.NET, liderlərinin "GPU-ların Airbnb" adlandırdıqları şeyi yaratmaqla bu dinamikanı dəyişdirməyi hədəfləyir. Bu eksklüziv müsahibədə IO.NET-in texniki direktoru və keçmiş Binance texniki lideri Gaurav şirkətin ənənəvi provayderlərlə müqayisədə xərcləri 75%-ə qədər azaldaraq süni intellekt hesablama resurslarına çıxışı demokratikləşdirə biləcək platformanı necə qurduğunu müzakirə edir.    : "Başlanğıcın arxasında" seriyamıza xoş gəlmisiniz. Zəhmət olmasa, özünüz, səyahətiniz və sizi   qoşulmağa nə ilhamlandırdı? İşan IO.NET-ə    : Mənim səyahətim Punedə proqram mühəndisi kimi başlayan çox sadə oldu. Banqalora köçməzdən əvvəl orada bir neçə startapda işlədim, burada HP R&D-yə qoşuldum və onların şəbəkə fayl sistemini sıfırdan qurmağa kömək etdim. Amazonda mən onların Android proqramları, e-kitablar və Audible kitabları üçün nəşr xətti üzərində işləmişəm. Daha sonra eBay-ə, ardınca Taylandda Vyetnam, Sinqapur və Malayziyada otel və uçuş sifarişləri üzrə bazar lideri olan böyük OTA şirkəti ilə əlaqə saxladım. Gaurav  Binance-ə qoşulmazdan əvvəl onların rəhbərlik komandasında təxminən 5-6 il keçirdim, burada yarım milyarddan çox istifadəçi üçün KYC uyğunluğu və fırıldaqçılığın aşkarlanması üçün genişləndirilə bilən platformanın yaradılmasına rəhbərlik etdim. Karyeram boyunca mən süni intellektlə müxtəlif formalarda işləmişəm və insanların ehtiyac duyduqları hesablama resurslarına daxil olmaqda necə mübarizə apardığının birbaşa şahidi olmuşam.    :   -dəki rolunuz və mərkəzləşdirilmiş arxitektura ilə müqayisədə mərkəzləşdirilməmiş hesablama üçün hansı gələcək görürsünüz haqqında danışın? İşan IO.NET    : Texniki direktor olaraq mənim əsas vəzifəm təchizatçıların qoşulmasını və istehlakçıların bu resurslardan istifadə etmələrini asanlaşdıran genişləndirilə bilən platforma yaratmaqdır. Biz GPU-larla başladıq, lakin görmə qabiliyyətimiz bundan kənara çıxır. Gaurav  Bizim qeyri-mərkəzləşdirilmiş yanaşmamızın əsas üstünlüyü miqyaslılıqdır. Ənənəvi məlumat mərkəzləri yeni bölgələrə genişlənərkən əhəmiyyətli çətinliklərlə üzləşirlər - onlar yer icarəyə götürməli, komandalar işə götürməli, avadanlıq sifariş etməli və texniki xidmətlə məşğul olmalıdırlar. Bu, sonda istifadəçilərə ötürülən yüksək ilkin xərclər yaradır. Bizim qeyri-mərkəzləşdirilmiş modelimiz mövcud infrastrukturdan istifadə etməklə daha səmərəli şəkildə miqyas almağa imkan verir.    : AI model hostinqi üçün əhəmiyyətli məbləğlər tələb edən Azure kimi mərkəzləşdirilmiş təchizatçılarla müqayisədə biznes modeliniz necə işləyir? İşan    : Biz Uber-ə bənzər bir modeli izləyirik - hər kəs oxşar proqram təminatı yarada bilsə də, bizim üstünlüyü təchiz tərəfi əlaqələrimizdədir. Komandamız dünya üzrə infrastruktur təminatçıları ilə dərin əlaqələr qurmuşdur və bu, bizə GPU-ları rəqabətli qiymətlərlə əldə etməyə imkan verir. Qiymətlərimiz adətən Amazon və Google-dan 75% aşağıdır. Gaurav  Biz həm saatlıq tariflər, həm də 6-9 aylıq daha uzunmüddətli öhdəliklər təklif edirik. Biz həmçinin infrastrukturu idarə etməkdənsə, diqqətini əsas biznesinə yönəltmək istəyən startaplar üçün idarə olunan xidmətlər təqdim edirik.    : Bu günə qədər çəkmə necə olub? İşan    : Cavab güclü oldu. Biz bu yaxınlarda 1500 4090 sifarişi yerinə yetirdik və hər birinin 200 milyondan çox istifadəçisi olan iki Asiya Web2 şirkəti ilə müqavilə imzalamağa yaxınıq. Şəbəkəmizə görə əvvəlcə kriptovalyuta şirkətlərinə diqqət yetirsək də, xərclərə qənaət etmək istəyən ənənəvi texnologiya şirkətlərinin artan marağının şahidi oluruq. Gaurav    : Mərkəzləşdirilməmiş təlim arxitekturasının necə işləyəcəyini izah edə bilərsinizmi? Mərkəzsizləşdirmə ilə ya miqyaslanma, ya da təhlükəsizlik təsir edə bilər, biz bunu necə uzlaşdıra bilərik. İşan    : Bu, miqyaslılığı necə təyin etdiyinizdən asılıdır. İcazə verin, məlumat mərkəzi biznesindən bir nümunə ilə izah edim. Əgər siz Şimali Amerikada məlumat mərkəzi provayderisinizsə və mənə Sinqapurda 1000 H100 lazımdırsa, ənənəvi proses olduqca çətin olur. Siz yer icarəyə götürməli, komanda işə götürməli, GPU-lar sifariş etməli, göndərmə, texniki xidmət və quraşdırma ilə məşğul olmalısınız. Bu, əhəmiyyətli ilkin xərclər və bazara çıxma müddətini yavaşlatır və nəticədə istifadəçilərə ötürülür. Gaurav  Mərkəzləşdirilməmiş modelimizdə inventar paylandığı üçün bu problemlərlə üzləşmirik. Gücün əlavə edilməsi yeni provayderləri platformamıza qoşmaq qədər sadədir. Bu, otelin mövcudluğunun necə işlədiyinə bənzəyir - əsas şəbəkələrin tam rezervasiyası şəhərdə otaqların olmaması demək deyil. Əslində əhəmiyyətli GPU tutumu mövcuddur, lakin heç kim bu inventarı səmərəli şəkildə toplamaq üçün "GPU-lar üçün Airbnb" qurmayıb.    : Düzgün başa düşmək üçün - Banqalorda tələbə və ya oyunçu və ABŞ-da boş GPU-ları olan bir şirkət varsa, onlar sizin platformanız vasitəsilə əlaqə qura bilərmi? İşan    : Tam olaraq. Taylanddan və ya Hindistandan olan, müəyyən bir modeli - istər LSTM, istərsə də hər hansı digər növ - öyrətmək istəyən biri bu GPU-lardan istifadə edə bilər. İcarəyə əsaslanan model olduğu üçün ənənəvi provayderlərdən daha qənaətcildir. Gaurav    : Hal-hazırda sərhəd modelləri arasındakı yarış haqqında nə düşünürsünüz - Llamadan OpenAI-ə qədər Anthropic? İşan    : Bu, əsasən spekulyasiyadır. Son bir neçə ildə süni intellekt imkanlarında irəliyə doğru əhəmiyyətli bir sıçrayış etdik. Hansı şirkətin son nəticədə məkana rəhbərlik edəcəyi bəlli olmasa da - bu hətta Web3 oyunçusu da ola bilər - əmin olan odur ki, qarşıdakı üç il ərzində böyük yeniliklər görəcəyik. Gaurav    :   -in idarəetmə modeli hazırda necə qurulub? İşan IO.NET    : Hal-hazırda biz yarı mərkəzləşdirilməmişik. Biz həftəlik AMA-lar vasitəsilə cəmiyyətimizi fəal şəkildə dinləyir və onların rəylərini həyata keçiririk. Daxili komandamız inkişaf prioritetlərimizi istiqamətləndirmək üçün həftəlik bütün istifadəçi biletlərini və sorğularını nəzərdən keçirir. İcma əlaqəmiz ilk növbədə platformalarda yarım milyondan çox izləyicisi olan X (əvvəllər Twitter), Discord və AMA-larımız vasitəsilə baş verir. Gaurav    : Mövcud mərkəzləşdirilməmiş AI arxitekturaları olmayan yeni bir konsepsiya olduğunu nəzərə alsaq, bu platformanı hazırlayarkən hansı texniki çətinliklərlə üzləşdiniz? İşan    : Sürətli miqyaslılığımız həm imkanlar, həm də çətinliklər təqdim etdi. Mən qoşulduğum zaman platforma 100.000 GPU üçün nəzərdə tutulmuşdu, lakin tez bir zamanda milyonlarla işləməli olduq. Bu, təhlükəsizliyi, sabitliyi və miqyaslılığı idarə etmək üçün əhəmiyyətli memarlıq dəyişikliklərini tələb etdi. Təsisçi genişləndirilə bilən platformaların qurulmasında təcrübəli liderliyə ehtiyac olduğunu dərk etdi və bu, məni işə götürdü və Amazon, VMware və ən yaxşı AI tədqiqatçıları kimi şirkətlərdən təcrübəli peşəkarlardan ibarət komanda yaratmağa imkan verdi. Gaurav  Əsas odur ki, əvvəllər oxşar genişlənə bilən sistemlər qurmuş insanlar var idi. Biz maşın öyrənməsi üzrə fəlsəfə doktorları və əsas texnoloji şirkətlərin veteranlarından ibarət komanda topladıq, onların hamısı platformanın qeyri-mərkəzləşdirilmiş təbiətini qoruyaraq bu mürəkkəb texniki problemlərin həllinə yönəldilib.    : Komandanın keçmişi, səyahətin necə başladığı, ilk ideyanın nə olduğu, bu modelə gəlməzdən əvvəl hansı dönmələr və yaxın 1-2 il ərzində   üçün hansı gələcək görəcəyiniz barədə bizə ətraflı məlumat verin. İşan IO.NET    : Mən təxminən yeddi ay əvvəl, şirkət qurulandan təxminən üç-dörd ay sonra qoşuldum. İlk gündən məqsəd inşaatçılara modellər yaratmağa imkan vermək üçün DeFi və AI platformalarının hibridini yaratmaq idi. Mən qoşulduqda təsisçilər və mən mühüm strategiyaya uyğunlaşdıq - rəqiblərin uyğunlaşması çox çətin olacaq bir şey təklif etməliydik. Rəqabətli qiymətlərlə GPU qaynaqlarını əsas fərqləndirici kimi müəyyən etdik. Gaurav  Digər kriptovalyutalar oxşar qiymət təklif edə bilsələr də, miqyasla mübarizə aparırlar. Onlardan 1500 GPU istəsəniz, onlar çox vaxt çatdıra bilmirlər, çünki onların biznes modeli həqiqətən mərkəzləşdirilməmişdir. Ağıllı müqavilələr yaratsalar belə, öz məlumat mərkəzlərinə sahib olsalar da, miqyaslandırma olduqca çətinləşir. Bu Azure-un üzləşdiyi eyni problemdir - mərkəzləşdirilmiş infrastrukturun üstünə ağıllı müqavilələr əlavə etməklə mərkəzləşdirilməmiş olduğunuzu iddia edə bilməzsiniz.    : Proqram təminatının inkişafı həmişə çətin olur. Hazırda GPU hostinqi üçün mərkəzləşdirilməmiş AI arxitekturaları olmadığı üçün həqiqətən yeni olan bu platformanı inkişaf etdirərkən hansı texniki problemlərlə qarşılaşdınız? İşan    : Biz gözləniləndən çox daha sürətli miqyaslandırma ilə bağlı maraqlı problemlə üzləşdik - biznes baxımından yaxşı problem, lakin mühəndislik baxımından çətin. Təsəvvür edin ki, 100.000 GPU üçün bir platforma qurur və birdən yarım milyon və ya daha çoxunu idarə etmək lazımdır. Airdrops zamanı biz sürətlə miqyaslanarkən kütləvi istifadəçi axını və potensial Sybil hücumları ilə üzləşdik. Gaurav  50-100 klasteri eyni vaxtda idarə edə bilən, heç bir maneə olmadan, eyni zamanda dəqiqədə 1000 GPU-nun sürətli təchizatı əlavələrinə imkan verən təhlükəsiz, sabit platformanın yaradılması - bunlar əhəmiyyətli problemlər idi. Təsisçi başa düşdü ki, o, şirkəti müəyyən səviyyəyə qədər qura bilsə də, daha da genişləndirilə bilən platformalar və biznes qurmaq təcrübəsi olan insanlar tələb edir.  Ona hörmət etdiyim budur - o, bu ehtiyacı etiraf etdi və düzgün komanda qurmaq üçün mənə səlahiyyət verdi. Biz Amazon, VMware və digər ən yaxşı şirkətlərdən istedadlar gətirmişik. Maşın öyrənməsi üzrə fəlsəfə doktorlarımız, böyük texnoloji şirkətlərin məhsul mütəxəssisləri var - bu fonları veb saytımızda yoxlaya bilərsiniz.  Təsisçilər məhsulu real biznesə çevirmək üçün əvvəllər bunu etmiş insanlar tələb etdiyini başa düşərək bu yanaşmanı dəstəklədilər. Bu keçiddə onların dəstəyi bizim uğurumuz üçün mühüm rol oynadı.  Hekayəni bəyənməyi və paylaşmağı unutmayın!    Bu müəllif bizim vasitəsilə müstəqil ianəçi nəşriyyatdır  . HackerNoon hesabatı keyfiyyət baxımından nəzərdən keçirdi, lakin buradakı iddialar müəllifə məxsusdur. #DYOR Maraqların Açıqlanması:   biznes bloq proqramı

This story contains new, firsthand information uncovered by the writer.

The writer was physically present in relevant location(s) to this story. The location is also a prevalent aspect of this story be it news or otherwise.

Between Two Computer Monitors: This story includes an interview between the writer and guest/interviewee. 

Winner of Noonies 2020 for the award Hacker Noon Contributor of the Year - DATA.

2020 - Hacker Noon Contributor of the Year in DATA

Read My Stories

Bu audio hekayənin orijinal dilində hazırlanmışdır!

Süni intellektin demokratikləşdirilməsi: IO.NET-in texniki direktoru “GPU-ların Airbnb”ini necə qurur”

About Author

ŞƏRHLƏR

ETİKET ASIN

BU MƏQALƏ TƏQDİM EDİLMİŞDİR

Related Stories

Optimizing Operations for Real Estate Investors - Interview with Startups of the Year Nominee, Azibo

Women in Tech: Azize Sultan Shares Her Inspiring Journey from Architecture to Tech Leadership

How Azarus's Technology is Transforming Viewer Engagement on Stream

Optimizing Operations for Real Estate Investors - Interview with Startups of the Year Nominee, Azibo

Women in Tech: Azize Sultan Shares Her Inspiring Journey from Architecture to Tech Leadership

How Azarus's Technology is Transforming Viewer Engagement on Stream

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps