ხელოვნური ინტელექტის დემოკრატიზაცია: როგორ აშენებს IO.NET-ის CTO "GPU-ების Airbnb""

ხელოვნური ინტელექტის ბუმმა შექმნა უპრეცედენტო მოთხოვნა GPU გამოთვლით სიმძლავრეზე, მაგრამ წვდომა რჩება კონცენტრირებული რამდენიმე მთავარ ღრუბლოვან პროვაიდერში. IO.NET, სტარტაპი, რომელიც ფოკუსირებულია დეცენტრალიზებულ GPU ინფრასტრუქტურაზე, მიზნად ისახავს შეცვალოს ეს დინამიკა, შექმნას რასაც მისი ლიდერები უწოდებენ "GPU-ების Airbnb". ამ ექსკლუზიურ ინტერვიუში Gaurav, IO.NET-ის CTO და Binance-ის ყოფილი ტექნიკური ლიდერი, განიხილავს, თუ როგორ აშენებს კომპანია პლატფორმას, რომელიც შეძლებს AI გამოთვლით რესურსებზე წვდომის დემოკრატიზაციას და ხარჯების შემცირებას 75%-მდე ტრადიციულ პროვაიდერებთან შედარებით. : კეთილი იყოს თქვენი მობრძანება ჩვენს "სტარტაპის უკან" სერიაში. გთხოვთ, გვითხარით თქვენს შესახებ, თქვენი მოგზაურობის შესახებ და რამ გაგაჩინათ გაწევრიანება? Ishan IO.NET-ში : ჩემი მოგზაურობა საკმაოდ მარტივი იყო, დაწყებული, როგორც პროგრამული უზრუნველყოფის ინჟინერი პუნეში. ბანგალორში გადასვლამდე იქ რამდენიმე სტარტაპში ვმუშაობდი, სადაც შევუერთდი HP R&D-ს და დავეხმარე მათი ქსელის ფაილური სისტემის შექმნას ნულიდან. ამაზონში ვმუშაობდი მათ გამომცემლობაზე ანდროიდის აპლიკაციებისთვის, ელექტრონული წიგნებისთვის და Audible წიგნებისთვის. შემდეგ გადავედი eBay-ში, რასაც მოჰყვა ძირითადი OTA კომპანია ტაილანდში, რომელიც იყო ბაზრის ლიდერი ვიეტნამში, სინგაპურსა და მალაიზიაში სასტუმროებისა და ფრენების დაჯავშნაში. გაურავი დაახლოებით 5-6 წელი გავატარე მათ ხელმძღვანელ გუნდში, სანამ Binance-ს შევუერთდებოდი, სადაც მე ვხელმძღვანელობდი მასშტაბური პლატფორმის შექმნას KYC შესაბამისობისთვის და თაღლითობის გამოვლენისთვის ნახევარ მილიარდზე მეტი მომხმარებლისთვის. მთელი ჩემი კარიერის განმავლობაში, მე ვმუშაობდი ხელოვნურ ინტელექტთან სხვადასხვა ფორმებში და უშუალოდ ვხედავდი, როგორ უჭირთ ადამიანები მათთვის საჭირო გამოთვლით რესურსებზე წვდომას. : გვიამბეთ თქვენი როლის შესახებ ში და რა მომავალს ხედავთ დეცენტრალიზებულ გამოთვლებზე ცენტრალიზებულ არქიტექტურასთან შედარებით? ისანი IO.NET- : როგორც CTO, ჩემი მთავარი როლი არის მასშტაბირებადი პლატფორმის შექმნა, რომელიც უადვილებს მომწოდებლებს შეერთებას და მომხმარებლებისთვის ამ რესურსების გამოყენებას. ჩვენ დავიწყეთ GPU-ებით, მაგრამ ჩვენი ხედვა სცილდება ამას. Gaurav ჩვენი დეცენტრალიზებული მიდგომის მთავარი უპირატესობა არის მასშტაბურობა. ტრადიციული მონაცემთა ცენტრები მნიშვნელოვან გამოწვევებს აწყდებიან ახალ რეგიონებში გაფართოებისას - მათ სჭირდებათ სივრცის დაქირავება, გუნდების დაქირავება, აღჭურვილობის შეკვეთა და ტექნიკური მომსახურება. ეს ქმნის მაღალ წინასწარ ხარჯებს, რომლებიც საბოლოოდ გადაეცემა მომხმარებლებს. ჩვენი დეცენტრალიზებული მოდელი საშუალებას გვაძლევს გავზარდოთ ბევრად უფრო ეფექტურად არსებული ინფრასტრუქტურის გამოყენებით. : როგორ მუშაობს თქვენი ბიზნეს მოდელი ცენტრალიზებულ მომწოდებლებთან შედარებით, როგორიცაა Azure, რომლებიც მნიშვნელოვან თანხებს იხდიან AI მოდელის ჰოსტინგისთვის? Ishan : ჩვენ მივყვებით Uber-ის მსგავს მოდელს - მიუხედავად იმისა, რომ ნებისმიერს შეუძლია შექმნას მსგავსი პროგრამული უზრუნველყოფა, ჩვენი უპირატესობა მდგომარეობს მიწოდების მხარეს კავშირებში. ჩვენმა გუნდმა დაამყარა ღრმა ურთიერთობები ინფრასტრუქტურის პროვაიდერებთან მთელ მსოფლიოში, რაც საშუალებას გვაძლევს მივიღოთ GPU კონკურენტულ ფასებში. ჩვენი ფასები, როგორც წესი, 75%-ით დაბალია, ვიდრე Amazon და Google. Gaurav ჩვენ გთავაზობთ როგორც საათობრივ ტარიფებს, ასევე გრძელვადიან ვალდებულებებს 6-9 თვის განმავლობაში. ჩვენ ასევე გთავაზობთ მართულ სერვისებს სტარტაპებისთვის, რომლებსაც სურთ ფოკუსირება მოახდინონ თავიანთ ძირითად ბიზნესზე და არა ინფრასტრუქტურის მართვაზე. : როგორი იყო წევა აქამდე? იშანი : პასუხი ძლიერი იყო. ჩვენ ახლახან შევასრულეთ შეკვეთა 1500 4090-ზე და ახლოს ვართ გარიგების გაფორმებასთან ორ აზიურ Web2 კომპანიასთან, რომელთაგან თითოეულს 200 მილიონზე მეტი მომხმარებელი ჰყავს. მიუხედავად იმისა, რომ ჩვენ თავდაპირველად ორიენტირებული ვიყავით კრიპტო კომპანიებზე ჩვენი ქსელის გამო, ჩვენ ვხედავთ მზარდ ინტერესს ტრადიციული ტექნიკური კომპანიების მხრიდან, რომლებიც ცდილობენ დაზოგონ ხარჯები. გაურავი : შეგიძლიათ ამიხსნათ, როგორ იმუშავებს დეცენტრალიზებული ტრენინგის არქიტექტურა? დეცენტრალიზაციასთან ერთად, შეიძლება გავლენა იქონიოს მასშტაბურობაზე ან უსაფრთხოებაზე, როგორ მოვაგვაროთ ეს. Ishan : ეს დამოკიდებულია იმაზე, თუ როგორ განსაზღვრავთ მასშტაბურობას. ნება მომეცით ილუსტრაციით განვმარტო მონაცემთა ცენტრის ბიზნესის მაგალითი. თუ თქვენ ხართ მონაცემთა ცენტრის პროვაიდერი ჩრდილოეთ ამერიკაში და მე მჭირდება 1000 H100 სინგაპურში, ტრადიციული პროცესი უკიდურესად რთულია. დაგჭირდებათ სივრცის დაქირავება, გუნდის დაქირავება, GPU-ების შეკვეთა, ტრანსპორტირება, ტექნიკური მომსახურება და დაყენება. ეს ქმნის მნიშვნელოვან წინასწარ დანახარჯებს და ნელი დრო ბაზარზე, რომელიც საბოლოოდ გადაეცემა მომხმარებლებს. Gaurav ჩვენს დეცენტრალიზებულ მოდელში, იმის გამო, რომ ინვენტარი ნაწილდება, ჩვენ არ ვხვდებით ამ გამოწვევებს. სიმძლავრის დამატება ისეთივე მარტივია, როგორც ახალი პროვაიდერების ჩვენს პლატფორმასთან დაკავშირება. ეს იგივეა, თუ როგორ მუშაობს სასტუმროს ხელმისაწვდომობა - მხოლოდ იმიტომ, რომ ძირითადი ქსელები სრულად არის დაჯავშნილი, არ ნიშნავს რომ ქალაქში ოთახები არ არის. რეალურად ხელმისაწვდომია GPU–ს მნიშვნელოვანი სიმძლავრე, მაგრამ არავის შეუქმნია „Airbnb GPU–სთვის“ ამ ინვენტარის ეფექტურად შესაგროვებლად. : სწორად რომ გავიგოთ - თუ არის სტუდენტი ან მოთამაშე ბანგალორში და კომპანია აშშ-ში უმოქმედო GPU-ებით, მათ შეუძლიათ დაკავშირება თქვენი პლატფორმის მეშვეობით? Ishan : ზუსტად. ვინმე ტაილანდიდან ან ინდოეთიდან, ვისაც სურს მოამზადოს კონკრეტული მოდელი - იქნება ეს LSTM თუ სხვა ტიპის - შეუძლია გამოიყენოს ეს GPU. იმის გამო, რომ ეს არის გაქირავებაზე დაფუძნებული მოდელი, ის უფრო ეკონომიურია, ვიდრე ტრადიციული პროვაიდერები. გაურავი : რას ფიქრობთ ახლა სასაზღვრო მოდელებს შორის რბოლაზე - ლამადან OpenAI-მდე ანთროპიკამდე? Ishan : ამ ეტაპზე ეს ძირითადად სპეკულაციაა. ჩვენ მნიშვნელოვანი წინსვლა გადავდგით ხელოვნური ინტელექტის შესაძლებლობებში ბოლო რამდენიმე წლის განმავლობაში. მიუხედავად იმისა, რომ გაურკვეველია, რომელი კომპანია უხელმძღვანელებს სივრცეს - ის შეიძლება იყოს Web3 მოთამაშეც კი - რა თქმა უნდა, ჩვენ ვიხილავთ უზარმაზარ ინოვაციებს მომდევნო სამი წლის განმავლობაში. გაურავი : როგორ არის სტრუქტურირებული ის მართვის მოდელი ახლა? Ishan IO.NET- : ამჟამად ჩვენ ნახევრად დეცენტრალიზებული ვართ. ჩვენ აქტიურად ვუსმენთ ჩვენს საზოგადოებას ყოველკვირეული AMA-ების მეშვეობით და ვახორციელებთ მათ გამოხმაურებას. ჩვენი შიდა გუნდი განიხილავს მომხმარებლის ყველა ბილეთს და ითხოვს ყოველკვირეულად, რათა წარმართოს ჩვენი განვითარების პრიორიტეტები. ჩვენი საზოგადოების ჩართულობა ძირითადად ხდება X (ყოფილი Twitter), Discord და ჩვენი AMA-ების მეშვეობით, ნახევარ მილიონზე მეტი მიმდევარით პლატფორმებზე. გაურავი : რა ტექნიკური გამოწვევების წინაშე აღმოჩნდით ამ პლატფორმის შემუშავებისას, იმის გათვალისწინებით, რომ ეს არის ახალი კონცეფცია არსებული დეცენტრალიზებული AI არქიტექტურების გარეშე? Ishan : ჩვენმა სწრაფმა სკალირებამ წარმოადგინა როგორც შესაძლებლობები, ასევე გამოწვევები. როდესაც მე შევუერთდი, პლატფორმა გათვლილი იყო 100,000 GPU-სთვის, მაგრამ ჩვენ სწრაფად დაგვჭირდა მილიონების დამუშავება. ეს მოითხოვდა მნიშვნელოვან არქიტექტურულ ცვლილებებს უსაფრთხოების, სტაბილურობისა და მასშტაბურობის მართვისთვის. დამფუძნებელმა გააცნობიერა გამოცდილი ლიდერობის საჭიროება მასშტაბური პლატფორმების მშენებლობაში, რამაც გამოიწვია ჩემი დაქირავება და საშუალება მომცა შემექმნა გამოცდილი პროფესიონალების გუნდი კომპანიებისგან, როგორიცაა Amazon, VMware და AI მკვლევარები. Gaurav მთავარი იყო ადამიანების ყოლა, რომლებმაც ადრე შექმნეს მსგავსი მასშტაბირებადი სისტემები. ჩვენ შევკრიბეთ გუნდი, რომელშიც შედის დოქტორანტები მანქანათმცოდნეობაში და ვეტერანები ძირითადი ტექნიკური კომპანიებიდან, ყველა ორიენტირებულია ამ რთული ტექნიკური გამოწვევების გადაჭრაზე, პლატფორმის დეცენტრალიზებული ბუნების შენარჩუნებით. : გვითხარით მეტი გუნდის ისტორიაზე, როგორ დაიწყო მოგზაურობა, რა იყო პირველი იდეა, რა ცვლილებები მოხდა ამ მოდელზე მისვლამდე და რა მომავალს ხედავთ ისთვის მომდევნო 1-2 წლის განმავლობაში. იშანი IO.NET- : შევუერთდი დაახლოებით შვიდი თვის წინ, კომპანიის დაარსებიდან დაახლოებით სამი-ოთხი თვის შემდეგ. პირველივე დღიდან, ხედვა იყო DeFi და AI პლატფორმების ჰიბრიდის შექმნა, რათა მშენებლებს შეექმნათ მოდელები. როდესაც მე შევუერთდი, დამფუძნებლები და მე შევთანხმდით გადამწყვეტ სტრატეგიაზე - ჩვენ გვჭირდებოდა ისეთი რამის შეთავაზება, რაც კონკურენტებისთვის ძალიან რთული იქნებოდა. ჩვენ განვსაზღვრეთ GPU-ს წყაროები კონკურენტულ ფასებში, როგორც ძირითადი დიფერენციატორი. გაურავი მიუხედავად იმისა, რომ სხვა კრიპტო პლატფორმებმა შეიძლება შესთავაზონ მსგავსი ფასები, ისინი ებრძვიან მასშტაბებს. თუ მათ სთხოვთ 1500 GPU-ს, ისინი ხშირად ვერ ასრულებენ, რადგან მათი ბიზნეს მოდელი ნამდვილად არ არის დეცენტრალიზებული. მაშინაც კი, თუ ისინი შექმნიან ჭკვიან კონტრაქტებს, თუ ისინი ფლობენ საკუთარ მონაცემთა ცენტრებს, სკალირება ხდება უკიდურესად რთული. ეს არის იგივე პრობლემა, რომლის წინაშეც დგას Azure - თქვენ არ შეგიძლიათ განაცხადოთ, რომ დეცენტრალიზებულია მხოლოდ ცენტრალიზებული ინფრასტრუქტურის თავზე ჭკვიანი კონტრაქტების დამატებით. : პროგრამული უზრუნველყოფის განვითარება ყოველთვის რთულია. ამ პლატფორმის შემუშავებისას, რომელიც ნამდვილად ახალია, რადგან ამჟამად არ არსებობს დეცენტრალიზებული AI არქიტექტურები GPU ჰოსტინგისთვის, რა ტექნიკურ პრობლემებს წააწყდით? Ishan : ჩვენ წინაშე აღმოვჩნდით საინტერესო გამოწვევის წინაშე სკალირების ბევრად უფრო სწრაფად, ვიდრე მოსალოდნელი იყო - კარგი პრობლემა ბიზნესის თვალსაზრისით, მაგრამ სახიფათო საინჟინრო თვალსაზრისით. წარმოიდგინეთ პლატფორმის აშენება 100000 GPU-სთვის და მოულოდნელად დაგჭირდებათ ნახევარი მილიონი ან მეტის დამუშავება. აეროდრომების დროს, ჩვენ შევხვდით მომხმარებელთა მასიურ ნაკადს და პოტენციურ Sybil-ის თავდასხმებს სწრაფი სკალირების დროს. Gaurav უსაფრთხო, სტაბილური პლატფორმის შექმნა, რომელიც ერთდროულად უმკლავდება 50-100 კლასტერს, შეფერხების გარეშე, ხოლო სწრაფი მიწოდების საშუალებას წუთში 1000 GPU-ს მისცემს - ეს მნიშვნელოვანი გამოწვევები იყო. დამფუძნებელმა გააცნობიერა, რომ მიუხედავად იმისა, რომ მას შეეძლო კომპანიის აშენება გარკვეულ დონეზე, მისი შემდგომი გადაყვანა სჭირდებოდა მასშტაბური პლატფორმების და ბიზნესის შექმნის გამოცდილების მქონე ადამიანებს. სწორედ ამას ვცემ პატივს მასში - მან აღიარა ეს საჭიროება და მომცა უფლება ავაშენო სწორი გუნდი. ჩვენ მოვიყვანეთ ნიჭი Amazon-დან, VMware-დან და სხვა ტოპ კომპანიებიდან. ჩვენ გვყავს დოქტორანტები მანქანათმცოდნეობაში, პროდუქტების ექსპერტები ძირითადი ტექნიკური კომპანიებისგან - შეგიძლიათ გადაამოწმოთ ეს ფონები ჩვენს ვებსაიტზე. დამფუძნებლებმა მხარი დაუჭირეს ამ მიდგომას, ესმით, რომ პროდუქტის რეალურ ბიზნესად გადაქცევას საჭიროებდა ადამიანები, რომლებიც ამას ადრე აკეთებდნენ. მათი მხარდაჭერა ამ გადასვლაში გადამწყვეტი იყო ჩვენი წარმატებისთვის. არ დაგავიწყდეთ სიუჟეტის მოწონება და გაზიარება! ეს ავტორი არის დამოუკიდებელი კონტრიბუტორი, რომელიც აქვეყნებს ჩვენს მიერ . HackerNoon-მა განიხილა ანგარიში ხარისხისთვის, მაგრამ პრეტენზიები ეკუთვნის ავტორს. #DYOR ვესტირებული ინტერესის გამჟღავნება: ბიზნეს ბლოგის პროგრამა