कुबेरनेट्स पर एआई/एमएल वर्कलोड लगाने के लिए 3 प्रमुख उपकरण

इंफ्रास्ट्रक्चर टेक्नोलॉजी की दुनिया में चीजें तेजी से आगे बढ़ती हैं। कुछ समय पहले की बात है जब कुबेरनेट्स पर एक डेटाबेस चलाना इसके लायक होने के लिए बहुत मुश्किल माना जाता था। लेकिन वह कल की समस्या थी। क्लाउड-नेटिव एप्लिकेशन के बिल्डर्स स्टेटफुल वर्कलोड चलाने में अच्छे हो गए हैं क्योंकि कुबेरनेट्स वर्चुअल डेटा सेंटर को जल्दी और कुशलता से बनाने का एक शक्तिशाली तरीका है।

पिछली बार जब मैंने इसके बारे में लिखा था, मैंने वर्चुअल डेटा सेंटर में एप्लिकेशन स्टैक के अन्य हिस्सों पर विचार करने के लिए एपर्चर को थोड़ा चौड़ा किया था - विशेष रूप से वर्कलोड और एनालिटिक्स स्ट्रीमिंग।

कुबेरनेट्स में इन दोनों के मुख्यधारा में आने के साथ, उपयोग के मामलों के बारे में चर्चा और अधिक दिलचस्प हो जाती है।

अगर हमारे पास इन मूलभूत डेटा उपकरणों तक पहुंच है तो हम इनका क्या करेंगे? शुक्र है कि हमें बहुत गहराई से जांच करने की आवश्यकता नहीं है, क्योंकि उद्योग ने पहले ही दिशा चुन ली है: एआई/एमएल वर्कलोड ।

यह क्या चला रहा है समर्थन करने के लिए तेज और अधिक चुस्त MLOps की आवश्यकता हैऑनलाइन भविष्यवाणी , अन्यथा रीयल-टाइम कृत्रिम बुद्धि (एआई) के रूप में जाना जाता है। उबेर और नेटफ्लिक्स जैसी कंपनियां शुरुआती अपनाने वाली रही हैं, लेकिन आपको कुबेरनेट्स के साथ तेजी से आगे बढ़ने के लिए कई बेहतरीन प्रोजेक्ट उपलब्ध हैं।

फ़ीचर दावत के साथ परोसना

मशीन लर्निंग (एमएल) मॉडल का निर्माण और रखरखाव बैक ऑफिस से बाहर निकल रहा है और उत्पादन में उपयोगकर्ताओं के करीब आ रहा है। फीचर स्टोर डेटा और मशीन लर्निंग मॉडल के बीच एक पुल के रूप में कार्य करता है, जो मॉडल को ऑफ़लाइन और ऑनलाइन दोनों चरणों में डेटा तक पहुंचने का एक सुसंगत तरीका प्रदान करता है। यह मॉडल प्रशिक्षण के दौरान डेटा प्रोसेसिंग आवश्यकताओं का प्रबंधन करता है और ऑनलाइन चरण के दौरान मॉडलों को कम-विलंबता रीयल-टाइम एक्सेस प्रदान करता है। यह दोनों चरणों के लिए डेटा स्थिरता सुनिश्चित करता है और ऑनलाइन और ऑफलाइन आवश्यकताओं को पूरा करता है।

दावत कुबेरनेट्स में चल रहे फीचर स्टोर का एक उदाहरण है। यह खुला स्रोत है और संगठनों को ऑफ़लाइन प्रशिक्षण और ऑनलाइन अनुमान के लिए सुविधाओं को लगातार स्टोर और सर्व करने में सक्षम बनाता है। समय-समय पर शुद्धता जैसी विशेष सुविधाएँ प्रदान करके दावत पारंपरिक डेटाबेस से आगे निकल जाती है।

के-सर्व के साथ सेवारत मॉडल

केसर्व कुबेरनेट्स में मशीन लर्निंग मॉडल को तैनात करने, मॉडल लाने, लोड करने और सीपीयू या जीपीयू की आवश्यकता है या नहीं यह निर्धारित करने के लिए एक एपीआई समापन बिंदु है। यह स्केल-आउट के लिए KNative इवेंटिंग के साथ एकीकृत होता है और मेट्रिक्स और लॉगिंग जैसी ऑब्जर्वेबिलिटी सुविधाएँ प्रदान करता है। श्रेष्ठ भाग? इसका उपयोग करना आसान है। बस अपनी मॉडल फ़ाइल पर KServe को इंगित करें और यह एक API बनाएगी और बाकी को संभाल लेगी।

व्याख्याकर्ता सुविधा इस बात की अंतर्दृष्टि प्रदान करती है कि प्रत्येक भविष्यवाणी के लिए निर्णय क्यों लिया गया, फीचर महत्व की पेशकश की और मॉडल में उन कारकों को हाइलाइट किया जो किसी विशेष परिणाम का नेतृत्व करते थे। इसका उपयोग मॉडल ड्रिफ्ट और पूर्वाग्रह का पता लगाने के लिए किया जा सकता है, जो मशीन लर्निंग के कुछ "महत्वपूर्ण लेकिन कठिन" हिस्से हैं। ये सुविधाएँ MLOps में शामिल प्रयास को कम करती हैं और एप्लिकेशन में विश्वास पैदा करती हैं। KServe हाल ही में Google KubeFlow प्रोजेक्ट से अलग हो गया है और हो गया है पर प्रकाश डाला एमएल निष्कर्ष मंच बनाने के अपने प्रयासों के तहत ब्लूमबर्ग द्वारा।

वेक्टर समानता खोज

डेटा खोजने के पारंपरिक तरीकों को बढ़ाते हुए, वेक्टर समानता खोज (वीएसएस) एक मशीन लर्निंग टूल है जो वेक्टर गणित का उपयोग यह पता लगाने के लिए करता है कि दो चीजें एक दूसरे के "करीब" कैसे हैं। यह K-निकटतम पड़ोसी के माध्यम से किया जाता है ( केएनएन ) एल्गोरिदम, जो डेटा को वेक्टर के रूप में व्यक्त करता है। डेटा को तब सीपीयू-गहन केएनएन एल्गोरिथम का उपयोग करके सदिशीकृत किया जाता है और कम सीपीयू-गहन खोज के लिए अनुक्रमित किया जाता है। अंतिम उपयोगकर्ता एक वेक्टर प्रदान कर सकते हैं और वीएसएस सर्वर द्वारा प्रदान की गई क्वेरी तंत्र का उपयोग करके इसके करीब की चीजें ढूंढ सकते हैं। ओपन-सोर्स वीएसएस सर्वर जिन्हें आप कुबेरनेट्स में तैनात कर सकते हैं उनमें वीवेट और मिल्वस शामिल हैं। दोनों आपको अपने एप्लिकेशन स्टैक में समानता खोज जोड़ने के लिए आवश्यक सब कुछ प्रदान करते हैं।

टीम को इकट्ठा करो

मेरे को मिलाओ पिछला लेख इसके साथ और आपके पास कुबेरनेट्स में तैनात पूर्ण स्टैक के लिए नुस्खा है। परिणाम प्रत्येक संगठन को यह महसूस करने का प्रयास करना चाहिए कि उत्पादकता में वृद्धि और लागत में कमी आई है। हाल ही का सर्वेक्षण दिखाते हैं कि कुबेरनेट्स में डेटा इन्फ्रास्ट्रक्चर को तैनात करते समय डेटा स्पेस में नेताओं को दोनों मिल रहे हैं।

एआई/एमएल वर्कलोड कुछ ऐसा हो सकता है जिसे आप अभी एक्सप्लोर करना शुरू कर रहे हैं, इसलिए अब दाहिने पैर से शुरू करने का सबसे अच्छा समय हो सकता है। जिन तीन क्षेत्रों का उल्लेख किया गया है - फ़ीचर सर्विंग, मॉडल सर्विंग और वेक्टर समानता खोज - ये सभी जेफ कारपेंटर के साथ सह-लेखक पुस्तक में शामिल हैं, " कुबेरनेट्स के साथ क्लाउड-नेटिव डेटा का प्रबंधन ।” एप्लिकेशन स्टैक में एआई/एमएल के लिए बड़ी तस्वीर: अधिकांश एआई अनुप्रयोगों में रीयल-टाइम आवश्यकताएं जल्द ही प्रचलित हो जाएंगी। कुबेरनेट्स का तेजी से आगे बढ़ने और मज़बूती से निर्माण करने के लिए उपयोग करना अब एआई मतिभ्रम नहीं है।

यहाँ भी प्रकाशित हुआ।