ओपन सोर्स AI डेवलपर्स, मेटा और दुनिया के लिए क्यों अच्छा है

ओपन सोर्स एआई ही आगे का रास्ता है। मेटा से अनुमति लेकर पुनः प्रकाशित।

उच्च प्रदर्शन कंप्यूटिंग के शुरुआती दिनों में, उस समय की प्रमुख तकनीकी कंपनियों ने यूनिक्स के अपने स्वयं के बंद स्रोत संस्करण विकसित करने में भारी निवेश किया था। उस समय यह कल्पना करना कठिन था कि कोई अन्य दृष्टिकोण ऐसे उन्नत सॉफ़्टवेयर विकसित कर सकता है। हालाँकि, अंततः ओपन सोर्स लिनक्स ने लोकप्रियता हासिल की - शुरू में क्योंकि इसने डेवलपर्स को अपने कोड को अपनी इच्छानुसार संशोधित करने की अनुमति दी और यह अधिक किफ़ायती था, और समय के साथ क्योंकि यह अधिक उन्नत, अधिक सुरक्षित हो गया, और इसमें किसी भी बंद यूनिक्स की तुलना में अधिक क्षमताओं का समर्थन करने वाला एक व्यापक पारिस्थितिकी तंत्र था। आज, लिनक्स क्लाउड कंप्यूटिंग और अधिकांश मोबाइल डिवाइस चलाने वाले ऑपरेटिंग सिस्टम दोनों के लिए उद्योग मानक आधार है - और हम सभी इसके कारण बेहतर उत्पादों से लाभान्वित होते हैं।

मेरा मानना है कि AI भी इसी तरह विकसित होगा। आज, कई तकनीकी कंपनियाँ अग्रणी बंद मॉडल विकसित कर रही हैं। लेकिन ओपन सोर्स तेज़ी से इस अंतर को पाट रहा है। पिछले साल, लामा 2 केवल सीमांत के पीछे के पुराने पीढ़ी के मॉडल के बराबर था। इस साल, लामा 3 सबसे उन्नत मॉडलों के साथ प्रतिस्पर्धी है और कुछ क्षेत्रों में अग्रणी है। अगले साल से, हम उम्मीद करते हैं कि भविष्य के लामा मॉडल उद्योग में सबसे उन्नत बन जाएंगे। लेकिन उससे पहले भी, लामा पहले से ही खुलेपन, परिवर्तनीयता और लागत दक्षता में अग्रणी है।

आज हम ओपन सोर्स AI को उद्योग मानक बनाने की दिशा में अगला कदम उठा रहे हैं। हम Llama 3.1 405B, पहला फ्रंटियर-लेवल ओपन सोर्स AI मॉडल, साथ ही नए और बेहतर Llama 3.1 70B और 8B मॉडल जारी कर रहे हैं। बंद मॉडल की तुलना में काफी बेहतर लागत/प्रदर्शन के अलावा, यह तथ्य कि 405B मॉडल खुला है, इसे छोटे मॉडलों को ठीक करने और डिस्टिल करने के लिए सबसे अच्छा विकल्प बना देगा।

इन मॉडलों को जारी करने के अलावा, हम व्यापक पारिस्थितिकी तंत्र को विकसित करने के लिए कई कंपनियों के साथ काम कर रहे हैं। Amazon, Databricks और NVIDIA डेवलपर्स को अपने स्वयं के मॉडल को बेहतर बनाने और तैयार करने में सहायता करने के लिए सेवाओं के पूर्ण सूट लॉन्च कर रहे हैं। Groq जैसे इनोवेटर्स ने सभी नए मॉडलों के लिए कम विलंबता, कम लागत वाली इंफ़रेंस सेवा का निर्माण किया है। मॉडल AWS, Azure, Google, Oracle और अन्य सहित सभी प्रमुख क्लाउड पर उपलब्ध होंगे। Scale. AI, Dell, Deloitte और अन्य जैसी कंपनियाँ उद्यमों को Llama अपनाने और अपने स्वयं के डेटा के साथ कस्टम मॉडल को प्रशिक्षित करने में मदद करने के लिए तैयार हैं। जैसे-जैसे समुदाय बढ़ता है और अधिक कंपनियाँ नई सेवाएँ विकसित करती हैं, हम सामूहिक रूप से Llama को उद्योग मानक बना सकते हैं और AI के लाभों को सभी तक पहुँचा सकते हैं।

मेटा ओपन सोर्स एआई के लिए प्रतिबद्ध है। मैं यह बताऊंगा कि मैं क्यों मानता हूं कि ओपन सोर्स आपके लिए सबसे अच्छा विकास स्टैक है, क्यों ओपन सोर्सिंग लामा मेटा के लिए अच्छा है, और क्यों ओपन सोर्स एआई दुनिया के लिए अच्छा है और इसलिए एक ऐसा प्लेटफॉर्म है जो लंबे समय तक रहेगा।

ओपन सोर्स AI डेवलपर्स के लिए क्यों अच्छा है

जब मैं दुनिया भर के डेवलपर्स, सीईओ और सरकारी अधिकारियों से बात करता हूं, तो आमतौर पर कई विषय सुनता हूं:

• हमें अपने खुद के मॉडल को प्रशिक्षित, फाइन-ट्यून और डिस्टिल करने की आवश्यकता है। हर संगठन की अलग-अलग ज़रूरतें होती हैं जिन्हें अलग-अलग आकार के मॉडल से सबसे अच्छी तरह से पूरा किया जा सकता है जिन्हें उनके विशिष्ट डेटा के साथ प्रशिक्षित या फाइन-ट्यून किया जाता है। ऑन-डिवाइस कार्यों और वर्गीकरण कार्यों के लिए छोटे मॉडल की आवश्यकता होती है, जबकि अधिक जटिल कार्यों के लिए बड़े मॉडल की आवश्यकता होती है। अब आप सबसे उन्नत लामा मॉडल ले पाएंगे, उन्हें अपने डेटा के साथ प्रशिक्षित करना जारी रख पाएंगे और फिर उन्हें अपने इष्टतम आकार के मॉडल में डिस्टिल कर पाएंगे - बिना हमारे या किसी और को आपका डेटा देखे।
• हमें अपने भाग्य को नियंत्रित करने की आवश्यकता है और किसी बंद विक्रेता में बंद नहीं होना चाहिए। कई संगठन ऐसे मॉडलों पर निर्भर नहीं रहना चाहते जिन्हें वे स्वयं चला और नियंत्रित नहीं कर सकते। वे नहीं चाहते कि बंद मॉडल प्रदाता उनके मॉडल को बदल सकें, उनके उपयोग की शर्तों को बदल सकें या उन्हें पूरी तरह से सेवा देना बंद कर सकें। वे किसी ऐसे क्लाउड में बंद नहीं होना चाहते जिसके पास मॉडल के लिए विशेष अधिकार हों। ओपन सोर्स संगत टूलचेन वाली कंपनियों के व्यापक पारिस्थितिकी तंत्र को सक्षम बनाता है जिसके बीच आप आसानी से जा सकते हैं।
• हमें अपने डेटा की सुरक्षा करने की आवश्यकता है। कई संगठन संवेदनशील डेटा संभालते हैं जिसे उन्हें सुरक्षित करने की आवश्यकता होती है और वे क्लाउड API पर बंद मॉडल को नहीं भेज सकते हैं। अन्य संगठन बस अपने डेटा के साथ बंद मॉडल प्रदाताओं पर भरोसा नहीं करते हैं। ओपन सोर्स इन मुद्दों को संबोधित करता है जिससे आप जहाँ चाहें मॉडल चला सकते हैं। यह अच्छी तरह से स्वीकार किया जाता है कि ओपन सोर्स सॉफ़्टवेयर अधिक सुरक्षित होता है क्योंकि इसे अधिक पारदर्शी तरीके से विकसित किया जाता है।
• हमें एक ऐसे मॉडल की आवश्यकता है जो चलाने में कुशल और किफायती हो। डेवलपर्स अपने स्वयं के इंफ्रास्ट्रक्चर पर Llama 3.1 405B पर अनुमान चला सकते हैं, जो कि GPT-4o जैसे बंद मॉडल का उपयोग करने की लागत का लगभग 50% है, दोनों उपयोगकर्ता-सामना और ऑफ़लाइन अनुमान कार्यों के लिए।
• हम ऐसे पारिस्थितिकी तंत्र में निवेश करना चाहते हैं जो दीर्घ अवधि के लिए मानक बनने जा रहा है। बहुत से लोग देखते हैं कि ओपन सोर्स बंद मॉडलों की तुलना में तेज़ गति से आगे बढ़ रहा है, और वे अपने सिस्टम को उस आर्किटेक्चर पर बनाना चाहते हैं जो उन्हें दीर्घ अवधि में सबसे ज़्यादा फ़ायदा देगा।

ओपन सोर्स AI मेटा के लिए क्यों अच्छा है

मेटा का व्यवसाय मॉडल लोगों के लिए सर्वोत्तम अनुभव और सेवाएँ बनाने के बारे में है। ऐसा करने के लिए, हमें यह सुनिश्चित करना होगा कि हमारे पास हमेशा सर्वोत्तम तकनीक तक पहुँच हो, और हम किसी प्रतिस्पर्धी के बंद पारिस्थितिकी तंत्र में बंद न हों जहाँ वे हमारे निर्माण को प्रतिबंधित कर सकें।

मेरे शुरुआती अनुभवों में से एक यह रहा है कि हम अपनी सेवाओं का निर्माण इस बात से सीमित रखते हैं कि Apple हमें अपने प्लेटफ़ॉर्म पर क्या बनाने देगा। जिस तरह से वे डेवलपर्स पर कर लगाते हैं, जो मनमाने नियम वे लागू करते हैं, और सभी उत्पाद नवाचारों को वे शिपिंग से रोकते हैं, यह स्पष्ट है कि मेटा और कई अन्य कंपनियाँ लोगों के लिए बेहतर सेवाएँ बनाने के लिए स्वतंत्र होंगी यदि हम अपने उत्पादों के सर्वश्रेष्ठ संस्करण बना सकें और प्रतिस्पर्धी हमारे द्वारा बनाए जाने वाले उत्पादों पर प्रतिबंध न लगा पाएँ। दार्शनिक स्तर पर, यह एक प्रमुख कारण है कि मैं अगली पीढ़ी की कंप्यूटिंग के लिए AI और AR/VR में खुले पारिस्थितिकी तंत्र के निर्माण में इतना दृढ़ता से विश्वास करता हूँ।

लोग अक्सर पूछते हैं कि क्या मैं लामा को ओपन सोर्स करके तकनीकी लाभ को खोने के बारे में चिंतित हूं, लेकिन मुझे लगता है कि कुछ कारणों से यह बड़ी तस्वीर को नजरअंदाज करता है:

सबसे पहले, यह सुनिश्चित करने के लिए कि हमारे पास सर्वोत्तम तकनीक तक पहुँच है और हम लंबे समय तक बंद पारिस्थितिकी तंत्र में बंद नहीं हैं, लामा को उपकरणों, दक्षता सुधारों, सिलिकॉन अनुकूलन और अन्य एकीकरणों के पूर्ण पारिस्थितिकी तंत्र में विकसित होने की आवश्यकता है। यदि हम लामा का उपयोग करने वाली एकमात्र कंपनी होते, तो यह पारिस्थितिकी तंत्र विकसित नहीं होता और हम यूनिक्स के बंद संस्करणों से बेहतर प्रदर्शन नहीं कर पाते।

दूसरा, मुझे उम्मीद है कि एआई विकास बहुत प्रतिस्पर्धी बना रहेगा, जिसका मतलब है कि किसी भी दिए गए मॉडल को ओपन सोर्स करना उस समय अगले सबसे अच्छे मॉडल पर बहुत बड़ा लाभ नहीं दे रहा है। लामा के लिए उद्योग मानक बनने का मार्ग लगातार प्रतिस्पर्धी, कुशल और पीढ़ी दर पीढ़ी खुला रहना है।

तीसरा, मेटा और बंद मॉडल प्रदाताओं के बीच एक महत्वपूर्ण अंतर यह है कि एआई मॉडल तक पहुंच बेचना हमारा व्यवसाय मॉडल नहीं है। इसका मतलब है कि लामा को खुले तौर पर जारी करना हमारे राजस्व, स्थिरता या शोध में निवेश करने की क्षमता को कम नहीं करता है, जैसा कि बंद प्रदाताओं के लिए होता है। (यह एक कारण है कि कई बंद प्रदाता लगातार ओपन सोर्स के खिलाफ सरकारों की पैरवी करते हैं।)

अंत में, मेटा के पास ओपन सोर्स प्रोजेक्ट और सफलताओं का एक लंबा इतिहास है। हमने ओपन कंप्यूट प्रोजेक्ट के साथ अपने सर्वर, नेटवर्क और डेटा सेंटर डिज़ाइन को रिलीज़ करके और हमारे डिज़ाइन पर आपूर्ति श्रृंखलाओं को मानकीकृत करके अरबों डॉलर बचाए हैं। PyTorch, React और कई अन्य टूल जैसे प्रमुख टूल को ओपन सोर्स करके हमने पारिस्थितिकी तंत्र के नवाचारों से लाभ उठाया। जब हम लंबे समय तक इसके साथ बने रहते हैं तो यह दृष्टिकोण हमारे लिए लगातार काम करता है।

ओपन सोर्स एआई दुनिया के लिए क्यों अच्छा है

मेरा मानना है कि सकारात्मक AI भविष्य के लिए ओपन सोर्स आवश्यक है। AI में मानव उत्पादकता, रचनात्मकता और जीवन की गुणवत्ता बढ़ाने के लिए किसी भी अन्य आधुनिक तकनीक की तुलना में अधिक क्षमता है - और चिकित्सा और वैज्ञानिक अनुसंधान में प्रगति को अनलॉक करते हुए आर्थिक विकास को गति देने की भी। ओपन सोर्स यह सुनिश्चित करेगा कि दुनिया भर में अधिक लोगों को AI के लाभों और अवसरों तक पहुँच मिले, यह शक्ति कुछ ही कंपनियों के हाथों में केंद्रित न हो, और यह कि तकनीक को पूरे समाज में अधिक समान रूप से और सुरक्षित रूप से तैनात किया जा सके।

ओपन सोर्स एआई मॉडल की सुरक्षा के बारे में बहस जारी है, और मेरा मानना है कि ओपन सोर्स एआई अन्य विकल्पों की तुलना में अधिक सुरक्षित होगा। मुझे लगता है कि सरकारें इस निष्कर्ष पर पहुंचेंगी कि ओपन सोर्स का समर्थन करना उनके हित में है क्योंकि यह दुनिया को अधिक समृद्ध और सुरक्षित बनाएगा।

सुरक्षा को समझने के लिए मेरा ढाँचा यह है कि हमें दो प्रकार के नुकसानों से सुरक्षा की आवश्यकता है: अनजाने में और जानबूझकर। अनजाने में नुकसान तब होता है जब कोई AI सिस्टम नुकसान पहुँचा सकता है, भले ही इसे चलाने वालों का ऐसा करने का इरादा न हो। उदाहरण के लिए, आधुनिक AI मॉडल अनजाने में खराब स्वास्थ्य सलाह दे सकते हैं। या, अधिक भविष्य के परिदृश्यों में, कुछ लोग चिंता करते हैं कि मॉडल अनजाने में मानवता के नुकसान के लिए लक्ष्यों की स्वयं-प्रतिकृति या अति-अनुकूलन कर सकते हैं। जानबूझकर नुकसान तब होता है जब कोई बुरा अभिनेता नुकसान पहुँचाने के लक्ष्य के साथ AI मॉडल का उपयोग करता है।

यह ध्यान देने योग्य है कि अनजाने में होने वाले नुकसान में एआई के बारे में लोगों की अधिकांश चिंताएँ शामिल हैं - एआई सिस्टम का उन अरबों लोगों पर क्या प्रभाव पड़ेगा जो उनका उपयोग करेंगे, से लेकर मानवता के लिए वास्तव में विनाशकारी विज्ञान कथा परिदृश्यों तक। इस मोर्चे पर, ओपन सोर्स काफी सुरक्षित होना चाहिए क्योंकि सिस्टम अधिक पारदर्शी हैं और उनकी व्यापक रूप से जाँच की जा सकती है। ऐतिहासिक रूप से, ओपन सोर्स सॉफ़्टवेयर इस कारण से अधिक सुरक्षित रहा है। इसी तरह, लामा गार्ड जैसी सुरक्षा प्रणालियों के साथ लामा का उपयोग करना बंद मॉडल की तुलना में अधिक सुरक्षित और सुरक्षित होगा। इस कारण से, ओपन सोर्स एआई सुरक्षा के बारे में अधिकांश बातचीत जानबूझकर नुकसान पहुँचाने पर केंद्रित है।

हमारी सुरक्षा प्रक्रिया में कठोर परीक्षण और रेड-टीमिंग शामिल है, ताकि यह आकलन किया जा सके कि हमारे मॉडल सार्थक नुकसान पहुंचाने में सक्षम हैं या नहीं, जिसका लक्ष्य रिलीज़ से पहले जोखिमों को कम करना है। चूंकि मॉडल खुले हैं, इसलिए कोई भी व्यक्ति अपने लिए भी परीक्षण करने में सक्षम है। हमें यह ध्यान में रखना चाहिए कि इन मॉडलों को इंटरनेट पर पहले से मौजूद जानकारी द्वारा प्रशिक्षित किया जाता है, इसलिए नुकसान पर विचार करते समय शुरुआती बिंदु यह होना चाहिए कि क्या कोई मॉडल Google या अन्य खोज परिणामों से तुरंत प्राप्त की जा सकने वाली जानकारी की तुलना में अधिक नुकसान पहुंचा सकता है।

जानबूझकर नुकसान पहुंचाने के बारे में तर्क करते समय, यह अंतर करना उपयोगी होता है कि व्यक्तिगत या छोटे स्तर के अभिनेता क्या कर सकते हैं, तथा विशाल संसाधनों वाले राष्ट्र राज्य जैसे बड़े स्तर के अभिनेता क्या कर सकते हैं।

भविष्य में किसी समय, व्यक्तिगत बुरे अभिनेता इंटरनेट पर उपलब्ध जानकारी से पूरी तरह से नए नुकसान का निर्माण करने के लिए AI मॉडल की बुद्धिमत्ता का उपयोग करने में सक्षम हो सकते हैं। इस बिंदु पर, शक्ति का संतुलन AI सुरक्षा के लिए महत्वपूर्ण होगा। मुझे लगता है कि ऐसी दुनिया में रहना बेहतर होगा जहाँ AI का व्यापक रूप से उपयोग किया जाता है ताकि बड़े अभिनेता छोटे बुरे अभिनेताओं की शक्ति की जाँच कर सकें। इस तरह से हमने अपने सोशल नेटवर्क पर सुरक्षा का प्रबंधन किया है - हमारे अधिक मजबूत AI सिस्टम कम परिष्कृत अभिनेताओं से खतरों की पहचान करते हैं और उन्हें रोकते हैं जो अक्सर छोटे पैमाने के AI सिस्टम का उपयोग करते हैं। अधिक व्यापक रूप से, बड़े पैमाने पर AI को तैनात करने वाले बड़े संस्थान पूरे समाज में सुरक्षा और स्थिरता को बढ़ावा देंगे। जब तक सभी के पास समान पीढ़ियों के मॉडल तक पहुँच है - जिसे ओपन सोर्स बढ़ावा देता है - तब अधिक कंप्यूट संसाधनों वाली सरकारें और संस्थान कम कंप्यूट के साथ बुरे अभिनेताओं की जाँच करने में सक्षम होंगे।

अगला सवाल यह है कि अमेरिका और लोकतांत्रिक देशों को चीन जैसे विशाल संसाधनों वाले राज्यों के खतरे से कैसे निपटना चाहिए। संयुक्त राज्य अमेरिका का लाभ विकेंद्रीकृत और खुला नवाचार है। कुछ लोग तर्क देते हैं कि हमें चीन को उन तक पहुँचने से रोकने के लिए अपने मॉडल बंद कर देने चाहिए, लेकिन मेरा विचार है कि यह काम नहीं करेगा और इससे केवल अमेरिका और उसके सहयोगियों को नुकसान होगा। हमारे विरोधी जासूसी करने में माहिर हैं, थंब ड्राइव पर फिट होने वाले मॉडल चुराना अपेक्षाकृत आसान है, और अधिकांश तकनीकी कंपनियाँ इस तरह से काम करने से बहुत दूर हैं जो इसे और अधिक कठिन बना दे। ऐसा लगता है कि केवल बंद मॉडलों की दुनिया में बड़ी कंपनियों और हमारे भू-राजनीतिक विरोधियों की एक छोटी संख्या के पास अग्रणी मॉडलों तक पहुँच होगी, जबकि स्टार्टअप, विश्वविद्यालय और छोटे व्यवसाय अवसरों से चूक जाएँगे। साथ ही, अमेरिकी नवाचार को बंद विकास तक सीमित रखने से इस बात की संभावना बढ़ जाती है कि हम बिल्कुल भी नेतृत्व न करें। इसके बजाय, मुझे लगता है कि हमारी सबसे अच्छी रणनीति एक मजबूत खुला पारिस्थितिकी तंत्र बनाना है और हमारी अग्रणी कंपनियों को हमारी सरकार और सहयोगियों के साथ मिलकर काम करना है ताकि यह सुनिश्चित हो सके कि वे नवीनतम प्रगति का सबसे अच्छा लाभ उठा सकें और लंबी अवधि में एक स्थायी प्रथम-प्रवर्तक लाभ प्राप्त कर सकें।

जब आप भविष्य के अवसरों पर विचार करते हैं, तो याद रखें कि आज की अधिकांश अग्रणी तकनीकी कंपनियाँ और वैज्ञानिक अनुसंधान ओपन सोर्स सॉफ़्टवेयर पर आधारित हैं। अगर हम सामूहिक रूप से इसमें निवेश करें तो अगली पीढ़ी की कंपनियाँ और अनुसंधान ओपन सोर्स AI का उपयोग करेंगे। इसमें अभी-अभी शुरू हुए स्टार्टअप के साथ-साथ विश्वविद्यालयों और देशों के लोग भी शामिल हैं जिनके पास अपने अत्याधुनिक AI को खरोंच से विकसित करने के लिए संसाधन नहीं हो सकते हैं।

निष्कर्ष यह है कि ओपन सोर्स एआई, सभी के लिए सबसे बड़ा आर्थिक अवसर और सुरक्षा बनाने के लिए इस प्रौद्योगिकी का उपयोग करने का विश्व का सर्वोत्तम प्रयास है।

आइये इसे मिलकर बनाएं

पिछले लामा मॉडल के साथ, मेटा ने उन्हें अपने लिए विकसित किया और फिर उन्हें रिलीज़ किया, लेकिन एक व्यापक पारिस्थितिकी तंत्र बनाने पर ज़्यादा ध्यान नहीं दिया। हम इस रिलीज़ के साथ एक अलग दृष्टिकोण अपना रहे हैं। हम अधिक से अधिक डेवलपर्स और भागीदारों को लामा का उपयोग करने में सक्षम बनाने के लिए आंतरिक रूप से टीमें बना रहे हैं, और हम सक्रिय रूप से साझेदारी बना रहे हैं ताकि पारिस्थितिकी तंत्र में अधिक से अधिक कंपनियाँ अपने ग्राहकों को अनूठी कार्यक्षमता प्रदान कर सकें।

मेरा मानना है कि लामा 3.1 रिलीज़ उद्योग में एक महत्वपूर्ण मोड़ होगा जहाँ अधिकांश डेवलपर्स मुख्य रूप से ओपन सोर्स का उपयोग करना शुरू करेंगे, और मुझे उम्मीद है कि यह दृष्टिकोण यहाँ से और बढ़ेगा। मुझे उम्मीद है कि आप दुनिया में सभी के लिए AI के लाभों को लाने की इस यात्रा में हमारे साथ शामिल होंगे।

आप अब llama.meta.com पर मॉडल तक पहुंच सकते हैं।

💪,

एमजेड