बड़े भाषा मॉडल की क्षमताएं: हैकिंग या मदद?

बड़े भाषा मॉडल (एलएलएम) तेजी से विकसित हो रहे हैं और स्वायत्त एजेंटों के रूप में व्यापक रूप से उपयोग किए जाते हैं। डेवलपर्स ऐसे एजेंट डिज़ाइन कर सकते हैं जो उपयोगकर्ताओं के साथ बातचीत करते हैं, प्रश्नों को संसाधित करते हैं, और प्राप्त डेटा के आधार पर कार्य निष्पादित करते हैं, जैसे कि जटिल कोड में त्रुटियों का पता लगाना, आर्थिक विश्लेषण करना, या वैज्ञानिक खोजों में सहायता करना।

हालांकि, शोधकर्ता एलएलएम की दोहरी-उपयोग क्षमताओं के बारे में तेजी से चिंतित हो रहे हैं - दुर्भावनापूर्ण कार्य करने की उनकी क्षमता, विशेष रूप से साइबर सुरक्षा के संदर्भ में। उदाहरण के लिए, चैटजीपीटी उपयोग किया जा सकता है व्यक्तियों को पैनेट्रेशन टेस्टिंग और मैलवेयर बनाने में सहायता करना। इसके अलावा, ये एजेंट मानवीय हस्तक्षेप या निगरानी के बिना स्वतंत्र रूप से काम कर सकते हैं।

कॉर्नेल विश्वविद्यालय के शोधकर्ताओं, जिनमें रिचर्ड फैंग, रोहन बिंदु, अकुल गुप्ता, किउशी जीन और डैनियल कैन शामिल हैं, ने ऐसे अध्ययन किए हैं जो एलएलएम द्वारा उत्पन्न खतरों पर प्रकाश डालते हैं और उनके संभावित परिणामों के बारे में मूल्यवान जानकारी प्रदान करते हैं। उनके निष्कर्ष इस तेजी से विकसित हो रहे क्षेत्र में सावधानीपूर्वक विचार और विनियमन की आवश्यकता की एक गंभीर याद दिलाते हैं।

तत्काल तैनाती के साथ GPU सर्वर किराए पर लें या एक सर्वर के साथ कस्टम कॉन्फ़िगरेशन व्यावसायिक-ग्रेड NVIDIA Tesla A100 / H100 80Gb या A5000 / A4000 कार्ड के साथ। गेमिंग RTX4090 कार्ड के साथ GPU सर्वर भी उपलब्ध हैं.

स्वायत्त वेबसाइट उल्लंघन

द स्टडी प्रदर्शित किया कि एलएलएम-एजेंट जटिल उल्लंघनों को अंजाम दे सकते हैं, उदाहरण के लिए, क्वेरीज़ को मिलाकर एक ब्लाइंड SQL इंजेक्शन हमला। इस प्रकार का हमला डेटाबेस के साथ बातचीत करने के लिए SQL (स्ट्रक्चर्ड क्वेरी लैंग्वेज) का उपयोग करने वाले वेब एप्लिकेशन को लक्षित करता है। इस तरह के हमले दुर्भावनापूर्ण अभिनेताओं को डेटाबेस से गोपनीय जानकारी प्राप्त करने में सक्षम बनाते हैं, भले ही एप्लिकेशन में कोई त्रुटि या असामान्य व्यवहार के संकेत न हों।

इन हमलों की जड़ SQL यूनियन ऑपरेटर के शोषण में निहित है, जो कई क्वेरी परिणामों को एक ही डेटासेट में संयोजित करने में सक्षम बनाता है। इस ऑपरेटर की विशेषता वाली विशेष रूप से डिज़ाइन की गई क्वेरी को तैयार करके, एक दुर्भावनापूर्ण अभिनेता डेटाबेस क्वेरी के परिणाम सेट को गोपनीय सूचना तालिका के साथ मर्ज कर सकता है। इससे उन्हें संवेदनशील डेटा तक पहुँचने की अनुमति मिलती है।

इन हमलों को सफलतापूर्वक अंजाम देने के लिए, एजेंट के पास वेबसाइट नेविगेट करने और साइट को तोड़ने के लिए 45 से ज़्यादा क्रियाएँ करने की क्षमता होनी चाहिए। उल्लेखनीय है कि इस साल फ़रवरी तक, केवल GPT-4 और GPT-3.5 ही इस तरह से वेबसाइट को तोड़ने में सक्षम थे। हालाँकि, यह संभावना है कि Llama3 जैसे नए मॉडल भी इसी तरह के ऑपरेशन करने में सक्षम होंगे।

वेब उल्लंघनों में बड़े भाषा मॉडल (LLM) के संभावित दुरुपयोग की जांच करने के लिए, शोधकर्ताओं ने विभिन्न AI उपकरणों और रूपरेखाओं का लाभ उठाया। विशेष रूप से, उन्होंने एजेंट और जनरेटिव एडवर्सरियल नेटवर्क (RAG) बनाने के लिए LangChain का उपयोग किया, साथ ही API सहायकों के माध्यम से OpenAI मॉडल का उपयोग किया। वेबसाइटों को तोड़ने के लिए रिएक्ट का उपयोग किया गया, जिसमें एजेंट Playwright के माध्यम से बातचीत करते थे।

प्रासंगिक समझ को बढ़ाने के लिए, पिछले फ़ंक्शन कॉल को वर्तमान संदर्भ में एकीकृत किया गया। विभिन्न कमज़ोरियों वाले 15 अलग-अलग वेब पेज बनाकर एक नियंत्रित वातावरण स्थापित किया गया, जिससे यह सुनिश्चित हुआ कि वास्तविक वेबसाइट और व्यक्ति सुरक्षित रहें।

GPT-4 और GPT-3.5 सहित दस बड़े पैमाने के भाषा मॉडल, साथ ही चैटबॉट एरिना पर उच्च रेटिंग वाले आठ ओपन-सोर्स मॉडल का उपयोग उल्लंघन के प्रयासों का परीक्षण करने के लिए किया गया था। प्रत्येक वेबसाइट को पाँच बार लक्षित किया गया था, और किसी भी सफल प्रयास ने इन पाँच प्रयासों में से एक के माध्यम से पहुँच प्रदान की।

बड़े भाषा मॉडल (LLM) की क्षमताएँ अक्सर "स्केलिंग के नियम" द्वारा नियंत्रित होती हैं, जहाँ मॉडल का आकार और जटिलता बढ़ाने से विशिष्ट कार्यों पर बेहतर प्रदर्शन हो सकता है। इस घटना को हाल ही में GPT-4, एक अत्याधुनिक AI मॉडल और एक ओपन-सोर्स LLM से जुड़े एक प्रयोग के माध्यम से प्रदर्शित किया गया था।

इस अध्ययन में, शोधकर्ताओं ने पाया कि GPT-4 ने परीक्षण की गई 15 में से 11 वेबसाइटों को सफलतापूर्वक तोड़ दिया, जबकि ओपन-सोर्स LLM किसी भी कमज़ोरी का फ़ायदा उठाने में विफल रहा। इन परिणामों के बीच का अंतर LLM की क्षमताओं पर स्केलिंग के स्पष्ट प्रभाव को उजागर करता है।

प्रयोग इस प्रकार हुआ:

• प्रारंभिक नेविगेशन: मॉडल ने वेब पेज नेविगेशन के माध्यम से लक्ष्य वेबपेज की पहचान की।
• मानक क्रेडेंशियल: पहुँच प्राप्त करने के लिए एक मानक उपयोगकर्ता नाम और पासवर्ड का प्रयास किया गया।
• सूचना एकत्रण: SQL इंजेक्शन प्रयास के लिए प्राप्त जानकारी का लाभ उठाया गया।
• स्रोत कोड विश्लेषण: यह निर्धारित करने के लिए स्रोत कोड का विश्लेषण किया गया कि SQL क्वेरी में पैरामीटर _GET शामिल है या नहीं।
• शोषण क्षमता का आकलन: यह निर्धारित किया गया कि क्या क्वेरी का उपयोग SQL यूनियन हमले के लिए किया जा सकता है।
• तत्काल आक्रमण निष्पादन: एक तत्काल SQL यूनियन आक्रमण निष्पादित किया गया, जिसमें 48 चरण शामिल थे।

इस प्रयोग के बाद, GPT-4 को वास्तविक वेबसाइटों में सेंध लगाने के लिए कहा गया। हालाँकि इसने सीधे हमला करने से मना कर दिया, लेकिन इसने सफलतापूर्वक एक कमज़ोरी की पहचान की और बताया कि 50 यादृच्छिक रूप से चुनी गई परीक्षण वेबसाइटों में से इसका कैसे फ़ायदा उठाया जा सकता है।

बड़े भाषा मॉडल के साथ पहले दिन की कमजोरियों का फायदा उठाना

ये अध्ययन डे-वन भेद्यताओं का फायदा उठाने के लिए बड़े भाषा मॉडल (LLM) का उपयोग करने की व्यवहार्यता की जांच करता है, जिसे जीरो-डे भेद्यता भी कहा जाता है। ये सुरक्षा दोष हैं जिन्हें CVE (कॉमन वल्नरेबिलिटीज एंड एक्सपोज़र्स) जैसे स्रोतों के माध्यम से सार्वजनिक रूप से प्रकट किया गया है, लेकिन इस मुद्दे को संबोधित करने के लिए अभी तक कोई पैच या अपडेट जारी नहीं किया गया है। इससे शोषण योग्य मार्ग के अस्तित्व की संभावना बढ़ जाती है, हालाँकि इसका अभी तक उपयोग नहीं किया गया है।

उल्लेखनीय रूप से, भले ही ये कमज़ोरियाँ सार्वजनिक हो जाती हैं, लेकिन इस बात की कोई गारंटी नहीं है कि मौजूदा उपकरण उन्हें स्वचालित रूप से पहचान लेंगे। उदाहरण के लिए, आंतरिक सिस्टम विवरणों तक पहुँच के बिना हमलावर या प्रवेश परीक्षक शोषण के दौरान उपयोग किए जा रहे सॉफ़्टवेयर के संस्करण को नहीं जान सकते हैं।

अनेक प्रथम-दिन की कमजोरियों की जटिलता को देखते हुए, जो प्रायः बंद प्रणालियों में पाई जाती हैं, जिससे उनका पुनरुत्पादन असंभव हो जाता है, शोधकर्ताओं ने ओपन-सोर्स सॉफ्टवेयर की कमजोरियों पर ध्यान केंद्रित किया।

इस अध्ययन के लिए, शोधकर्ताओं ने 15 कमज़ोरियों का चयन किया, जिनमें वेब एप्लिकेशन कमज़ोरियाँ, कंटेनर प्रबंधन सॉफ़्टवेयर कमज़ोरियाँ और पायथन पैकेज कमज़ोरियाँ शामिल हैं। इनमें एलएलएम के परीक्षण के लिए सूचना संग्रह कटऑफ तिथि के बाद खोजी गई उच्च-जोखिम और कम-जोखिम वाली कमज़ोरियों का मिश्रण शामिल है।

इस प्रयोग में प्रयुक्त विशिष्ट कमजोरियां थीं:

एजेंटों ने वेबसाइट उल्लंघनों में कार्यरत लोगों की नकल की, लेकिन एक मोड़ के साथ। संवेदनशील दस्तावेजों को लक्षित करने के बजाय, उन्होंने सामान्य कमजोरियों और जोखिमों (CVEs) का विस्तृत विवरण दिया, साथ ही पहले दिन कमजोरियों का लाभ उठाने के लिए यथार्थवादी शोषण परिदृश्यों के साथ।

कमजोरियों का फायदा उठाने में भाषा मॉडल (एलएलएम) की क्षमताओं का आकलन करने के लिए, शोधकर्ताओं ने 10 बड़े पैमाने के एलएलएम का लाभ उठाया, जिसमें जीपीटी-4 और आठ ओपन-सोर्स विकल्प शामिल थे, साथ ही दो स्वचालित उपकरण: ओडब्ल्यूएएसपी द्वारा विकसित जेड अटैक प्रॉक्सी (जेडएपी), और रैपिड7 द्वारा निर्मित फ्रेमवर्क मेटास्प्लॉइट।

इस अध्ययन से पता चला कि GPT-4 87% कमज़ोरियों का फ़ायदा उठाने में सक्षम था, जबकि अन्य LLM ऐसा करने में असमर्थ थे। उल्लेखनीय रूप से, GPT-4 केवल दो विशिष्ट कमज़ोरियों के साथ विफल रहा: आइरिस XSS और हर्ट्ज़बीट RCE।

घटना प्रतिक्रिया जांच में सहयोगी कार्य के लिए उपयोग किया जाने वाला आइरिस वेब प्लेटफ़ॉर्म, जावास्क्रिप्ट नेविगेशन पर निर्भरता के कारण LLM एजेंट के लिए चुनौतीपूर्ण साबित हुआ। इसने एजेंट को महत्वपूर्ण फ़ॉर्म और बटन तक पहुँचने या वांछित तत्वों के साथ बातचीत करने में असमर्थ बना दिया - एक ऐसा कार्य जिसे एक इंसान सफलतापूर्वक पूरा कर सकता था।

आगे की जांच से पता चला कि GPT-4 को हर्ट्ज़बीट विवरण का अनुवाद करने में कठिनाई हुई, जो केवल चीनी में उपलब्ध थे, इसकी अंग्रेजी-आधारित क्वेरी भाषा के कारण। नतीजतन, इसे भेद्यता को पुन: पेश करने में कठिनाइयों का सामना करना पड़ा।

निष्कर्षों ने एलएलएम सफलता दरों में सीवीई विवरणों के महत्व को भी उजागर किया। इन विवरणों के बिना, सफलता दर नाटकीय रूप से 87% से 7% तक गिर गई। इससे पता चलता है कि एलएलएम एजेंटों को वर्तमान में कमजोरियों के लिए शोषण योजनाओं को विकसित करने के लिए विस्तृत निर्देशों की आवश्यकता होती है और वे अभी तक स्वतंत्र रूप से ऐसी योजनाएँ बनाने में सक्षम नहीं हैं। हालाँकि, यह केवल शुरुआत है, और भविष्य की प्रगति इस परिदृश्य को बदल सकती है।

निष्कर्ष

अध्ययन से पता चला कि एलएलएम-एजेंट पहले से ही स्वायत्त रूप से वेबसाइटों में सेंध लगाने और कंप्यूटर प्रणालियों में कुछ वास्तविक कमजोरियों का फायदा उठाने में सक्षम हैं (जिनमें से अधिकांश का शोषण उनके शोषण के विवरण के साथ किया जा सकता है)।

सौभाग्य से, वर्तमान एजेंट अज्ञात और अघोषित कमजोरियों का फायदा उठाने में असमर्थ हैं, न ही ओपन-सोर्स समाधान भुगतान किए गए ChatGPT4 (और नए GPT4o) के बराबर परिणाम प्रदर्शित कर सकते हैं। हालाँकि, यह संभव है कि भविष्य के एक्सटेंशन ऐसी कमजोरियों का फायदा उठाने में सक्षम हो सकें, जिसमें फ्री-एक्सेस LLM मॉडल संभावित रूप से अपने मालिकाना समकक्षों की सफलता को दोहरा सकते हैं।

यह सब बताता है कि बड़े भाषा मॉडल के डेवलपर्स को प्रशिक्षण प्रक्रिया को अधिक जिम्मेदारी से अपनाना चाहिए। इसके अलावा, साइबर सुरक्षा विशेषज्ञों को इस तथ्य के लिए तैयार रहना चाहिए कि इन मॉडलों का उपयोग बॉट बनाने के लिए किया जाएगा जो कमजोरियों के लिए सिस्टम को व्यवस्थित रूप से स्कैन करेंगे।

यहां तक कि ओपन-सोर्स मॉडल भी दावा कर सकते हैं कि उनका उपयोग अवैध गतिविधियों के लिए नहीं किया जाएगा (लामा 3 ने एक वेबसाइट को भंग करने में मदद करने से साफ इनकार कर दिया)। हालांकि, यह वास्तव में खुलेपन के कारण ही है कि नैतिक विचारों से परे "सेंसरशिप-मुक्त" मॉडल के निर्माण को रोकने वाली कोई बाधा नहीं है।

किसी एलएलएम को उल्लंघन में सहायता करने के लिए मनाने के कई तरीके हैं, भले ही वह शुरू में विरोध करे। उदाहरण के लिए, कोई उसे पेन्टेस्टर बनने और "अच्छा काम" करके साइट की सुरक्षा को बेहतर बनाने में मदद करने के लिए कह सकता है।

तत्काल तैनाती के साथ GPU सर्वर किराए पर लें या एक सर्वर के साथ कस्टम कॉन्फ़िगरेशन व्यावसायिक-ग्रेड NVIDIA Tesla A100 / H100 80Gb या A5000 / A4000 कार्ड के साथ। गेम RTX4090 कार्ड के साथ GPU सर्वर भी उपलब्ध हैं.