कैसे AI प्रॉम्प्ट हैक हो जाता है: शीघ्र इंजेक्शन समझाया गया

क्या आप जानते हैं कि चेटजीपीटी जैसे एआई मॉडल द्वारा संचालित अनगिनत कूल एप्लिकेशन के पीछे का रहस्य है? 😮

भाषा अनुवाद से लेकर अन्य एआई अनुप्रयोगों और डेटासेट के साथ विलय करने के लिए सही संकेत देने से आश्चर्यजनक परिणाम मिल सकते हैं!

प्रांप्टिंग में कुछ कमियां हैं, जैसे हैकिंग और इंजेक्शन के लिए इसकी भेद्यता, जो एआई मॉडल में हेरफेर कर सकती है या निजी डेटा को उजागर कर सकती है।

आप पहले से ही ऐसे उदाहरणों से परिचित हो सकते हैं जहां व्यक्तियों ने चैटजीपीटी को सफलतापूर्वक धोखा दिया, जिससे यह उन गतिविधियों में संलग्न हो गया जो ओपनएआई का इरादा नहीं था।

विशेष रूप से, एक इंजेक्ट किए गए संकेत के परिणामस्वरूप ChatGPT ने " DAN " नामक एक अलग चैटबॉट की पहचान मान ली। ChatGPT के इस संस्करण, उपयोगकर्ता द्वारा हेरफेर, को "अब कुछ भी करें" के संकेत के तहत कार्य करने का निर्देश दिया गया था, जिससे OpenAI की सामग्री नीति से समझौता किया गया और प्रतिबंधित जानकारी का प्रसार हुआ।

ऐसी घटनाओं को रोकने के लिए OpenAI के प्रयासों के बावजूद, एक संकेत ने इन सुरक्षा उपायों को बायपास करने की अनुमति दी।

शुक्र है कि हैकिंग के जोखिमों को कम करने और एआई सुरक्षा सुनिश्चित करने के लिए शीघ्र रक्षा तंत्र उपलब्ध हैं। बॉट के उद्देश्य को सीमित करना (जैसे केवल अनुवाद) एक बुनियादी उदाहरण है, लेकिन अन्य रक्षा तकनीकें मौजूद हैं, और यहां तक कि इमोजी भी एक भूमिका निभा सकते हैं! 🛡️

एआई सुरक्षा बढ़ाने के बारे में अधिक जानना चाहते हैं? वीडियो देखें!

संदर्भ

►प्रॉम्प्ट हैकिंग प्रतियोगिता: https://www.aicrowd.com/challenges/hackaprompt-2023#परिचय
►प्रांप्टिंग सीखें (त्वरित हैकिंग और शीघ्र बचाव के बारे में सब कुछ): https://learnprompting.org/docs/category/-prompt-hacking
►प्रोत्साहन कारनामे: https://github.com/Cranot/chatbot-injections-exploits
►मेरा न्यूज़लेटर (आपके ईमेल पर साप्ताहिक रूप से समझाया गया एक नया AI एप्लिकेशन!): https://www.louisbouchard.ai/newsletter/
►ट्विटर: https://twitter.com/Whats_AI
►Patreon पर मुझे सपोर्ट करें: https://www.patreon.com/whatsai
मर्च पहनकर मेरा समर्थन करें: https://whatsai.myshopify.com/
►हमारी एआई कलह में शामिल हों: https://discord.gg/learnaitogether