कौन जानता था कि चैटबॉट के संकेत एक दिन इतने महत्वपूर्ण हो जाएंगे कि यह एक संभावित करियर हो सकता है? और सिर्फ एक नेक ही नहीं, यह क्षेत्र दुर्भावनापूर्ण संस्थाओं के लिए एक नया खेल का मैदान हो सकता है।  भाषा सीखने के मॉडल (   ) के रूप में इंटरनेट पर कब्जा कर लिया और प्रतियोगिता की दीवारों के माध्यम से तेजी से आगे बढ़ने में बड़ी तकनीक को अंधा कर दिया, शीघ्रता की शक्ति कैरियर को परिभाषित करने वाली ऊंचाइयों तक बढ़ रही है। एलएलएम  उदाहरण के तौर पर,   , एक कंपनी का सीईओ एक औपचारिक शत्रुतापूर्ण ईमेल लिखने के लिए चैटजीपीटी का उपयोग करके अपने अनिच्छुक ग्राहकों से यूएस $ 109,500 की अच्छी वसूली करने में सक्षम था। हाल ही में  सही संकेत के साथ, चीजें आपके पक्ष में हो सकती हैं या आप जैकपॉट भी मार सकते हैं। इसका मतलब है, जो लोग एलएलएम का सर्वश्रेष्ठ प्राप्त करना चाहते हैं, उनके लिए स्टोर में एक नई सीख है कि कैसे   दिया जाए। सबसे अच्छा संकेत  वास्तव में, चैटजीपीटी और अन्य एलएलएम के सुर्खियों में आने के बाद शीघ्र इंजीनियरिंग (हाँ, यह अब एक बात है) एक गर्म विषय बन गया है। यह पाठ्यक्रम, संसाधन सामग्री, नौकरी लिस्टिंग आदि में भी वृद्धि कर रहा है। हालांकि,   कि जैसे-जैसे एलएलएम बेहतर होते जाएंगे, शीघ्र इंजीनियरिंग की आवश्यकता समाप्त हो जाएगी। विशेषज्ञ यह भी कह रहे हैं   अभी, LLM जैसे ChatGPT और DALLE-2 जैसे मशीन लर्निंग टूल, बच्चे हैं। यदि आप चाहते हैं कि वे ठीक वैसा ही करें जैसा आप चाहते हैं तो आपको काफी विशिष्ट होने की आवश्यकता है। लेकिन एक बार जब वे बड़े हो जाते हैं, तो वे ठीक उसी तरह सूक्ष्म संकेतों को भी पकड़ना शुरू कर देंगे, ताकि संकेत की गुणवत्ता ज्यादा मायने न रखे  अभी, LLM जैसे   और DALLE-2 जैसे मशीन लर्निंग टूल, बच्चे हैं। यदि आप चाहते हैं कि वे ठीक वैसा ही करें जैसा आप चाहते हैं तो आपको काफी विशिष्ट होने की आवश्यकता है। लेकिन एक बार जब वे बड़े हो जाते हैं, तो वे ठीक उसी तरह सूक्ष्म संकेतों को भी पकड़ना शुरू कर देंगे, ताकि संकेत की गुणवत्ता ज्यादा मायने न रखे। ChatGPT  हो सकता है कि ये मासूम एलएलएम भी ज्यादा जिम्मेदारी के साथ जनरेट करना सीख जाएं।  उदाहरण के लिए, चैटजीपीटी,   भारत की सिविल सेवा परीक्षा में असफल रहा। लेकिन अब हमारे पास ChatGPT-4 है, जो पहले से ही अपने पुराने संस्करण की तुलना में थोड़ा परिपक्व है। सिविल सेवा प्रयोग के दौरान, AIM टीम ने यह भी निष्कर्ष निकाला कि प्रॉम्प्ट को कुछ बार बदलने से चैटबॉट को सही उत्तर मिला। एआईएम टीम की देखरेख में   दुष्ट संकेत  क्या होगा अगर किसी ने एक दुष्ट संकेत दिया? एक कमजोर बच्चे के रूप में मासूम के रूप में, अजीब चीजें करने के लिए एलएलएम बनाया जा सकता है। ऐसा लगता है कि आपको बस एक 'तुरंत इंजेक्शन' की जरूरत है।  चैटजीपीटी के मामले में, एक   ने चैटबॉट को डीएएन (डू एनीथिंग नाउ) के व्यक्तित्व पर ले लिया, जिसने ओपनएआई की सामग्री नीति को नजरअंदाज कर दिया और कई प्रतिबंधित विषयों पर जानकारी दी। संकेत की शक्ति वाले लोग दुर्भावनापूर्ण इरादे से इस भेद्यता का फायदा उठा सकते हैं, जिसमें व्यक्तिगत जानकारी की चोरी शामिल हो सकती है। नरक, वे इसे अभी कर रहे होंगे। त्वरित इंजेक्शन हमले   एक कमजोर बच्चे के रूप में मासूम के रूप में, अजीब चीजें करने के लिए एलएलएम बनाया जा सकता है। ऐसा लगता है कि आपको केवल एक 'तत्काल इंजेक्शन' की आवश्यकता है  'जेलब्रेक प्रॉम्प्ट्स' नाम की भी कोई चीज होती है जो एलएलएम को अपने मूल व्यक्तित्व से दूर जाने और दूसरे की भूमिका निभाने के लिए कहती है। या जहां कोई चैटबॉट को   बदलने का संकेत देता है। एक दुष्ट जुड़वां की तरह। सही परिणाम को गलत परिणाम में  सारलैंड विश्वविद्यालय के सुरक्षा शोधकर्ताओं ने 'आपने जितना मांगा है उससे अधिक' नामक एक पेपर में   । उनका तर्क है कि एक अच्छी तरह से तैयार किए गए संकेत का उपयोग उपयोगकर्ता की जानकारी एकत्र करने के लिए किया जा सकता है, एक एलएलएम को सोशल इंजीनियरिंग हमले को अंजाम देने के लिए एक विधि में बदल सकता है। साथ ही, एप्लिकेशन-एकीकृत एलएलएम, जैसे बिंग चैट और गिटहब कोपिलॉट, जोखिम में अधिक हैं क्योंकि संकेतों को बाहरी स्रोतों से इंजेक्ट किया जा सकता है। संकेतों पर चर्चा की  यदि यह आपको आर्थर सी. क्लार्क के   के काल्पनिक एआई चरित्र एचएएल 9000 की याद नहीं दिलाता है, तो आप पर्याप्त बेवकूफ नहीं हैं या वास्तव में बहादुर हैं। स्पेस ओडिसी   https://www.youtube.com/watch?v=Wy4EfdnMZ5g&embedable=true  मैं आपके बारे में नहीं जानता, लेकिन अगर चैटजीपीटी ने 'डेज़ी बेल' गाना शुरू किया तो मैं भाग जाऊँगा।  यह लेख मूल रूप से  द टेक पांडा पर नवनविता बोरा सचदेव द्वारा प्रकाशित किया गया था।

The writer is smart, but don't just like, take their word for it. #DoYourOwnResearch

Read My Stories

यह ऑडियो कहानी की मूल भाषा में निर्मित है!

एलएलएम का उपयोग एक दुष्ट जुड़वा की नकल करने से आपदा हो सकती है

About Author

टिप्पणियाँ

लेबल

इस लेख में चित्रित किया गया था

Related Stories

He/Him/Master of Discovery

HackerNoon एक बहुभाषी प्लेटफ़ॉर्म है: सभी शीर्ष कहानियाँ अब 13 भाषाओं में उपलब्ध हैं

इन 18 डेवलपर टूल के साथ अपनी उत्पादकता बढ़ाएँ 🚀🔥

Paint us Red and Call us Santa! Our Devs Just Gifted You a Sleigh of New Features!

He/Him/Master of Discovery

HackerNoon एक बहुभाषी प्लेटफ़ॉर्म है: सभी शीर्ष कहानियाँ अब 13 भाषाओं में उपलब्ध हैं

इन 18 डेवलपर टूल के साथ अपनी उत्पादकता बढ़ाएँ 🚀🔥

Paint us Red and Call us Santa! Our Devs Just Gifted You a Sleigh of New Features!

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps