क्यों चैटजीपीटी और अन्य चैटबॉट्स में मानव पूर्वाग्रह सामाजिक विघटन का कारण बन सकता है

AI क्रांति निस्संदेह नए तकनीकी आविष्कारों के लिए जिम्मेदार रही है।

इसके व्यवधान ने चैटबॉट्स और चैटजीपीटी जैसे एआई मॉडल पेश किए जो वर्तमान में 21वीं सदी में लोगों के रहने, बातचीत करने और सामाजिक होने के तरीकों को आकार दे रहे हैं, जो आश्चर्यजनक है।

पिछले साल लॉन्च होने के ठीक दो महीने बाद, OpenAI चैटबॉट, चैटजीपीटी ने दुनिया भर में 100 मिलियन से अधिक उपयोगकर्ता दर्ज किए।

सूट के बाद, Google ने एआई-संचालित संवादी मॉडल बार्ड के लॉन्च की भी घोषणा की , जो लोगों को खोज परिणामों से आसानी से पचने वाली जानकारी प्रदान करता है।

ये सभी स्मारकीय उपलब्धियों के रूप में काम करते हैं, यह दिखाते हैं कि आसान जीवन शैली के साथ मनुष्यों को सुरक्षित करने के लिए एआई विकास कितना करीब है। लेकिन कुछ चूक हो सकती है।

एआई क्रांति के साथ मुद्दा

एआई की मदद से मानवीय मामलों को संभालने के बेहतर तरीकों का निर्माण कुछ निहितार्थों के साथ आता है।

उच्च स्तरीय एआई मॉडल जैसे चैटजीपीटी और अन्य उन्नत चैटबॉट्स का उद्भव पहले से ही मानव नौकरियों के लिए खतरा पैदा कर रहा है।

जल्दी या बाद में, एआई चुपके से मानव नौकरियों को हाईजैक कर लेगा या बहुत सारे श्रमिकों को उनके क्षेत्रों में बेकार कर देगा।

एआई में क्रांति आने के कारण नौकरी में व्यवधान अपरिहार्य माना जाता है। लेकिन देखने के लिए और भी बहुत कुछ है क्योंकि ये एआई मॉडल मानव जीवन में घुसपैठ करते हैं और चीजों के क्रम को बदलते हैं।

इन नई तकनीकों से जुड़ा एक संभावित मुद्दा - चैटजीपीटी और अन्य चैटबॉट्स - जिस पर गंभीर अवलोकन की आवश्यकता है कि ये मॉडल सामाजिक व्यवधान कैसे पैदा कर सकते हैं।

OpenAI के सीईओ, सैम ऑल्टमैन के अनुसार, चैटजीपीटी का मुकाबला करने में एक बड़ी समस्या पूर्वाग्रह की समस्या है।

मानव पूर्वाग्रह को ChatGPT की एक बड़ी समस्या के रूप में पहचाना गया है, और निश्चित रूप से, यह केवल OpenAI के ChatGPT तक ही सीमित नहीं है।

चयनात्मक मानव वरीयता मुद्दों वाले अन्य चैटबॉट हैं।

एआई पूर्वाग्रह सांख्यिकी

Tidio के शोध से पता चलता है कि केवल 2% लोग सोचते हैं कि AI पूर्वाग्रह से मुक्त है; इसके विपरीत, 45% उत्तरदाताओं को लगता है कि एआई की मुख्य आधुनिक समस्या सामाजिक पूर्वाग्रह है।

इसका मतलब है कि चैटजीपीटी जैसे एआई चैटबॉट और बाकी अभी भी अपने निर्णय और संचालन में निष्पक्षता की कमी रखते हैं। क्योंकि इन एआई मॉडल का उपयोग करके मानव पूर्वाग्रह स्पष्ट रूप से उल्लेखनीय है।

एआई (मानव) पूर्वाग्रह क्या है?

एआई बायस एक आर्टिफिशियल इंटेलिजेंस समस्या है, जो एक मॉडल एल्गोरिदम को प्रशिक्षित करने के लिए पक्षपाती डेटा का उपयोग करने पर उत्पन्न होती है, जो अंततः मशीन के निर्णय को प्रभावित करती है।

एआई में पूर्वाग्रह की भूमिका की व्याख्या करते हुए, डेटा साइंस एंड एआई के प्रमुख स्टीव नूरी ने कहा कि एआई में मानव पूर्वाग्रह तीन रूपों में है: लिंग पूर्वाग्रह, नस्लीय पूर्वाग्रह और आयु भेदभाव।

एआई में मानवीय पूर्वाग्रह को समझौता किए गए डेटा या डेवलपर्स की जिम्मेदारी माना जाता है।

इससे पता चलता है कि चैटबॉट के लिए नस्लीय गालियों को उकसाना, हानिकारक बयान देना या लोगों के एक निश्चित समूह के खिलाफ भेदभाव करना लगभग असंभव है।

सिवाय एक पक्षपाती एल्गोरिथ्म या मॉडल द्वारा खपत किए गए डेटा के अलावा।

एक अच्छा उदाहरण 2016 में नस्लीय रूप से पक्षपाती होने का आरोप लगने के बाद माइक्रोसॉफ्ट ट्विटर चैटबॉट, ताई का अचानक बंद होना है।

यहां तक कि हाल ही में लॉन्च किए गए OpenAI संवादी मॉडल, ChatGPT, को अमेरिका के पूर्व राष्ट्रपति, डोनाल्ड ट्रम्प के खिलाफ 'रूढ़िवादी-विरोधी पूर्वाग्रह और दुर्भावना ' रखने के कारण पक्षपाती होने के रूप में निंदा की गई है।

क्यों चैटबॉट्स में मानव पूर्वाग्रह सामाजिक विघटन का कारण बन सकता है

पूर्व राष्ट्रपति डोनाल्ड ट्रम्प के बारे में आयोजित राजनीतिक पूर्वाग्रह चैटजीपीटी ने सोशल मीडिया पर एआई मॉडल और इसकी विकासशील कंपनी ओपनएआई की उच्च आलोचना की।

व्यापक विवाद के जवाब में, OpenAI के सीईओ, सैम ऑल्टमैन ने फरवरी की शुरुआत में इस मुद्दे को संबोधित करते हुए ट्वीट किया । सैम के अनुसार, चैटजीपीटी पूर्वाग्रह को खत्म करने और इसे बेहतर बनाने के लिए समायोजन जारी है।

अपने ट्वीट्स में, सैम ने स्वीकार किया कि OpenAI के कर्मचारियों पर "घृणा" की गई है, जिसे उन्होंने "भयावह" माना।

उन्होंने यह भी खुलासा किया कि उनकी कंपनी तटस्थता को बढ़ावा देने के लिए चैटबॉट की डिफ़ॉल्ट सेटिंग में सुधार करने और उपयोगकर्ताओं को व्यक्तिगत प्राथमिकताओं के आधार पर सिस्टम का उपयोग करने में सक्षम बनाने के लिए काम कर रही है।

लेकिन ऐसा आसानी से नहीं होगा। यहां तक कि सैम ने भी स्वीकार किया कि प्रक्रिया कठिन है और इसे लागू करने में समय लगेगा।

चैटजीपीटी के राजनीतिक पूर्वाग्रह के कारण ओपनएआई के कर्मचारियों पर अवांछित हमले हुए। किसी भी पक्षपाती एआई मॉडल के सामाजिक परिणामों को तौलने के लिए यह पर्याप्त संकेत है।

एआई पक्षपात व्यक्तियों और समुदायों पर गंभीर परिणाम ला सकता है। यह लोगों के एक समूह या भेदभाव की अनुचित आलोचना का कारण बन सकता है, जो अप्रत्यक्ष रूप से शत्रुता या सामाजिक आक्रोश को जन्म देता है।

इसलिए यह महत्वपूर्ण है कि इस समय पूर्वाग्रहों को नज़रअंदाज़ न किया जाए, बल्कि व्यवहार्य समाधानों की मांग की जाए।

जैसा कि सैम ने कहा, "अन्य लोगों पर हमला करने" का एआई क्षेत्र को आगे बढ़ने में मदद करने में कोई महत्वपूर्ण प्रभाव नहीं है। एआई चैटबॉट पक्षपात को कम करने के लिए संभावित विकल्पों की ओर ध्यान आकर्षित किया जाना चाहिए।

एआई चैटबॉट्स में पूर्वाग्रह को कैसे कम करें

एआई चैटबॉट्स में मानव पूर्वाग्रह पक्षपाती एल्गोरिदम या डेटा और मॉडल के डेवलपर्स का उपयोग करने के कारण होता है। एआई में पूर्वाग्रह को रोकने के लिए, चैटबॉट्स के निर्माण में निम्नलिखित बातों का ध्यान रखना चाहिए:

विविध मूल के डेवलपर्स

एआई में एल्गोरिदम पूर्वाग्रह या डेटा पूर्वाग्रह अधिकतर संभव है क्योंकि डेवलपर्स - जो इंसान हैं - उनके दृष्टिकोण में स्वाभाविक रूप से पक्षपाती हैं।

सजातीय डेवलपर्स की एक टीम के लिए एआई मॉडल बनाना आसान है जो जीवन के कुछ मुद्दों पर उनके विचारों और दृष्टिकोण का समर्थन या समर्थन करता है।

ऐसा होने से रोकने के लिए, विविध डेटा वैज्ञानिकों की एक टीम को नियुक्त करने की आवश्यकता है जो एल्गोरिथम पूर्वाग्रह के अवलोकन और कमी में सहायता कर सके।

सिंथेटिक डेटा का उपयोग

एआई मॉडल द्वारा बड़ी मात्रा में बिना सेंसर किए गए डेटा की खपत इसे पक्षपाती बनाती है। चैटबॉट पूर्वाग्रह को मिटाने का एक तरीका यह सुनिश्चित करना है कि मॉडल डेवलपर्स द्वारा देखे गए सिंथेटिक डेटा का पूरी तरह से उपयोग करता है।

पारदर्शिता

ChatGPT द्वारा खोजे गए पूर्वाग्रह के प्रति प्रतिक्रिया, OpenAI ने सहमति व्यक्त की कि इसके नए AI चैटबॉट को अभी भी "अपने तथ्यों को सही रखने में परेशानी है और इस अवसर पर हानिकारक निर्देश जारी करता है"।

एआई कंपनी लोगों को यह बताने के लिए सामने आई कि महत्वपूर्ण या संवेदनशील जानकारी के लिए चैटबॉट पर अभी भी भरोसा क्यों नहीं किया जा सकता है।

चैटबॉट्स में मानवीय पूर्वाग्रह को रोकने के लिए यह एक प्रकार की पारदर्शिता की आवश्यकता है। मॉडल की कमजोरियों को बताते हुए, सामाजिक व्यवधान को बढ़ने से पहले काबू में किया जा सकता है।

विकास से पहले और बाद में मॉडल का परीक्षण

जैसा कि कहा गया है, डेवलपर्स को विकसित होने से पहले और बाद में मॉडल का परीक्षण करना चाहिए।

चैटबॉट के कार्यों का आकलन करने और परीक्षण के कारण सामने आने वाले किसी भी प्रकार के पूर्वाग्रह को दूर करने में लंबा समय लग सकता है।

डेटा वैज्ञानिकों को डेटा का बारीकी से अध्ययन करने की अनुमति देना एआई चैटबॉट को कार्य करने की आवश्यकता है और इसे पूरा करना है कि यह कैसे उम्मीद करता है कि मॉडल विकास के बाद आचरण करने के लिए एक अनिवार्य परीक्षा होनी चाहिए।

निष्कर्ष

ChatGPT, हर दूसरे चैटबॉट की तरह, अभी भी मानवीय पूर्वाग्रह से मुक्त होने से बहुत दूर है। यह एक मौलिक मुद्दा है जो एआई द्वारा प्रशिक्षित डेटा और डेवलपर्स की व्यक्तिगत प्राथमिकताओं दोनों द्वारा बनाया गया है।

एक बार जब डेवलपर्स और डेटा साइंस टीमें इन एआई मॉडल द्वारा उपयोग किए जाने वाले डेटा के संग्रह के लिए अपने दृष्टिकोण में नैदानिक और उद्देश्यपूर्ण होने लगती हैं, तो एआई पूर्वाग्रह विलुप्त होने की अपनी यात्रा शुरू कर देगा।