सोशल मीडिया में एआई: सोशल मीडिया इंटरैक्शन को आकार देने में एआई और एल्गोरिदम के नैतिक विचार

इन दिनों, सोशल मीडिया जीवन में एक अभिन्न भूमिका निभाता है, यह प्रभावित करता है कि हम कैसे संवाद करते हैं, जानकारी प्राप्त करते हैं और एक-दूसरे के साथ जानकारी साझा करते हैं। हालाँकि 30 साल से भी कम समय [1], हमने फेसबुक, ट्विटर, टिकटॉक और लिंक्डइन जैसे प्लेटफ़ॉर्म का बहुत बड़ा विकास देखा है: फेसबुक अब मेटा है और व्हाट्सएप, इंस्टाग्राम और थ्रेड्स का मालिक है; ट्विटर एक्स है। दोनों के मालिक अरबपति हैं जिन्होंने तकनीकी रुझानों का अनुमान लगाया है, इन अवसरों को भुनाया है और तेजी से अभिनव उद्योग के लिए मार्ग प्रशस्त किया है।

व्यवसाय के दृष्टिकोण से, सोशल मीडिया की सबसे बड़ी सफलता उपभोक्ता डेटा है। अधिकांश सोशल मीडिया प्लेटफ़ॉर्म निःशुल्क हैं और इस तरह से संचालित होने में सक्षम हैं क्योंकि आप बदले में उन्हें अपने डेटा तक पहुँच प्रदान कर रहे हैं। इसके साथ, मेटा जैसी कंपनियाँ सोशल मीडिया सामग्री और इंटरैक्शन को आकार देने में सक्षम हैं। यह कुछ ऐसा है जिसे इरादे और उपयोग के मामले के आधार पर फायदेमंद या अनैतिक के रूप में देखा जा सकता है, गोपनीयता और हेरफेर जैसे मुद्दे अब असामान्य नहीं हैं।

इस लेख में, हम सोशल मीडिया में एआई और एल्गोरिदम के उपयोग की नैतिकता पर गहनता से चर्चा करेंगे, तथा यह जांच करेंगे कि वे किस प्रकार विषय-वस्तु को निजीकृत करने में मदद करते हैं, जिससे संभावित रूप से पूर्वाग्रह और प्रतिध्वनि-कक्षों को बढ़ावा मिलता है, तथा सोशल मीडिया प्लेटफार्मों में एआई का भविष्य क्या है।

एल्गोरिदम का संक्षिप्त इतिहास और सोशल मीडिया में उनके बढ़ते उपयोग के मामले

'एल्गोरिदम निर्देशों की एक श्रृंखला है जिसे विशिष्ट समस्याओं को हल करने, कार्य करने या निर्णय लेने के लिए डिज़ाइन किया गया है' [2]। सोशल मीडिया में, ये निर्देश उपयोगकर्ता के अनुभवों को नियंत्रित करते हैं जैसे कि सामग्री रैंकिंग, फ़िल्टरिंग और वैयक्तिकरण, जो आमतौर पर विभिन्न उपभोक्ता समूहों के रुझानों पर आधारित होते हैं। यह आपको उपयोगकर्ता के रूप में ऐसी सामग्री खोजने की अनुमति देता है जो आपको बहुत तेज़ी से रुचिकर लगेगी, क्योंकि यह आपके द्वारा खोजे बिना आपके लिए पेज पर दिखाई देने की संभावना है।

एल्गोरिदम का इस्तेमाल हमेशा से सोशल मीडिया में नहीं किया गया है। 2009 में टम्बलर और फेसबुक ने रैंकिंग मेट्रिक्स और व्यक्तिगत फ़ीड पेश किए। 2012 में और भी लोगों ने इसका अनुसरण किया। फेसबुक ने अपने समाचार फ़ीड में एल्गोरिदम के उपयोग को बढ़ाया और प्रायोजित सामग्री पेश की [3]।लिंक्डइन ने एक "अर्ध-संरचित फ़ीड" शुरू किया, और यूट्यूब ने एक रैंकिंग एल्गोरिदम पेश किया, जिसमें मात्रा की तुलना में देखने के समय को प्राथमिकता दी गई [4]। तब से, ऐसे सोशल मीडिया में एल्गोरिदम की भूमिका केवल बढ़ती ही जा रही है। 2015 तक, मशीन लर्निंग ने एल्गोरिदम को छांटने और फ़िल्टर करने में भूमिका निभानी शुरू कर दी थी, जो बिग डेटा प्रयासों में विकास पर आधारित थी। 2016 की राजनीतिक घटनाएं जैसे ट्रम्प चुनाव और ब्रेक्सिट जनमत संग्रह (और कैम्ब्रिज एनालिटिका घोटाले में एक महत्वपूर्ण वर्ष)

इन दिनों, AI-संचालित एल्गोरिदम इतनी सटीकता से बनाए गए हैं कि वे प्लेटफ़ॉर्म पर आपके पिछले विशिष्ट इंटरैक्शन के आधार पर सामग्री की सलाह देते हैं, बढ़ते उपयोगकर्ता डेटा के साथ सोशल मीडिया कंपनियों को किसी भी अनुमान के बहुमत को खत्म करने की अनुमति मिलती है। द सोशल डिलेमा [5] और द ग्रेट हैक [6] जैसी डॉक्यूमेंट्रीज़ इस बात की कुछ जानकारी देती हैं कि इनमें से कुछ एल्गोरिदम कितने इंजीनियर हैं, अक्सर एक उपयोगकर्ता को अपने प्लेटफ़ॉर्म पर लंबे समय तक रखने और प्लेटफ़ॉर्म के साथ इंटरैक्शन को बढ़ाने के अंतिम लक्ष्य के साथ। जबकि बढ़ी हुई उपयोगकर्ता सहभागिता का मतलब सोशल मीडिया कंपनियों के लिए इस प्रक्रिया को इकट्ठा करने, उसमें बदलाव करने और दोहराने के लिए अधिक डेटा है, यह लक्ष्य इस बात पर विचार नहीं करता है कि सोशल मीडिया की खपत के संबंध में उपयोगकर्ता और व्यापक समाज के लिए सबसे अच्छा क्या है।

एल्गोरिथमिक पूर्वाग्रह से उत्पन्न नैतिक मुद्दे

एल्गोरिदम हानिकारक पूर्वाग्रहों को बनाए रख सकते हैं, और सोशल मीडिया के संदर्भ में, यह अक्सर रूढ़िवादिता को मजबूत करने और विविध दृष्टिकोणों के सीमित प्रदर्शन के रूप में प्रकट होता है। समय के साथ, यह भेदभाव को बढ़ावा दे सकता है, मतदाताओं का ध्रुवीकरण कर सकता है, और यहां तक कि अतिवाद और दक्षिणपंथी/निरंकुश लोकलुभावनवाद को भी बढ़ावा दे सकता है, जो सामाजिक विभाजन का फायदा उठाते हैं।

कम प्रभाव स्तर पर, एल्गोरिदमिक पूर्वाग्रह के उदाहरणों में कुछ उद्योगों के लिए नौकरी पोस्टिंग शामिल हो सकती है, उदाहरण के लिए, लिंक्डइन को महिलाओं की तुलना में पुरुषों को अधिक दिखाया जा रहा है, क्योंकि एल्गोरिदम को जिस प्रशिक्षण डेटा सेट पर मॉडल किया गया था, वह भविष्यवाणी करता है कि अधिक पुरुषों के उन भूमिकाओं में काम करने की संभावना है। हालाँकि इसका तुरंत स्पष्ट हानिकारक प्रभाव नहीं होता है, लेकिन यह एक नकारात्मक प्रतिक्रिया लूप बनाता है जो कार्यस्थलों और विशिष्ट उद्योगों में समानता और प्रतिनिधित्व में सुधार करने के समाज के लक्ष्यों के खिलाफ काम करता है। इस तरह, महिलाओं के लिए उन विज्ञापनों को देखने के अवसरों को सीमित करके एल्गोरिदमिक पूर्वाग्रह के परिणामस्वरूप लिंग पूर्वाग्रह को बनाए रखा जाता है।

अब, एल्गोरिथम पूर्वाग्रह के उच्च-स्तरीय निहितार्थों को गहराई से समझने के लिए, हम 2016 के ट्रम्प चुनाव की केस स्टडी के रूप में जांच करेंगे।

केस स्टडी: ट्रम्प के 2016 चुनाव में एल्गोरिदम ने ध्रुवीकरण/इको चैंबर्स को कैसे प्रभावित किया

2016 के अमेरिकी राष्ट्रपति चुनाव के दौरान, शोध से पता चला है कि एल्गोरिदम ने इको चैंबर्स को बढ़ाकर और मतदाताओं के विविध दृष्टिकोणों के संपर्क को सीमित करके राजनीतिक ध्रुवीकरण को बढ़ा दिया है। कई लोगों का मानना है कि यह वह तंत्र था जिसने ट्रम्पवाद को अनियंत्रित रूप से चलने दिया और यही कारण है कि इतने कम लोगों ने उनकी जीत की भविष्यवाणी की [7], क्योंकि चुनाव अवधि के दौरान इन गतिशीलता को पूरी तरह से समझा नहीं गया था और न ही दिखाई दिया था।

इसलिए, सोशल मीडिया पर भी यह सच लगता है कि 'एक ही पंख के पक्षी एक साथ रहते हैं' [8]।

एल्गोरिदम उपयोगकर्ताओं की प्राथमिकताओं के अनुसार सामग्री को तैयार करते हैं, उन्हें विरोधी विचारों और राय से बचाते हैं, और 'फ़िल्टर बबल्स' बनाते हैं। बदले में, इन फ़िल्टर बबल्स के भीतर कुछ व्यक्ति डिजिटल वातावरण में खुद को और अलग करके अपने विचारों के सकारात्मक सुदृढ़ीकरण को जारी रखते हैं जहाँ उनकी मान्यताओं और राय को प्रतिध्वनित किया जाता है और इससे भी अधिक मजबूत किया जाता है। इन्हें 'इको चैंबर' कहा जाता है।

मूलतः, सोशल मीडिया एक ऐसा वातावरण तैयार करता है, जिसमें हम सभी इतनी व्यक्तिगत खबरें और विषय-वस्तु ग्रहण करते हैं कि हम दूसरों के भिन्न-भिन्न दृष्टिकोणों के प्रति अंधे हो जाते हैं।

वर्तमान में, शोध से यह स्पष्ट नहीं है कि क्या सोशल मीडिया केवल एक मंच के रूप में कार्य करता है जो प्रतिध्वनि कक्षों को उभरने की अनुमति देता है या क्या इसके एल्गोरिदम का उपयोग इन प्रतिध्वनि कक्षों को बनाने में भूमिका निभाने के लिए इतना आगे जाता है[8]।

2016 में ट्रम्प की जीत से पता चलता है कि सोशल मीडिया कंपनियों के एजेंडे के लाखों लोगों पर व्यापक प्रभाव पड़ सकते हैं, जो कि अनपेक्षित होते हुए भी बहुत प्रभावशाली और अनैतिक भी होते हैं। हम जानते हैं कि सोशल मीडिया एल्गोरिदम को व्यक्तिगत प्राथमिकताओं के अनुरूप सामग्री प्रदान करके उपयोगकर्ता जुड़ाव और प्रतिधारण को अधिकतम करने के लिए डिज़ाइन किया गया है। अब, हालांकि, हम यह भी देखते हैं कि यह राजनीतिक बातचीत पर भी कैसे लागू होता है, उपयोगकर्ताओं के राजनीतिक झुकाव और कमजोरियों का लाभ उठाता है।

कौन जानता है कि यदि एल्गोरिदम लोगों की व्यक्तिगत राजनीतिक मान्यताओं को प्रभावित नहीं कर रहे होते तो चुनाव का परिणाम कैसा होता?

और इसका लोकतंत्र और राजनीतिक स्थिरता पर क्या असर पड़ता है? अगर लोगों को इन हेरफेरों के बारे में पता ही नहीं है, तो क्या नतीजों को निष्पक्ष और वैध माना जा सकता है?

सोशल मीडिया में एआई का भविष्य

सोशल मीडिया में एल्गोरिदम और एआई की भूमिका उन क्षेत्रों में हमारे नवाचारों के साथ-साथ विकसित होती जा रही है। एआई-जनरेटेड कंटेंट से लेकर एआई-पावर्ड एल्गोरिदम तक, जो सटीकता की अनुमति देते हैं, जिस पर हमने पहले चर्चा की थी, सोशल मीडिया में इसके एकीकरण के साथ आने वाली नैतिक चुनौतियों पर भी इसी तरह तेजी से विचार करने की आवश्यकता होगी। इसकी शुरुआत सोशल मीडिया प्लेटफॉर्म में एल्गोरिदम संबंधी पूर्वाग्रहों को दूर करने और एल्गोरिदम संबंधी पारदर्शिता को बढ़ावा देने से होनी चाहिए।

भविष्य की नीतिगत सोच और विनियमन सोशल मीडिया में एआई के उपयोग की दिशा तय करने में महत्वपूर्ण भूमिका निभाएंगे। एल्गोरिदम विनियमन और इन अदृश्य पूर्वाग्रहों से होने वाले नुकसान से सुरक्षा की आवश्यकता पर पहले से ही ध्यान दिया जा रहा है, खासकर अमेरिका में। अब तक की पहलों में शामिल हैं[9]:

• “एल्गोरिदमिक जवाबदेही अधिनियम 2022”
• “एल्गोरिदमिक सिस्टम में पूर्वाग्रह उन्मूलन अधिनियम 2023”
• “एआई अधिकार विधेयक”

जबकि वर्तमान में प्रस्ताव के चरणों में और अधिक रूपरेखाएँ तैयार की जा रही हैं, फिर भी ऐसी शक्तिशाली प्रौद्योगिकियों के लिए अभी भी अपर्याप्त विनियमन है, जब हम उनके पहले से ही मौजूद प्रभावों पर विचार करते हैं। नवाचार और उपयोगकर्ता हितों की सुरक्षा के बीच एक नाजुक संतुलन बनाने के लिए प्रौद्योगिकी कंपनियों, नीति निर्माताओं और उपयोगकर्ताओं को समान रूप से शामिल करने वाले एक सहयोगी दृष्टिकोण की आवश्यकता होगी।

सोशल मीडिया में अच्छाई के लिए एक ताकत बनने, समुदायों को एकजुट करने और समावेशिता को बढ़ावा देने की शक्ति है; हालांकि, उपयोगकर्ता अधिकारों की रक्षा करने वाले पर्याप्त ढांचे और नियमों के बिना, एआई और एल्गोरिदम का इसका उपयोग व्यक्तियों और व्यापक समाज के लिए विनाशकारी होने की शक्ति भी रखता है।

संदर्भ

[1] सोशल मीडिया का विकास: इसकी शुरुआत कैसे हुई और यह आगे कहां जा सकता है? | मैरीविले ऑनलाइन .

[2] सोशल मीडिया एल्गोरिदम के बारे में आपको जो कुछ भी जानना चाहिए

[3] फेसबुक का न्यूज़ फीड 10 साल पुराना हो गया है। जानिए साइट में क्या-क्या बदलाव हुए हैं | वर्ल्ड इकोनॉमिक फोरम

[4] सोशल मीडिया एल्गोरिदम का इतिहास

[5] द सोशल डिलेमा देखें | नेटफ्लिक्स आधिकारिक साइट

[6] द ग्रेट हैक देखें | नेटफ्लिक्स आधिकारिक साइट

[7] 'फ़िल्टर बबल' बताता है कि ट्रम्प क्यों जीते और आपने इसका अंदाज़ा नहीं लगाया

[8] सोशल मीडिया पर प्रतिध्वनि कक्ष कैसे उभरते हैं (और आपके सभी मित्र क्यों सोचते हैं कि ट्रम्प हार जाएंगे)

[9] एल्गोरिथम सिस्टम में पूर्वाग्रह को खत्म करने वाला अधिनियम 2023