मेटावर्स में कंटेंट मॉडरेशन को कैसे हैक करें: Web2.0 से सबक

वेब 2 में कंटेंट मॉडरेशन एक न सुलझाई जाने वाली समस्या है।

उपयोगकर्ताओं के मुक्त भाषण और हानिकारक सामग्री के द्वारपालों की सेंसरशिप के बीच एक सुनहरा मानक बनाना असंभव है। भले ही दुनिया के सबसे लंबे और सबसे बोधगम्य दिशानिर्देशों को 10,000 घंटे की अवधि में 10,000 बड़े भाषा मॉडल द्वारा तैयार किया गया हो, फिर भी यह उन सभी संभावित परिदृश्यों को समाहित नहीं करेगा जहां पोस्ट और टिप्पणियां "स्वीकार्यता के बार" से नीचे या ऊपर गिरेंगी। दूसरी ओर, स्पष्ट आचार संहिता और मंच के मालिक के हस्तक्षेप के बिना, कोई भी सामाजिक नेटवर्क समय के साथ खराब हो जाएगा।

उपयोगकर्ताओं के बीच विषाक्त व्यवहार मेटावर्स में और भी बढ़ जाता है । कुल मिलाकर, डराना-धमकाना, उत्पीड़न, अभद्र भाषा, विचित्र टटोलने की घटनाएं , और अन्य प्रकार के दुर्व्यवहार आभासी दुनिया में बहुत आम हैं। 2021 के एक अमेरिकी अध्ययन से संकेत मिलता है कि छह में से पांच वयस्कों (83%) ने ऑनलाइन मल्टीप्लेयर गेम में किसी न किसी रूप में उत्पीड़न का अनुभव किया है। आगे देखते हुए, मेटा के वर्तमान सीटीओ, एंड्रयू बोसवर्थ ने एक कर्मचारी मेमो में लिखा है कि मेटावर्स में लोग जो कहते हैं या करते हैं उसे मॉडरेट करना "किसी भी सार्थक पैमाने पर व्यावहारिक रूप से असंभव है।"

यह कैसे सुनिश्चित किया जा सकता है कि हमारा साझा डिजिटल स्थान रद्दी की बातों, स्पैम और उत्पीड़न से अटा पड़ा कानूनविहीन जंगल न बन जाए?

मेरे विचार में, समाधान एक सरल है: अधिकांश मॉडरेशन को उपयोगकर्ताओं द्वारा किया जाना चाहिए।

दो बिंदुओं पर जोर देने के साथ रेडडिट की सामुदायिक बिंदु प्रणाली की तरह बहुत ज्यादा:

• सामुदायिक बिंदुओं को उपयोगकर्ताओं के लिए मूल्यवान माना जाना चाहिए।

  
  

• प्रत्येक उपयोगकर्ता के पास एक ट्रैक रिकॉर्ड और एक प्रतिष्ठा के साथ छद्म नाम वाली ऑनलाइन पहचान होती है जिसे दूसरों द्वारा ऑडिट किया जा सकता है। प्रतिष्ठा को उपयोगकर्ताओं के लिए मूल्यवान माना जाना चाहिए।

  
  

मैं कल्पना करता हूं कि एक कामकाज, "आत्म-संयम" प्रणाली को डिजाइन करने वाला पहला सामाजिक मंच जहां उपयोगकर्ताओं को मूल्यवान योगदान देने और इसके विपरीत करने के लिए डरने के लिए प्रोत्साहित किया जाता है, "मेटावर्स" में एक अग्रणी स्थान लेगा - आभासी और के बीच गहन विलय भौतिक वास्तविकताओं।

आइए मॉडरेशन मुद्दे पर गहराई से नज़र डालें।

ये का ट्विटर विवाद

रिकॉर्ड किए गए इतिहास में सबसे अमीर अफ्रीकी-अमेरिकियों और संगीतकारों में से एक, ये, जिसे पहले कान्ये वेस्ट के नाम से जाना जाता था, ने कुछ हफ्ते पहले अपने +31 मिलियन ट्विटर फॉलोअर्स की भीड़ के लिए एक आश्चर्यजनक घोषणा की:

' आज रात मुझे थोड़ी नींद आ रही है, लेकिन जब मैं जागता हूं तो मैं यहूदी लोगों पर डेथ कॉन 3 जा रहा हूं। 'मजेदार बात यह है कि मैं वास्तव में सेमिटिक विरोधी नहीं हो सकता क्योंकि काले लोग वास्तव में यहूदी भी हैं। आप लोगों ने मेरे साथ खिलवाड़ किया है और जो भी आपके एजेंडे का विरोध करता है, उसे ब्लैक बॉल करने की कोशिश की है। '"

ट्विटर पर एक अस्थायी प्रतिबंध और प्रेस और सोशल मीडिया से एक मजबूत प्रतिक्रिया के अलावा, कई ब्रांडों ने अपने विवादास्पद बयान के बाद ये से नाता तोड़ लिया। एडिडास ने ये के जूते- और कपड़ों के ब्रांड, यीज़ी के प्रायोजन को समाप्त कर दिया, जो उनकी कुल संपत्ति का अनुमानित $1.5 बिलियन था ।

यदि आप एक यूरोपीय नागरिक थे, तो संभवतः उन्हें विरोधी टिप्पणी करने के लिए जुर्माना या जेल का समय भी जारी किया जा सकता था। यूरोपीय संघ में, अभद्र भाषा अभिव्यक्ति की स्वतंत्रता के अधिकार के तहत संरक्षित नहीं है [1] जबकि भाषण की स्वतंत्रता के संवैधानिक अधिकार को अमेरिका में भारी माना जाता है। ट्विटर पर, एकमात्र सामान्य नियम जो दुनिया भर के उपयोगकर्ताओं को एक साथ बांधता है, वह है ट्विटर के नियम और शर्तें। एक निजी अनुबंध जिसे केवल कंपनी द्वारा लागू किया जा सकता है और स्थायी प्रतिबंध की तुलना में उपयोगकर्ताओं के लिए कोई कठिन सजा नहीं है।

ये की असामाजिक टिप्पणी गपशप पत्रिकाओं और मुख्यधारा के मीडिया के लिए उनके विशाल अनुसरण और सेलिब्रिटी की स्थिति के कारण रेड मीट थी। लेकिन, कल्पना करें कि "मासूम ट्रोलिंग" से लेकर जेफरी डेहमर-शैली की विश्वसनीय मौत की धमकियों तक भेदभावपूर्ण टिप्पणियां, अज्ञात उपयोगकर्ताओं द्वारा सोशल नेटवर्क पर दिन के प्रत्येक भाग में पोस्ट की जाती हैं। जाहिर है, इनमें से किसी भी "एनॉन्स" के पास एडिडास से $ 1.5 बिलियन का प्रायोजन नहीं है, किसी भी सार्वजनिक छवि को खोने दें। सोशल मीडिया पर चीजें पोस्ट करने से उनके पास वास्तव में खोने के लिए कुछ भी नहीं है - जो एक समस्या बन जाती है।

सरल खेल सिद्धांत और मानव मनोविज्ञान के अनुसार, यदि एक उपयोगकर्ता बुरी तरह से कार्य करता है और उसे अधिक जोखिम के साथ पुरस्कृत किया जाता है, तो अधिक उपयोगकर्ता उसके उदाहरण का अनुसरण करने की संभावना रखते हैं जब तक कि वे परिणाम के बिना ऐसा कर सकते हैं। नतीजतन, सामाजिक आचरण के लिए पट्टी और नीचे गिरती जाती है। एक ऐसा अनुभव जिससे बहुत से लोग ट्विटर पर संबंधित हो सकते हैं।

कस्तूरी का "सामूहिक सुपर माइंड"

नए "ट्विटर शिकायत हॉटलाइन ऑपरेटर", एलोन मस्क ने ट्विटर के अधिग्रहण के बाद विज्ञापनदाताओं को निम्नलिखित नोट किया:

ट्विटर के अंदर से कुछ नियमित उपयोगकर्ता इसे "नरक साइट" के रूप में संदर्भित करते हैं। मिशेल गोल्डबर्ग न्यूयॉर्क टाइम्स के लिए हाल ही में एक राय में अपनी आलोचना से पीछे नहीं हटती हैं:

" मैंने कभी-कभी ट्विटर पर होने का वर्णन किया है जैसे कि आप से नफरत करने वाले लोगों से भरी एक बुरी पार्टी में बहुत देर हो चुकी है। मुझे अब लगता है कि यह ट्विटर के लिए बहुत उदार था। मेरा मतलब है, सबसे खराब पार्टियां भी खत्म हो जाती हैं। चहचहाना एक पार्टी के अस्तित्ववादी दृष्टांत की तरह अधिक है, जिसमें असंतुष्ट आत्माएं हमेशा के लिए ठीक से दिखाई देने की कोशिश कर रही हैं और असफल हो रही हैं। यह आश्चर्य की बात नहीं है कि मंच के सबसे विपुल उपयोगकर्ता अक्सर इसे "इस हेलसाइट" के रूप में संदर्भित करते हैं।

वास्तव में, ट्विटर के अधिकांश विपुल उपयोगकर्ता शायद ही कभी ट्वीट करते हैं।

ध्रुवीकरण और प्रतिध्वनि कक्षों के बड़े खतरों के बावजूद,एलोन मस्क ट्विटर की क्षमता को "सामूहिक, साइबरनेटिक सुपर-इंटेलिजेंस (सुधार के लिए बहुत जगह के साथ)" के रूप में देखते हैं। एक सामूहिक सुपर दिमाग की तरह जो सभी को जोड़ता है लेकिन मस्तिष्क की आवश्यकता के बिना- प्रत्यारोपित तंत्रिका लेस।

पत्रकारिता नैतिकता और सुरक्षा, कोलंबिया विश्वविद्यालय के एक शोधकर्ता जो बेक-कोलमैन, इस धारणा से असहमत हैं :

" (..) न्यूरॉन्स अंततः व्यक्तिगत मानव व्यवहार के लिए एक खराब सादृश्य हैं। एक साथ जीने या मरने के लिए बाध्य समान डीएनए वाले कोशिकाओं के संग्रह के रूप में, न्यूरॉन्स एक सामान्य लक्ष्य साझा करते हैं और उनके पास प्रतिस्पर्धा करने, धोखा देने या चोरी करने का कोई कारण नहीं होता है। यहां तक कि अगर हमारे पास मस्तिष्क कैसे काम करता है, इसका एक पूरा मॉडल होता, तो भी हम इसे सीधे मानव व्यवहार पर लागू नहीं कर सकते क्योंकि यह मनुष्यों के बीच प्रतिस्पर्धी गतिशीलता के लिए जिम्मेदार नहीं होता ।"

बाद में अपने निबंध में, जो बाक-कोलमैन ने निष्कर्ष निकाला:

" एलोन का आधार है कि ट्विटर एक सामूहिक बुद्धि की तरह व्यवहार कर सकता है, अगर सामूहिक परिणामों को बढ़ावा देने के लिए नेटवर्क की संरचना और बातचीत की प्रकृति को ट्यून किया जाता है ।"

यह एक तरह से सरल है, वास्तव में: यदि सभी उपयोगकर्ता ट्विटर के एलोन के दृष्टिकोण को " सामान्य डिजिटल टाउन स्क्वायर के रूप में साझा करते हैं, जहां स्वस्थ तरीके से विश्वासों की एक विस्तृत श्रृंखला पर बहस की जा सकती है" तो सामग्री मॉडरेशन के साथ कोई समस्या नहीं होगी। हालाँकि, कई लोगों के लिए, शायद अधिकांश उपयोगकर्ताओं के लिए, ट्विटर या तो एक "नरक" है, एक मज़ाक है, या एक ऐसी जगह है जहाँ शब्दों और कार्यों का कोई वास्तविक परिणाम नहीं है।

यही कारण है कि उपयोगकर्ताओं को मूल्यवान, ईमानदार और सटीक जानकारी प्रदान करने के लिए प्रोत्साहन की आवश्यकता होती है। और उन्हें इसके विपरीत करने के परिणामों से डरने की जरूरत है। हमें सामूहिक सुपर माइंड द्वारा संचालित एक गैर-सत्तावादी, सामाजिक ऋण प्रणाली की आवश्यकता है।

मॉडरेशन टूल के रूप में Reddit का कम्युनिटी पॉइंट सिस्टम

मुझे लगता है कि रेडडिट की सामुदायिक बिंदु प्रणाली सामग्री मॉडरेशन का भविष्य हो सकती है।

यह विचार एक प्रकार की "स्व-संयमित प्रणाली" बनाने का है, जहां उपयोगकर्ता वास्तव में मूल्यवान योगदान देकर कुछ कमा सकते हैं, और दूसरी ओर, ट्रोलिंग, स्पैमिंग, धमकी, धमकाने, परेशान करने, अभद्र भाषा उगलने के लिए दंडित किया जा सकता है, या किसी भी तरह से सामुदायिक हितों के खिलाफ काम करना।

Reddit ने 2020 के मध्य में अपना सामुदायिक बिंदु प्रणाली शुरू की और इसका वर्णन इस प्रकार किया:

“ सामुदायिक बिंदु Redditors के लिए अपने पसंदीदा समुदायों का एक हिस्सा रखने का एक तरीका है। मॉडरेटर और सामग्री निर्माता समुदाय में योगदान करके अंक अर्जित करते हैं, और वे अपने अंक विशेष सुविधाओं पर खर्च कर सकते हैं, अपने अंक समुदाय में प्रतिष्ठा के रूप में प्रदर्शित कर सकते हैं, और सामुदायिक निर्णयों पर वजन करने के लिए अपने अंक के साथ वोट कर सकते हैं।

कम्युनिटी पॉइंट वास्तविक अर्थों में उपयोगकर्ताओं के स्वामित्व वाले ERC-20 टोकन हैं क्योंकि वे Reddit से स्वतंत्र रूप से ब्लॉकचेन पर संग्रहीत हैं। वे वर्तमान में r/CryptoCurrency (Moons), r/FortniteBR (ब्रिक्स), और r/ethtrader (डोनट्स) जैसे सबरेडिट्स में प्रायोगिक स्तर पर चित्रित किए गए हैं। मासिक संचित कर्म बिंदुओं (पोस्ट और टिप्पणियों पर अपवोट और डाउनवोट) के अनुसार समुदाय के सदस्यों और मॉडरेटर को टोकन वितरित किए जाते हैं।

मैं रेडिट के कर्म बिंदु प्रणाली की सामुदायिक-अनन्य प्रगति के रूप में मून्स, ब्रिक्स और डोनट्स को देखता हूं। गैर-रेडिट पारखी लोगों के लिए: कर्म अंक रेडिट में उपयोगकर्ता के योगदान पर अपवोट और डाउनवोट का प्रतिनिधित्व करते हैं और सार्वजनिक रूप से उपयोगकर्ता-प्रतिष्ठा स्कोर के एक प्रकार के रूप में प्रदर्शित होते हैं।

सामुदायिक बिंदुओं को खर्च करने योग्य और व्यापार योग्य रेडिट कर्म के रूप में माना जा सकता है। [2] वे वर्तमान में सामुदायिक पूल में भारित वोटों के रूप में उपयोग किए जा सकते हैं, अन्य उपयोगकर्ताओं को टिप देने के लिए, टिप्पणियों में GIF पोस्ट करने, Reddit पर उपयोगकर्ता प्रोफाइल के लिए डिजिटल आइटम खरीदने के लिए, और उन्हें कुछ DEX पर कारोबार भी किया जा सकता है।

अब तक, Reddit सामुदायिक बिंदुओं की उपयोगिता और मूल्य काफी सीमित हैं। हालांकि, मेरा मानना है कि किसी न किसी प्रारूप में क्रेडिट-स्कोरिंग सिस्टम कंटेंट मॉडरेशन के लिए एक उत्कृष्ट "इन-बिल्ट टूल" हो सकता है क्योंकि "खर्च करने योग्य सोशल क्रेडिट पॉइंट" अधिक वास्तविक शब्द एप्लिकेशन ढूंढते हैं और मूल्य में वृद्धि करते हैं।

यदि एलोन मस्क के ट्विटर के " सामूहिक, साइबरनेटिक सुपर-इंटेलिजेंस " के दृष्टिकोण में कोई सच्चाई है, तो सामग्री को सुपर-इंटेलिजेंस के बजाय व्यवस्थापकों द्वारा क्यों मॉडरेट किया जाना चाहिए?

इसमें कोई संदेह नहीं है कि जल्द से जल्द घृणित और अवैध योगदानों को हटाने के लिए अल्पावधि भविष्य में मध्यस्थों की आवश्यकता होगी। लेकिन विशेष रूप से आभासी दुनिया में, जहां उपयोगकर्ताओं के बीच संचार वास्तविक समय में होता है, नुकसान पहले ही हो चुका होता है, इससे पहले कि मॉडरेटर्स को हस्तक्षेप करने का मौका मिले। यही कारण है कि सोशल साइट्स पर क्रेडिट-स्कोरिंग सिस्टम लागू किया जाना चाहिए, 3डी या नहीं, एक निवारक उपाय के रूप में। सेवाओं और अनुभवों तक पहुंच प्राप्त करने के लिए सामुदायिक टोकन अर्जित करने का वादा, जिसे व्यापार, परिवर्तित और वास्तविक धन के रूप में उपयोग किया जा सकता है, उपयोगकर्ताओं को उचित व्यवहार करने के लिए प्रोत्साहित करेगा, साथ ही उन्हें यह निर्धारित करने में मदद करेगा कि वे किसके साथ व्यापार करना पसंद करते हैं।

जैसा कि हमने बिटकॉइन से सीखा है, जब सिस्टम में केवल 51% उपयोगकर्ता निष्पक्ष और ईमानदार होते हैं, और निष्पक्ष और ईमानदार रहने के लिए एक तर्कसंगत स्वार्थ होता है, तो सिस्टम पूरी तरह से काम करता है।

[1] मानवाधिकारों पर यूरोपीय कन्वेंशन का अनुच्छेद 17 देखें

[2] देखना https://www.reddit.com/r/ethtrader/comments/kl6ldu/donuts_faq/ .

यहाँ भी प्रकाशित हुआ।