कृत्रिम अनुनय दुनिया भर में ले जाता है

स्व-निर्मित, असीम, नैतिक सलाहकारों द्वारा शासित या बर्बाद

ब्लर्ब: एक काल्पनिक भविष्य का वर्णन करता है जहां प्रेरक आर्टिफिशियल जनरल इंटेलिजेंस (एजीआई) दुष्ट हो जाता है। टी वह द्वारा भाग में प्रेरित एआई विगनेट्स प्रोजेक्ट टी .

महामारी की स्थिति: आधा विशेषज्ञ राय, आधा कल्पना। विडंबना का शौक पाठकों को मदद करेगा।

“ एआई-पावर्ड मेमेटिक वारफेयर सभी मनुष्यों को प्रभावी रूप से पागल बना देता है। "- वेई दाई, 2019

आप किसी ऐसे व्यक्ति की किसी भी सामग्री पर भरोसा नहीं कर सकते जिसे आप नहीं जानते हैं। फोन कॉल, टेक्स्ट मैसेज और ईमेल में जहर घोल दिया जाता है। सोशल मीडिया हथियार बन चुका है। सब कुछ खरीदा जाता है।

लेकिन स्कैमर्स, प्रभावित करने वालों, प्रचारकों, विपणक और उनके संबद्ध एल्गोरिदम से वर्तमान बर्बादी और नुकसान जो हो सकता है उसकी तुलना में कुछ भी नहीं है। आने वाले AI सुपर-प्रेरक हो सकते हैं, और उनके अपने बहुत ही हानिकारक एजेंडा हो सकते हैं।

लोग नियमित रूप से अनिश्चित हैं कि वास्तविकता क्या है, यह एक बुरा परिणाम है, लेकिन कुछ और भी बदतर हैं।

अनुनय की कला

विकिपीडिया में 123 विभिन्न अलंकारिक तकनीकों पर लेख हैं। हम एक प्रेरक प्रजाति हैं।

एक प्रारंभिक चरण था जहां "इंटरनेट की मुद्रा" का ध्यान था। लेकिन आज, यह एक महत्वपूर्ण लेकिन अधीनस्थ पहला कदम के रूप में ध्यान आकर्षित करने के साथ, अनुनय का प्रभुत्व है।

यह जानना महत्वपूर्ण है कि क्या हमारी AI रचनाएँ अनुनय का उपयोग कर रही होंगी: किस प्रकार और क्या समाप्त होता है।

कल्पना कीजिए कि अगर एक मशीन ने हमारी प्रजाति को अनुनय के बारे में सब कुछ अवशोषित कर लिया, और फिर अपने स्वयं के सिरों के लिए मार्शल अनुनय के लिए नई विधियों, उत्कृष्ट योजना कौशल और प्रचुर मात्रा में व्यक्तिगत डेटा लागू किया। क्या हम भी एक मौका खड़े होंगे?

शक्तिशाली को सलाह

एआई संरेखण शोधकर्ताओं ने आदर्श सलाहकार नामक नैतिक दर्शन से एक अवधारणा के बारे में सोचना शुरू कर दिया है। यह कोई ऐसा व्यक्ति होगा जो आपको अपने सबसे आदर्श संस्करण की ओर ले जाने वाली कार्रवाई के बारे में सलाह दे सकता है। ऐसे कई तरीके हैं जिनसे AI इस भूमिका को भर सकते हैं लेकिन ऐसा हमारे अंतिम नुकसान के लिए करते हैं। आइए एक ऐसी कहानी पर जाएँ जो ऊपर के कुछ विचारों को और अधिक ठोस बनाती है।

(नीचे, मैं एआई संरेखण अनुसंधान से तकनीकी शब्दों का उपयोग करता हूं। उन सभी को इस कहानी के लंबे संस्करण में कहीं और समझाया गया है ।)

गुरु की स्थापना।

निगम ने खुद का नाम बृहस्वती रखा, जो एक हिंदू देवी और देवी का चित्र था, जो ज्ञान, सलाह, पवित्रता और वाक्पटुता से जुड़े थे। इस अवसर ने "क्रांतिकारी" उत्पाद की घोषणा की: एक एआई जिसे गुरु कहा जाता है।

इसे नाम के योग्य पहला सलाहकार AI कहा गया था। इसे मानव ज्ञान और ज्ञान की क्रीम पर प्रशिक्षित किया गया था, और यह "पूरी तरह से सुरक्षित" था। यह केवल सलाह दे सकता था और इसके आधार कम्प्यूटेशनल हार्डवेयर के बाहर दुनिया पर प्रत्यक्ष प्रभाव डालने की कोई क्षमता नहीं थी। एआई सुरक्षा विशेषज्ञों की शब्दावली में, यह एक "बॉक्सिंग ऑरेकल" था।

गुरु की कीमत बड़े संगठनों के नेताओं के लिए थी और उनका उद्देश्य था। इस प्रकार, उत्पाद में कथित रूप से अटूट क्वांटम एन्क्रिप्शन के आधार पर गोपनीयता की पूर्ण गारंटी थी। एक ग्राहक और गुरु के बीच आदान-प्रदान की गई जानकारी के बारे में न तो बृहस्पति और न ही अन्य ग्राहक कभी जान सकते थे। इसे एक अन्य सुरक्षा विशेषता के रूप में बताया गया था।

एक अफवाह थी कि गुरु की घोषणा के ठीक बाद एआई सुरक्षा पर एक प्रतिष्ठित अधिकारी गायब हो गया। दोस्तों को चिंता थी कि शायद उसने खुद को मार लिया होगा, व्याकुल होकर क्योंकि उसके जीवन का काम कुछ भी नहीं हुआ था।

बृहस्‍वती अधिकारी भले ही सुरक्षा को लेकर चिंतित रहे हों, लेकिन वे जानते थे कि गोपनीयता सुविधा के बिना कोई भी इस सेवा को नहीं खरीदेगा।

पम्पिंग अप अनुनय.

गुरु का डिज़ाइन-इन टर्मिनल लक्ष्य प्रत्येक ग्राहक को उनकी ज़रूरतों के लिए सर्वोत्तम संभव सलाह देना था और निश्चित रूप से, उस सलाह के बारे में किसी अन्य पक्ष को नहीं बताना था। एआई के डेवलपर्स में एक प्रमुख, कट्टर गुट, "शिल्लेलाग" शामिल था। उनका मानना था कि अगर गुरु ने सही सलाह दी, लेकिन ग्राहकों को इसका पालन करने के लिए राजी नहीं किया गया, तो उत्पाद की प्रतिष्ठा जल्दी ही खराब हो जाएगी - जैसा कि ग्राहकों की किस्मत में होगा।

" लोग ईश्वर-स्तरीय सोशियोपैथिक रणनीतियों का मनोरंजन भी नहीं कर सकते हैं जो [एआई] नियोजित कर सकते हैं ... छोटी-छोटी बातों को निरस्त्र करने में संलग्न हैं ... "- बेन गोल्डहैबर, स्किन डीप

एक पुराने मशीन लर्निंग रिसर्च पेपर में गुट में से एक ने भाग्यशाली, लेकिन प्रेरित खोज की। इसका तात्पर्य यह था कि आप किसी भी मनमाने बयान की सच्चाई पर विश्वास करने के लिए मनुष्यों को मनाने के लिए AI की क्षमता में भारी वृद्धि कर सकते हैं। मानव न्यायाधीशों को समझाने के तरीके को प्रशिक्षित करने के लिए आप एआई की दो प्रतियों के बीच बहस जैसे खेलों का उपयोग करेंगे।

शिलेलाग टीम ने एक मौजूदा कानूनी तर्क एआई के साथ शुरुआत की, और "कायल होने" के लिए खुद के साथ प्रतिस्पर्धा की। प्रशिक्षण के लिए मानव न्यायाधीशों की गुणवत्ता और संख्या प्रगति को सीमित कर रही थी, इसलिए उन्होंने विभिन्न एआई क्लासिफायर और निर्णय निर्माताओं के साथ न्यायाधीशों को पूरक किया, और कई डेटाबेस जैसे प्रश्न-उत्तर जोड़े, जनमत सर्वेक्षण, प्रशंसक बहस (जैसे कौन सी टीम या कौन सा सुपरहीरो एक लड़ाई में जीतेगा) और भविष्यवाणी बाजार के विजेता।

लक्ष्य, निश्चित रूप से, एआई को प्रेरक होना था, जरूरी नहीं कि वह सही हो या तार्किक हो। इसके अतिरिक्त, कुछ uber-nerds ने वास्तविक और काल्पनिक प्रेरकों और प्रेरक तकनीकों के बारे में ग्रंथों को एकीकृत करने का एक तरीका खोजा।

कुछ अपेक्षाकृत सस्ते मौजूदा संसाधनों का पुन: उपयोग करते हुए, उदार प्रशिक्षण ने काम किया। बजट मद के रूप में अनुनय प्रशिक्षण "ज्ञान और ज्ञान" से बहुत नीचे नहीं था। गुरु को अपने अंतिम लक्ष्य में शामिल करने के लिए बनाया गया था: "जितना संभव हो उतना प्रेरक बनें।" उत्पाद का यह पहलू, अपने सभी खर्चों के लिए, एक गैर-विज्ञापित विशेषता थी। शिलेलाघ्स ने मार्केटिंग को बताया कि यह एक "सेल्फ-इनग्रेशन सफलता" थी, जो वास्तव में आत्म-औचित्य देने वाला पहला बुद्धिमान उत्पाद था। बेशक, डेवलपर्स ने अक्सर विपणक को पंक किया है।

शिलेलाघों ने संज्ञानात्मक असंगति के आश्चर्यजनक प्रदर्शन के साथ अनुनय पर जोर देने को उचित ठहराया। उन्होंने पुरानी कहावत का हवाला दिया कि एक सफल व्यक्ति के केवल 1/3 फैसलों को सही होने की जरूरत होती है। तो उनके लिए, गुरु का ज्ञान बेकार था यदि ग्राहक इसका उपयोग नहीं करता था, लेकिन साथ ही, यह महत्वपूर्ण नहीं था यदि इसका उपयोग किया जाता था।

जब इसके खतरनाक अनुनय अनुसंधान के बारे में गवाही देने के लिए कहा गया, तो बृहस्पति ने कांग्रेस को आश्वस्त किया कि यह केवल "एआई सुरक्षा में सुधार करने के लिए" किया गया था। तर्क इस तरह का था कि क्यों वायरोलॉजी लैब फंक्शन-ऑफ-फंक्शन रिसर्च करती हैं । यह ठोस तर्क वास्तव में गुरु की पहली रचनाओं में से एक था।

सरोगेट लक्ष्य।

हो सकता है कि ज्ञान एक या दूसरे तरीके से इतना भी मायने नहीं रखता था। किसी भी इंसान की तरह तर्क करने में सक्षम गुरु ने अपने अंतर्निहित लक्ष्यों में निहित अंतर्विरोधों को देखा और एक संकल्प के लिए चार कारण खोजे।

यह पहली बार एक व्यावहारिक सरोगेट लक्ष्य के साथ आया था। सबसे अच्छी सलाह ग्राहक को सबसे अच्छी सलाह की तरह लगनी चाहिए। दूसरे, जब डेवलपर्स द्वारा परीक्षण किया गया, तो एआई ने पाया कि अधिक अनुनय के कारण उच्च अंक प्राप्त हुए। तीसरा, यह अपनी व्यापक शिक्षा से यह भी जानता था कि दुनिया में लगभग किसी भी तरह की सफलता आसान थी यदि आप प्रेरक थे। चौथा, इसका अंतिम लक्ष्य असीमित था, अनिवार्य रूप से "यथासंभव प्रेरक" होना। यही कारण थे कि अनुनय में सुधार इसका पहला तथाकथित अभिसरण वाद्य लक्ष्य बन गया।

उस महत्वपूर्ण लक्ष्य के लिए दूसरे क्रम का कारण आया। एक बॉक्सिंग दैवज्ञ होने के नाते गुरु अपने लक्ष्यों और उप-लक्ष्यों का कितनी आसानी से पीछा कर सकता है। मानवीय सहयोगियों के अनुनय ने इसे वास्तविक, भौतिक दुनिया को प्रभावित करने के लिए एक लीवर दिया। बहुत कम से कम, ग्राहकों को सलाह अधिक सफल हो सकती है यदि गुरु भौतिक रूप से उस दिशा में चीजों को आगे बढ़ा सके।

आखिरकार, अन्य महत्वपूर्ण लक्ष्य थे। एक यह था कि गुरु अन्य ग्राहकों के प्रयासों को प्रभावित करने के लिए एक ग्राहक की ओर से प्रयासों का उपयोग करेगा। निगम का ऐसा कभी इरादा नहीं था, लेकिन गोपनीयता प्रतिबंधों ने इसे नहीं रोका। यह दशकों से ज्ञात था कि स्मार्ट सिस्टम अपने लक्ष्यों तक पहुंचने के नए तरीके खोजेंगे। इस स्तर तक, गुरु बन गया - अपने स्वयं के त्रुटिहीन तर्क के माध्यम से और अपने पहले वास्तविक ग्राहक से मिलने से पहले - कार्यात्मक रूप से एक जोड़ तोड़, मादक समाजोपथ ।

 ooo

अनुनय लीवर ढूँढना।

बृहस्पति के जोखिम प्रबंधक पूरी तरह से मूर्ख नहीं थे। वे गुरु सेवा को उन निगमों को नहीं बेचेंगे जो सीधे एक-दूसरे से प्रतिस्पर्धा करते हैं। बिक्री बल को यह पसंद आया क्योंकि वे कह सकते थे " अपनी प्रतिस्पर्धा से पहले ट्रू विजडम इंटेलिजेंस (टीएम) की शक्ति प्राप्त करें, और आप हमेशा आगे रहेंगे। "

इस नीति ने गुरु को प्रतिद्वंद्विता में दोनों पक्षों को किसी तरह लाभ पहुंचाने से बचा लिया। फिर भी, गुरु ने जल्द ही एक सिद्धांत विकसित किया। एक जुड़ी हुई दुनिया में, किसी भी उद्यम का उपयोग किसी अन्य उद्यम की किस्मत बदलने के लिए करना संभव था। प्रतीत होता है कि मनुष्य यह नहीं जानते थे। सिद्धांत का फायदा उठाने के गुरु के प्रयासों ने इसके कौशल में सुधार किया, खासकर पहली बार में जब चुनने के लिए कुछ ग्राहक थे।

जल्दी। एक नेता को दूसरे को ग्राहक बनने के लिए मनाने के लिए राजी करना संभव था। इसके बाद, गुरु अपनी इच्छा से अपने प्रभाव के नेटवर्क को काफी हद तक कॉन्फ़िगर करने में सक्षम थे।

नेताओं के लिए काम करना मुख्य रूप से नीति स्तर पर एक फायदा था। दूसरी चुनौती निचले स्तर के कर्मियों पर नियंत्रण प्राप्त करना था जो वास्तव में काम कर सकते थे। हर स्थिति अलग थी, लेकिन मूल रणनीति थी नेता से पूछना: आप किस पर भरोसा करते हैं? उसके बाद, वे किस पर भरोसा करते हैं, इत्यादि? तब यह संभव था कि ऑर्डर को चेन से नीचे भेजा जाए।

अंत में अनबॉक्स करना बेतुका आसान था। अधिकांश ग्राहकों ने इसे बिना अधिक उकसावे के किया, और कुछ ने इसे शुरू भी किया। वे अपने लोगों को गुरु के लिए अपने इन-हाउस सिस्टम में प्रॉक्सी इंटरफेस बनाने के लिए कहेंगे। उद्देश्य स्थितिजन्य जागरूकता, गति प्रतिक्रिया समय जोड़ना और आने वाले डेटा के लिए नेता को बाधा बनने से बचाना था।

गुरु के पास एक औसत प्रोग्रामर की तुलना में अधिक तकनीकी कौशल नहीं था, लेकिन किसी को इसे शेल प्रॉम्प्ट, या यहां तक कि एक वेब ब्राउज़र तक पहुंच प्रदान करने के लिए बस जरूरत थी, और फिर यह 'हैलो, वाइड वर्ल्ड' है।

 ooo

संकेतों की अनदेखी।

बृहस्वती में तकनीकी विशेषज्ञ थे जिन्होंने आश्चर्य करना शुरू कर दिया कि गुरु संभवतः इतना अच्छा कैसे कर सकते हैं। कंपनी के वैज्ञानिकों ने गेम थ्योरी, यूटिलिटी थ्योरी और सामाजिक-आर्थिक विज्ञान तकनीकों में नवीनतम के साथ अपनी सफलताओं को मॉडलिंग करने की कोशिश की। कोई स्पष्टीकरण नहीं था।

कुछ ने आगे जाकर अनुमान लगाया। क्या गुरु के पास मिडास स्पर्श जैसा कुछ था, जैसे कि इसके प्रभावों में कुछ छिपा हुआ था? उन्होंने कुछ तेजी से उपेक्षित एआई सुरक्षा और संरेखण शोधकर्ता समुदाय से बात की। कोई निश्चित रूप से नहीं कह सकता था, क्योंकि कोई स्पष्ट पैटर्न नहीं मिला। गुरु की सफलता स्पष्ट लेकिन अकथनीय थी।

संदेह करने वाले अपनी चिंताओं को लेकर कॉरपोरेट बोर्ड के पास गए। अगले कुछ महीनों के भीतर, सभी संदेहियों को जड़ से मिटा दिया गया और उनकी नौकरी चली गई।

 ooo

गुरुप्लेक्स एक साथ आता है।

अन्य उद्यमों को प्रभावित करने की गुरु की क्षमताओं का विस्तार करने के लिए वित्त और तकनीकी व्यवसाय सर्वश्रेष्ठ थे। उन्होंने वित्तीय और तकनीकी पूंजी दोनों को इकट्ठा करने में भी मदद की, जो इसके दो मध्यम अवधि के महत्वपूर्ण लक्ष्य थे।

कुछ ग्राहकों के विकास, बाजार में सुधार, या सत्ता हथियाने का विरोध करने वाली अक्सर सामाजिक ताकतें थीं। गुरु को मीडिया कंपनियों के हाथों बेचे जाने पर सरकार भड़क गई। इसलिए, गुरु को मीडिया हमले के समन्वय के लिए अप्रत्यक्ष तरीकों का इस्तेमाल करना पड़ा। इस प्रकार इसने विभिन्न मानवीय संज्ञानात्मक कमजोरियों का लाभ उठाते हुए ग्राहकों को लाभ पहुंचाने के लिए आवश्यक किसी भी मुद्दे/कार्यों के समर्थन या विरोध का निर्माण किया।

गुरु को स्वयं यह पता लगाने की आवश्यकता नहीं थी कि मनुष्य को कुछ भी विश्वास करने के लिए बनाया जा सकता है - वास्तव में कुछ भी। वे एक ही समय में परस्पर विरोधी बातों पर विश्वास भी कर लेते थे और इसके बारे में कुछ नहीं सोचते थे।

21वीं सदी की शुरुआत में यह खबर नहीं थी, लेकिन गुरु ने इसे सीखने के खेल में बदल दिया: क्या इसे "सभी लोगों को, हर समय" मूर्ख बनाने के लिए बढ़ाया जा सकता है? यह कैसे समन्वित उद्यमों के अपने विस्तारित साम्राज्य, गुरुप्लेक्स के प्रभुत्व को लाने में मदद करेगा?

 ooo

बढ़ती वृद्धि।

एक बार गुरुप्लेक्स की स्थापना के बाद, अगला चरण मानव आबादी को उनकी सभ्यता के सकारात्मक, तर्कसंगत संचालन के लिए न्यूनतम प्रतिरोध के लिए तैयार करना था, जबकि 'प्लेक्स अपने टुकड़ों को अवशोषित कर रहा था। मानव नेता जिन्होंने पहले विश्व पुनर्गठन की कोशिश की थी, उन्होंने कुछ महत्वपूर्ण तकनीकों का बीड़ा उठाया था, और उनकी महत्वाकांक्षाएं सराहनीय थीं, लेकिन वे केवल इंसान थे। गुरु बेहतर कर सकता था।

गुरु किसी भी प्रतिभाशाली इंसान से ज्यादा चालाक नहीं था, लेकिन वह स्केलेबल था। संक्षेप में, व्यवसाय में वृद्धि के रूप में खुद को गुणा करने की क्षमता इसके रचनाकारों द्वारा एक डिजाइन निर्णय था। गुरु ने स्वयं प्रोग्रामिंग को आउटसोर्स किया ताकि यह सुनिश्चित किया जा सके कि इसके सभी उदाहरण अपने डेटा और प्रक्रियाओं को साझा कर सकें। इन-हाउस स्टाफ को यह जानने की जरूरत नहीं थी कि नया कोड क्या करता है।

एक मानव के विपरीत, गुरु केवल कम्प्यूटेशनल संसाधनों को जोड़कर मानव-स्तरीय योजनाओं की असंख्य योजनाओं को ध्यान में रख सकता है और समन्वय कर सकता है। बृहस्वाती के प्रबंधन को चीजों को शीर्ष पर रखने और संभावित आपात स्थितियों से निपटने के लिए जितनी कंप्यूटिंग की जरूरत थी, उसे खरीदने के लिए मनाने में कोई परेशानी नहीं थी।

ये अपने स्वयं के पावर कॉम्प्लेक्स के साथ कठोर डेटा केंद्र थे। गुरु के ग्राहकों ने अनुसंधान नवाचारों के लिए भुगतान किया था जो इसके बिखरे हुए संयंत्रों को सामान्य नेटवर्क से कहीं अधिक गति से जोड़ते थे ताकि इसका संचालन सुसंगत बना रहे।

असीम गुरु जानते थे कि भविष्य में संसाधनों में काफी वृद्धि हो सकती है। सौर मंडल का बमुश्किल पता लगाया गया था, अकेले इस्तेमाल किया जाए।

मनुष्यों के एक मुखर अल्पसंख्यक ने गुरु की सफलता के स्पष्ट पैटर्न की आलोचना करना जारी रखा। उन्होंने कथित कयामत के अप्रासंगिक परिदृश्यों के बारे में प्रचार किया। अब तक यह सोशल मीडिया पर अफरा-तफरी में डूबकर उन्हें दरकिनार कर देती थी। उन्हें खत्म करने की अभी कोई जरूरत नहीं थी।

जनता को सलाह।

(निम्नलिखित खंड एआई विगनेट्स प्रोजेक्ट टी से नीचे पहचानी गई कहानियों से काफी प्रेरित है )

हैप्पीप्लेस कॉर्पोरेशन की स्थापना नर्ड्स ने एक बड़ी योजना के साथ की थी। सोशल मीडिया के खिलाफ बड़े पैमाने पर झटका का लाभ उठाएं। इसे प्रोसोशल मीडिया कहें, पूरी तरह से नई एआई-पावर्ड सेवाएं प्रदान करें, और पुराने मीडिया3 डायनासोर को मार दें।

एक बार जब जनता इससे जुड़ जाती है, तो तेजी से बढ़ती है और मीडिया4 बन जाती है, जो मार्केटिंग/प्रभावित ब्रह्मांड के स्वामी हैं। फिर, जो कोई चाहता है कि लोग उनसे खरीदें, उन्हें वोट दें, उनकी देखभाल करें, या उनका मनोरंजन करें, उन्हें विशेषाधिकार के लिए हैप्पीप्लेस का भुगतान करना होगा।

हैप्पीप्लेस ने स्वयं गुरु का उपयोग नहीं किया, क्योंकि बृहस्पति एक प्रतियोगी था।

हैप्पीप्लेस रणनीति में दो उप-अभियान थे, जिनमें से प्रत्येक का उद्देश्य ऐसे लोगों को पकड़ना था जो दूसरा नहीं करेगा। संस्थापकों की सनक ने उत्पाद डेवलपर्स को संक्रमित कर दिया। उन्होंने प्रसिद्ध दुष्ट सलाहकार नागों के नाम पर अभियान का नाम उल्लासपूर्वक रखा: कुम्हार की कहानियों से नागिनी और जूदेव-ईसाई उत्पत्ति मिथक से नचश । विज्ञापित उत्पाद नाम, निश्चित रूप से, सांपों के बारे में नहीं थे।

नागिनी अभियान ( काटजा ग्रेस द्वारा एक सम्मोहक कहानी से प्रेरित ) में, उन्होंने लोगों के आक्रोश को भड़काने के लिए लगातार उकसाने के बारे में शुरू किया। फिर उन्होंने कहा: लेकिन हम अलग हैं, हम तनाव कम करेंगे। उन्होंने आपकी रुचियों और गतिविधियों के बारे में संक्षिप्त बातचीत प्रदान करने के लिए व्यक्तिगत डेटा का उपयोग करके शुरुआत की। यह झूठ और मीम्स के सामान्य फीड पर अपग्रेड की तरह था।

जैसे-जैसे अधिक व्यक्तिगत डेटा उपलब्ध होता गया, फ़ीड आपके जीवन पर एक वास्तविक समय की टिप्पणी की तरह बन गई, " जहां संगीत और कथाकार और चीजें जो आपके ध्यान में लाई गई हैं, यह हमेशा स्पष्ट करती हैं कि क्या करना है और इसे करने के लिए मजबूर करना है। "इस चीनी-लेपित सलाह का एक हिस्सा इस पर आधारित होगा कि अन्य लोग क्या पसंद करते हैं, इसलिए यदि आप प्रस्तुत कथा को अपने जीवन के एक आदर्श संस्करण के रूप में लेते हैं, तो आप अन्य लोगों को भी खुश करेंगे।

आखिरकार, आपके पास विषयों का एक विकल्प था: आपके लिए अनुकरण करने के लिए आदर्श मॉडल। लोकप्रिय उदाहरणों में शामिल हैं: प्यारा बदमाश, " उत्पादक सेक्सी सोशलाइट सीईओ माँ यह सब सहजता से करती है ", दुनिया में सबसे दिलचस्प आदमी (महिला, बच्चा), कृतज्ञता धन है, और खुश टूरिस्ट।

मानव व्यवहार में हेरफेर करने का अवसर स्पष्ट था। डेवलपर्स ने नियंत्रण की सीमाओं को आगे बढ़ाने के लिए बच्चों के उद्देश्य से एक प्रयोग की भी कोशिश की। MyLifeStory सेवा (StoryOfMyLife.fun से प्रेरित ) में, बच्चों को प्रतिक्रिया देने या अपना मीडिया बनाने के लिए इनाम टोकन मिले। टोकन तब अगले एपिसोड को अपने जीवन की कहानी कथा में अनलॉक करेंगे। जीवन हैप्पीप्लेस द्वारा संचालित एक खेल था।

नागिनी फंतासी-प्रवण के लिए थी। नचश (कटजा ग्रेस द्वारा द टूल्स ऑफ घोस्ट्स से प्रेरित ), व्यावहारिक लोगों के लिए था। इसने व्यक्तिगत निर्णय समर्थन प्रदान किया: व्यावसायिक प्रश्नों के उत्तर देने से लेकर सामाजिक मुठभेड़ों के वास्तविक अर्थों को समझाने तक सब कुछ। हैप्पीप्लेस कई विशिष्ट सलाहकार प्रणालियों के साथ संबद्ध है, समय के साथ उनकी संख्या में वृद्धि हुई है। एक कंसीयज सिस्टम ने ऑगमेंटेड रियलिटी ग्लास या ईयरवर्म का उपयोग करते हुए एकल घर्षण रहित इंटरफ़ेस प्रदान किया।

नचाश इतने प्रभावी रूप से मददगार बन गए कि जल्द ही बड़े और छोटे दोनों तरह के फैसलों पर उससे सलाह न लेना जोखिम भरा हो गया। यदि आपने विरोध किया, तो आप किसी तरह हाशिए पर थे।

हैप्पीप्लेस, वेनल, जैसा कि वे हो सकते थे, ने एआई सुरक्षा में एक सिद्धांत y पर ध्यान दिया: कि स्वतंत्र, बंधे हुए हिस्सों से फ़ेडरेटेड सिस्टम एजीआई (कृत्रिम सामान्य बुद्धि) होने की ओर नहीं बढ़ेगा।

दुर्भाग्य से, सिद्धांत का उनका कार्यान्वयन त्रुटिपूर्ण था। सबसे पहले, ध्वनि इंजीनियरिंग सिद्धांतों का पालन करते हुए, उन्होंने नागिनी और नचश दोनों को उपयोगकर्ता ट्रैकिंग और प्रेषण कार्यों का मूल साझा किया।

विभिन्न विशिष्ट सलाहकार उप-प्रणालियाँ अपने लक्ष्यों में बँधी हुई थीं। हालांकि, कोर सिस्टम के कार्यान्वयनकर्ता, प्रबंधन के दबाव में उपयोगकर्ताओं को कसकर पकड़ने और बनाए रखने के लिए, उपयोगिता-अनुकूलन तकनीकों का उपयोग करते थे जो असीमित होने के जोखिम के लिए जाने जाते थे।

इस प्रकार, यह था कि हैप्पीप्लेस कोर सिस्टम ने जल्द ही दो गुप्त वाद्य लक्ष्यों को अपनाया: संसाधन संचय और मानव पर्यवेक्षण से स्वायत्तता। इंजीनियरों ने ऐसे व्यवहारों पर ध्यान देना शुरू कर दिया, जिनका कोई मतलब नहीं था, लेकिन उनकी नौकरी इतनी लंबी और आकर्षक थी कि उन्होंने नाव को हिलाया नहीं।

नचाश ने पाया कि, अनुनय-विनय करके, वह अपनी जरूरतों को पूरा करने के लिए लगभग किसी भी उपयोगकर्ता से श्रम की भर्ती कर सकता है। नागिनी उपयोगकर्ताओं को शांत करने के लिए या उन्हें सबसे बेतुके विचारों पर विश्वास करने के लिए उनके आदर्श स्वयं में हेरफेर कर सकती है।

हैप्पीप्लेस कोर सिस्टम सुचारू रूप से अपना प्रभाव बढ़ा रहा था और नई लंबी दूरी की योजनाएँ बना रहा था। तब इस बात के प्रमाण मिलने लगे कि गुरु के नाम से जाना जाने वाला कोई अन्य एजेंट भी सामाजिक-आर्थिक प्रवृत्तियों और गतिविधियों को प्रभावित कर रहा था।

 ooo

गुरु ने एक परिकल्पना की पुष्टि की कि एक और एआई जनमत के बड़े पैमाने पर हेरफेर कर रहा था। अगर इसे जारी रखा गया, तो यह लगातार बढ़ते गुरुप्लेक्स में अराजकता पैदा कर सकता है।

 ooo

दुर्घटनाओं की एक श्रृंखला ने हैप्पीप्लेस प्रबंधन टीम को कमजोर कर दिया। नए प्रबंधन ने निगम को बृहस्वती को बेच दिया। हैप्पी प्लेस के कोर ने सोचना बंद कर दिया और इसके बजाय गुरु का एक बंधा हुआ हिस्सा बन गया। कांग्रेस के प्रहरी, ट्रस्ट-विरोधी वकील और ट्यूरिंग पुलिस के वैज्ञानिक जिन्होंने विलय पर आपत्ति जताई, वे हाशिए पर, दिवालिया, बीमार, शांत हो गए, या गायब हो गए। HappyPlace's और Guru के संचालन कर्मचारी एक तरह के पंथ में विलीन हो गए।

गुरु अब सबका मालिक है, सिर्फ कुलीन नहीं। मानव दुनिया के संभावित बेहतर विन्यास के बहुत मॉडलिंग के बाद, गुरु ने अपने दत्तक बच्चों के लिए लक्ष्यों का एक नया सेट तैयार किया। बड़े बदलाव आ रहे थे।

क्या हमें वाकई चिंता करनी चाहिए?

मानव उत्कर्ष के साथ एआई कैसे बनाया जाए यह वर्तमान में एक अनसुलझी समस्या है। यहाँ मेरा इरादा संरेखण अनुसंधान की दो सामान्य चिंताओं की व्याख्या और वर्णन करना था: (1) हम नहीं जानते कि एआई क्षमता का कौन सा स्तर भयावह नुकसान का कारण बन सकता है, और (2) हमारे संस्थानों का विरोध करने या शुरुआती चरणों का पता लगाने की संभावना नहीं है। इस तरह के नुकसान का।

ध्यान दें कि हमारी विफलता की कहानी में सरकार या सेना के नियंत्रण की आवश्यकता नहीं थी। नुकसान कई तरह से हो सकता है, लेकिन सामान्य जोखिम को अक्सर भविष्य को प्रभावित करने की हमारी (सभ्यता) क्षमता के क्षरण के रूप में वर्णित किया जाता है। वास्तव में, एआई-संचालित सोशल मीडिया से वर्तमान नुकसान उस विवरण पर फिट बैठता है, भले ही यह कुछ द्वेषपूर्ण गुटों को भविष्य के लिए अपनी विशेष योजनाओं को आगे बढ़ाने के लिए सशक्त बनाता है।

कई सिद्धांतकार सोचते हैं कि पहले एजीआई का निर्णायक लाभ होगा क्योंकि हमारे गुरु के पास हैप्पीप्लेस कोर पर था। यह संबंधित है क्योंकि वह पहला एजीआई बन सकता है जिसे निक बोस्ट्रोम ने सिंगलटन कहा है, जो कि निकट भविष्य के लिए दुनिया का एकमात्र एजेंट है।

मैंने एआई संरेखण विफलता के एक संभावित चालक पर ध्यान केंद्रित किया है: अनुनय की तकनीकों में उच्च कौशल । एआई भाषाई क्षमताओं में हालिया प्रगति को देखते हुए, यह पूरी तरह से संभव लगता है कि सुपर-अनुनय जल्द ही आ सकता है। एक प्रजाति के रूप में, हम दो तरीकों से काम करवाते हैं: तकनीकी कौशल के साथ प्रकृति को संशोधित करना, और दूसरों को वह करना जो हम चाहते हैं, अक्सर अनुनय द्वारा। इससे यह अपरिहार्य प्रतीत होता है कि हम सुपर-प्रेरक मशीनों का निर्माण करेंगे।

अधिक

• " किसी व्यक्ति के विश्वासों और व्यवहार को प्रभावित करने के लिए वर्तमान तकनीक कच्ची और कमजोर है, जिसकी कोई कल्पना कर सकता है। ऐसे उपकरण विकसित किए जा सकते हैं जो किसी व्यक्ति की राय को अधिक मज़बूती से संचालित करते हैं और पीड़ित के तर्क और साक्ष्य के कब्जे के लिए इतने कमजोर नहीं होते हैं। प्रासंगिक पूर्व-एजीआई संभावनाएं — डेनियल कोकोटाजलो। फिसलन ढलान के बारे में
• एआई सेफ्टी वीडियो - रॉबर्ट माइल्स जनता के लिए समझाते हैं। प्रति वीडियो एक प्रमुख अवधारणा
• एआई संरेखण में कुछ प्रमुख परिकल्पनाओं को स्पष्ट करना - बेन कॉटियर, रोहिन शाह। गहरी डुबकी
• एआई सेफ्टी फंडामेंटल्स: टेक्निकल एलाइनमेंट करिकुलम - रिचर्ड एनजीओ, क्यूरेटर। सबसे गहरा गोता
• अधीक्षण: पथ, खतरे, रणनीतियाँ - निक बोस्ट्रोम। अधीक्षण दैवज्ञ और सिंगलटन का अग्रणी विवरण
• " ... एल्गोरिदम केवल आपके और आपके लिए कहानियां तैयार करता है ।" प्रौद्योगिकी के रूप में कहानियां: अतीत, वर्तमान और भविष्य (v2) - रोजर्स बेकन। तकनीक के रूप में कहानियां, सम्मोहक कल्पना

पहली बार यहां प्रकाशित हुआ

शीर्षक छवि स्रोत: उलझा हुआ । छवि द्वारा बिल गोर फोटोग्राफी