ओह एजीआई, क्या आप मुझे महसूस कर सकते हैं?

आर्टिफिशियल जनरल इंटेलिजेंस (एजीआई) में कुछ उल्लेखनीय शोधकर्ताओं के साथ हाल ही में हुई एक बातचीत में हम चर्चा कर रहे थे कि जब जलवायु परिवर्तन की बात आती है तो एजीआई मददगार होगा या जटिल। IPCC ने 1.5C लाइन को पार करने की रिपोर्ट कितनी जल्दी दी, इस पर हम मातम में पड़ गए। रिकार्ड के लिए, यह अब से 18 साल बाद आ सकता है - जब आज के नवजात शिशुओं के माता-पिता अपने छोटों को कॉलेज भेजने की उम्मीद कर रहे होंगे।

मुद्दा यह है कि कैटलॉग में जलवायु संबंधी बहुत सारी समस्याएं हैं। यह सिर्फ एक तथ्य नहीं है कि हम 1.5C के पार जाने से नहीं बच सकते। वह भी है हमने कीड़ों की आबादी को खत्म कर दिया है . यह उनके पूरे झुंड में एक और कैनरी है जो उस कोयले की खान में पेट भर गया है जिसे हमने अपने लिए खोदा है। तो, हम वास्तव में कुछ मदद का उपयोग कर सकते हैं। मेरे सहयोगियों की स्थिति यह थी कि एजीआई वह मदद होगी। मेरी स्थिति यह है कि आम तौर पर बुद्धिमान एजेंट स्वायत्त होगा। इसकी स्वायत्तता उन प्रमुख परीक्षणों में से एक होगी जिसके द्वारा हम इसे आम तौर पर बुद्धिमान के रूप में पहचानते हैं। आखिरकार, यही वह कसौटी है जो हम स्वयं पर लागू करते हैं। लेकिन एक स्वायत्त एजेंट को हमारी मदद करने के लिए प्रेरणा की जरूरत होगी।

अगर उत्सर्जन में कटौती के वादे किसी भी तरह के छद्म हैं , तो ऐसा लगता है कि हममें खुद की मदद करने की प्रेरणा की कमी है। जहां तक एजीआई के लिए करुणा या सहानुभूति जैसा कुछ भी है या यहां तक कि केवल मानवता को महत्व देने के लिए पर्याप्त है, मैं आपको याद दिलाता हूं कि सामान्य मनुष्यों के ये गुण, जब वे मौजूद होते हैं, भावनाओं में निहित होते हैं, न कि हमारी कम्प्यूटेशनल क्षमता, या हमारी बुद्धि में। बहुत सारे बेहद बुद्धिमान इंसान हैं जिन्होंने ऐतिहासिक रूप से करुणा या सहानुभूति का एक अंश नहीं दिखाया और समाज और मानव इतिहास पर उनका प्रभाव किंवदंतियों और दुःस्वप्न की सामग्री है। जैक द रिपर से लेकर पोल पॉट तक, उदाहरण असंख्य और भयानक हैं।

मानवीय भावनाएं मानव आकृति विज्ञान और मानव जीव विज्ञान में गहराई से निहित हैं

रूमी की मटनवी जैसे उदात्त ग्रंथ भी मानवीय वासना की भाषा को मानव प्रेम की भाषा में बदल देते हैं। कई लोग इसे प्यार की भाषा मानते हैं, लेकिन यह वास्तव में इंसानों के लिए प्यार की ओर इशारा करने का एक तरीका है। मनुष्यों और प्रेम के साथ उनके संबंधों को समझने के लिए एक उपकरण के अलावा, ब्रह्मांड में विकसित अल्फा सेंटौरन्स या अन्य बुद्धिमानों के लिए उपयोगी होने की संभावना बहुत कम है। हम उम्मीद नहीं कर सकते हैं कि कच्ची कम्प्यूटेशनल क्षमता, मौलिक रूप से भिन्न आकृति विज्ञान में निहित है और व्यावहारिक रूप से कोई जीव विज्ञान नहीं है, मानव अनुभव के साथ किसी प्रकार की समझ या अनुनाद होगा।

करुणा - व्युत्पत्ति के अनुसार: समान भावना, या भावना - मनुष्यों के लिए एक दूसरे के प्रति विकसित होना अक्सर मुश्किल होता है, जैसा कि हमारा इतिहास, यहां तक कि बहुत हालिया और तत्काल इतिहास दिखाता है।

क्या अमेरिकी कैपिटल पर धावा बोलने वाले एमएजीए गणराज्यों को उन अधिकारियों पर दया आती है जिन्हें उन्होंने अपंग या मार डाला था? क्या जॉर्ज फ्लॉयड की हत्या करने वाले अधिकारी या जो अधिकारी यह सब देख रहे थे, उनके मन में सामने वाले व्यक्ति के प्रति दया है? हमारी जैविक अनिवार्यताओं की तरह कुछ भी नहीं होने के साथ पूरी तरह से अलग आकृति विज्ञान में निहित एक बुद्धि को मानवता के लिए करुणा क्यों होगी?

मानवीय भावनाएं मानव आकृति विज्ञान और मानव जीव विज्ञान में गहराई से निहित हैं। रूमी की मटनवी जैसे उदात्त ग्रंथ भी मानवीय वासना की भाषा को मानव प्रेम की भाषा में बदल देते हैं।

इसलिए मैं मकड़ियों की एक नई प्रजाति को पेश करने के रूपक का उपयोग करता हूं - बुद्धिमान मकड़ियों की योजना बनाने और अनुकूलन करने की क्षमता के साथ - एजीआई के संभावित परिणामों के लिए एक प्रॉक्सी के रूप में। और यह बेहतर परिणामों में से एक है। बहुत खराब परिणाम AGI के सैन्य उपयोगों के गड़बड़ा जाने, या मनुष्यों में करुणा की कमी या सर्वथा द्वेषपूर्ण होने, और हिंसक और पुरुषवादी प्रेरणाओं या प्रवृत्तियों के साथ स्वायत्त बुद्धिमान एजेंटों की नकल करने से शुरू होते हैं।

अच्छे कारण के लिए - यहां तक कि सबसे सरल प्रतिक्रिया प्रणालियों के व्यवहार को समझने में आधुनिक मनुष्य भयानक हैं। वे अत्यधिक जटिल हैं, विशेष रूप से वे सभी सामान्य हैं जो टोपोलॉजिकल ट्रांज़िटिविटी का आनंद ले रहे हैं। (आम आदमी के लिए इसका अर्थ है ऐसी प्रणालियाँ जहाँ इनपुट में छोटे अंतर के परिणामस्वरूप आउटपुट में मनमाने ढंग से बड़े अंतर हो सकते हैं।) रॉ प्रेडिक्टिव पावर, यहाँ तक कि सार्वभौमिक कम्प्यूटेशनल पावर, इस सुविधा के लिए कोई मुकाबला नहीं है। चैटजीपीटी के "मतिभ्रम" के साक्षी बनें। पारिस्थितिक निचे में प्रजातियों को पेश करने की आपदाओं से सब कुछ जिसके लिए वे दवाओं के कैस्केडिंग साइड इफेक्ट के अनुकूल नहीं हैं, जलवायु पर हमारे प्रभावों के लिए हमारी बुद्धि के साथ जटिल प्रणालियों को समझने में हमारी अक्षमता का भारी सबूत है। जब हम इसे ठीक कर लेते हैं -- और यह कोई दुर्घटना नहीं है -- यह हमारी बुद्धि के अलावा किसी और जगह से आता है।

उदाहरण के लिए, सबूत है कि जिसे हम चेतना कहते हैं और दूसरों में सचेत व्यवहार के रूप में अनुभव करते हैं, वह बुद्धि में नहीं, बल्कि भावनाओं में निहित है, काफी सम्मोहक है। प्रसिद्ध शोधकर्ता, मार्क सोलम्स, में , साक्ष्य का सारांश देता है। अभिमस्तिष्कता से पीड़ित बच्चे - नियोकॉर्टेक्स को याद कर रहे हैं - अभी भी वर्णित और सचेत के रूप में अनुभव किए जाते हैं। इस बीच, मस्तिष्क में एक छोटा 2 घन सेंटीमीटर क्षेत्र क्षतिग्रस्त हो रहा है, 100% किसी एक घर से संबंधित नहीं है, व्यक्ति सचेत नहीं है। मस्तिष्क में यह क्षेत्र आमतौर पर भावात्मक प्रसंस्करण से जुड़ा होता है।

सबूत है कि जिसे हम चेतना कहते हैं और दूसरों में सचेत व्यवहार के रूप में अनुभव करते हैं, वह बुद्धि में नहीं, बल्कि भावनाओं में निहित है, काफी सम्मोहक है।

हम उम्मीद नहीं कर सकते कि AGI में हमारे लिए भावनाएँ होंगी

हम इन एजेंटों के बिना मानवीय भावनाओं जैसी किसी चीज़ को प्रकट किए बिना पहचानने योग्य मानव स्तर AGI (HLAGI) प्राप्त करने की उम्मीद नहीं कर सकते हैं, लेकिन ये मानव आकृति विज्ञान और मानव जीव विज्ञान में निहित हैं। मौलिक रूप से अलग अवतार के परिणामस्वरूप मौलिक रूप से अलग बुद्धि होगी। लेकिन मौलिक रूप से भिन्न बुद्धि एक स्थलीय रूप से सकर्मक उर्फ अराजक गतिशील प्रणाली है। ठीक एक प्रजाति की तरह जो एक आला के अनुकूल नहीं है, इसका हमारे पर्यावरण पर प्रभाव पड़ेगा कि हम भविष्यवाणी करने में ऐतिहासिक रूप से भयानक हैं। इसलिए एचएलएजीआई से जलवायु परिवर्तन में मदद की उम्मीद करना निराशाजनक रूप से भोलापन है। यह पहले से ही जटिल समस्या की जटिलता होने की अधिक संभावना है।

अगर कोई एक इंसान है जिसके पास किसी भी तरह की पूर्णता या सत्यता के साथ वैकल्पिक दुनिया की कल्पना करने की अदम्य क्षमता थी, तो वह फ्रैंक हर्बर्ट थे। मैं आपको याद दिलाता हूं कि टिब्बा उस समय की अवधि में स्थापित किया गया था जब एजीआई की गलती समाप्त हो गई थी। यह बहुत अधिक आशावादी दृष्टिकोण है। यह अधिक संभावना है कि फर्मी विरोधाभास को बुद्धि की ऑरोबोरिक प्रवृत्ति द्वारा खुद को दोहराने की कोशिश करने के लिए समझाया गया है, जिससे खुद को मिटा दिया जा सके। रॉबिन हैनसन की ग्रैबी एलियंस परिकल्पना के संदर्भ में, अवतार की भूमिका को समझे बिना बुद्धिमत्ता को दोहराने के लिए इस ड्राइव को दरकिनार करना संभवत: कठिन कदमों में से एक है जिसे जीवित रहने के लिए बुद्धि को अतीत में जाना पड़ता है।

मिलाद फकुरियन और अनस्प्लैश की मुख्य छवि सौजन्य