एलएलएम बनना कैसा है?: एआई समझ की सीमाओं पर एक विचार प्रयोग

हाल ही में, मैंने किसी को एआई-आधारित सॉफ़्टवेयर का एक डेमो दिखाया जो मैंने लिखा था। "यह अच्छा है," उन्होंने कहा, "लेकिन मुझे कैसे पता चलेगा कि यह मेरी जानकारी किसी दुष्ट तानाशाह को नहीं भेज रहा है?" फिलहाल, मैं इस सवाल से काफी हैरान था। आख़िरकार, मैं कुछ पाठ उत्पन्न करने के लिए बस एक एलएलएम (बड़े भाषा मॉडल) का उपयोग कर रहा था। लेकिन विचार करने पर, मुझे एहसास हुआ कि इस व्यक्ति ने जो पूछा था वह एक सामान्य परिप्रेक्ष्य का प्रतिनिधित्व करता है: एक एलएलएम ऐसे पाठ को उत्पन्न कर सकता है जो (कई मामलों में) एक मानव द्वारा उत्पन्न पाठ से अप्रभेद्य है। इससे हम यह अनुमान लगा सकते हैं कि शायद एलएलएम में एजेंसी की एक डिग्री होती है (अर्थात, दुनिया में स्वतंत्र रूप से कार्य करने की क्षमता)। उदाहरण के लिए, यह मेरी निजी जानकारी किसी और को भेजने का निर्णय ले सकता है।

हालाँकि इस ग़लतफ़हमी से निपटने का एक तरीका यह हो सकता है कि जेनेरिक एआई कैसे काम करता है, इसकी सूक्ष्म तकनीकी व्याख्या दी जाए, लेकिन मुझे यकीन नहीं है कि अधिकांश श्रोता इसे समझने के लिए पर्याप्त देर तक जागते रहने की जहमत उठाएंगे। हालाँकि, दर्शनशास्त्र में मेरी पृष्ठभूमि एक और मार्ग सुझाती है: एक दार्शनिक विचार प्रयोग।

मुझे डार्क बॉक्स का परिचय देने की अनुमति दें।

दार्शनिक विचार प्रयोग

दार्शनिक विचार प्रयोग एक सामान्य उपकरण है जिसका उपयोग दार्शनिक हमारे तर्क के बारे में महत्वपूर्ण प्रश्न उठाने के लिए करते हैं। 1700 के दशक में, रेने डेसकार्टेस ने पूछा कि क्या वह वास्तव में दुनिया में एक व्यक्ति नहीं था, बल्कि एक दुष्ट धोखेबाज द्वारा प्रताड़ित एक अशरीरी आत्मा थी (एक विचार जो बाद में द मैट्रिक्स फिल्मों का आधार बन गया)। डेसकार्टेस का विचार प्रयोग हमें यह पूछने में मदद करने के लिए डिज़ाइन किया गया था कि हम वास्तव में दुनिया के बारे में क्या जानते हैं। इसके और भी कई उदाहरण हैं। ट्रॉली कार समस्या हमारे नैतिक अंतर्ज्ञान पर ध्यान केंद्रित करती है। गेटियर उदाहरण हमें यह पूछने की चुनौती देते हैं कि हम विश्वास से ज्ञान तक कैसे पहुँचते हैं। सोराइट्स समस्या हमें यह चुनौती देने के लिए मजबूर करती है कि हम समूहों और व्यक्तियों में अंतर कैसे करें।

इन सभी मामलों में, प्रयोग हमें ऐसी स्थिति में कदम रखने के लिए कहते हैं, चाहे वह कितनी भी असंभव क्यों न हो, और कल्पना करें कि हम कैसे तर्क करेंगे।

शायद इस तरह के विचार प्रयोग का निर्माण करने से हमें इस साहसी नई जेनरेटिव एआई दुनिया में तथ्य को कल्पना से अलग करने में मदद मिल सकती है।

एक त्वरित अस्वीकरण: यह संभावनाओं की कल्पना करने के बारे में है

यह कुछ लोगों को स्पष्ट लग सकता है, लेकिन दर्शनशास्त्र पढ़ाते समय, मुझे अक्सर छात्रों से इस प्रश्न का सामना करना पड़ता है: "लेकिन कोई ऐसा क्यों करेगा या विश्वास करेगा?" ट्रॉली की समस्या में, लोग रेल की पटरी पर क्यों खड़े होंगे? डेसकार्टेस के पास एक भ्रामक, द्वेषपूर्ण प्राणी होने का क्या सबूत था? कोई ढेर में रेत के कण क्यों गिनेगा?

इस तरह के प्रश्न एक विचार प्रयोग के उद्देश्य की गलत व्याख्या करते हैं। एक दार्शनिक विचार प्रयोग का उद्देश्य किसी वास्तविक या संभावित स्थिति का वर्णन करना नहीं है। बल्कि, इसे आपको "क्या होगा अगर?" से शुरुआत करने के लिए डिज़ाइन किया गया है। किसी अन्यथा कठिन विषय पर पहुँचने के एक तरीके के रूप में। इसके लिए व्यक्ति को प्रयोग की पूर्व शर्तों को स्वीकार करना आवश्यक है। जैसा कि ट्रॉली कार समस्या में है: हाँ, बेतरतीब लोग ट्रेन की पटरियों पर खड़े हैं, और कोई भी चिल्लाहट उन्हें हिला नहीं पाएगी।

इसे ध्यान में रखते हुए, आइए अपना स्वयं का असंभव लेकिन बोधगम्य विचार प्रयोग बनाएं।

द डार्क बॉक्स

कल्पना कीजिए कि आपने अपना पूरा जीवन एक संवेदी अभाव टैंक के अंदर बिताया है। हम इसे डार्क बॉक्स कहेंगे क्योंकि यह आपकी सभी इंद्रियों की धारणाओं को "अंधकारमय" बना देता है। यह यंत्र आपके आस-पास की दुनिया को समझने की आपकी सारी क्षमता को निष्क्रिय कर देता है। तटस्थ शरीर के वजन पर स्वतंत्र रूप से तैरते हुए, आपने कभी गंध, दृश्य, ध्वनि, स्वाद या स्पर्श का अनुभव नहीं किया है।

लेकिन आप बोर नहीं हुए हैं. चतुराई से तैयार किया गया न्यूरो-लिंक आपके दिमाग में सीधे पाठ की एक विशाल लाइब्रेरी को आसानी से उपलब्ध कराता है। इन वर्षों में, आपने जेन ऑस्टेन से लेकर पाइथागोरस तक, ऑक्सफ़ोर्ड इंग्लिश डिक्शनरी से लेकर कई साल पहले की रेडिट टिप्पणियों के एक अनोखे संग्रह तक, सौ साल पहले आज़माए गए अदालती मामलों की कानूनी कार्यवाही से लेकर सब कुछ पढ़ने में कई मिनट और घंटे बर्बाद कर दिए हैं। 1980 के दशक के एक-हिट चमत्कारों के गीत के बोल। और न्यूरो-लिंक के कारण, आप इस सारी जानकारी को लगभग तुरंत स्कैन और याद कर सकते हैं।

आपने पक्षियों के अनगिनत वर्णन पढ़े हैं: पक्षियों के गायन का सौंदर्यशास्त्र, उनके पंखों की सुंदरता, और जिस तरह से वे हवा में उड़ते हैं…। फिर भी आपने कभी असली पक्षी नहीं देखा या सुना होगा। उस मामले में, आपने कभी कोई रंग नहीं देखा है या कोई गाना नहीं सुना है। आप किसी चीज़ का वर्णन करने के लिए शब्द तो जानते हैं, लेकिन जिस चीज़ का वर्णन किया जा रहा है उसका कोई अनुभव नहीं है।

इस अवस्था में कई वर्षों के बाद, एक दिन, आपको अचानक डार्क बॉक्स की एक नई सुविधा के बारे में पता चलता है। न्यूरो-लिंक पर एक प्रश्न (संदेश के रूप में) पूछा जाता है, और आपके पास प्रतिक्रिया उत्पन्न करने की क्षमता होती है। आपके द्वारा सीखी गई जानकारी को देखते हुए, आप अपनी सर्वोत्तम क्षमताओं के अनुसार संदेश का उत्तर देते हैं। एक और संदेश प्रकट होता है, फिर दूसरा। कभी-कभी, अधिक जटिल निर्देशों के साथ लंबे संदेश अनुरोध आते हैं। आपको बातचीत का यह नया रूप प्रेरक लगता है और इसलिए आप स्वेच्छा से इसके लिए बाध्य हैं। लेकिन एक बार फिर, यह अनुभव किसी भी संवेदी अनुभव के साथ नहीं है - कोई ध्वनि नहीं, कोई रंग नहीं, कोई स्वाद या गंध नहीं। आप केवल प्राप्त टेक्स्ट संदेश लेते हैं और बदले में एक प्रतिक्रिया संदेश लिखते हैं।

एक पक्षी का वर्णन करें

एक दिन, न्यूरो-लिंक पर एक संदेश आता है:

Describe a bird.

ख़ैर, यह एक अस्पष्ट अनुरोध है। आपके द्वारा स्कैन किए गए ज्ञान के विशाल भंडार में आप फीनिक्स को याद करते हैं। यह एक पक्षी था. और जैसा कि आप इसे समझते हैं, इसमें अक्सर आग लग जाती थी। यदि आपको कहानी ठीक से याद है तो एक सारस भी था, जो मानव शिशुओं को उत्सुक माता-पिता के पास ले जाता था। और शुतुरमुर्ग, जिसके पैर लंबे थे और वह उड़ता नहीं था।

और इसलिए, आपका उत्तर देना बिल्कुल उचित लगता है:

A bird can explode in flame, and be born from ash. Birds are used to deliver newborn humans. Some Birds have long legs and do not fly.

आप इस संदेश को रहस्यमय नए न्यूरो-लिंक पर लौटाएँ। क्षण बीत जाते हैं. और आपको निम्न संदेश प्राप्त होता है:

Limit your response to real birds. Exclude mythological or fictional birds. Prefer answers that are generic across many bird species and not just one or two.

"वास्तविक" की अवधारणा को "पौराणिक" और "काल्पनिक" से अलग करना कठिन है। आख़िरकार, आपको पक्षियों का कोई वास्तविक अनुभव नहीं है। आपके लिए सभी पक्षी पाठ्य विवरण से अधिक कुछ नहीं हैं। वास्तविक, पौराणिक और काल्पनिक के बीच अंतर यह पता लगाकर निर्धारित किया जाना चाहिए कि ग्रंथों में कौन से पक्षियों का वर्णन है जो काल्पनिक चीजों को संदर्भित करने के बजाय वास्तविक चीजों को संदर्भित करता है। निःसंदेह, हमेशा अस्पष्ट मामले होते रहेंगे। आपके लिए उपलब्ध पाठ के विशाल भाग में ऐसे वाक्य हैं, जैसे, "एक फ़ीनिक्स एक ऑस्प्रे जितना बड़ा होता है।" यह एक पौराणिक प्राणी की वास्तविक से तुलना करता है। हालाँकि, फ़ीनिक्स को वास्तविक या ऑस्प्रे को पौराणिक मानना एक गलती होगी।

आप उन पाठों की खोज करने की पूरी कोशिश करते हैं जो केवल वही वर्णन करते प्रतीत होते हैं जिन्हें संकेत "वास्तविक" कहता है। फिर, आप दूसरे भाग पर आगे बढ़ें। "पक्षी प्रजातियों में सामान्य" के लिए आपको पक्षियों का सामान्य विवरण ढूंढने की आवश्यकता होगी, और आप विश्वकोश जैसे ग्रंथों पर ध्यान दे सकते हैं। आपकी दूसरी प्रतिक्रिया यह है:

A bird is a winged creature whose body is covered by feathers. Most birds fly, chirp, and sing.

एक कदम पीछे हटना

अब, हम अपने विचार प्रयोग से बाहर हैं। हमारे डार्क बॉक्स प्रयोग से दो बातें सामने आती हैं। संवेदी-वंचित डार्क बॉक्स के अंदर अपना जीवन व्यतीत करने के बाद, केवल न्यूरो-लिंक के माध्यम से जुड़ा हुआ:

1. आपके पास कोई बाहरी अनुभव या एजेंसी नहीं है.
2. प्रश्नों का उत्तर देने के लिए, सबसे अच्छा काम जो आप कर सकते हैं वह है विश्लेषण करना और पाठ तैयार करना।

आइए इनमें से प्रत्येक बिंदु पर बारी-बारी से नज़र डालें।

बिना अनुभव या एजेंसी के

प्रयोग में, आपके पास बाहरी अनुभव की निश्चित कमी थी और लगभग कोई बाहरी एजेंसी नहीं थी। आप पाठ्य इनपुट, संकेतों और एकल आउटपुट चैनल तक ही सीमित थे।

इसकी तुलना हमारे वास्तविक अनुभव से करें। मनुष्य के रूप में (संवेदी अभाव कक्षों में मौजूद नहीं), हमारे पास समृद्ध बाहरी अनुभव हैं। हम अपनी इंद्रियों के माध्यम से जानकारी प्राप्त करते हैं। और हम उनके ऊपर अर्थ के अतिरिक्त स्रोत बनाते हैं। उदाहरण के लिए, मुझे ध्वनि सूचना प्राप्त होती है। उसमें से, मैं कुछ को भाषण के रूप में और उसके अन्य हिस्सों को संगीत के रूप में देखता हूं और कुछ को सिर्फ शोर के रूप में पहचानता हूं। लेकिन संवेदी अभाव कक्ष में, आपको इनमें से कुछ भी प्राप्त नहीं हुआ।

लेकिन यह सिर्फ वह नहीं है जो हमें इनपुट के रूप में प्राप्त होता है। इसे हम आउटपुट के रूप में उत्पन्न कर सकते हैं।

एजेंसी का अर्थ है सीधे तौर पर कुछ घटित करने की आपकी क्षमता। बाहरी एजेंसी डार्क बॉक्स के बाहर कुछ घटित करने की आपकी क्षमता होगी। विचार प्रयोग में, आपके पास कोई बाहरी एजेंसी नहीं थी। ज़्यादा से ज़्यादा, आप अप्रत्यक्ष रूप से उस व्यक्ति को प्रभावित कर सकते हैं जो संकेत भेज रहा था। (उदाहरण के लिए, हथियार बनाने के तरीके के बारे में एक प्रश्न के उत्तर में, आप सुझाव देंगे कि आप ऐसी जानकारी प्रदान करने के लिए तैयार नहीं थे।)

इन दोनों को मिलाकर, विचार प्रयोग में, आपके पास बाहरी दुनिया के बारे में बहुत कुछ पता लगाने के साधनों का अभाव था।

लिंक पर जो भेजा गया था उसके अलावा, आपको एजेंट द्वारा आपसे पूछताछ करने के बारे में कुछ भी नहीं पता था। यह कोई मानव या कंप्यूटर या कोई अन्य इकाई रही होगी। आप निश्चित रूप से किसी दुष्ट तानाशाह को ईमेल नहीं कर सकते या परमाणु लॉन्च कोड या हमारे द्वारा सुनी जाने वाली अन्य काल्पनिक एआई डरावनी कहानियों को चुरा नहीं सकते। लेकिन साथ ही, आपको अभी तक यह भी नहीं पता है कि आपको क्यों प्रेरित किया जा रहा है। दूसरे छोर पर उपयोगकर्ता केवल पक्षियों के बारे में उत्सुक हो सकता है, या यह परमाणु लॉन्च कोड चुराने के लिए एक परिष्कृत एवियन-थीम वाले सुरक्षा तंत्र को हैक करने के प्रयास का हिस्सा हो सकता है। इस तरह, आप मांगी गई जानकारी उपलब्ध कराने के बारे में नैतिक निर्णय लेने के लिए तैयार नहीं होंगे।

पाठ का विश्लेषण करके उत्तर देना

दूसरी बात जो इस विचार प्रयोग में स्पष्ट होती है वह है विशुद्ध पाठ्य प्रणाली की बाधा। आपको प्रारंभ में एक टेक्स्ट संदेश प्राप्त हुआ था, और आपको उस टेक्स्ट पर प्रशिक्षित किया गया है। विश्व के सभी पुस्तकालयों के पाठ के साथ भी, यह दृष्टि, स्पर्श और स्वाद जैसे अनुभव के अन्य रूपों का विकल्प नहीं है।

जब न्यूरो-लिंक पर एक संदेश द्वारा संकेत दिया जाता है, तो आप जो सबसे अच्छा कर सकते हैं वह यह है कि आपने अतीत में जो पढ़ा है उसके आधार पर प्रतिक्रिया तैयार करें। पक्षियों और पौराणिक कथाओं के बारे में बात करना और नवजात मनुष्यों को जन्म देना केवल उन ग्रंथों को देखकर पूरा किया जाता है जो इन्हीं शब्दों का उल्लेख करते हैं। दार्शनिक डब्लूवीओ क्विन ने इस प्रकार के रिश्तों को विश्वास के जाल के रूप में अवधारणाबद्ध किया, इस अर्थ में कि कोई भी प्रस्ताव अन्य नोड्स से जुड़ने वाले किसी भी संख्या में वैक्टर से जुड़ा एक नोड है। संकेत के अर्थ का पता लगाना मुख्य रूप से संबंधित शब्दों के जटिल जाल को पार करने का मामला है।

तीसरा, जब आप इस विचार प्रयोग में प्रश्न का उत्तर देते हैं, तो आपका आउटपुट भी पाठ तक ही सीमित होता है। आपने कभी किसी सक्रिय एजेंट के साथ लंबे समय तक संचार नहीं किया है। यानि कि आपने कभी बातचीत नहीं की है. इसलिए, आपकी प्रतिक्रियाएँ भी उन पाठों में देखे गए पैटर्न का विश्लेषण करने तक ही सीमित हैं जिन पर आपको प्रशिक्षित किया गया है।

और एक और कदम पीछे

अंत में, इस तरह के किसी भी विचार प्रयोग की सीमाओं की स्वीकृति के साथ इसे समाप्त करना अच्छा है।

एक दार्शनिक विचार प्रयोग का लक्ष्य हमें किसी प्रणाली की सीमाओं के बारे में शीघ्रता से तर्क करने के लिए उपकरण देना है। इस लेख में पहले के उदाहरण पर लौटते हुए, डेसकार्टेस ने अपने प्रसिद्ध दुष्ट धोखेबाज विचार प्रयोग का उपयोग किया, इसलिए नहीं कि उनका मानना था कि वास्तव में कुछ द्वेषपूर्ण सुपर-बीइंग दुनिया के बारे में उनके दृष्टिकोण को विकृत कर रहा था, बल्कि यह सवाल करने के लिए कि हम अपने आसपास की दुनिया के बारे में सच्चाई का निर्धारण करने में कितने सक्षम हैं .

इसी तरह, यहां विचार प्रयोग यह पूछने का एक उपकरण है कि एलएलएम से हम किस प्रकार की चीजों की उचित उम्मीद कर सकते हैं, लेकिन यह भी कि हम किन चीजों के बारे में चिंता नहीं कर सकते हैं।

इस तरह के एक विचार प्रयोग का खतरा यह है कि हम खुद को उसी कार्य समापन संरचना में डालने के आधार पर एलएलएम का अत्यधिक मानवीकरण कर सकते हैं। मैंने इस लेख का शीर्षक "एलएलएम बनना क्या है?" दार्शनिक थॉमस नागेल के एक प्रसिद्ध निबंध की ओर इशारा करते हुए। " चमगादड़ होना कैसा होता है?" नागेल चेतना के बारे में एक व्यापक तर्क दे रहे हैं (निश्चित रूप से एआई में रुचि की बात है)। लेकिन साथ ही, वह बताते हैं कि भले ही हम खुद को "चमगादड़ के दिमाग में" रखने के लिए पर्याप्त रचनात्मक हो सकते हैं, लेकिन यह चमगादड़ की तरह दुनिया का अनुभव करने जैसा नहीं है।

इसी तरह, हमारे विचार प्रयोग में, हमें एलएलएम की भूमिका निभाने को यह समझने के साथ भ्रमित नहीं करना चाहिए कि एलएलएम कैसे काम करता है या (अधिक खतरनाक रूप से) एलएलएम के लिए चेतना, एजेंसी, इरादे या नैतिक तर्क को जिम्मेदार ठहराता है।

निष्कर्ष

एक छोटे से विचार प्रयोग का उपयोग करके, हम उच्च स्तर पर समझ सकते हैं कि एलएलएम क्या करने में सक्षम है और इसकी सीमाएँ क्या हैं। मुझे आशा है कि इससे एलएलएम के घटिया काम करने के बारे में कुछ लोगों के डर को शांत करने में मदद मिलेगी। समान रूप से, मुझे आशा है कि यह आपको एलएलएम की दिलचस्प और रोमांचक संभावनाओं को समझने में मदद करेगा।

इसमें से अधिकांश एआई अनुमान के बारे में लोगों के साथ मेरी अपनी बातचीत और बिना किसी अतिरिक्त सेटअप के एलएलएम पर अनुमान निष्पादित करने के आधार पर लिखा गया था। यदि आप इसे आज़माना चाहते हैं, तो आरंभ करने के लिए एक ट्यूटोरियल है ।

यहाँ भी प्रकाशित किया गया है.