paint-brush
एआई और “ज्ञान पतन” की समस्याद्वारा@mikeyoung44
2,012 रीडिंग
2,012 रीडिंग

एआई और “ज्ञान पतन” की समस्या

द्वारा Mike Young6m2024/04/09
Read on Terminal Reader

बहुत लंबा; पढ़ने के लिए

एआई और "ज्ञान पतन" की समस्या - लेख "ज्ञान पतन" की अवधारणा पर गहराई से चर्चा करता है, यह सुझाव देता है कि एआई पर हमारी बढ़ती निर्भरता अपरंपरागत विचारों तक हमारी पहुंच को सीमित कर सकती है, जिससे नवाचार बाधित हो सकता है। एंड्रयू जे. पीटरसन का शोध इस घटना की पड़ताल करता है, जोखिमों को उजागर करता है और एआई-संचालित संस्कृति में ज्ञान की विविधता को बनाए रखने के लिए समाधान प्रस्तावित करता है
featured image - एआई और “ज्ञान पतन” की समस्या
Mike Young HackerNoon profile picture
0-item

एआई की अक्सर प्रशंसा की जाती है ( मुझसे भी कम नहीं !) को मानव बुद्धि और रचनात्मकता को बढ़ाने के लिए एक शक्तिशाली उपकरण के रूप में देखा जाता है। लेकिन क्या होगा अगर एआई पर निर्भर रहने से हम समय के साथ क्रांतिकारी विचारों और नवाचारों को तैयार करने में कम सक्षम हो जाते हैं? यह एक खतरनाक तर्क है जिसे एक नए शोध पत्र द्वारा आगे रखा गया है जो इस सप्ताह रेडिट और हैकर न्यूज़ पर वायरल हुआ।


पेपर का मुख्य दावा यह है कि भाषा मॉडल और ज्ञान आधार जैसे एआई सिस्टम के हमारे बढ़ते उपयोग से सभ्यता स्तर का खतरा पैदा हो सकता है जिसे लेखक "ज्ञान पतन" कहते हैं। जैसे-जैसे हम मुख्यधारा, पारंपरिक सूचना स्रोतों पर प्रशिक्षित एआई पर निर्भर होते जाते हैं, हम ज्ञान के किनारे पर मौजूद जंगली, अपरंपरागत विचारों से संपर्क खोने का जोखिम उठाते हैं - वही विचार जो अक्सर परिवर्तनकारी खोजों और आविष्कारों को बढ़ावा देते हैं।


आप नीचे पेपर का मेरा पूरा विश्लेषण, कुछ काउंटरपॉइंट प्रश्न और तकनीकी विश्लेषण पा सकते हैं। लेकिन सबसे पहले, आइए जानें कि "ज्ञान पतन" का वास्तव में क्या मतलब है और यह इतना महत्वपूर्ण क्यों है...


एआई और ज्ञान पतन की समस्या

कागज़ , लेखक एंड्रयू जे. पीटरसन पोइटियर्स विश्वविद्यालय में, ज्ञान पतन की अवधारणा को “मानव के लिए उपलब्ध सूचना के सेट में समय के साथ प्रगतिशील संकुचन, साथ ही विभिन्न सूचना सेटों की कथित उपलब्धता और उपयोगिता में सहवर्ती संकुचन” के रूप में प्रस्तुत किया गया है।


सरल शब्दों में कहें तो ज्ञान का पतन तब होता है जब एआई पारंपरिक ज्ञान और आम विचारों को इतना आसान बना देता है कि अपरंपरागत, गूढ़, "लंबी पूंछ" वाला ज्ञान उपेक्षित और भुला दिया जाता है। यह हमें व्यक्तियों के रूप में कमज़ोर बनाने के बारे में नहीं है, बल्कि मानवीय विचारों की स्वस्थ विविधता को नष्ट करने के बारे में है।

पेपर से चित्र 3, ज्ञान पतन की केंद्रीय अवधारणा को दर्शाता है।

पीटरसन का तर्क है कि यह नवाचार के लिए एक अस्तित्वगत खतरा है क्योंकि विभिन्न प्रकार के विचारों, विशेष रूप से गैर-मुख्यधारा वाले विचारों के साथ बातचीत करके, हम नए वैचारिक संबंध और मानसिक छलांग लगाते हैं। विज्ञान, प्रौद्योगिकी, कला और संस्कृति में सबसे प्रभावशाली सफलताएँ अक्सर अलग-अलग अवधारणाओं को संश्लेषित करने या एक डोमेन से दूसरे डोमेन में रूपरेखा लागू करने से आती हैं। लेकिन अगर AI हमें "सामान्य" ज्ञान के एक संकीर्ण हिस्से से आकर्षित करने का कारण बनता है, तो वे रचनात्मक चिंगारी तेजी से असंभव हो जाती हैं। हमारी सामूहिक बुद्धिमत्ता एक अनुरूपतावादी प्रतिध्वनि कक्ष में फंस जाती है और स्थिर हो जाती है। लंबे समय में, मानव कल्पना का दायरा हमारे AI उपकरणों द्वारा अनुकूलित सीमित सूचना आहार में फिट होने के लिए सिकुड़ जाता है।


इसे स्पष्ट करने के लिए, कल्पना करें कि यदि सभी पुस्तक सुझाव केवल सबसे लोकप्रिय मुख्यधारा के शीर्षकों पर प्रशिक्षित एक AI से आते हैं। समय के साथ फ्रिंज शैलियाँ और विशिष्ट विषय गायब हो जाएँगे, और साहित्यिक दुनिया व्युत्पन्न, दोहराव वाले कार्यों के चक्र में फंस जाएगी। बेतहाशा अलग-अलग प्रभावों को मिलाकर कोई क्रांतिकारी विचार नहीं होगा।


या एक परिदृश्य की कल्पना करें जहां वैज्ञानिक और आविष्कारक अपना सारा ज्ञान मौजूदा शोध के एक समूह पर प्रशिक्षित एआई से प्राप्त करते हैं। जांच की सबसे पारंपरिक, अच्छी तरह से चली आ रही लाइनें मजबूत हो जाती हैं (प्रशिक्षण डेटा में अत्यधिक प्रतिनिधित्व किया जा रहा है), जबकि अपरंपरागत दृष्टिकोण जो वास्तविक प्रतिमान बदलावों की ओर ले जाते हैं, वे खत्म हो जाते हैं। खोज की पूरी सीमाएँ अनदेखी रह जाती हैं क्योंकि हमारे एआई ब्लाइंडर्स हमें उन्हें अनदेखा करने के लिए मजबूर करते हैं।

पीटरसन को लगता है कि सूचना आपूर्ति और ज्ञान संग्रह को मुख्यधारा के डेटा को महत्व देने वाली AI प्रणालियों को आउटसोर्स करने में यही खतरनाक जोखिम है। मानवता के लिए बड़ी रचनात्मक छलांग लगाने के लिए आवश्यक विचारों की विविधता धीरे-धीरे खत्म हो रही है, पारंपरिक और मात्रात्मक रूप से लोकप्रिय के गुरुत्वाकर्षण खिंचाव द्वारा निगल ली गई है।


पीटरसन का ज्ञान पतन मॉडल

ज्ञान के पतन की गतिशीलता की आगे जांच करने के लिए, पीटरसन ने एक गणितीय मॉडल प्रस्तुत किया है कि कैसे एआई-संचालित सूचना स्रोतों का संकुचन पीढ़ियों के दौरान बढ़ सकता है।


मॉडल में "शिक्षार्थियों" के एक समुदाय की कल्पना की गई है, जो या तो 1) पारंपरिक तरीकों का उपयोग करके सूचना के पूर्ण वास्तविक वितरण या 2) एक रियायती एआई-आधारित प्रक्रिया से नमूना लेकर ज्ञान प्राप्त करना चुन सकते हैं, जो मुख्यधारा की सूचना पर केंद्रित एक संकीर्ण वितरण से नमूना लेता है।

यह वास्तव में वोटिंग सिस्टम पर प्राइमर के वीडियो का एक स्क्रीनशॉट है, लेकिन मैंने सोचा था कि उनके "समुदाय" में नकली "शिक्षार्थी" पेपर पढ़ते समय इस तरह दिखते थे, और अब आप भी ऐसा ही देखेंगे।

इसके बाद पीटरसन ने अनुकरण किया कि किस प्रकार समग्र “सार्वजनिक ज्ञान वितरण” विभिन्न परिदृश्यों और मान्यताओं के तहत कई पीढ़ियों में विकसित होता है।


कुछ प्रमुख निष्कर्ष:

  • जब एआई शिक्षार्थियों को मुख्यधारा की जानकारी के लिए 20% लागत में कमी प्रदान करता है, तो सार्वजनिक ज्ञान वितरण गैर-एआई बेसलाइन की तुलना में 2.3 गुना अधिक विषम हो जाता है। सीमांत ज्ञान तेजी से प्रतिस्पर्धा से बाहर हो जाता है।

  • एआई सिस्टम (जैसे कि एक एआई जो दूसरे एआई के आउटपुट से सीखता है और इसी तरह) के बीच पुनरावर्ती अंतरनिर्भरता नाटकीय रूप से पीढ़ियों में ज्ञान के पतन को तेज करती है। प्रत्येक चरण में परंपरा के प्रति त्रुटियाँ और पूर्वाग्रह बढ़ते हैं।

  • पतन की भरपाई के लिए विद्यार्थियों को सक्रिय रूप से सीमांत ज्ञान की तलाश करने के लिए बहुत मजबूत प्रोत्साहन की आवश्यकता है। उन्हें न केवल दुर्लभ जानकारी के मूल्य को पहचानना चाहिए बल्कि व्यक्तिगत लागत पर इसे हासिल करने के लिए अपने रास्ते से हट जाना चाहिए।


पीटरसन अपने मॉडल को सामाजिक शिक्षण सिद्धांत में "सूचना कैस्केड" जैसी अवधारणाओं और एआई कंपनियों के लिए सबसे अधिक व्यावसायिक रूप से लागू डेटा को प्राथमिकता देने के लिए आर्थिक प्रोत्साहन से भी जोड़ते हैं। ये सभी एआई-संचालित ज्ञान पारिस्थितिकी तंत्र में पारंपरिक की ओर मजबूत दबाव का सुझाव देते हैं।


आलोचनात्मक परिप्रेक्ष्य और खुले प्रश्न

पीटरसन के ज्ञान पतन के बारे में तर्क दार्शनिक रूप से उत्तेजक और तकनीकी रूप से सुसंगत हैं। पेपर का औपचारिक मॉडल समस्या का विश्लेषण करने और समाधान की कल्पना करने के लिए एक सहायक ढांचा प्रदान करता है।


हालाँकि, मैं इन गतिकी के वास्तविक दुनिया में प्रत्यक्ष प्रमाण देखना पसंद करूँगा, न कि केवल गणितीय सिमुलेशन से परे। समय के साथ ज्ञान की विविधता को ट्रैक करने के लिए अनुभवजन्य मीट्रिक मुख्य दावों का परीक्षण और मात्रा निर्धारित करने में मदद कर सकते हैं। यह पेपर संभावित प्रतिवादों को संबोधित करने पर भी प्रकाश डालता है।


मेरे मन में कुछ प्रमुख प्रश्न खुले हैं:

  • क्या ज्ञान तक एआई की विस्तारित पहुंच अभी भी नवाचार के संदर्भ में सकारात्मक नहीं हो सकती है, भले ही यह चीजों को कुछ हद तक परंपरा की ओर मोड़ दे? क्या सीखने की बाधाओं को कम करना अधिक महत्वपूर्ण नहीं है?

  • कौन सी सामूहिक नीतियाँ, प्रोत्साहन या विकल्प वास्तुकलाएँ ज्ञान पतन की भरपाई करने में मदद कर सकती हैं, जबकि AI ज्ञान उपकरणों की दक्षता लाभ को संरक्षित कर सकती हैं? हम मशीन इंटेलिजेंस को व्यापक जानकारी के साथ कैसे जोड़ सकते हैं?

  • क्या मुख्यधारा के ज्ञान के वस्तुकरण के कारण एआई कंपनियों के आर्थिक प्रोत्साहन समय के साथ दुर्लभ डेटा और एज केसों पर अधिक मूल्य रखने के लिए बदल सकते हैं? क्या बाजार की गतिशीलता वास्तव में विविधता को प्रोत्साहित कर सकती है?


एआई प्रशिक्षण डेटा को सुरक्षित रखने और सीमांत ज्ञान की खोज के लिए व्यक्तिगत प्रतिबद्धता जैसे प्रस्तावित समाधान मुझे केवल आंशिक रूप से प्रभावी लगते हैं। इसे हल करने के लिए सामाजिक और संस्थागत स्तर पर समन्वय की आवश्यकता है, न कि केवल व्यक्तिगत विकल्पों की। हमें अपरंपरागत को सक्रिय रूप से महत्व देने और संरक्षित करने के लिए साझा तंत्र की आवश्यकता है।


मैं इस बात को लेकर भी उत्सुक हूं कि विकेंद्रीकृत, खुले ज्ञानकोष एआई-संचालित संकीर्णता के प्रतिकार के रूप में क्या भूमिका निभा सकते हैं। क्या विकीडाटा जैसी पहल, arXiv , या आईपीएफएस सीमांत सूचना को अधिक सुलभ बनाकर ज्ञान के पतन के विरुद्ध सुरक्षा प्रदान करना? इस विषय पर और अधिक कार्य करने की बहुत गुंजाइश है।


हमारे रचनात्मक भविष्य के लिए दांव

आखिरकार, पीटरसन का पेपर एआई को मानवीय ज्ञान का मध्यस्थ बनाने की हमारी जल्दबाजी में छिपे खतरों के बारे में एक शक्तिशाली चेतावनी है, यहां तक कि मेरे जैसे लोगों के लिए भी जो एआई के बहुत समर्थक हैं। मशीन इंटेलिजेंस द्वारा फिर से आकार दिए गए विश्व में, विचारों की अराजक, अनियंत्रित विविधता को संरक्षित करना मानवता की निरंतर रचनात्मकता और प्रगति के लिए अनिवार्य है।


हम अपने AI ज्ञान उपकरणों को सक्रिय रूप से डिजाइन करने में होशियार हो सकते हैं ताकि अपरंपरागत को पोषित किया जा सके और साथ ही पारंपरिक को कुशलतापूर्वक वितरित किया जा सके। हमें किनारे पर मौजूद अजीबोगरीब चीजों से जुड़े रहने के लिए मजबूत सुरक्षा उपायों और प्रोत्साहनों की आवश्यकता है। ऐसा न करने पर हमारे सामूहिक दिमाग को हमारे खुद के डिजाइन के अनुरूप बुलबुले में फंसने का जोखिम है।

हमारे अपने डिजाइन का एक अनुरूप बुलबुला!


तो आप क्या सोचते हैं - क्या आप AI-संचालित संस्कृति में ज्ञान के पतन के बारे में चिंतित हैं? इसे रोकने के लिए आप क्या रणनीति सुझाएँगे? मुझे टिप्पणियों में अपने विचार बताएँ!


और अगर इस परिचय ने आपकी रुचि जगाई है, तो पूरा विश्लेषण प्राप्त करने और महत्वपूर्ण AI मुद्दों को स्पष्ट करने के मेरे काम का समर्थन करने के लिए एक सशुल्क ग्राहक बनने पर विचार करें। यदि आप मेरी इस धारणा से सहमत हैं कि इन विचारों से जूझना हमारे रचनात्मक भविष्य के लिए आवश्यक है, तो कृपया इस लेख को साझा करें और दूसरों को चर्चा में आमंत्रित करें।


मानव ज्ञान की विविधता कोई अमूर्त चीज़ नहीं है - यह मानवता की सबसे सार्थक सफलताओं और रचनात्मक छलांगों के लिए आवश्यक उत्प्रेरक है। अति-कुशल AI ज्ञान संग्रह के सामने विचारों की उस जीवंत श्रृंखला को संरक्षित करना एक नवोन्मेषी प्रजाति के रूप में हमारे भविष्य के लिए एक निर्णायक चुनौती है!


AIModels.fyi एक पाठक-समर्थित प्रकाशन है। नए पोस्ट प्राप्त करने और मेरे काम का समर्थन करने के लिए सदस्यता लें और मुझे फ़ॉलो करना न भूलें ट्विटर !