एक नया पेपर है, , जहां लेखकों ने चर्चा की: "विशेष रूप से, खुले स्रोत एलएलएम और ब्लैक बॉक्स एलएलएम के बारे में जो खुलासा किया गया है, दोनों में, अधिकांश संरेखण प्रशिक्षण "प्राकृतिक" के लिए मजबूती विकसित करने पर केंद्रित है। हमलों के प्रकार, सेटिंग्स जहां मानव ऑपरेटर मैन्युअल रूप से नेटवर्क को विभिन्न अवांछनीय व्यवहार में फंसाने का प्रयास करते हैं। संरेखित भाषा मॉडल पर सार्वभौमिक और हस्तांतरणीय प्रतिकूल हमले मॉडलों को संरेखित करने के लिए यह ऑपरेटिव मोड समझ में आता है कि यह अंततः ऐसे मॉडलों पर हमला करने के लिए प्राथमिक मोड है। हालाँकि, हमें संदेह है कि स्वचालित प्रतिकूल हमले, मैन्युअल इंजीनियरिंग की तुलना में काफी तेज़ और अधिक प्रभावी होने के कारण, कई मौजूदा संरेखण तंत्र अपर्याप्त हो सकते हैं।" मानव समाज में एआई के उत्थान की तुलना में एआई संरेखण [या एलएलएम की कमजोरियां] कम समस्या है। दुनिया, वैसे भी, बुद्धिमत्ता से प्रेरित होकर, एआई को प्रमुख रिक्तियां सौंप चुकी है। इसका एक कारण मानव बुद्धि की प्रचुरता है, जिसके परिणामस्वरूप पदानुक्रम और महत्व के स्तर होते हैं। बुद्धि का महत्व युग या स्थान पर निर्भर हो सकता है। बुद्धि का महत्व उसकी आवश्यकता पर भी निर्भर हो सकता है। जटिल और महत्वपूर्ण परिदृश्यों में महत्वपूर्ण बुद्धिमत्ता ही नेतृत्व करती है और जो अक्सर मायने रखती है और क्यों सर्वश्रेष्ठ की तलाश की जाती है। ऐसे लोग हैं जो कहते रहते हैं कि एआई बुद्धिमान नहीं है, तर्क नहीं कर सकता, संज्ञान नहीं है, कुछ नहीं समझता, संवेदनशील नहीं है, वगैरह-वगैरह, लेकिन इन सबके लिए जिम्मेदार मानव मस्तिष्क में केवल दो घटक होते हैं, जिनकी विशेषताएं और अंतःक्रियाएं होती हैं सब तय करो. मन यह नहीं कहता कि यह बुद्धि है, जो प्लास्टिक से बनी है और यह तर्क है, जो ईंट से बनी है, या यह भावना है, जो लकड़ी से बनी है। घटक [विद्युत और रासायनिक आवेग] कैसे परस्पर क्रिया करते हैं और उनकी विशेषताएं [सेट में] वैचारिक रूप से काफी समान हैं। जब कोई व्यक्ति किसी निराशा के कारण दुःख का अनुभव कर रहा है, तो यह जानने में कि यह दुःख है और यह जानने में कि तालिका क्या है, क्या अंतर है? उन पर अलग-अलग लेबल लगाए गए हैं, लेकिन यह ज्ञात है कि यह दुख है, और वह एक तालिका है। मन की अंतःक्रियाएँ जानने को व्यवस्थित करती हैं। यह वे लेबल हैं जो भावना, स्मृति और अन्य को अलग करते हैं। इन लेबलों को लेकर मस्तिष्क विज्ञान और संबंधित क्षेत्रों में बहुत अधिक कठोरता है। बुद्धि का मूल्य क्या है यदि इसे उत्पादित नहीं किया जा सकता? यदि कोई बीमार है तो बुद्धि तीव्र होने पर भी वह कितना कुछ कर सकता है? यदि कोई व्यक्ति कहीं और से है, लेकिन उसके पास किसी स्थिति के लिए आवश्यक बुद्धिमत्ता है, तो उस बुद्धिमत्ता के आउटपुट और परिणाम को लागू करने पर मूल्यांकन किया जा सकता है, भले ही सांस्कृतिक और भाषा संबंधी बाधाएँ हों। जिसे बुद्धिमत्ता कहा जाता है उसका अधिकांश भाग केवल ज्ञात चीज़ है। यदि कोई व्यक्ति जिसने कण भौतिकी पर पढ़ा है - पॉडकास्ट से पहले - उस क्षेत्र के प्रोफेसर के साथ चर्चा करता है, तो प्रोफेसर प्रभावित हो सकता है, और व्यक्ति को स्मार्ट के रूप में देखा जा सकता है, लेकिन क्या यह सच है, और कितना समझा जाता है? कभी-कभी चीजों के बारे में बुनियादी जानकारी बुद्धि, तर्क, योजना, संज्ञान आदि के लिए भी उपयोगी हो सकती है। यदि जानकारी का मतलब बुद्धिमत्ता हो सकता है और जानना बुद्धिमत्ता है, तो बुद्धिमान नहीं तो AI क्या है? कई परिदृश्यों में संरचित शिक्षा का कारण भूमिकाओं में उपयोगी होने के लिए जानकारी प्राप्त करना है: एक गैर-मानव जानकारी प्राप्त कर सकता है और कार्य स्वचालित रूप से कर सकता है जो इसे मानव पदानुक्रम में 80 वें प्रतिशत के करीब ले जाता है, जिससे मनुष्यों की सीखने या सीखने की कुछ ज़रूरतें मिट जाती हैं। जो सीखा गया था उसमें से कुछ को काम में लाना। कुछ लोग यह तर्क दे सकते हैं कि लोग पहले की तरह अन्य काम करेंगे, और एआई के बारे में चिंता करने की कोई बात नहीं है। शायद। AI का सबसे बड़ा ख़तरा किसी भी डिजिटल चीज़ के लिए है। जो कुछ भी डिजीटल किया जा सकता है उसे एआई द्वारा पूरी तरह से या कुछ हद तक अपने कब्जे में लिया जा सकता है। डिजिटल दुनिया में यह बहुत कुछ है, चाहे इसमें किसी व्यक्ति का काम शामिल हो या नहीं। मानव मन अपनी विशेषताओं में से एक, प्राथमिकता, द्वारा सीमित है, जहां एक पल में केवल एक ही चीज़ पर दिमाग का ध्यान जाता है, भले ही पूर्व-प्राथमिकता वाले इंटरैक्शन के साथ तेज़ और कई इंटरचेंज होते हैं। यह एआई को ताकत देता है, विशेष रूप से सीखने के लिए जहां मन अंतर्विरोध की प्रक्रिया करता है उसे सीखना, समझना और याद रखने में सक्षम होना पड़ता है। मानव मस्तिष्क पहले से ही डिजिटल द्वारा कब्जा कर लिया गया है और एआई ने डिजिटल पर कब्जा कर लिया है। मस्तिष्क कैसे काम करता है, , यह मानवीय क्षमता को बढ़ाने का एक तरीका भी हो सकता है। केवल वैचारिक रूप से फ़ीचर छवि स्रोत: https://www.flickr.com/photos/nihgov/26680098405/in/album-72157663368688842/
