दुर्भावनापूर्ण आर्टिफिशियल इंटेलिजेंस डीपफेक अपहरण घोटाले को सक्षम बनाता है

इस साल की शुरुआत में, स्कॉट्सडेल, एरिज़ोना की माँ जेनिफ़र डेस्टेफ़ानो ने एक ऐसे आतंक का अनुभव किया जिसका सामना किसी भी माँ को कभी नहीं करना चाहिए - उसकी बेटी की रोती हुई आवाज़ की आवाज़ कि उसका अपहरण कर लिया गया है।

लेकिन फोन पर उसकी बेटी नहीं थी। यह एक एआई डीपफेक था जो इतना विश्वसनीय था कि डेस्टेफ़ानो घोटालेबाजों को $50K सौंपने के लिए तैयार था, जिन्होंने उससे कहा था कि अगर उसने भुगतान नहीं किया तो वे उसकी बेटी को मार देंगे।

आज, डेस्टाफ़ानो ने अमेरिकी सीनेट के सामने मानवाधिकार और कानून पर न्यायपालिका उपसमिति को अपनी दर्दनाक और भयानक कहानी सुनाते हुए एक हार्दिक गवाही दी।

“आतंक का यह रूप जितने लंबे समय तक दंडनीय रहेगा, यह उतना ही अधिक गंभीर होता जाएगा। एआई द्वारा सक्षम की जा सकने वाली दुष्टता की गहराई की कोई सीमा नहीं है”

डेस्टेफ़ानो ने कहा, "न केवल अमेरिकी जनता में भय और आतंक पैदा करने के लिए कृत्रिम बुद्धिमत्ता को हथियार बनाया जा रहा है, बल्कि बड़े पैमाने पर वैश्विक समुदाय में इसका फायदा उठाया जा रहा है और जिसे हम परिचित मानते हैं, उसे फिर से परिभाषित किया जा रहा है।"

उन्होंने कहा, "एआई उस चीज़ में संदेह और भय पैदा करके हमारे सामाजिक ताने-बाने की बुनियाद में क्रांति ला रहा है और उसे उजागर कर रहा है, जिस पर कभी सवाल नहीं उठाया गया था - किसी प्रियजन की आवाज़।"

अपहरण और जबरन वसूली करने वाले घोटालेबाजों के साथ अपने भयावह अनुभव की कहानी अप्रैल में एज़ फैमिली को बताने के बाद, एरिजोना की माँ ने बताया कि डीपफेक वॉयस क्लोन कितना वास्तविक लगता था:

“ यह मेरी बेटी की आवाज़ थी। ये उसकी चीखें थीं; ये उसकी सिसकियाँ थी. वह इसी तरह बात करती थी। मैं उस आवाज और मदद की बेताब पुकार को अपने दिमाग से कभी नहीं हटा पाऊंगा। ''

"अब हम 'देखना ही विश्वास करना है', या 'मैंने इसे अपने कानों से सुना है,' या यहां तक कि आपके अपने बच्चे की आवाज़ पर भी भरोसा नहीं कर सकते"

नापाक उद्देश्यों के लिए उपयोग किए जाने वाले जेनेरिक एआई के भविष्य पर राय देते हुए, डेस्टेफ़ानो ने चेतावनी दी, “ आतंक का यह रूप जितने लंबे समय तक दंडनीय रहेगा, यह उतना ही अधिक गंभीर होता जाएगा। एआई द्वारा सक्षम की जाने वाली दुष्टता की गहराई की कोई सीमा नहीं है ।''

उन्होंने आगे कहा, “जैसे-जैसे हमारी दुनिया बिजली की तेज गति से आगे बढ़ रही है, परिचित होने का मानवीय तत्व जो हमारे सामाजिक ताने-बाने की नींव रखता है कि क्या जाना जाता है और क्या सच है, एआई के साथ क्रांति ला रहा है - कुछ अच्छे के लिए और कुछ अच्छे के लिए बुराई।

"अब हम 'देखना ही विश्वास करना है', या 'मैंने इसे अपने कानों से सुना है,' या यहां तक कि आपके अपने बच्चे की आवाज़ पर भी भरोसा नहीं कर सकते।"

जब डेस्टेफ़ानो को पता चला कि उसकी बेटी का अपहरण नहीं हुआ है, तो उसने पुलिस को फोन किया, लेकिन उन्होंने उसे बताया कि वे कुछ नहीं कर सकते क्योंकि यह सिर्फ एक शरारत कॉल थी और कोई वास्तविक अपहरण या पैसे का आदान-प्रदान नहीं हुआ था।

" क्या यह हमारा नया सामान्य है ?" उसने सवाल किया.

" क्या यह वह भविष्य है जिसे हम बिना परिणाम और बिना विनियमन के कृत्रिम बुद्धिमत्ता के दुरुपयोग को सक्षम करके बना रहे हैं ?"

"यदि अनियंत्रित, अनियंत्रित छोड़ दिया जाए, और हमें परिणाम के बिना असुरक्षित छोड़ दिया जाए, तो यह हमारी समझ और धारणा को फिर से लिख देगा कि क्या सत्य है और क्या सत्य नहीं है। "

अपनी प्रारंभिक टिप्पणियों के बाद, डेस्टेफ़ानो को सुनवाई के अंत तक पूछताछ के लिए नहीं बुलाया जाएगा, जहां उन्होंने दोहराया कि "सभी एआई बुरी नहीं हैं" और यह कि "एआई में बहुत सारी आशावादी प्रगति" हैं जो लोगों के जीवन को बेहतर बना सकती हैं।

जबकि डेस्टेफ़ानो ने भयानक तरीकों से एआई का उपयोग करने वाले बुरे कलाकारों से उत्पन्न होने वाले सार्थक नुकसान को स्पष्ट रूप से रेखांकित किया, माइक्रोसॉफ्ट के मुख्य अर्थशास्त्री माइकल श्वार्ज़ ने मई में विश्व आर्थिक मंच (डब्ल्यूईएफ) को बताया कि एआई को तब तक विनियमित नहीं किया जाना चाहिए जब तक कि सार्थक नुकसान न हो।

"हमें एआई को तब तक विनियमित नहीं करना चाहिए जब तक हमें कुछ सार्थक नुकसान न दिख जाए जो वास्तव में हो रहा है - काल्पनिक परिदृश्य नहीं"

WEF ग्रोथ समिट 2023 में माइक्रोसॉफ्ट के मुख्य अर्थशास्त्री माइकल श्वार्ज़

डब्ल्यूईएफ ग्रोथ समिट 2023 में " ग्रोथ हॉटस्पॉट्स: हार्नेसिंग द जेनेरेटिव एआई रिवोल्यूशन " विषय पर एक पैनल के दौरान बोलते हुए, माइक्रोसॉफ्ट के माइकल श्वार्ज़ ने तर्क दिया कि जब एआई की बात आती है, तो इसे तब तक विनियमित नहीं करना सबसे अच्छा होगा जब तक कि कुछ बुरा न हो जाए, ताकि ऐसा न हो। संभावित रूप से अधिक लाभ को दबाएँ।

“ मुझे पूरा विश्वास है कि हाँ, एआई का उपयोग बुरे अभिनेताओं द्वारा किया जाएगा; और हाँ, इससे वास्तविक क्षति होगी; और हाँ, हमें बहुत सावधान और सतर्क रहना होगा , ”श्वार्ज़ ने WEF पैनल को बताया।

जेनरेटिव एआई को विनियमित करने के बारे में पूछे जाने पर, माइक्रोसॉफ्ट के मुख्य अर्थशास्त्री ने समझाया:

“एआई को विनियमित करने के बारे में हमारा दर्शन क्या होना चाहिए? स्पष्ट रूप से, हमें इसे विनियमित करना होगा, और मुझे लगता है कि मेरा दर्शन बहुत सरल है।

“ हमें एआई को इस तरह से विनियमित करना चाहिए कि हम नहाने के पानी के साथ बच्चे को फेंके नहीं।

“इसलिए, मेरा मानना है कि विनियमन अमूर्त सिद्धांतों पर आधारित नहीं होना चाहिए।

“एक अर्थशास्त्री के रूप में, मुझे दक्षता पसंद है, इसलिए सबसे पहले, हमें एआई को तब तक विनियमित नहीं करना चाहिए जब तक कि हम कुछ सार्थक नुकसान नहीं देखते जो वास्तव में हो रहा है – काल्पनिक परिदृश्य नहीं ,” उन्होंने कहा।

23 जनवरी, 2023 को, Microsoft ने OpenAI - ChatGPT के रचनाकारों - के साथ अपनी साझेदारी को बढ़ाया - ब्लूमबर्ग के अनुसार, "2019 में OpenAI में Microsoft द्वारा डाले गए $1 बिलियन और 2021 में एक और दौर" के अलावा अतिरिक्त $10 बिलियन का निवेश किया गया ।