गभर्नर न्यूजमको एआई डीपफेक नियमहरूले 2024 अमेरिकी चुनावको लागि के अर्थ राख्छ?

क्यालिफोर्नियाका गभर्नर गेभिन न्यूजमले 2024 अमेरिकी चुनाव अघि राजनीतिक अभियानहरूमा एआई डीपफेकहरूको प्रयोगलाई लक्षित गर्दै तीन नयाँ कानूनहरू लागू गरे।

क्यालिफोर्नियाका गभर्नर गेभिन न्यूजमले राजनीतिक अभियानका लागि भ्रामक "डिपफेक" छविहरू र भिडियोहरू सिर्जना गर्न कृत्रिम बुद्धिमत्ता (एआई) को प्रयोगलाई कम गर्न गत महिना तीनवटा प्रमुख विधेयकहरू पारित गरे। राज्यले नोभेम्बरको चुनावको लागि तयारी गर्दा, गभर्नर न्यूजमका कार्यहरूले क्यालिफोर्नियाको कानुनी ढाँचालाई AI वरिपरि विस्तार गर्दछ, पाँचवटा AI-केन्द्रित बिलहरू पारित गरियो - जसमध्ये तीनवटा चुनाव-सम्बन्धित गलत सूचनाको फैलावटलाई सम्बोधन गर्दछ। कडा नियमहरू X सीईओ एलोन मस्कको संलग्नताको एक उच्च-प्रोफाइल घटना पछि आएका छन्, जसले साझा गरे। deepfake video जसले उपराष्ट्रपति कमला ह्यारिसले आफूलाई "विविधता भाडा" भन्दै झूटो चित्रण गर्यो।

लागू गरिएका नियमहरू मध्ये, डिपफेक धोकाबाट लोकतन्त्रको रक्षा गर्ने ऐन ( AB 2655 ) सामाजिक सञ्जाल प्लेटफर्महरूले प्रयोगकर्ताहरूलाई सार्वजनिक व्यक्तित्वको शब्द वा कार्यहरूलाई गलत रूपमा प्रस्तुत गर्ने परिवर्तन गरिएको मिडिया सहित "भ्रामक" सामग्री पोस्ट गर्नबाट प्रयोगकर्ताहरूलाई सीमित गर्न माग गर्दछ। ऐन २०१९ को कानूनमा आधारित छ ( AB 730 ) न्यूजम द्वारा हस्ताक्षर गरिएको, जसले राजनीतिक उम्मेदवारहरूलाई अपमान गर्ने उद्देश्यले भ्रामक मिडिया वितरण गर्न अवैध बनायो। अर्को कानून, AB 2839, "आपतकालीन उपाय" को रूपमा वर्णन गरिएको, क्यालिफोर्नियामा चुनावको 120 दिन भित्र झूटा सामग्री वितरण गर्न निषेध गर्दछ। तेस्रो, AB 2355 ले एआई प्रयोग गरेर उत्पन्न हुने राजनीतिक विज्ञापन वा भिडियोहरूले पारदर्शी राजनीतिक अभियानका लागि दर्शकहरूलाई यो जानकारी खुलाउन आदेश दिन्छ।

"चुनावको अखण्डताको सुरक्षा लोकतन्त्रको लागि आवश्यक छ, र यो महत्त्वपूर्ण छ कि हामीले एआईलाई गलत सूचनाहरू मार्फत जनताको विश्वासलाई कमजोर पार्न प्रयोग नगरिएको सुनिश्चित गर्न आवश्यक छ - विशेष गरी आजको भरिएको राजनीतिक वातावरणमा," उनले एक __ ब्लग पोस्ट __ मा भने। "यी उपायहरूले राजनीतिक विज्ञापनहरू र अन्य सामग्रीहरूमा गहिरो फेकहरूको हानिकारक प्रयोगलाई लड्न मद्दत गर्नेछ, धेरै क्षेत्रहरू मध्ये एक जसमा राज्य पारदर्शी र भरपर्दो एआईलाई बढावा दिन सक्रिय भइरहेको छ।"

जेनेरेटिभ एआई (जेनएआई) मोडेलहरू मार्फत सिर्जना गरिएको डीपफेक सामग्री मानव आँखाले वास्तविक र एआई-उत्पन्न बीचको भिन्नता गर्न नसक्ने बिन्दुमा विकसित भएकोले कानूनहरू महत्त्वपूर्ण समयमा आउँछन्। एक 2024 अनुसार युरोपेली संघ कानून प्रवर्तन एजेन्सी रिपोर्ट , 90% अनलाइन सामग्री सिंथेटिक रूपमा 2026 सम्म उत्पन्न हुन सक्छ। त्यस्तै गरी, हालैको KPMG अध्ययन शीर्षक " Deepfakes: वास्तविक खतरा , पछिल्ला केही वर्षहरूमा डिपफेकहरू 900% ले बढेको फेला पारेको छ।

यद्यपि, न्यूजमको विधायी प्रयासहरूले प्रविधिको भविष्यको बारेमा सोशल मिडियामा बहस सुरु गरेको छ। मतदाताहरूलाई चुनावी गलत सूचनाबाट जोगाउनका लागि कानुनहरूलाई समर्थकहरूले महत्त्वपूर्ण ठान्छन्, मस्क लगायतका आलोचकहरूले त्यस्ता कानूनहरूले अभिव्यक्ति स्वतन्त्रतालाई कुण्ठित गर्ने तर्क गर्छन्। X मा एक पोस्टमा, मस्कले गभर्नर न्यूजमलाई "जोकर" सँग तुलना गरे।

“एआई-उत्पन्न सामग्री हामीले वास्तविक वा नक्कल वा प्यारोडीको रूपमा बुझ्न सक्ने भन्दा बाहिर गएको छ। के स्पष्ट छ कि त्यहाँ AI-उत्पन्न सामग्री जानाजानी भ्रामक हुन प्रयोग भइरहेको छ। कम्तिमा, हामीसँग एआई-उत्पन्न रेकर्डिङहरू, भिडियोहरू, र छविहरूमा सन्दर्भ प्रदान गर्ने प्रणालीहरू हुनुपर्छ। केभिन गुओ , genA.I को सीईओ र सह-संस्थापक सामग्री पत्ता लगाउने प्लेटफर्म हाईभ , मलाई भन्नुभयो। "उपभोक्ताहरूलाई जोगाउन र ठूलो मात्रामा गलत सूचना दिने अभियानहरूलाई चुनावलाई प्रभाव पार्नबाट रोक्न प्लेटफर्म र संस्थाहरूले यी मोडेलहरू अपनाउनुपर्छ।"

विधानसभा सदस्य गेल पेलेरिन, बिल AB 2839 को लेखक, deepfakes को खतराहरु लाई सम्बोधन गर्न को लागी जोड दिए। "सामान्य चुनाव आउन 50० दिन भन्दा कम समयको साथ, चुनावमा हस्तक्षेप गर्न सक्ने भ्रामक, डिजिटल-परिवर्तन गरिएको सामग्रीबाट जोगाउन तत्काल आवश्यकता छ। AB 2839 लागू भएपछि, क्यालिफोर्नियाले मतदाताहरूलाई धोका दिन डीपफेक टेक्नोलोजीको हेरफेरको विरुद्धमा अडान लिइरहेको छ। भन्नुभयो एक बयान मा।

क्यालिफोर्नियाको गहिरो नक्कली कानूनले अन्य राज्यहरूको लागि नमूनाको रूपमा काम गर्न सक्छ। जबकि न्यूयोर्क, टेक्सास र फ्लोरिडा सहित 20 राज्यहरूले पहिले नै लागू गरिसकेका छन् नियमन को विभिन्न डिग्री चुनाव सम्बन्धी deepfakes मा, यी कानून को प्रभावकारिता एक ठूलो प्रश्न बनी रहन्छ। मेटा र एक्स सहित टेक दिग्गजहरू भर्खरै आलोचनाको सामना गर्नुपरेको छ असंगत genA.I को लागी सामग्री मध्यस्थता, जबकि माइक्रोसफ्ट जस्ता अरूले पहिले नै विशेष एआई मोडेलहरू एकीकृत गरिसकेका छन् जस्तै Azure AI सामग्री सुरक्षा , AI-उत्पन्न सामग्री निगरानी र मध्यम गर्न। प्राविधिक विशेषज्ञहरूले सुझाव दिन्छन् कि सुरक्षा अवधि 120 दिनसम्म विस्तार गर्नु सही दिशामा एक कदम हो, यसले मात्र एआई-संचालित गलत सूचनाको प्रसारलाई रोक्न सक्दैन।

"कठीन केवल कानून बनाउनमा मात्र होइन तर डिजिटल प्लेटफर्महरूमा लागू गर्नमा छ जुन राष्ट्रिय र अन्तर्राष्ट्रिय दुवै क्षेत्रहरूमा फैलिएको छ। AI मा द्रुत प्रगतिहरू समायोजन गर्न पर्याप्त अनुकूलन योग्य फ्रेमवर्कहरू डिजाइन गर्नु आवश्यक छ, " डोमिनिक हेनरिक , Coca-Cola मा AI डिजाइन प्रमुख, मलाई भन्नुभयो। "कानूनी ढाँचाहरू, महत्त्वपूर्ण हुँदाहुँदै पनि, सधैं प्राविधिक वक्र पछाडि हुनेछ। हामी कानूनमा मात्र भर पर्न सक्दैनौं; हामीले एआई प्रणालीहरू निर्माण गर्नमा ध्यान केन्द्रित गर्न आवश्यक छ जसले वास्तविक समयमा आत्म-पत्ता लगाउन र अनुकूलन गर्न सक्छ। हामी छिट्टै एउटा यस्तो संसार देख्नेछौं जहाँ AI ले मानवीय निरीक्षणद्वारा AI लाई नियन्त्रण गर्छ।"

उदाहरणले एआई इनोभेसनलाई सामाजिक सुरक्षाका साथ सन्तुलनमा राख्ने बढ्दो जटिलतालाई हाइलाइट गर्दछ। अहिलेको लागि, क्यालिफोर्नियाले उदाहरणको रूपमा नेतृत्व गर्ने लक्ष्य राखेको छ, तर यी उपायहरूले प्रभावकारी रूपमा एआई-संचालित गलत सूचनाहरू विरुद्ध लड्न वा स्वतन्त्र वाक् स्वतन्त्रतालाई कम गर्ने हो भने आगामी वर्षहरूको लागि राजनीतिक अभियानहरूमा एआईको भविष्यलाई आकार दिनेछ।