Šta znače AI Deepfake propisi guvernera Newsoma za izbore u SAD 2024.

Guverner Kalifornije Gavin Newsom donio je tri nova zakona koji ciljaju na korištenje AI deepfakesa u političkim kampanjama uoči američkih izbora 2024.

Guverner Kalifornije Gavin Newsom usvojio je prošlog mjeseca tri velika zakona o ublažavanju upotrebe umjetne inteligencije (AI) u stvaranju obmanjujućih "deepfake" slika i videa za političke kampanje. Dok se država priprema za novembarske izbore, akcije guvernera Newsoma proširuju pravni okvir Kalifornije oko AI, uz usvojeno pet zakona fokusiranih na AI – od kojih se tri bave širenjem dezinformacija u vezi sa izborima. Stroži propisi dolaze nakon incidenta visokog profila u koji je umiješan izvršni direktor X Elon Musk, koji je podijelio deepfake video koji je lažno prikazao potpredsjednicu Kamalu Haris koja sebe naziva "raznolikim zaposlenikom".

Među donesenim propisima, Zakon o odbrani demokratije od deepfake obmane ( AB 2655 ) zahtijeva da platforme društvenih medija ograniče korisnike da objavljuju "obmanjujući" sadržaj, uključujući izmijenjene medije koji lažno predstavljaju riječi ili postupke javne ličnosti. Zakon se zasniva na zakonu iz 2019. ( AB 730 ) koju je potpisao Newsom, čime je zabranjena distribucija obmanjujućih medija namijenjenih obeščašćenju političkih kandidata. Drugi zakon, AB 2839, opisan kao "hitna mjera", zabranjuje distribuciju lažnog sadržaja u roku od 120 dana od izbora u Kaliforniji. Treći, AB 2355, nalaže da politički oglasi ili video snimci generirani pomoću AI otkriju ove informacije gledaocima radi transparentne političke kampanje.

„Očuvanje integriteta izbora je od suštinskog značaja za demokratiju i od ključne je važnosti da osiguramo da se veštačka inteligencija ne koristi da potkopa poverenje javnosti kroz dezinformacije – posebno u današnjoj napetoj političkoj klimi“, rekao je on u postu na blogu __. “Ove mjere pomoći će u borbi protiv štetne upotrebe deepfakea u političkim oglasima i drugom sadržaju, što je jedno od nekoliko područja u kojima je država proaktivna kako bi potaknula transparentnu i pouzdanu umjetnu inteligenciju.”

Zakoni dolaze u ključnom trenutku kada je deepfake sadržaj kreiran kroz generativne AI (genAI) modele evoluirao do tačke u kojoj ljudske oči više ne mogu razlikovati pravi i AI generiran. Prema podacima iz 2024 Izvještaj Agencije za provođenje zakona Evropske unije 90% online sadržaja moglo bi biti sintetički generirano do 2026. Isto tako, nedavna studija KPMG-a pod nazivom “ Deepfakes: Real Threat , otkrili su da su se u posljednjih nekoliko godina deepfakes povećali za 900%.

Međutim, Newsomovi zakonodavni napori pokrenuli su debatu na društvenim medijima o budućnosti tehnologije. Dok pristalice smatraju da su zakoni ključni za zaštitu birača od izbornih dezinformacija, kritičari, uključujući Muska, tvrde da takvi zakoni guše slobodu govora. U objavi na X, Musk je uporedio guvernera Newsoma sa "Džokerom".

“Sadržaj generiran AI je prevazišao ono što možemo shvatiti kao stvarni ili imitaciju ili parodiju. Ono što je jasno je da postoji AI generisan sadržaj koji se koristi da bude namjerno obmanjujući. U najmanju ruku, moramo imati uspostavljene sisteme koji pružaju kontekst na snimcima, video zapisima i slikama generiranim umjetnom inteligencijom.” Kevin Guo , izvršni direktor i suosnivač genA.I. platforma za detekciju sadržaja Košnica , rekao mi je. “Platforme i organizacije moraju usvojiti ove modele kako bi zaštitile potrošače i spriječile velike kampanje dezinformacija da utječu na izbore.”

Članica Skupštine Gail Pellerin, autorka zakona AB 2839, naglasila je hitnost rješavanja opasnosti od deepfakesa. “S manje od 50 dana do općih izbora, postoji hitna potreba za zaštitom od obmanjujućih, digitalno izmijenjenih sadržaja koji mogu ometati izbore. Donošenjem AB 2839, Kalifornija zauzima stav protiv manipulativne upotrebe deepfake tehnologije za obmanu glasača,” ona rekao je u izjavi.

Kalifornijski lažni zakoni mogli bi poslužiti kao model drugim državama. Dok je 20 država, uključujući Njujork, Teksas i Floridu, već donelo zakon različiti stepen regulacije što se tiče lažiranja vezanih za izbore, efikasnost ovih zakona ostaje veliko pitanje. Tehnološki divovi, uključujući Meta i X nedavno suočio sa kritikama za nedosljedan genA.I. moderiranje sadržaja, dok su drugi poput Microsofta već integrirali posebne AI modele kao npr Sigurnost Azure AI sadržaja , za praćenje i moderiranje sadržaja generiranog umjetnom inteligencijom. Tehnološki stručnjaci sugeriraju da, iako je produženje perioda zaštite na 120 dana korak u pravom smjeru, samo po sebi neće zaustaviti širenje dezinformacija vođenih umjetnom inteligencijom.

“Poteškoća nije samo u stvaranju zakona, već i u njihovoj primjeni na digitalnim platformama koje pokrivaju više nadležnosti, kako nacionalne tako i međunarodne. Dizajniranje okvira koji su dovoljno prilagodljivi da prilagode brzi napredak u AI je od suštinskog značaja,” Dominik Heinrich , rekao mi je šef AI dizajna u Coca-Coli. “Pravni okviri, iako važni, uvijek će zaostajati za tehnološkom krivom. Ne možemo se oslanjati samo na zakone; moramo se fokusirati na izgradnju AI sistema koji se mogu sami detektovati i prilagođavati u realnom vremenu. Uskoro ćemo vidjeti svijet u kojem AI upravlja AI uz ljudski nadzor.”

Ovaj primjer naglašava rastuću složenost balansiranja AI inovacija s društvenim zaštitnim mjerama. Za sada, Kalifornija ima za cilj da vodi kao primjer, ali da li se ove mjere efikasno bore protiv dezinformacija izazvanih umjetnom inteligencijom ili će ograničiti slobodu govora, oblikovat će budućnost AI u političkim kampanjama u godinama koje dolaze.