Qubernator Newsom-un AI Deepfake qaydaları 2024-cü il ABŞ seçkiləri üçün nə deməkdir

Kaliforniya qubernatoru Gavin Newsom, 2024-cü il ABŞ seçkiləri ərəfəsində siyasi kampaniyalarda süni intellektlə dərin saxtakarlığın istifadəsini hədəfləyən üç yeni qanun qəbul etdi.

Kaliforniya qubernatoru Gavin Newsom keçən ay siyasi kampaniyalar üçün aldadıcı "dərin saxta" şəkillər və videolar yaratmaqda süni intellektin (AI) istifadəsini azaltmaq üçün üç əsas qanun layihəsini qəbul etdi. Ştat noyabr seçkilərinə hazırlaşarkən, Qubernator Newsom-un hərəkətləri Kaliforniyanın süni intellektlə bağlı qanunvericilik bazasını genişləndirir, beş süni intellektə əsaslanan qanun layihəsi qəbul edildi – bunlardan üçü seçki ilə bağlı dezinformasiyanın yayılmasının qarşısını alır. Daha sərt qaydalar bir paylaşan X CEO Elon Musk-la əlaqəli yüksək profilli insidentdən sonra gəldi. deepfake video yalançı olaraq vitse-prezident Kamala Harrisin özünü "müxtəlifliyin muzdlusu" adlandıran təsvir etdi.

Qəbul edilmiş qaydalar arasında Demokratiyanı Deepfake Aldatmadan Müdafiə Aktı ( AB 2655 ) sosial media platformalarından ictimai xadimin sözlərini və ya hərəkətlərini təhrif edən dəyişdirilmiş media da daxil olmaqla, istifadəçilərin "aldadıcı" məzmun yerləşdirməsini məhdudlaşdırmasını tələb edir. Akt 2019-cu il qanununa əsaslanır ( AB 730 ) Newsom tərəfindən imzalanmışdır ki, bu da siyasi namizədlərin şərəfini ləkələmək məqsədi daşıyan aldadıcı medianın yayılmasını qeyri-qanuni edib. “Fövqəladə tədbir” kimi təsvir edilən başqa bir qanun, AB 2839, Kaliforniyada seçkidən sonra 120 gün ərzində saxta məzmunun yayılmasını qadağan edir. Üçüncüsü, AB 2355, süni intellektdən istifadə etməklə yaradılan siyasi reklamların və ya videoların şəffaf siyasi kampaniya üçün bu məlumatı izləyicilərə açıqlamasını tələb edir.

"Seçkilərin bütövlüyünü qorumaq demokratiya üçün vacibdir və biz süni intellektin dezinformasiya yolu ilə ictimaiyyətin inamını sarsıtmaq üçün istifadə edilməməyimizi təmin etmək vacibdir - xüsusən də bugünkü gərgin siyasi iqlimdə" dedi . "Bu tədbirlər siyasi reklamlarda və digər məzmunda dərin saxtakarlığın zərərli istifadəsi ilə mübarizə aparmağa kömək edəcək, bu da dövlətin şəffaf və etibarlı süni intellekt yaratmaq üçün fəal olduğu bir sıra sahələrdən biridir."

Qanunlar, generativ süni intellekt (genAI) modelləri vasitəsilə yaradılan dərin saxta məzmunun insan gözlərinin real və süni intellekt tərəfindən yaradılanları ayırd edə bilməyəcəyi nöqtəyə qədər təkamül etdiyi üçün həlledici bir zamanda gəlir. 2024-cü ilə görə Avropa İttifaqının Hüquq-Mühafizə Agentliyinin hesabatı , onlayn məzmunun 90%-i 2026-cı ilə qədər sintetik olaraq yaradıla bilər. Eyni şəkildə, KPMG-nin son araşdırması “ Deepfakes: Real təhlükə , müəyyən etdi ki, son bir neçə ildə deepfakes 900% artıb.

Bununla belə, Newsom-un qanunvericilik səyləri sosial mediada texnologiyanın gələcəyi ilə bağlı müzakirələri alovlandırdı. Tərəfdarlar qanunları seçiciləri seçki dezinformasiyasından qorumaq üçün vacib hesab etsə də, tənqidçilər, o cümlədən Musk bu cür qanunların azad sözü boğduğunu iddia edirlər. X-də yazdığı paylaşımda Mask qubernator Newsomu "The Joker"lə müqayisə edib.

“AI tərəfindən yaradılan məzmun real və ya təqlid və ya parodiya kimi başa düşə biləcəyimizdən kənara çıxdı. Aydın olan odur ki, qəsdən aldadıcı olmaq üçün istifadə edilən AI tərəfindən yaradılmış məzmun var. Ən azı, süni intellekt tərəfindən yaradılan qeydlər, videolar və şəkillərdə kontekst təmin edən sistemlərimiz olmalıdır”. Kevin Quo , CEO və genA.I.-nin həmtəsisçisi. məzmun aşkarlama platforması Pətək , mənə dedi. “Platformalar və təşkilatlar istehlakçıları qorumaq və genişmiqyaslı dezinformasiya kampaniyalarının seçkilərə təsir etməməsi üçün bu modelləri qəbul etməlidirlər”.

Assambleyanın üzvü, AB 2839 saylı qanun layihəsinin müəllifi Gail Pellerin dərin saxtakarlığın təhlükələrinə diqqət yetirməyin aktuallığını vurğuladı. “Ümumi seçkilərə 50 gündən az vaxt qalıb, seçkiyə mane ola biləcək yalnış, rəqəmsal olaraq dəyişdirilmiş məzmundan qorunmağa təcili ehtiyac var. AB 2839-un qüvvəyə minməsi ilə Kaliforniya seçiciləri aldatmaq üçün dərin saxta texnologiyanın manipulyasiyasına qarşı mövqe tutur. dedi bəyanatında.

Kaliforniyanın dərin saxta qanunları digər ştatlar üçün nümunə ola bilər. Nyu-York, Texas və Florida da daxil olmaqla 20 ştat artıq qüvvəyə minib müxtəlif tənzimləmə dərəcələri Seçki ilə bağlı dərin saxtakarlıqlarda bu qanunların effektivliyi böyük sual olaraq qalır. Bu yaxınlarda Meta və X daxil olmaqla texnologiya nəhəngləri tənqidlə üzləşib uyğunsuz genA.I üçün. məzmun moderasiyası, Microsoft kimi digərləri isə artıq xüsusi AI modellərini inteqrasiya etmişdir Azure AI Məzmun Təhlükəsizliyi , AI tərəfindən yaradılan məzmunu izləmək və nəzarət etmək. Texniki ekspertlər bildirirlər ki, qoruma müddətinin 120 günə qədər uzadılması düzgün istiqamətdə atılmış bir addım olsa da, bu təkbaşına süni intellektlə idarə olunan dezinformasiyanın yayılmasının qarşısını ala bilməyəcək.

“Çətinlik təkcə qanunların yaradılmasında deyil, həm milli, həm də beynəlxalq səviyyədə bir çox yurisdiksiyaları əhatə edən rəqəmsal platformalarda onların tətbiq edilməsindədir. Süni intellektdə sürətli irəliləyişlərə uyğunlaşmaq üçün kifayət qədər uyğunlaşa bilən çərçivələrin layihələndirilməsi vacibdir”. Dominik Heinrich , Coca-Cola-da süni intellekt dizaynının rəhbəri mənə dedi. “Hüquqi çərçivələr vacib olsa da, həmişə texnoloji əyridən geri qalacaq. Biz yalnız qanunlara arxalana bilmərik; biz real vaxtda özünü aşkarlaya və uyğunlaşa bilən AI sistemlərinin qurulmasına diqqət yetirməliyik. Tezliklə biz süni intellektin insan nəzarəti ilə süni intellektə rəhbərlik etdiyi bir dünya görəcəyik”.

Nümunə AI innovasiyalarının sosial təminatlarla balanslaşdırılmasının artan mürəkkəbliyini vurğulayır. Hal-hazırda Kaliforniya nümunə olaraq liderlik etməyi hədəfləyir, lakin bu tədbirlərin süni intellektə əsaslanan dezinformasiya ilə effektiv mübarizə aparıb-azalmayacağı və ya azad sözün məhdudlaşdırılması gələcək illər üçün siyasi kampaniyalarda AI-nin gələcəyini formalaşdıracaq.