2024 оны АНУ-ын сонгуульд Newsom-ийн захирагч AI Deepfake журам юу гэсэн үг вэ?

Калифорнийн амбан захирагч Гэвин Ньюсом 2024 оны АНУ-ын сонгуулийн өмнө хиймэл оюун ухааны гүн хуурамч мэдээллийг улс төрийн кампанит ажилд ашиглахад чиглэсэн гурван шинэ хууль баталжээ.

Калифорнийн амбан захирагч Гэвин Ньюсом өнгөрсөн сард улс төрийн кампанит ажилд зориулж төөрөгдүүлсэн "гүн хуурамч" зураг, видео бүтээхэд хиймэл оюун ухааныг (AI) ашиглахыг багасгах гурван томоохон хуулийн төслийг баталсан. Муж 11-р сард болох сонгуульд бэлтгэж байх үед мужийн захирагч Ньюсомын үйл ажиллагаа нь хиймэл оюун ухаантай холбоотой Калифорнийн хууль эрх зүйн орчныг өргөжүүлж, хиймэл оюун ухаанд чиглэсэн таван хуулийн төслийг баталсны гурав нь сонгуультай холбоотой ташаа мэдээлэл тархсантай тэмцэж байна. Энэхүү чанга зохицуулалт нь X компанийн гүйцэтгэх захирал Илон Масктай холбоотой томоохон үйл явдлын дараа гарчээ. гүн хуурамч видео Энэ нь дэд ерөнхийлөгч Камала Харрисыг өөрийгөө "олон талын ажилчин" гэж худал дүрсэлсэн.

Батлагдсан журмуудын дотроос ардчиллыг хуурамч хууран мэхлэлтээс хамгаалах тухай хууль ( AB 2655 ) сошиал медиа платформууд нь олон нийтийн зүтгэлтэн хүний үг, үйлдлийг буруу ташаа мэдээлсэн өөрчилсөн хэвлэл мэдээллийн хэрэгслээр "хуурамч" контент нийтлэхийг хэрэглэгчдэд хязгаарлахыг шаарддаг. Уг акт нь 2019 оны хуульд үндэслэсэн болно ( AB 730 ) Newsom гарын үсэг зурсан бөгөөд энэ нь улс төрийн нэр дэвшигчдийн нэр төрийг гутаах зорилготой төөрөгдүүлсэн хэвлэл мэдээллийн хэрэгслийг тараахыг хууль бус болгосон. "Онцгой байдлын арга хэмжээ" гэж тодорхойлсон өөр нэг хууль болох AB 2839 нь Калифорнид сонгуулийн дараа 120 хоногийн дотор хуурамч контент түгээхийг хориглодог. Гурав дахь нь болох AB 2355 нь хиймэл оюун ухаан ашиглан бүтээсэн улс төрийн зар сурталчилгаа эсвэл видеонууд нь улс төрийн кампанит ажлыг ил тод явуулах үүднээс энэ мэдээллийг үзэгчдэд ил болгохыг үүрэг болгосон.

"Сонгуулийн шударга байдлыг хамгаалах нь ардчилалд нэн чухал бөгөөд бид хиймэл оюун ухааныг хуурамч мэдээллээр дамжуулан олон нийтийн итгэлийг хөсөрдүүлэхгүй байх нь чухал юм, ялангуяа өнөөгийн улс төрийн нөхцөл байдалд" гэж тэр __ блогтоо __ хэлэв. "Эдгээр арга хэмжээ нь ил тод, найдвартай хиймэл оюун ухааныг хөгжүүлэхийн тулд төрөөс идэвхтэй ажиллаж байгаа хэд хэдэн чиглэлийн нэг болох улс төрийн зар сурталчилгаа болон бусад контентод гүн хуурамч мэдээллийг ашиглахтай тэмцэхэд тусална."

Хиймэл оюун ухаан (genAI) загваруудаар бүтээгдсэн гүн хуурамч контент хүний нүд бодит болон хиймэл оюун ухааныг ялгах чадваргүй болтлоо хувьсан өөрчлөгдөж байгаа тул эдгээр хууль чухал цаг үед гарч байна. 2024 оны дагуу Европын холбооны хууль сахиулах агентлагийн тайлан , 2026 он гэхэд онлайн агуулгын 90% нь нийлэг аргаар бүтээгдэх боломжтой. Үүний нэгэн адил KPMG-ийн саяхан хийсэн судалгаагаар " Deepfakes: Бодит аюул , сүүлийн хэдэн жилийн хугацаанд deepfakes 900%-иар өссөн болохыг тогтоожээ.

Гэсэн хэдий ч Newsom-ийн хууль тогтоох хүчин чармайлт нь технологийн ирээдүйн талаар олон нийтийн мэдээллийн хэрэгслээр маргаан үүсгэв. Дэмжигчид уг хуулийг сонгогчдыг сонгуулийн буруу мэдээллээс хамгаалахад нэн чухал гэж үзэж байгаа бол шүүмжлэгчид, тэр дундаа Маск энэ хууль үг хэлэх эрх чөлөөг боомилдог гэж үзэж байна. Маск X сайт дээр нийтэлсэн нийтлэлдээ амбан захирагч Newsom-ыг "Жокер"-тэй харьцуулжээ.

“Хиймэл оюун ухаанаар бүтээгдсэн контент нь бидний бодит, дуураймал, элэглэл гэж ойлгож чадахаас давсан. Санаатайгаар хууран мэхлэх зорилгоор хиймэл оюун ухаанаар үүсгэсэн контентыг ашиглаж байгаа нь тодорхой байна. Бид ядаж хиймэл оюун ухаанаар үүсгэсэн бичлэг, видео, зураг дээр контекстийг хангадаг системтэй байх хэрэгтэй." Кевин Гуо , Гүйцэтгэх захирал, genA.I-ийн үүсгэн байгуулагч. контент илрүүлэх платформ Зөгий , надад хэлсэн. "Хэрэглэгчдийг хамгаалах, том хэмжээний буруу мэдээллийн кампанит ажил сонгуульд нөлөөлөхөөс урьдчилан сэргийлэхийн тулд платформ, байгууллагууд эдгээр загварыг хэрэгжүүлэх ёстой."

Ассамблейн гишүүн, AB 2839 хуулийн төслийг зохиогч Гэйл Пеллерин гүн хуурамч зүйлсийн аюулыг яаралтай шийдвэрлэхийг онцлон тэмдэглэв. “Бүх нийтийн сонгууль болоход 50 хүрэхгүй хоног үлдээд байгаа тул сонгуульд саад болохуйц төөрөгдүүлсэн, дижитал хувилбарт өөрчлөлт оруулсан контентоос хамгаалах зайлшгүй шаардлагатай байна. AB 2839-ийг баталснаар Калифорни муж сонгогчдыг хууран мэхлэх зорилгоор гүн хуурамч технологийг ашиглахыг эсэргүүцэж байна" гэж тэр хэлэв. гэж хэлэв мэдэгдэлд.

Калифорнийн гүн хуурамч хуулиуд бусад мужуудад үлгэр дуурайл болж чадна. Нью-Йорк, Техас, Флорида зэрэг 20 муж аль хэдийн хуульчилсан байна янз бүрийн түвшний зохицуулалт Сонгуультай холбоотой хуурамч мэдээлэл дээр эдгээр хуулийн үр дүнтэй эсэх нь том асуулт хэвээр байна. Мета, X зэрэг технологийн аваргууд саяхан шүүмжлэлд өртсөн Тогтворгүй genA.I. агуулгын зохицуулалт, харин Microsoft зэрэг бусад хүмүүс AI гэх мэт тусгай загваруудыг аль хэдийн нэгтгэсэн Azure AI контентын аюулгүй байдал , хиймэл оюун ухаанаар үүсгэсэн контентыг хянах, зохицуулах. Техникийн мэргэжилтнүүд хамгаалалтын хугацааг 120 хоног хүртэл сунгах нь зөв алхам боловч хиймэл оюун ухаанд суурилсан ташаа мэдээллийн тархалтыг дангаараа зогсоож чадахгүй гэж үзэж байна.

“Хүндрэл нь зөвхөн хууль тогтоомжийг бий болгоход төдийгүй, үндэсний болон олон улсын аль алинд нь олон улсын эрх мэдлийг хамарсан дижитал платформ дээр хэрэгжүүлэхэд оршдог. Хиймэл оюун ухаан дахь хурдацтай дэвшлийг хангахуйц дасан зохицохуйц хүрээг зохион бүтээх нь чухал юм." Доминик Генрих , Coca-Cola-ийн хиймэл оюун ухааны дизайны дарга надад хэлсэн. “Хууль эрх зүйн орчин чухал хэдий ч технологийн муруйгаас ямагт хоцрох болно. Бид зөвхөн хууль тогтоомжид найдаж болохгүй; Бид бодит цаг хугацаанд өөрийгөө илрүүлж, дасан зохицож чадах хиймэл оюун ухааны системийг бий болгоход анхаарлаа хандуулах хэрэгтэй. AI нь хиймэл оюун ухааныг хүний хяналтан дор удирддаг ертөнцийг бид удахгүй харах болно."

Энэхүү жишээ нь хиймэл оюун ухааны инновацийг нийгмийн хамгаалалтай тэнцвэржүүлэх нь улам бүр төвөгтэй болж байгааг онцолж байна. Одоогийн байдлаар Калифорниа үлгэр жишээ үзүүлэхийг зорьж байгаа ч эдгээр арга хэмжээ нь хиймэл оюун ухаанд суурилсан ташаа мэдээлэлтэй үр дүнтэй тэмцэх эсвэл үг хэлэх эрх чөлөөг хязгаарлах эсэх нь олон жилийн турш улс төрийн кампанит ажилд хиймэл оюун ухааны ирээдүйг тодорхойлох болно.