뉴섬 주지사의 AI 딥페이크 규정이 2024년 미국 선거에 미치는 영향

캘리포니아 주지사 게이빈 뉴섬은 2024년 미국 대선을 앞두고 정치 캠페인에서 AI 딥페이크 사용을 금지하는 세 가지 새로운 법안을 제정했습니다.

캘리포니아 주지사 개빈 뉴섬은 지난달 정치 캠페인을 위해 인공 지능(AI)이 오해의 소지가 있는 "딥페이크" 이미지와 비디오를 만드는 것을 완화하기 위한 세 가지 주요 법안을 통과시켰습니다. 주가 11월 선거를 준비하는 가운데, 뉴섬 주지사의 조치는 AI에 대한 캘리포니아의 법적 틀을 확대하여 5개의 AI 중심 법안이 통과되었습니다. 그 중 3개는 선거 관련 허위 정보의 확산을 다룹니다. 더욱 엄격한 규제는 X CEO 엘론 머스크와 관련된 주목할 만한 사건 이후에 이루어졌으며, 그는 딥페이크 비디오 카말라 해리스 부통령이 자신을 "다양성 인재"라고 부른 것을 거짓으로 묘사한 것입니다.

제정된 규제 중에는 딥페이크 사기로부터 민주주의를 수호하는 법(Defending Democracy Act, AB 2655 )는 소셜 미디어 플랫폼이 사용자가 공인의 말이나 행동을 잘못 표현하는 변경된 미디어를 포함하여 "기만적인" 콘텐츠를 게시하는 것을 제한할 것을 요구합니다. 이 법은 2019년 법률을 기반으로 합니다( AB 730 ) 뉴섬이 서명한 이 법안은 정치 후보자를 모욕하기 위한 의도로 오도하는 미디어를 배포하는 것을 불법으로 만들었습니다. 또 다른 법률인 AB 2839는 "긴급 조치"로 설명되며, 캘리포니아에서 선거일로부터 120일 이내에 허위 콘텐츠를 배포하는 것을 금지합니다. 세 번째 법률인 AB 2355는 AI를 사용하여 생성된 정치 광고 또는 비디오가 투명한 정치 캠페인을 위해 시청자에게 이 정보를 공개하도록 명령합니다.

"선거의 공정성을 보호하는 것은 민주주의에 필수적이며, AI가 허위 정보를 통해 대중의 신뢰를 훼손하는 데 사용되지 않도록 하는 것이 중요합니다. 특히 오늘날의 험악한 정치적 환경에서 더욱 그렇습니다." 그는 __ 블로그 게시물 __에서 이렇게 말했습니다. "이러한 조치는 정치 광고 및 기타 콘텐츠에서 딥페이크의 해로운 사용을 퇴치하는 데 도움이 될 것입니다. 이는 국가가 투명하고 신뢰할 수 있는 AI를 육성하기 위해 적극적으로 나서고 있는 여러 분야 중 하나입니다."

이 법률은 생성 AI(genAI) 모델을 통해 생성된 딥페이크 콘텐츠가 인간의 눈이 더 이상 실제와 AI 생성을 구별할 수 없는 지점까지 진화함에 따라 중요한 시기에 제정되었습니다. 2024년에 따르면 유럽연합 법집행기관 보고서 , 2026년까지 온라인 콘텐츠의 90%가 합성적으로 생성될 수 있습니다. 마찬가지로 최근 KPMG에서 " 딥페이크: 진짜 위협 지난 몇 년 동안 딥페이크가 900% 증가한 것으로 나타났습니다.

그러나 Newsom의 입법 활동은 기술의 미래에 대한 소셜 미디어 토론을 촉발했습니다. 지지자들은 이 법률이 유권자를 선거에 대한 잘못된 정보로부터 보호하는 데 중요하다고 보는 반면, Musk를 포함한 비판자들은 이러한 법률이 언론의 자유를 억압한다고 주장합니다. Musk는 X에 올린 글에서 Newsom 주지사를 "조커"에 비유했습니다.

“AI가 생성한 콘텐츠는 우리가 진짜, 모방 또는 패러디로 이해할 수 있는 범위를 넘어섰습니다. 분명한 것은 AI가 생성한 콘텐츠가 의도적으로 기만적으로 사용되고 있다는 것입니다. 최소한 AI가 생성한 녹음, 비디오 및 이미지에 대한 맥락을 제공하는 시스템이 필요합니다.” 케빈 구오 , genA.I. 콘텐츠 탐지 플랫폼의 CEO 겸 공동 창립자 하이브 , 나에게 말했다. "플랫폼과 조직은 소비자를 보호하고 대규모 허위 정보 캠페인이 선거에 영향을 미치는 것을 방지하기 위해 이러한 모델을 채택해야 합니다."

AB 2839 법안의 저자인 게일 펠레린 의원은 딥페이크의 위험성을 다루는 것이 시급하다고 강조했습니다. "총선까지 50일도 안 남았는데, 선거를 방해할 수 있는 오해의 소지가 있고 디지털로 변경된 콘텐츠로부터 보호할 시급한 필요성이 있습니다. AB 2839의 제정으로 캘리포니아는 유권자를 속이기 위해 딥페이크 기술을 조작적으로 사용하는 것에 맞서고 있습니다." 말했다 성명에서.

캘리포니아의 딥페이크 법률은 다른 주들의 모델이 될 수 있습니다. 뉴욕, 텍사스, 플로리다를 포함한 20개 주가 이미 딥페이크 법률을 제정한 반면, 다양한 수준의 규제 선거 관련 딥페이크에 대해 이러한 법률의 효과성은 여전히 큰 의문으로 남아 있습니다. Meta와 X를 포함한 기술 거대 기업은 최근 비판을 받았다 일관되지 않은 genA.I. 콘텐츠 조정을 위해 Microsoft와 같은 다른 회사는 이미 다음과 같은 특수 AI 모델을 통합했습니다. Azure AI 콘텐츠 안전 , AI가 생성한 콘텐츠를 모니터링하고 조정합니다. 기술 전문가들은 보호 기간을 120일로 연장하는 것이 올바른 방향으로 나아가는 한 걸음이지만, 그것만으로는 AI가 주도하는 잘못된 정보의 확산을 막을 수 없다고 말합니다.

"어려움은 법률을 만드는 데 있는 것이 아니라 국가적, 국제적 관할권이 여러 개 있는 디지털 플랫폼에서 법률을 시행하는 데 있습니다. AI의 급속한 발전을 수용할 만큼 적응력이 뛰어난 프레임워크를 설계하는 것이 필수적입니다." 도미니크 하인리히 코카콜라의 AI 디자인 책임자는 "법적 틀은 중요하지만 항상 기술 곡선에 뒤처질 것입니다. 우리는 법률에만 의존할 수 없습니다. 실시간으로 자체 감지하고 적응할 수 있는 AI 시스템을 구축하는 데 집중해야 합니다. 우리는 곧 AI가 인간의 감독 하에 AI를 지배하는 세상을 보게 될 것입니다."라고 말했습니다.

이 사례는 AI 혁신과 사회적 보호책의 균형을 맞추는 데 있어 점점 더 복잡해지고 있음을 강조합니다. 현재 캘리포니아는 모범 사례로서 선두를 달리고자 하지만 이러한 조치가 AI 주도의 허위 정보를 효과적으로 퇴치하는지 아니면 언론의 자유를 제한하는지에 따라 향후 수년간 정치 캠페인에서 AI의 미래가 형성될 것입니다.