브라질, 선거에서 AI 사용에 대한 규정 시행

브라질 고등선거법원은 선거에서 인공지능(AI)을 사용하기 위한 새로운 규정을 승인했습니다. 그 조치 중에는 딥 페이크를 전면 금지하고 후보자와 캠페인이 공유하는 모든 콘텐츠에서 AI 사용을 의무적으로 경고하는 것이 포함됩니다.

국가의 다음 선거는 10월에 열릴 예정이며, 여기서 지방 시장과 시의원에 대한 투표가 실시되며 새로운 AI 규칙이 이미 발효되었습니다. 이는 후보자와 정당의 AI 활용과 관련해 선거법원이 판결한 첫 번째 규정이다.

규칙에는 모든 유형의 딥 페이크를 금지하는 것이 포함됩니다. 중립적인 영상과 사진이라 할지라도 선거 선전에 AI를 사용하는 것에 대해 경고할 의무; 유권자와의 접촉을 중재하기 위해 로봇을 사용하는 것을 제한합니다(예를 들어 캠페인은 후보자 또는 다른 사람과의 대화를 시뮬레이션할 수 없습니다).

규정에 따르면, 딥 페이크를 사용해 허위 콘텐츠를 퍼뜨리는 후보자는 당선될 경우 그 권한을 잃을 수 있습니다. 브라질 선거법원은 딥 페이크를 "살아 있거나 죽은 사람 또는 가상의 사람의 이미지나 목소리를 생성, 교체 또는 변경하기 위해 디지털 방식으로 생성되거나 조작된 오디오, 비디오 또는 둘 다의 합성 콘텐츠"로 정의합니다.

알렉상드르 드 모라에스 고등선거법원장은 선거에서 승리하기 위해 규정을 무시하고 AI를 사용해 상대방에게 해를 끼치고 정보를 왜곡하는 후보자에 대해 엄중한 처벌을 내릴 것을 명시했습니다.

그는 “이번 제재는 후보자 등록을 취소하는 것이며, 이미 당선된 경우에는 자격을 상실할 수 있다”고 말했다. 모라에스(Moraes)에 따르면 브라질은 선거 과정에서 “허위 정보 및 AI의 불법 사용 퇴치와 관련하여 세계에서 가장 현대적인 규정” 중 하나를 승인했습니다.

규정에 따른 빅테크 조항

새로운 규정은 또한 허위 정보, 증오심 표현, 나치 및 파시스트 이데올로기, 안티 정책이 포함된 콘텐츠를 즉시 삭제하지 않는 Google 및 Meta ( Facebook , WhatsApp 및 Instagram 소유)와 같은 거대 기술 기업의 책임을 규정합니다. -민주적, 인종차별적, 동성애혐오적인 콘텐츠.

법원에 따르면 플랫폼은 “주의 의무와 사회적 지위에 따라” 서비스를 제공해야 합니다. 따라서 제공업체는 선거 과정의 무결성에 영향을 미치는 "악명 높은 사실이 아니거나 상황에 맞지 않는" 사실의 유포를 방지하거나 줄이기 위한 조치를 채택하고 홍보할 의무가 있습니다.

허위 사실을 알리거나 해명하는 콘텐츠를 무료로 홍보하는 플랫폼도 필요합니다. Moraes 판사에 따르면 후보자, 특히 유권자의 선택에 해를 끼치기 위해 인공 지능을 사용하는 것을 방지하려면 이러한 조치가 필요합니다.

그는 “이제 선거법원은 선거 광고의 왜곡, 증오, 파시스트, 반민주적 연설, AI를 사용해 개인이 말하지 않은 내용을 삽입하는 등의 행위에 맞서 싸울 수 있는 효과적인 도구를 보유하고 있다”고 말했다.