GenAI nas eleições: remodelando campanhas, levantando preocupações éticas

2024 é o ano em que dois mil milhões de pessoas votarão durante as eleições em todo o mundo, desde o Bangladesh, em Janeiro, até ao Gana, em Dezembro. Com todos os aspectos do comportamento humano e da indústria sendo impactados pela IA Generativa (IA), que inclui namoro, educação, criatividade, atendimento ao cliente e mídia social, as eleições, não importa onde sejam realizadas, não seriam vazias de Gen IA.

A Geração AI está remodelando a forma como as campanhas são conduzidas, as informações são disseminadas e os eleitores são influenciados. Por exemplo, em Dezembro, o antigo primeiro-ministro encarcerado do Paquistão, Imran Khan, cujo partido foi proibido de realizar comícios públicos, utilizou um clip de áudio gerado pela IA para abordar um comício virtual. O discurso foi gerado a partir de uma versão escrita que Khan aprovou na prisão.

A tecnologia deu voz àqueles que enfrentam a opressão. Na Bielorrússia, onde os líderes da oposição muitas vezes enfrentam o infortúnio de serem presos, exilados ou mortos, a oposição criou um bot de IA, Yas Gaspadar, um candidato virtual construído usando o ChatGPT da OpenAI que pode falar livremente sem medo de repercussão.

No entanto, desde a elaboração de mensagens persuasivas até à segmentação demográfica específica, nem tudo corre bem com a aplicação desta tecnologia. As emoções resultantes são tanto excitação como apreensão entre analistas políticos e decisores políticos em todo o mundo.

De acordo com o Relatório de Ameaças Globais CrowdStrike de 2024 , a exploração da IA Generativa está no horizonte de 2024. O relatório prevê que, com mais de 40 eleições democráticas agendadas para 2024, os adversários do Estado-nação e do crime eletrónico terão inúmeras oportunidades de perturbar o processo eleitoral ou influenciar a opinião dos eleitores. É altamente provável que os intervenientes estatais da China, da Rússia e do Irão conduzam operações falsas ou de desinformação para semear perturbações num contexto de conflitos geográficos e de eleições globais.

Campanha Personalizada

Um dos impactos mais significativos da IA generativa nas eleições é a sua capacidade de facilitar campanhas personalizadas numa escala sem precedentes. Ao analisar vastos conjuntos de dados de informações dos eleitores, os algoritmos de IA podem gerar mensagens, anúncios e estratégias de divulgação altamente personalizados. Com esta abordagem, as campanhas políticas podem micro-direcionar os indivíduos com base na sua demografia, interesses e comportamento passado, tirando o máximo partido dos seus esforços de divulgação.

Uma xícara política da Starbucks circulou nas redes sociais em março, quando a organização cívica mexicana Sociedad Civil de México postou uma imagem gerada por IA no X, que mostrava uma xícara colorida da Starbucks com a inscrição #Xochitl2024, junto com a hashtag #StarbucksQueremosTazaXG ( #StarbucksWeWantACupXG). A candidata presidencial da oposição do México, Xóchitl Gálvez, solicitou aos seus X seguidores que pedissem um “café sin miedo” (café sem medo). Os usuários logo começaram a compartilhar a imagem gerada pela IA e a tendência pegou. Mais tarde, a Starbucks afirmou que o design não se originou da marca de café.

Este é o ponto de inflexão de uma forma inteiramente nova de conduzir a política visual e, sem dúvida, uma forma que mudará fundamentalmente a forma como consumimos artefactos multimédia durante as campanhas políticas.

Joyojeet Pal, professor associado da Universidade de Michigan

Na Índia, as coisas tornaram-se oficiais, diz Aljazeera . Em fevereiro, um vídeo do Instagram parodiando o primeiro-ministro Narendra Modi pelo Congresso Nacional Indiano (INC) acumulou mais de 1,5 milhão de visualizações. No mesmo dia, o identificador oficial do BJP enviou um vídeo que usava IA para clonar a voz do falecido cantor patriótico Mahendra Kapoor para cantar sobre as conquistas do PM.

“Este é o ponto de inflexão de uma forma inteiramente nova de conduzir a política visual e, sem dúvida, que mudará fundamentalmente a forma como consumimos artefactos multimédia durante as campanhas políticas”, disse Joyojeet Pal, professor associado da Universidade de Michigan.

Desinformação e desinformação

No entanto, a proliferação da IA generativa também suscita preocupações relativamente à propagação da desinformação e da desinformação. Com a capacidade de gerar textos convincentemente semelhantes aos humanos, os agentes mal-intencionados podem explorar a IA para criar e disseminar narrativas falsas, semear a discórdia e manipular a opinião pública. O desafio de combater a desinformação gerada pela IA representa uma ameaça significativa à integridade dos processos democráticos em todo o mundo.

Na Indonésia, um vídeo fabricado no Facebook mostrou o vice-presidente eleito insultando os beneficiários de benefícios governamentais. Nos EUA, os telespectadores viram chamadas automáticas geradas por IA do presidente Joe Biden pedindo aos eleitores que ficassem em casa.

Em Fevereiro, o Instituto para o Diálogo Estratégico (ISD), um think tank com sede no Reino Unido, descobriu o que está a ser chamado de “spamouflage” gerido pelo governo chinês, que é uma campanha que partilha imagens geradas por IA numa tentativa de espalhar desinformação diante dos EUA. eleições este ano.

Vídeos deepfake tornaram-se galopantes neste ano repleto de eleições. Vários países, como Paquistão , Taiwan e Bangladesh , viram incidentes de tais vídeos circulando, espalhando desinformação entre os eleitores.

Desafios Éticos e Regulatórios

A ascensão da IA generativa nas eleições suscitou debates em torno das suas implicações éticas e da necessidade de supervisão regulamentar. As questões relativas à transparência, à responsabilização e à salvaguarda das normas democráticas tornaram-se centrais nas discussões entre decisores políticos e tecnólogos.

Cada país precisa de ter a sua própria infraestrutura de IA para aproveitar o potencial económico e, ao mesmo tempo, proteger a sua própria cultura

CEO da Nvidia, Jensen Huang

Como disse o CEO da Nvidia, Jensen Huang , cada país precisa ter sua própria infraestrutura de IA para aproveitar o potencial econômico e, ao mesmo tempo, proteger sua própria cultura. Encontrar um equilíbrio entre aproveitar o potencial da IA para campanhas políticas e, ao mesmo tempo, mitigar as suas consequências negativas continua a ser um desafio fundamental para as partes interessadas.

A União Europeia (UE) deu o primeiro passo oficial ao estabelecer a Lei da IA em março. De acordo com a lei, os casos de uso que representam um alto risco para os direitos fundamentais das pessoas são restritos. IA que representa “risco inaceitável” também enfrenta proibição. Isto inclui casos de utilização em que os sistemas de IA implementam “técnicas subliminares, manipulativas ou enganosas para distorcer o comportamento e prejudicar a tomada de decisões informadas” ou explorar pessoas vulneráveis.

Na Índia, o Ministro de Estado da União para a Electrónica e TI, Rajeev Chandrashekhar, afirmou que o quadro regulamentar da IA será discutido e debatido em Junho-Julho deste ano.

As empresas de tecnologia também estão se esforçando para conter os danos causados pelo conteúdo gerado pela IA.

Um protocolo de Internet de código aberto chamado C2PA usa criptografia para codificar detalhes sobre as origens de um conteúdo. Isso significa que informações como a origem de um conteúdo e quem ou o que o criou estarão disponíveis para nós. Gigantes da tecnologia como Google, Microsoft e Meta já anunciaram que fazem parte deste protocolo.

À medida que a utilização da Gen AI continua na política eleitoral, o seu impacto só se intensificará nos próximos anos. Os avanços na tecnologia de IA e a crescente sofisticação dos algoritmos continuarão a mudar a dinâmica das campanhas políticas e do envolvimento dos eleitores. Para navegar neste cenário em rápida mudança, os decisores políticos, as autoridades eleitorais e a sociedade civil devem colaborar para estabelecer quadros regulamentares robustos e directrizes éticas que salvaguardem a integridade dos processos democráticos.

Afinal, quanto conhecemos IA?

A Gen AI, particularmente modelos de linguagem como o GPT (Generative Pre-trained Transformer), está, sem dúvida, moldando narrativas políticas. Esses modelos podem produzir grandes quantidades de texto, imitando a linguagem humana e gerando conteúdo que vai desde discursos até postagens em mídias sociais. Ao elaborar mensagens adaptadas para repercutir em segmentos específicos de eleitores e influenciar eficazmente a opinião pública sobre questões-chave, esta tecnologia colocou um grande poder nas mãos dos ativistas.

No entanto, é importante perguntar se as pessoas entendem o que veem ou se acreditam cegamente nisso. O próprio primeiro-ministro Narendra Modi expressou preocupação com os deepfakes e apelou à mídia para educar o público sobre os riscos da Geração AI.

De acordo com os dados da pesquisa Ipsos, há um atraso na forma como os indivíduos entendem a IA, e esta observação é global. Num inquérito realizado em 31 países, em média, cerca de 70% consideram ter um bom conhecimento de IA, mas apenas 50% conseguem nomear produtos e serviços que utilizam IA. Por exemplo, na Índia, esse número é de 64%. Além disso, curiosamente, as populações dos mercados emergentes têm maior confiança na tecnologia de IA. Além disso, eles tendem a ver os prós e não os contras da IA.

A ascensão da IA generativa representa uma mudança profunda na forma como as eleições são disputadas e vencidas. Ao mesmo tempo que oferece oportunidades sem precedentes para campanhas personalizadas e envolvimento dos eleitores, a IA também coloca desafios significativos em termos de desinformação, privacidade e responsabilização democrática. À medida que as sociedades se adaptam a esta nova realidade, a utilização responsável da IA nos processos eleitorais será crucial para preservar a integridade e a legitimidade da governação democrática em todo o mundo.