GenAI en las elecciones: remodelando campañas, planteando preocupaciones éticas

2024 es el año en el que hasta dos mil millones de personas emitirán sus votos en las elecciones que se celebrarán en todo el mundo, desde Bangladesh en enero hasta Ghana en diciembre. Dado que todos los aspectos del comportamiento humano y la industria se ven afectados por la IA generativa (IA), que incluye citas, educación, creatividad, servicio al cliente y redes sociales, las elecciones, sin importar dónde se celebren, no iban a estar exentas de Gen. AI.

La generación de IA está remodelando la forma en que se realizan las campañas, se difunde la información y se influye en los votantes. Por ejemplo, en diciembre, el ex primer ministro encarcelado de Pakistán, Imran Khan, a cuyo partido se le prohibió realizar manifestaciones públicas, utilizó un clip de audio generado por AI para dirigirse a una manifestación virtual. El discurso se generó a partir de una versión escrita que Khan había aprobado desde prisión.

La tecnología ha dado voz a quienes enfrentan la opresión. Bielorrusia, donde los líderes de la oposición a menudo enfrentan la desgracia de ser encarcelados, exiliados o muertos, la oposición instaló un robot de inteligencia artificial, Yas Gaspadar, un candidato virtual creado utilizando ChatGPT de OpenAI que puede hablar libremente sin temor a repercusiones.

Sin embargo, desde elaborar mensajes persuasivos hasta dirigirse a grupos demográficos específicos, no todo sale bien al aplicar esta tecnología. Las emociones resultantes son tanto entusiasmo como aprensión entre los analistas políticos y los responsables de la formulación de políticas en todo el mundo.

Según el Informe de amenazas globales de CrowdStrike de 2024 , la explotación de la IA generativa está en el horizonte de 2024. El informe predice que con más de 40 elecciones democráticas programadas para 2024, los adversarios de los Estados-nación y los delitos electrónicos tendrán numerosas oportunidades de perturbar el proceso electoral o influir en la opinión de los votantes. Es muy probable que los actores-Estado-nación de China, Rusia e Irán lleven a cabo operaciones de información errónea o desinformación para sembrar perturbaciones en un contexto de conflictos geográficos y elecciones globales.

Campaña personalizada

Uno de los impactos más significativos de la IA generativa en las elecciones es su capacidad para facilitar campañas personalizadas a una escala sin precedentes. Al analizar vastos conjuntos de datos de información de los votantes, los algoritmos de IA pueden generar mensajes, anuncios y estrategias de divulgación altamente personalizados. Con este enfoque, las campañas políticas pueden dirigirse a individuos en función de su demografía, intereses y comportamiento pasado, aprovechando al máximo sus esfuerzos de divulgación.

Una taza política de Starbucks recorrió las redes sociales en marzo, cuando la organización cívica mexicana Sociedad Civil de México publicó una imagen generada por IA en X, que mostraba una colorida taza de Starbucks con la inscripción #Xochitl2024, junto con el hashtag #StarbucksQueremosTazaXG ( #StarbucksQueremosACupXG). La candidata presidencial de la oposición de México, Xóchitl Gálvez, pidió a sus seguidores X que ordenaran un “café sin miedo”. Los usuarios pronto comenzaron a compartir la imagen generada por IA y la tendencia se hizo popular. Más tarde, Starbucks declaró que el diseño no se originó en la marca de café.

Esto se encuentra en el punto de inflexión de una forma completamente nueva de llevar a cabo la política visual y posiblemente una que cambiará fundamentalmente la forma en que consumimos artefactos multimedia durante las campañas políticas.

Joyojeet Pal, profesor asociado de la Universidad de Michigan

En la India todo se ha hecho oficial, afirma Aljazeera . En febrero, un vídeo de Instagram que el Congreso Nacional Indio (INC) parodiaba al primer ministro Narendra Modi acumuló más de 1,5 millones de visitas. El mismo día, el responsable oficial de BJP subió un vídeo que utilizaba IA para clonar la voz del fallecido cantante patriótico Mahendra Kapoor para cantar sobre los logros del primer ministro.

"Esto se encuentra en el punto de inflexión de una forma completamente nueva de llevar a cabo la política visual y podría decirse que cambiará fundamentalmente la forma en que consumimos artefactos multimedia durante las campañas políticas", dijo Joyojeet Pal, profesor asociado de la Universidad de Michigan.

Desinformación y desinformación

Sin embargo, la proliferación de la IA generativa también genera preocupación con respecto a la difusión de desinformación y desinformación. Con la capacidad de generar textos convincentemente parecidos a los humanos, los actores malintencionados pueden explotar la IA para crear y difundir narrativas falsas, sembrar discordia y manipular la opinión pública. El desafío de combatir la desinformación generada por la IA plantea una amenaza importante a la integridad de los procesos democráticos en todo el mundo.

En Indonesia, un vídeo inventado en Facebook mostró al vicepresidente electo insultando a los beneficiarios de los beneficios gubernamentales. En Estados Unidos, los espectadores vieron llamadas automáticas generadas por IA en las que el presidente Joe Biden pedía a los votantes que se quedaran en casa.

En febrero, el Instituto para el Diálogo Estratégico (ISD), un grupo de expertos con sede en el Reino Unido, descubrió lo que se llama "spamouflage" dirigido por el gobierno chino, que es una campaña que comparte imágenes generadas por IA en un intento por difundir información errónea por delante de EE.UU. elecciones de este año.

Los vídeos deepfake se han vuelto rampantes en este año repleto de elecciones. Varios países como Pakistán , Taiwán y Bangladesh han visto incidentes de vídeos de este tipo difundiendo información errónea entre los votantes.

Desafíos éticos y regulatorios

El auge de la IA generativa en las elecciones ha provocado debates sobre sus implicaciones éticas y la necesidad de supervisión regulatoria. Las cuestiones relativas a la transparencia, la rendición de cuentas y la salvaguardia de las normas democráticas se han vuelto centrales en los debates entre responsables de políticas y tecnólogos.

Cada país necesita tener su propia infraestructura de IA para aprovechar el potencial económico y al mismo tiempo proteger su propia cultura.

Jensen Huang, director ejecutivo de Nvidia

Como ha dicho el director ejecutivo de Nvidia, Jensen Huang , cada país necesita tener su propia infraestructura de inteligencia artificial para aprovechar el potencial económico y al mismo tiempo proteger su propia cultura. Lograr un equilibrio entre aprovechar el potencial de la IA para las campañas políticas y al mismo tiempo mitigar sus consecuencias negativas sigue siendo un desafío clave para las partes interesadas.

La Unión Europea (UE) dio el primer paso oficial al establecer la Ley de IA en marzo. Según la ley, se restringen los casos de uso que suponen un alto riesgo para los derechos fundamentales de las personas. Las IA que plantean un “riesgo inaceptable” también se enfrentan a una prohibición. Esto incluye casos de uso en los que los sistemas de IA implementan “técnicas subliminales, manipuladoras o engañosas para distorsionar el comportamiento y perjudicar la toma de decisiones informadas” o explotar a personas vulnerables.

En India, el Ministro de Estado de Electrónica y TI de la Unión, Rajeev Chandrashekhar, ha declarado que el marco regulatorio de la IA se discutirá y debatirá en junio-julio de este año.

Las empresas de tecnología también se están esforzando por frenar el daño causado por el contenido generado por IA.

Un protocolo de Internet de código abierto llamado C2PA utiliza criptografía para codificar detalles sobre los orígenes de un contenido. Esto significa que información como, por ejemplo, de dónde proviene un contenido y quién o qué lo creó, estará disponible para nosotros. Gigantes tecnológicos como Google, Microsoft y Meta ya han anunciado que forman parte de este protocolo.

A medida que continúe el uso de Gen AI en la política electoral, su impacto solo se intensificará en los próximos años. Los avances en la tecnología de inteligencia artificial y la creciente sofisticación de los algoritmos seguirán cambiando la dinámica de las campañas políticas y la participación de los votantes. Para navegar en este panorama que cambia rápidamente, los formuladores de políticas, las autoridades electorales y la sociedad civil deben colaborar para establecer marcos regulatorios sólidos y pautas éticas que salvaguarden la integridad de los procesos democráticos.

Después de todo, ¿cuánto sabemos de IA?

La IA de generación, en particular los modelos de lenguaje como GPT (transformador generativo preentrenado), sin duda está dando forma a las narrativas políticas. Estos modelos pueden producir grandes cantidades de texto, imitando el lenguaje humano y generando contenido que va desde discursos hasta publicaciones en las redes sociales. Al elaborar mensajes diseñados para resonar en segmentos de votantes específicos e influir de manera efectiva en la opinión pública sobre temas clave, esta tecnología ha otorgado un gran poder a las manos de los activistas.

Sin embargo, es importante preguntarse si las personas entienden lo que ven o si lo creen ciegamente. El propio primer ministro Narendra Modi expresó su preocupación por los deepfakes y pidió a los medios de comunicación que eduquen al público sobre los riesgos de la Gen AI.

Según los datos de las encuestas de Ipsos, existe un retraso en la forma en que las personas entienden la IA, y esta observación es global. En una encuesta realizada en 31 países, en promedio, alrededor del 70% cree que tiene un buen conocimiento de la IA, pero solo el 50% puede nombrar productos y servicios que la utilizan. Por ejemplo, en India, esta cifra es del 64%. Además, curiosamente, las poblaciones de los mercados emergentes tienen una mayor confianza en la tecnología de IA. Además, tienden a ver los pros y no los contras de la IA.

El auge de la IA generativa representa un cambio profundo en la forma en que se disputan y ganan las elecciones. Si bien ofrece oportunidades sin precedentes para campañas personalizadas y participación de los votantes, la IA también plantea desafíos importantes en términos de desinformación, privacidad y responsabilidad democrática. A medida que las sociedades se adapten a esta nueva realidad, el despliegue responsable de la IA en los procesos electorales será crucial para preservar la integridad y la legitimidad de la gobernanza democrática en todo el mundo.