GenAI dans les élections : remodeler les campagnes et soulever des préoccupations éthiques

2024 est l’année qui verra jusqu’à deux milliards de personnes voter alors que des élections auront lieu partout dans le monde, du Bangladesh en janvier au Ghana en décembre. Alors que tous les aspects du comportement humain et de l'industrie sont impactés par l'IA générative (IA), notamment les rencontres, l'éducation, la créativité, le service client et les médias sociaux, les élections, quel que soit l'endroit où elles se déroulent, n'allaient pas être dépourvues de Gen. IA.

La génération AI remodèle la manière dont les campagnes sont menées, les informations sont diffusées et les électeurs sont influencés. Par exemple, en décembre, l'ancien Premier ministre pakistanais incarcéré, Imran Khan, dont le parti n'avait pas le droit d'organiser de rassemblements publics, a utilisé un clip audio généré par AI pour s'exprimer lors d'un rassemblement virtuel. Le discours était généré à partir d’une version écrite que Khan avait approuvée depuis la prison.

La technologie a donné la parole à ceux qui subissent l’oppression. En Biélorussie, où les dirigeants de l'opposition rencontrent souvent le malheur d'être emprisonnés, exilés ou morts, l'opposition a mis en place un robot IA, Yas Gaspadar, un candidat virtuel construit à l'aide du ChatGPT d'OpenAI qui peut s'exprimer librement sans crainte de représailles.

Cependant, de la création de messages persuasifs au ciblage de données démographiques spécifiques, tout ne se passe pas bien avec l'application de cette technologie. Les émotions qui en résultent sont à la fois enthousiasme et appréhension parmi les analystes politiques et les décideurs politiques du monde entier.

Selon le rapport CrowdStrike Global Threat Report 2024 , l'exploitation de l'IA générative se situe à l'horizon 2024. Le rapport prédit qu’avec plus de 40 élections démocratiques prévues en 2024, les États-nations et les adversaires de la cybercriminalité auront de nombreuses occasions de perturber le processus électoral ou d’influencer l’opinion des électeurs. Les acteurs étatiques chinois, russes et iraniens sont très susceptibles de mener des opérations de désinformation pour semer le désordre sur fond de géoconflits et d’élections mondiales.

Campagne personnalisée

L’un des impacts les plus significatifs de l’IA générative sur les élections est sa capacité à faciliter des campagnes personnalisées à une échelle sans précédent. En analysant de vastes ensembles de données d’informations sur les électeurs, les algorithmes d’IA peuvent générer des messages, des publicités et des stratégies de sensibilisation hautement personnalisés. Grâce à cette approche, les campagnes politiques peuvent micro-cibler les individus en fonction de leurs données démographiques, de leurs intérêts et de leur comportement passé, tirant ainsi le meilleur parti de leurs efforts de sensibilisation.

Une coupe Starbucks politique a fait le tour des réseaux sociaux en mars, lorsque l'organisation civique mexicaine Sociedad Civil de México a publié une image générée par l'IA sur X, qui montrait une tasse Starbucks colorée arborant l'inscription #Xochitl2024, ainsi que le hashtag #StarbucksQueremosTazaXG ( #StarbucksWeWantACupXG). La candidate de l'opposition mexicaine à la présidentielle, Xóchitl Gálvez, a demandé à ses partisans du X de commander un « café sin miedo » (un café sans crainte). Les utilisateurs ont rapidement partagé l’image générée par l’IA et la tendance s’est répandue. Plus tard, Starbucks a déclaré que le design ne provenait pas de la marque de café.

Nous sommes au point d’inflexion d’une toute nouvelle façon de mener une politique visuelle et qui changera sans doute fondamentalement la façon dont nous consommons les artefacts multimédias pendant les campagnes politiques.

Joyojeet Pal, professeur agrégé à l'Université du Michigan

En Inde, les choses sont devenues officielles, affirme Aljazeera . En février, une vidéo Instagram parodiant le Premier ministre Narendra Modi par le Congrès national indien (INC) a été vue plus de 1,5 million de fois. Le même jour, le responsable officiel du BJP a mis en ligne une vidéo utilisant l'IA pour cloner la voix du chanteur patriotique décédé Mahendra Kapoor afin de chanter les réalisations du Premier ministre.

"C'est le point d'inflexion d'une toute nouvelle façon de mener une politique visuelle et sans doute qui changera fondamentalement la façon dont nous consommons les artefacts multimédias pendant les campagnes politiques", a déclaré Joyojeet Pal, professeur agrégé à l'Université du Michigan.

Désinformation et mésinformation

Cependant, la prolifération de l’IA générative suscite également des inquiétudes quant à la propagation de la désinformation et de la mésinformation. Grâce à leur capacité à générer des textes convaincants ressemblant à des humains, les acteurs malveillants peuvent exploiter l’IA pour créer et diffuser de faux récits, semer la discorde et manipuler l’opinion publique. Le défi que représente la lutte contre la désinformation générée par l’IA constitue une menace importante pour l’intégrité des processus démocratiques dans le monde entier.

En Indonésie, une vidéo fabriquée sur Facebook montrait le vice-président élu insultant les bénéficiaires des prestations gouvernementales. Aux États-Unis, les téléspectateurs ont vu des appels automatisés générés par l’IA du président Joe Biden demandant aux électeurs de rester chez eux.

En février, l'Institut pour le dialogue stratégique (ISD), un groupe de réflexion basé au Royaume-Uni, a découvert ce que l'on appelle le « spamouflage » géré par le gouvernement chinois, une campagne qui partage des images générées par l'IA dans le but de propager de la désinformation aux États-Unis. élections cette année.

Les vidéos deepfake sont devenues monnaie courante au cours de cette année chargée en élections. Plusieurs pays, comme le Pakistan , Taiwan et le Bangladesh , ont été témoins de vidéos de ce type diffusant des informations erronées parmi les électeurs.

Défis éthiques et réglementaires

L’essor de l’IA générative lors des élections a suscité des débats sur ses implications éthiques et la nécessité d’une surveillance réglementaire. Les questions concernant la transparence, la responsabilité et la sauvegarde des normes démocratiques sont devenues au cœur des discussions entre décideurs politiques et technologues.

Chaque pays doit disposer de sa propre infrastructure d'IA pour tirer parti du potentiel économique tout en protégeant sa propre culture.

Jensen Huang, PDG de Nvidia

Comme l'a déclaré Jensen Huang, PDG de Nvidia , chaque pays doit disposer de sa propre infrastructure d'IA pour tirer parti du potentiel économique tout en protégeant sa propre culture. Trouver un équilibre entre l’exploitation du potentiel de l’IA pour les campagnes politiques et l’atténuation de ses conséquences négatives reste un défi majeur pour les parties prenantes.

L’Union européenne (UE) a franchi la première étape officielle en établissant la loi sur l’IA en mars. Conformément à la loi, les cas d'utilisation qui présentent un risque élevé pour les droits fondamentaux des personnes sont limités. L’IA qui présente un « risque inacceptable » est également menacée d’interdiction. Cela inclut les cas d’utilisation dans lesquels les systèmes d’IA déploient « des techniques subliminales, manipulatrices ou trompeuses pour fausser les comportements et entraver la prise de décision éclairée » ou exploitent des personnes vulnérables.

En Inde, le ministre d'État chargé de l'électronique et de l'informatique, Rajeev Chandrashekhar, a déclaré que le cadre réglementaire de l'IA serait discuté et débattu en juin-juillet de cette année.

Les entreprises technologiques s’efforcent également de limiter les dégâts causés par le contenu généré par l’IA.

Un protocole Internet open source appelé C2PA utilise la cryptographie pour coder des détails sur l'origine d'un élément de contenu. Cela signifie que des informations telles que la provenance d'un élément de contenu et qui ou quoi l'a créé, seront à notre disposition. Des géants de la technologie comme Google, Microsoft et Meta ont déjà annoncé qu'ils faisaient partie de ce protocole.

À mesure que l’utilisation de la génération IA se poursuit dans la politique électorale, son impact ne fera que s’intensifier dans les années à venir. Les progrès de la technologie de l’IA et la sophistication croissante des algorithmes continueront de modifier la dynamique des campagnes politiques et de l’engagement des électeurs. Pour s’adapter à ce paysage en évolution rapide, les décideurs politiques, les autorités électorales et la société civile doivent collaborer pour établir des cadres réglementaires solides et des lignes directrices éthiques qui garantissent l’intégrité des processus démocratiques.

Après tout, que savons-nous de l’IA ?

La génération IA, en particulier les modèles linguistiques comme GPT (Generative Pre-trained Transformer), façonne sans aucun doute les récits politiques. Ces modèles peuvent produire de grandes quantités de texte, imitant un langage humain et générant du contenu allant des discours aux publications sur les réseaux sociaux. En élaborant des messages adaptés à des segments d’électeurs spécifiques et en influençant efficacement l’opinion publique sur des questions clés, cette technologie a donné un grand pouvoir aux militants.

Cependant, il est important de se demander si les gens comprennent ce qu’ils voient ou s’ils y croient aveuglément. Le Premier ministre Narendra Modi lui-même a exprimé son inquiétude concernant les deepfakes et a appelé les médias à sensibiliser le public aux risques de la génération AI.

Selon les données d’un sondage Ipsos, il existe un décalage dans la manière dont les individus appréhendent l’IA, et ce constat est mondial. Dans une enquête menée dans 31 pays, en moyenne, environ 70 % pensent avoir une bonne compréhension de l’IA, mais seulement 50 % peuvent citer des produits et services qui utilisent l’IA. Par exemple, en Inde, ce chiffre est de 64 %. Il est également intéressant de noter que les populations des marchés émergents ont une plus grande confiance dans la technologie de l’IA. De plus, ils ont tendance à voir les avantages plutôt que les inconvénients de l’IA.

L’essor de l’IA générative représente un changement profond dans la manière dont les élections sont contestées et gagnées. Tout en offrant des opportunités sans précédent de campagnes personnalisées et d’engagement des électeurs, l’IA pose également des défis importants en termes de désinformation, de confidentialité et de responsabilité démocratique. À mesure que les sociétés s’adaptent à cette nouvelle réalité, le déploiement responsable de l’IA dans les processus électoraux sera crucial pour préserver l’intégrité et la légitimité de la gouvernance démocratique dans le monde.