GenAI 在选举中的应用：重塑竞选活动，引发道德担忧

2024 年，全球将举行选举，从 1 月份的孟加拉国到 12 月份的加纳，将有多达 20 亿人参与投票。随着人类行为和行业的方方面面都受到生成式人工智能 (AI) 的影响，包括约会、教育、创造力、客户服务和社交媒体，无论在哪里举行选举，都不会缺少生成式人工智能。

人工智能正在重塑竞选活动、信息传播和选民影响的方式。例如，去年 12 月，巴基斯坦被监禁的前总理伊姆兰·汗（其政党被禁止举行公开集会）使用人工智能生成的音频片段在虚拟集会上发表讲话。该演讲是根据伊姆兰·汗在监狱中批准的书面版本生成的。

这项技术让那些面临压迫的人有了发声的机会。在白俄罗斯，反对派领导人经常遭遇被监禁、流放或死亡的不幸，反对派推出了一个人工智能机器人 Yas Gaspadar，这是一个使用 OpenAI 的 ChatGPT 构建的虚拟候选人，可以自由发言而不必担心受到报复。

然而，从制作有说服力的信息到针对特定人群，应用这项技术并非一帆风顺。全球政治分析家和政策制定者对此既感到兴奋，又感到忧虑。

根据2024 年 CrowdStrike 全球威胁报告，生成式人工智能的利用将在 2024 年出现。报告预测，2024 年将举行 40 多场民主选举，民族国家和网络犯罪分子将有大量机会破坏选举进程或左右选民意见。来自中国、俄罗斯和伊朗的民族国家行为者很有可能在地缘冲突和全球选举的背景下进行虚假或虚假信息行动，以制造混乱。

个性化竞选

生成式人工智能对选举最重要的影响之一是它能够以前所未有的规模促进个性化竞选活动。通过分析大量选民信息数据集，人工智能算法可以生成高度个性化的信息、广告和推广策略。通过这种方法，政治竞选活动可以根据个人的人口统计、兴趣和过去的行为对其进行微观定位，从而最大限度地发挥推广工作的效果。

今年 3 月，一张政治性的星巴克咖啡杯在社交媒体上引起热议。当时，墨西哥公民组织墨西哥公民社会在 X 上发布了一张人工智能生成的图片，图片中是一个彩色的星巴克咖啡杯，上面印有 #Xochitl2024 字样，并带有标签 #StarbucksQueremosTazaXG (#StarbucksWeWantACupXG)。墨西哥反对派总统候选人 Xóchitl Gálvez 要求她的 X 粉丝们点一杯“café sin miedo”（无所畏惧的咖啡）。用户们很快就分享了这张人工智能生成的图片，这一趋势开始流行起来。后来，星巴克表示，该设计并非源自该咖啡品牌。

这是一个全新的视觉政治运作方式的转折点，可以说，它将从根本上改变我们在政治竞选期间消费多媒体产品的方式。

密歇根大学副教授 Joyojeet Pal

据半岛电视台报道，在印度，事情已经变得官方化。2 月，印度国民大会党 (INC) 在 Instagram 上发布了一段恶搞总理纳伦德拉·莫迪的视频，该视频的观看次数超过 150 万次。就在同一天，印度人民党官方账号上传了一段视频，该视频利用人工智能克隆已故爱国歌手马亨德拉·卡普尔的声音，歌颂总理的成就。

密歇根大学副教授乔约吉特·帕尔 (Joyojeet Pal) 表示：“这是一种全新的视觉政治开展方式的转折点，可以说它将从根本上改变我们在政治运动中消费多媒体产品的方式。”

虚假信息和错误信息

然而，生成式人工智能的普及也引发了人们对虚假信息和错误信息传播的担忧。恶意行为者可以利用人工智能生成令人信服的类人文本，制造和传播虚假叙述、挑起不和并操纵舆论。打击人工智能生成的错误信息的挑战对全球民主进程的完整性构成了重大威胁。

在印度尼西亚，Facebook 上出现了一段伪造的视频，视频中候任副总统侮辱了政府福利的受益者。在美国，观众看到了人工智能生成的自动电话，总统乔·拜登要求选民呆在家里。

今年 2 月，英国智库战略对话研究所 (ISD) 发现了中国政府发起的“垃圾邮件”活动，即通过分享人工智能生成的图像来在今年美国大选前传播错误信息。

今年选举纷扰，深度伪造视频泛滥。 巴基斯坦、台湾和孟加拉国等多个国家都曾发生过此类视频在选民中传播虚假信息的事件。

道德与监管挑战

生成式人工智能在选举中的兴起引发了关于其伦理影响和监管必要性的争论。透明度、问责制和维护民主规范的问题已成为政策制定者和技术人员讨论的核心。

每个国家都需要拥有自己的人工智能基础设施，以充分利用经济潜力，同时保护自己的文化

Nvidia 首席执行官黄仁勋

正如Nvidia 首席执行官黄仁勋所说，每个国家都需要拥有自己的 AI 基础设施，以充分利用其经济潜力，同时保护自己的文化。在利用 AI 进行政治竞选的潜力与减轻其负面影响之间取得平衡仍然是利益相关者面临的关键挑战。

欧盟 (EU) 已迈出第一步，于 3 月制定了《人工智能法案》 。根据该法案，对人们的基本权利构成高风险的用例将受到限制。构成“不可接受风险”的人工智能也将面临禁令。这包括人工智能系统部署“潜意识、操纵或欺骗技术来扭曲行为并损害知情决策”或利用弱势群体的用例。

印度电子和信息技术部国务部长拉吉夫·钱德拉谢卡尔（Rajeev Chandrashekhar）表示， 将在今年6月至7月对人工智能监管框架进行讨论和辩论。

科技公司也在努力遏制人工智能生成内容所造成的损害。

一个名为 C2PA 的开源互联网协议使用加密技术对内容来源的详细信息进行编码。这意味着我们可以获得内容来源以及内容的创建者等信息。谷歌、微软和 Meta 等科技巨头已经宣布加入该协议。

随着人工智能在选举政治中的持续应用，其影响在未来几年只会愈演愈烈。人工智能技术的进步和算法的日益复杂化将继续改变政治竞选和选民参与的动态。为了应对这一迅速变化的形势，政策制定者、选举当局和民间社会必须合作建立强有力的监管框架和道德准则，以保障民主进程的完整性。

毕竟，我们对人工智能了解多少？

人工智能，尤其是像 GPT（生成式预训练 Transformer）这样的语言模型，无疑正在塑造政治叙事。这些模型可以生成大量文本，模仿人类语言，并生成从演讲到社交媒体帖子的各种内容。通过制作与特定选民群体产生共鸣的信息并有效影响关键问题的舆论，这项技术赋予了竞选者巨大的权力。

然而，我们必须问一问，人们是否理解他们所看到的内容，还是盲目相信。印度总理纳伦德拉·莫迪本人对深度伪造表示担忧，并呼吁媒体教育公众了解人工智能的风险。

根据益普索民意调查数据，人们对人工智能的理解存在滞后，这一观察结果是全球性的。在一项针对 31 个国家的调查中，平均约 70% 的人认为他们对人工智能有很好的理解，但只有 50% 的人能说出使用人工智能的产品和服务。例如，在印度，这一数字为 64%。此外，有趣的是，新兴市场的民众对人工智能技术的信任度更高。此外，他们往往看到人工智能的优点而不是缺点。

生成式人工智能的兴起代表着选举竞争和获胜方式的深刻转变。人工智能虽然为个性化竞选和选民参与提供了前所未有的机会，但也在虚假信息、隐私和民主问责方面带来了重大挑战。随着社会适应这一新现实，在选举过程中负责任地部署人工智能对于维护全球民主治理的完整性和合法性至关重要。