選挙における GenAI: 選挙運動の再構築、倫理的懸念の高まり

2024年は、1月のバングラデシュから12月のガーナまで、世界中で選挙が行われ、最大20億人が投票する年です。デート、教育、創造性、カスタマーサービス、ソーシャルメディアなど、人間の行動と産業のあらゆる側面がジェネレーティブAI（AI）の影響を受けているため、どこで行われる選挙でもジェネレーティブAIが欠かせません。

Gen AI は、選挙活動の実施方法、情報の普及方法、有権者への影響方法を変えつつある。例えば、12 月には、パキスタンの元首相で投獄中のイムラン・カーン氏が所属する政党が集会の開催を禁止されたが、バーチャル集会で AI が生成した音声クリップを使って演説した。この演説は、カーン氏が獄中で承認した文書版から生成されたものだった。

この技術は、抑圧に直面している人々に発言権を与えている。野党指導者が投獄、追放、あるいは死亡という不幸に見舞われることが多いベラルーシでは、野党は、OpenAI の ChatGPT を使用して構築された、報復を恐れることなく自由に発言できる仮想候補者である AI ボット、ヤス・ガスパダルを擁立した。

しかし、説得力のあるメッセージの作成から特定の人口統計のターゲット設定まで、この技術を適用してもすべてがうまくいくわけではありません。その結果、世界中の政治アナリストや政策立案者の間で興奮と不安の両方の感情が生まれています。

2024 CrowdStrike グローバル脅威レポートによると、生成 AI の悪用は 2024 年に起こりそうです。レポートでは、2024 年に 40 以上の民主選挙が予定されており、国家や電子犯罪の敵対者が選挙プロセスを妨害したり、有権者の意見を左右したりする機会が数多くあると予測しています。中国、ロシア、イランの国家主体は、地政学的紛争や世界選挙を背景に、混乱を引き起こすために誤報や偽情報の活動を行う可能性が非常に高いです。

パーソナライズされたキャンペーン

生成 AI が選挙に及ぼす最も大きな影響の 1 つは、これまでにない規模でパーソナライズされた選挙運動を促進できることです。膨大な有権者情報のデータセットを分析することで、AI アルゴリズムは高度にパーソナライズされたメッセージ、広告、およびアウトリーチ戦略を生成できます。このアプローチにより、政治キャンペーンは個人の人口統計、関心、過去の行動に基づいて個人を細かくターゲットにすることができ、アウトリーチ活動を最大限に活用できます。

3月、メキシコの市民団体Sociedad Civil de MéxicoがXにAI生成画像を投稿した際、ソーシャルメディア上で政治的なスターバックスのカップが話題になった。その画像には、#Xochitl2024の文字が書かれたカラフルなスターバックスのカップと、ハッシュタグ#StarbucksQueremosTazaXG (#StarbucksWeWantACupXG)が描かれていた。メキシコの野党大統領候補ショチトル・ガルベスは、Xのフォロワーに「カフェ・シン・ミエド（恐れのないコーヒー）」を注文するよう求めた。すぐにユーザーらがAI生成画像をシェアし、このトレンドは広まった。その後、スターバックスは、このデザインはコーヒーブランドに由来するものではないと述べた。

これは、視覚政治を行うまったく新しい方法の転換点であり、おそらく政治キャンペーン中にマルチメディア作品を消費する方法を根本的に変えるものとなるだろう。

ミシガン大学准教授ジョヨジート・パル

インドでは、事態は公式になったとアルジャジーラは伝えている。2月には、インド国民会議（INC）がナレンドラ・モディ首相をパロディ化したインスタグラム動画が150万回以上再生された。同じ日に、BJPの公式アカウントは、AIを使って亡くなった愛国歌手マヘンドラ・カプールの声を複製し、首相の功績について歌う動画をアップロードした。

「これは、視覚的な政治を行うまったく新しい方法の転換点であり、おそらく政治キャンペーン中にマルチメディア作品を消費する方法を根本的に変えるものとなるだろう」とミシガン大学のジョヨジート・パル准教授は語った。

偽情報と誤情報

しかし、生成型 AI の普及は、偽情報や誤情報の拡散に関する懸念も引き起こしています。人間のような説得力のあるテキストを生成する能力により、悪意のある行為者は AI を悪用して虚偽の物語を作成して広め、不和を煽り、世論を操作することができます。AI によって生成された誤情報と戦うという課題は、世界中の民主的プロセスの完全性に重大な脅威をもたらします。

インドネシアでは、フェイスブックに偽造された動画が投稿され、次期副大統領が政府給付金の受給者を侮辱する様子が映し出された。米国では、 ジョー・バイデン大統領が有権者に家に留まるよう求めるAIによる自動電話が視聴者に表示された。

2月、英国を拠点とするシンクタンク、戦略対話研究所（ISD）は、中国政府が運営する「スパムフラージュ」と呼ばれる活動を明らかにした。これは、今年の米国選挙を前に、AIが生成した画像を共有して誤報を広めようとする活動である。

ディープフェイク動画は、選挙が目白押しの今年、横行している。 パキスタン、台湾、バングラデシュなどいくつかの国では、そうした動画が有権者の間で誤った情報を広める事件が起きている。

倫理的および規制上の課題

選挙における生成型 AI の台頭により、その倫理的影響と規制監督の必要性をめぐる議論が巻き起こっています。透明性、説明責任、民主主義規範の保護に関する疑問が、政策立案者と技術者の間で議論の中心になっています。

各国は、自国の文化を守りながら経済的可能性を活用するために、独自のAIインフラを持つ必要がある。

エヌビディア CEO ジェンスン・フアン

NvidiaのCEO、ジェンスン・フアン氏が述べたように、各国は自国の文化を守りながら経済的潜在力を活用するために独自のAIインフラを持つ必要がある。AIの潜在力を政治キャンペーンに活用しながら、その悪影響を軽減することのバランスを取ることは、関係者にとって依然として重要な課題である。

欧州連合（EU）は3月にAI法を制定し、最初の公式な措置を講じた。同法によれば、人々の基本的権利に高いリスクをもたらす使用事例は制限される。「容認できないリスク」をもたらすAIも禁止される。これには、AIシステムが「行動を歪め、情報に基づく意思決定を阻害するために潜在意識に訴える、操作的、または欺瞞的な手法」を展開する、または弱い立場の人々を搾取する使用事例が含まれる。

インドでは、電子情報技術担当国務大臣ラジーブ・チャンドラシェカール氏が、AI規制の枠組みについて今年6月から7月にかけて議論、討論する予定であると述べた。

テクノロジー企業も、AIが生成したコンテンツによる被害を抑制するための努力を続けています。

C2PA と呼ばれるオープンソースのインターネット プロトコルは、暗号化を使用してコンテンツの出所に関する詳細をエンコードします。つまり、コンテンツの出所や作成者などの情報が利用可能になります。Google、Microsoft、Meta などの大手テクノロジー企業は、すでにこのプロトコルに参加していることを発表しています。

選挙政治における Gen AI の利用が進むにつれ、その影響は今後数年間でさらに強まるばかりです。AI 技術の進歩とアルゴリズムの高度化により、政治運動と有権者の関与の原動力は変化し続けるでしょう。この急速に変化する状況を切り抜けるには、政策立案者、選挙当局、市民社会が協力して、民主的プロセスの完全性を守る強力な規制枠組みと倫理ガイドラインを確立する必要があります。

結局のところ、私たちは AI についてどれだけ知っているのでしょうか?

Gen AI、特にGPT（Generative Pre-trained Transformer）のような言語モデルは、間違いなく政治の語り口を形作っています。これらのモデルは、膨大な量のテキストを生成し、人間のような言語を模倣し、スピーチからソーシャルメディアの投稿まで、さまざまなコンテンツを生成することができます。特定の有権者層に響くようにカスタマイズされたメッセージを作成し、重要な問題に関する世論に効果的に影響を与えることで、このテクノロジーは運動家たちの手に大きな力を与えています。

しかし、人々が見たものを理解しているのか、それとも盲目的に信じているのかを問うことは重要です。ナレンドラ・モディ首相自身もディープフェイクについて懸念を表明し、メディアに対し、一般の人々にGen AIのリスクについて啓蒙するよう呼びかけました。

イプソスの世論調査データによると、個人の AI 理解には遅れがあり、この傾向は世界的に見られます。31 か国を対象とした調査では、平均して約 70% の人が AI をよく理解していると考えていますが、AI を使用した製品やサービスの名前を挙げられる人は 50% にすぎません。たとえば、インドではこの数字は 64% です。また、興味深いことに、新興市場の人々は AI テクノロジーに対する信頼度が高く、AI の短所よりも長所に目を向ける傾向があります。

生成型 AI の台頭は、選挙の争点と勝敗のあり方を大きく変えるものです。AI は、パーソナライズされた選挙運動や有権者の関与に前例のない機会を提供する一方で、偽情報、プライバシー、民主的な説明責任の面で大きな課題ももたらします。社会がこの新しい現実に適応するにつれ、選挙プロセスにおける AI の責任ある導入は、世界中の民主的統治の完全性と正当性を維持する上で極めて重要になります。