政府、テクノロジープラットフォーム、あるいは他の誰かがディープフェイクの拡散を制御できるのでしょうか?

変化の激しい米国の政治環境において、急速に近づいている2024年の大統領選挙は、AIが生成したディープフェイクの陰険な台頭との戦いという新たな種類の戦いの場になりつつある。現実を歪曲する能力を持つこれらの洗練された合成構造は、州指導者が有権者情報の完全性を維持するための断固たる措置を推進する中、全国で立法マラソンを開始した。ディープフェイクを扱う連邦法はなく、立法は各州に委ねられている。連邦選挙委員会（FEC）のトップは、この問題が今年後半に解決に至るとの見通しを示している。この予測は、2024年の選挙期間のかなりの期間、この種の誤情報が抑制されないまま展開される可能性があることを示唆している。

最近、選挙の公正性という共通のビジョンで党派間の溝を埋めるため、ミネソタ州のエイミー・クロブシャー上院議員とアラスカ州のリサ・マーカウスキー上院議員が協力しました。彼らの共同立法活動は、政治広告のデジタル最前線に真っ向から取り組む先進的な法案を提示しています。この法案は、免責事項を強制することで、AI 生成の政治広告の曖昧な水域に待望の透明性をもたらすでしょう。しかし、それだけではありません。この法案は、連邦選挙委員会 (FEC) にデジタル監視機関としての権限を与え、違反が見過ごされたり対処されなかったりしないようにします。これは、私たちが次の選挙運動の波に突入する中で、透明性を守るための大胆な一歩です。

予想通り、政治的な動機によるディープフェイクが大量に出回るとしたら、今年の選挙の年はどうなるのでしょうか? どうすれば人々は影響を受けずに済むのでしょうか? 簡単な答えはありません。

ディープフェイクの解読: 合成の脅威を理解する

ディープフェイク（「ディープラーニング」と「フェイク」を組み合わせた言葉）とは、人の似姿を驚くほど正確に再現するように設計された、人工的に生成された音声、画像、または動画を指します。2 月のニューハンプシャー州の事件は、その悲惨な例です。AI によって生成された音声がジョー・バイデン大統領を不気味に模倣し、偽の投票情報で何千人もの人々を騙しました。この事件は、情報に基づいた積極的な立法が緊急に必要であることを強調しています。

「今週火曜日、驚くべき展開がありました。『今日のあなたの投票はドナルド・トランプ氏を大統領に復帰させるための一歩です』とラジオで宣言する声が聞こえたのです」と、ディーン・フィリップス下院議員（民主党、ミネソタ州）のチームの関係者がNBCニュースのインタビューで語った。バイデン氏との対決で劣勢の候補者のために働いていたこの人物は、陣営の承諾も承認もなく、独断でこの広告を企画したと明かした。

共和党側の選挙活動に目を向けると、トランプ陣営から衝撃的な音声が出てきた。このクリップは巧みに編集されており、フロリダ州知事のロン・デサンティスが他でもないアドルフ・ヒトラーと対話しているかのような錯覚を与えるものだった。

デサンティス陣営は報復措置として、トランプ大統領がアンソニー・ファウチ博士と温かく抱き合っている加工写真を配布し、ソーシャルメディア・プラットフォームに波紋を広げた。

立法府の急増：有権者を保護するための法案が100件以上

選挙の公正さを守る団体として、投票権研究所は増え続ける立法措置を注意深く監視しています。40 州で 100 を超える法案が提出される中、AI が生成した選挙偽情報と戦う取り組みは揺るぎないようです。法案が提出または可決されるたびに、民主主義の基盤を強化しなければならないという切迫感が議員の間にはっきりと表れています。これは急速に勢いを増している立法運動であり、デジタル操作によって投げかけられた欺瞞の影から私たちの民主的なプロセスを守るという集団的な決意を示しています。

新たな立法枠組み

ロボコール事件をきっかけに、立法活動が活発化した。アリゾナ州、フロリダ州、ウィスコンシン州などの州が現在、最前線に立っており、各州がそれぞれ異なる規制の傾向を示しており、こうした技術的策略に対抗するために採用されている多様なアプローチを象徴している。

ウィスコンシン州は最近、政治関連団体にAI生成コンテンツの開示を義務付ける法律を制定し、フロリダ州は同様の法案に対する知事の署名を待っている。一方アリゾナ州は、規制と憲法上の権利の間で綱渡りをしており、一定の条件下でAI政治メディアにラベルを記載しないことを重罪とみなす法案を作成している。アリゾナ州で検討中の別の法案は、不当な扱いを受けた個人がコンテンツの作成者に対して民事訴訟を起こす道を開き、金銭的補償を得る可能性を提供している。

2019年以降、カリフォルニア州とテキサス州の両州で法律が制定されました。

インディアナ州では、超党派の支持を集めた法案が知事室に提出されようとしている。法案が可決されれば、ディープフェイク技術を採用した広告には「このメディアの一部はデジタル的に修正または合成されています」と明記することが義務付けられる。この指示は画像、動画、音声コンテンツに適用される。州および連邦レベルの候補者で、こうしたコンテンツの影響を受けた人は、民事訴訟を通じて賠償を求める法的根拠を持つことになる。

バイデン大統領を装った詐欺的なロボコール事件にヒントを得て、カンザス州で超党派の取り組みが行われた。共和党の州議会議員パット・プロクター氏が民主党の指導者とともに先頭に立って、彼らはディープフェイクのジレンマに真正面から取り組む法案を推し進めた。この法案はディープフェイク広告の開示義務を求めただけでなく、悪意を持って有権者に投票を思いとどまらせる目的で国務長官などの選挙管理官になりすます者に対して厳しい罰則を提案した。現在、法案は廃案になっているが、プロクター氏によると、法案は復活できるという。

法律を超えて偽情報の脅威に立ち向かう

立法は、AI が生成したディープフェイクに対処するために必要な多面的な戦略のほんの一面です。NewDeal のような団体は、選挙管理者に偽情報キャンペーンに効果的に対抗するためのツールを提供する取り組みの先頭に立っています。ニューメキシコ州とミシガン州の州務長官が開始したようなインシデント対応の準備と国民の意識向上キャンペーンは、有権者を教育し、民主主義の基盤を強化する上で不可欠な要素です。

大手テクノロジー企業の透明性向上の動き

大手テクノロジー企業は、オンライン コンテンツの信頼性に関する新しい基準を積極的に設定しており、AI の影響を受けた広告に特に重点的に取り組んでいます。Facebook、Instagram、Threads などのソーシャル プラットフォームを統括する Meta は、誤解を招く広告や文脈に欠ける広告、特に選挙プロセスを損なったり選挙結果を早合点したりする可能性のある広告を熱心に削除しています。AI によって生成されたすべての広告は、この厳格な精査の対象となります。

こうした取り組みと足並みを揃えて、Google は選挙広告で使用される AI 強化画像、動画、音声には透明性が伴わなければならないと宣言しました。11 月以降、こうしたコンテンツには明示的な開示が必要になります。Google 傘下の YouTube は、コンテンツがデジタル操作されているかどうかをユーザーが認識できるようにすることで透明性に取り組んでいます。Meta と Google によるこうした戦略的な動きは、特に政治分野において、私たちが消費するデジタル コンテンツの透明性と誠実さに向けた重要な転換を示しています。

AI技術の影響がますます強まる選挙の年という複雑な状況を切り抜ける中で、疑問が残る。州法はディープフェイクの拡散を制御できるほど十分に堅牢なのか？連邦選挙委員会は、国家的な解決策は今年後半まで出ない可能性があると示唆しており、こうしたデジタル詐欺に対する防壁を築く責任は州議会、テクノロジー企業、そして国民にある。

各州で提案され、施行された立法努力は、防御策の寄せ集めであり、政治の場で公正な競争を確保するために必要な厳格な措置を垣間見せるものもある。テクノロジー企業の透明性と誠実さへの取り組みも、切望されている監視の層を追加している。しかし、これらの措置はどれほど洗練されているとしても、完全には通れないものではない。特にテクノロジーが猛スピードで進歩する中で、常に新たな課題や閉じるべき抜け穴が出てくるだろう。

このような状況では、有権者の教育と意識啓発が法律そのものと同じくらい重要になります。本物のメディアと合成メディアを見分ける方法に関する情報の普及と、私たちが消費し共有するものを見極める目を持つことが、最も重要です。AI が生成した誤情報の増大に対する私たちの耐性を形成するのは、法律、企業、個人の行動を組み合わせた共同の取り組みです。

2024年の選挙が近づくにつれ、ディープフェイク現象に対する万能薬がないことは明らかです。しかし、急増する立法努力と、テクノロジー企業の積極的な対策、そして国民の警戒的な参加が相まって、強力な防御の土台が整いました。これらは、デジタルプロパガンダの濁流をうまく乗り切るための十分な情報を持つ有権者を育成し、選挙の神聖さを守りたいと私たちが期待できる基盤です。

結論として、立法環境がまだ形成中で、デジタル戦場が常に変化している中、私たち全員の警戒心と適応力が鍵となります。議員、技術者、そしてすべての有権者が今日取る行動が、ディープフェイクに対する私たちの防御の有効性を決定します。今年の選挙の年、そしてそれ以降も、真実の保護は共通の責任であり、私たちはそれを守り続けるよう努力し続けなければなりません。