Was Gouverneur Newsoms KI-Deepfake-Vorschriften für die US-Wahlen 2024 bedeuten

Der Gouverneur von Kalifornien, Gavin Newsom, hat vor den US-Wahlen 2024 drei neue Gesetze erlassen, die den Einsatz von KI-Deepfakes in politischen Kampagnen unterbinden.

Der Gouverneur von Kalifornien, Gavin Newsom, hat letzten Monat drei wichtige Gesetze verabschiedet, um den Einsatz künstlicher Intelligenz (KI) bei der Erstellung irreführender „Deepfake“-Bilder und -Videos für politische Kampagnen einzudämmen. Während sich der Staat auf die Wahlen im November vorbereitet, erweitern die Maßnahmen von Gouverneur Newsom den Rechtsrahmen Kaliforniens im Bereich KI. Fünf KI-bezogene Gesetze wurden verabschiedet – drei davon befassen sich mit der Verbreitung von wahlbezogenen Fehlinformationen. Die strengeren Vorschriften erfolgen nach einem aufsehenerregenden Vorfall mit X-CEO Elon Musk, der eine Deepfake-Video in dem Vizepräsidentin Kamala Harris fälschlicherweise dargestellt wurde, sie selbst sei eine „Diversity-Mitarbeiterin“.

Zu den verabschiedeten Regelungen gehört der Defending Democracy from Deepfake Deception Act ( AB 2655 ) fordert, dass Social-Media-Plattformen ihre Nutzer daran hindern, „irreführende“ Inhalte zu veröffentlichen, darunter manipulierte Medien, die die Worte oder Handlungen einer Person des öffentlichen Lebens falsch darstellen. Das Gesetz baut auf einem Gesetz aus dem Jahr 2019 auf ( AB 730 ), das von Newsom unterzeichnet wurde und die Verbreitung irreführender Medien, die politische Kandidaten herabwürdigen sollen, untersagt. Ein weiteres Gesetz, AB 2839, das als „Notfallmaßnahme“ bezeichnet wird, verbietet die Verbreitung falscher Inhalte innerhalb von 120 Tagen vor einer Wahl in Kalifornien. Ein drittes Gesetz, AB 2355, schreibt vor, dass mithilfe von KI erstellte politische Anzeigen oder Videos diese Informationen den Zuschauern offenlegen müssen, um einen transparenten politischen Wahlkampf zu gewährleisten.

„Die Wahrung der Integrität von Wahlen ist für die Demokratie von wesentlicher Bedeutung, und es ist entscheidend, dass wir sicherstellen, dass KI nicht eingesetzt wird, um das Vertrauen der Öffentlichkeit durch Desinformation zu untergraben – insbesondere im heutigen angespannten politischen Klima“, sagte er in einem __ Blogbeitrag __. „Diese Maßnahmen werden dazu beitragen, den schädlichen Einsatz von Deepfakes in politischen Anzeigen und anderen Inhalten zu bekämpfen, einem von mehreren Bereichen, in denen der Staat proaktiv ist, um transparente und vertrauenswürdige KI zu fördern.“

Die Gesetze kommen zu einem entscheidenden Zeitpunkt, da Deepfake-Inhalte, die durch generative KI-Modelle (GenAI) erstellt wurden, sich so weit entwickelt haben, dass das menschliche Auge nicht mehr zwischen echten und KI-generierten Inhalten unterscheiden kann. Laut einer Studie aus dem Jahr 2024 Bericht der Strafverfolgungsbehörde der Europäischen Union , könnten bis 2026 90 % der Online-Inhalte synthetisch generiert werden. Ebenso zeigt eine aktuelle KPMG-Studie mit dem Titel „ Deepfakes: Eine echte Bedrohung , stellte fest, dass Deepfakes in den letzten Jahren um 900 % zugenommen haben.

Newsoms Gesetzesvorhaben haben jedoch in den sozialen Medien eine Debatte über die Zukunft der Technologie entfacht. Während die Befürworter die Gesetze als entscheidend für den Schutz der Wähler vor Falschinformationen über die Wahl ansehen, argumentieren Kritiker, darunter Musk, dass solche Gesetze die freie Meinungsäußerung unterdrücken. In einem Beitrag auf X verglich Musk Gouverneur Newsom mit „The Joker“.

„KI-generierte Inhalte gehen über das hinaus, was wir als real, als Nachahmung oder als Parodie begreifen können. Klar ist, dass KI-generierte Inhalte verwendet werden, um absichtlich zu täuschen. Zumindest müssen wir Systeme einrichten, die Kontext zu KI-generierten Aufnahmen, Videos und Bildern liefern.“ Kevin Guo , CEO und Mitbegründer der Inhaltserkennungsplattform genA.I. Bienenstock , sagte mir. „Plattformen und Organisationen müssen diese Modelle übernehmen, um Verbraucher zu schützen und zu verhindern, dass groß angelegte Desinformationskampagnen Wahlen beeinflussen.“

Abgeordnete Gail Pellerin, Autorin des Gesetzentwurfs AB 2839, betonte, wie dringend es sei, die Gefahren von Deepfakes anzugehen. „Da es weniger als 50 Tage bis zur Parlamentswahl sind, besteht dringender Bedarf an Schutz vor irreführenden, digital veränderten Inhalten, die die Wahl beeinflussen können. Mit der Verabschiedung von AB 2839 bezieht Kalifornien Stellung gegen den manipulativen Einsatz von Deepfake-Technologie zur Täuschung von Wählern“, sagte sie. sagte in einer Erklärung.

Die Deepfake-Gesetze Kaliforniens könnten als Modell für andere Bundesstaaten dienen. Während 20 Bundesstaaten, darunter New York, Texas und Florida, bereits Gesetze erlassen haben, unterschiedliche Regulierungsgrade Bei wahlbezogenen Deepfakes bleibt die Wirksamkeit dieser Gesetze eine große Frage. Tech-Giganten wie Meta und X haben kürzlich wurde kritisiert für inkonsistente genA.I.-Inhaltsmoderation, während andere wie Microsoft bereits spezielle KI-Modelle integriert haben, wie Azure AI-Inhaltssicherheit , um KI-generierte Inhalte zu überwachen und zu moderieren. Technikexperten meinen, dass die Verlängerung der Schutzfrist auf 120 Tage zwar ein Schritt in die richtige Richtung sei, aber allein die Verbreitung KI-gesteuerter Fehlinformationen nicht stoppen werde.

„Die Schwierigkeit besteht nicht nur darin, Gesetze zu schaffen, sondern sie auch auf digitalen Plattformen durchzusetzen, die mehrere nationale und internationale Rechtsräume umfassen. Es ist von entscheidender Bedeutung, Rahmenbedingungen zu schaffen, die anpassungsfähig genug sind, um den raschen Fortschritten in der KI Rechnung zu tragen“, Dominik Heinrich , Leiter des KI-Designs bei Coca-Cola, sagte mir. „Rechtliche Rahmenbedingungen sind zwar wichtig, werden aber immer hinter der technologischen Entwicklung zurückbleiben. Wir können uns nicht allein auf Gesetze verlassen; wir müssen uns darauf konzentrieren, KI-Systeme zu entwickeln, die sich selbst erkennen und in Echtzeit anpassen können. Wir werden bald eine Welt erleben, in der KI die KI unter menschlicher Aufsicht regiert.“

Der Fall unterstreicht die zunehmende Komplexität, KI-Innovationen mit gesellschaftlichen Schutzmaßnahmen in Einklang zu bringen. Im Moment will Kalifornien mit gutem Beispiel vorangehen, aber ob diese Maßnahmen KI-gesteuerte Desinformation wirksam bekämpfen oder die freie Meinungsäußerung einschränken, wird die Zukunft der KI in politischen Kampagnen für die kommenden Jahre prägen.