Böswillige künstliche Intelligenz ermöglicht Deepfake-Entführungsbetrug

Das Leitbild für diesen Artikel wurde vomAI Image Generator von HackerNoon über die Eingabeaufforderung „böser Roboter“ generiert.

Anfang dieses Jahres erlebte Jennifer DeStefano, Mutter aus Scottsdale, Arizona, einen Schrecken, dem keine Mutter jemals ausgesetzt sein sollte – den Klang der schluchzenden Stimme ihrer Tochter, die weinte, sie sei entführt worden.

Aber es war nicht ihre Tochter am Telefon. Es handelte sich um einen KI- Deepfake, der so überzeugend war, dass DeStefano bereit war, 50.000 US-Dollar an die Betrüger zu übergeben, die ihr sagten, sie würden ihre Tochter töten, wenn sie nicht zahle.

Heute gab DeStafano eine tief empfundene Aussage vor dem US-Senat ab und übermittelte ihre erschütternde und erschreckende Geschichte dem Justizunterausschuss für Menschenrechte und Recht .

„Je länger diese Form des Terrors straflos bleibt, desto ungeheuerlicher wird sie. Der Tiefe des Bösen, das KI ermöglichen kann, sind keine Grenzen gesetzt.“

„ Künstliche Intelligenz wird als Waffe eingesetzt, um nicht nur in der amerikanischen Öffentlichkeit, sondern in der gesamten Weltgemeinschaft Angst und Schrecken zu schüren, indem sie aus dem, was wir als vertraut kennen, Kapital schlägt und es neu definiert“, sagte DeStefano.

„KI revolutioniert und enträtselt die Grundfesten unseres sozialen Gefüges, indem sie Zweifel und Angst in etwas erzeugt, das einst nie in Frage gestellt wurde – dem Klang der Stimme eines geliebten Menschen“, fügte sie hinzu.

Nachdem sie die Geschichte ihrer schrecklichen Erfahrung mit den Entführungs- und Erpressungsbetrügern, die sie im April an AZ Family weitergab, noch einmal erzählt hatte, erklärte die Mutter aus Arizona, wie echt der Deepfake-Stimmenklon zu sein schien:

„ Es war die Stimme meiner Tochter. Es waren ihre Schreie; es war ihr Schluchzen. Es war die Art, wie sie sprach. Ich werde diese Stimme und die verzweifelten Hilferufe nie aus meinem Kopf verbannen können .“

„Wir können nicht länger darauf vertrauen, dass „Sehen Glauben bedeutet“, oder „Ich habe es mit meinen eigenen Ohren gehört“ oder auch nur dem Klang der Stimme Ihres eigenen Kindes. “

In seiner Stellungnahme zur Zukunft der generativen KI, die für schändliche Zwecke eingesetzt wird, warnte DeStefano: „ Je länger diese Form des Terrors ungestraft bleibt, desto ungeheuerlicher wird sie.“ Es gibt keine Grenzen für die Tiefe des Bösen, die KI ermöglichen kann .“

Sie fuhr fort: „Während sich unsere Welt rasend schnell bewegt, wird das menschliche Element der Vertrautheit, das die Grundlage für unser soziales Gefüge dessen legt, was bekannt ist und was Wahrheit ist, durch KI revolutioniert – einige zum Guten, andere zum Guten.“ teuflisch.

„Wir können nicht länger auf ‚Sehen ist Glauben‘ oder ‚Ich habe es mit meinen eigenen Ohren gehört‘ oder sogar auf den Klang der Stimme Ihres eigenen Kindes vertrauen.“

Als DeStefano herausfand, dass ihre Tochter nicht entführt worden war, rief sie die Polizei, aber sie sagten ihr, dass sie wenig tun könnten, weil es nur ein Scherzanruf sei und es keine tatsächliche Entführung oder einen Geldaustausch gegeben habe.

„ Ist das unsere neue Normalität ?“ sie fragte.

„ Ist das die Zukunft, die wir schaffen, indem wir den Missbrauch künstlicher Intelligenz ohne Konsequenzen und ohne Regulierung ermöglichen ?“

„Wenn es unkontrolliert und unreguliert bleibt und wir schutzlos und ohne Konsequenzen bleiben, wird es unser Verständnis und unsere Wahrnehmung dessen, was Wahrheit ist und was nicht, neu definieren .“

Nach ihrer Eröffnungsrede wurde DeStefano erst ganz am Ende der Anhörung zur Befragung aufgefordert, wo sie wiederholte, dass „nicht jede KI böse ist“ und dass es viele „hoffnungsvolle Fortschritte in der KI“ gebe, die das Leben der Menschen verbessern könnten.

Während DeStefano den erheblichen Schaden, der dadurch entsteht, dass böswillige Akteure KI auf erschreckende Weise einsetzen, klar darlegte, sagte Microsoft -Chefökonom Michael Schwarz im Mai vor dem Weltwirtschaftsforum (WEF), dass KI nicht reguliert werden sollte, bis ein erheblicher Schaden entsteht .

„Wir sollten die KI nicht regulieren, bis wir feststellen, dass tatsächlich ein erheblicher Schaden entsteht – und keine imaginären Szenarien.“

Microsoft-Chefökonom Michael Schwarz beim WEF Growth Summit 2023

In seiner Rede auf dem WEF Growth Summit 2023 während einer Podiumsdiskussion zum Thema „ Wachstums-Hotspots: Die generative KI-Revolution nutzen “ argumentierte Michael Schwarz von Microsoft, dass es bei der KI am besten sei, sie nicht zu regulieren, bis etwas Schlimmes passiert, um dies zu verhindern den potenziell größeren Nutzen unterdrücken.

„ Ich bin ziemlich zuversichtlich, dass KI von schlechten Akteuren genutzt wird; und ja, es wird echten Schaden anrichten; Und ja, wir müssen sehr vorsichtig und sehr wachsam sein “, sagte Schwarz dem WEF-Gremium.

Auf die Frage nach der Regulierung generativer KI erklärte der Microsoft-Chefökonom:

„Was sollte unsere Philosophie bei der Regulierung von KI sein? Natürlich müssen wir es regulieren, und ich denke, meine Philosophie ist sehr einfach.

„ Wir sollten KI so regulieren, dass wir das Baby nicht mit dem Bade wegschütten .“

„Deshalb denke ich, dass Regulierung nicht auf abstrakten Prinzipien basieren sollte.

„Als Ökonom mag ich Effizienz, daher sollten wir die KI zunächst nicht regulieren, bis wir feststellen, dass tatsächlich ein erheblicher Schaden entsteht – und keine imaginären Szenarien “, fügte er hinzu.

Am 23. Januar 2023 verlängerte Microsoft seine Partnerschaft mit OpenAI – den Erfindern von ChatGPT – und investierte laut Bloomberg weitere 10 Milliarden US-Dollar zusätzlich zu der „1 Milliarde US-Dollar, die Microsoft im Jahr 2019 und einer weiteren Runde im Jahr 2021 in OpenAI gesteckt hat“.