L'intelligence artificielle malveillante permet une escroquerie d'enlèvement Deepfake

Plus tôt cette année, la mère de Scottsdale, en Arizona, Jennifer DeStefano, a vécu une terreur qu'aucune mère ne devrait jamais avoir à affronter – le son de la voix sanglotante de sa fille pleurant qu'elle avait été kidnappée.

Mais ce n'était pas sa fille au téléphone. C'était un deepfake d'IA si convaincant que DeStefano était prêt à remettre 50 000 $ aux escrocs, qui lui ont dit qu'ils tueraient sa fille si elle ne payait pas.

Aujourd'hui, DeStafano a donné un témoignage sincère devant le Sénat américain en racontant son histoire déchirante et terrifiante au Sous-comité judiciaire des droits de l'homme et de la loi .

« Plus longtemps cette forme de terreur restera impunie, plus elle deviendra flagrante. Il n'y a pas de limite à la profondeur du mal que l'IA peut activer »

" L'intelligence artificielle est en train d'être militarisée non seulement pour invoquer la peur et la terreur dans le public américain, mais dans la communauté mondiale dans son ensemble, car elle capitalise sur et redéfinit ce que nous avons connu comme familier", a déclaré DeStefano.

"L'IA révolutionne et démantèle le fondement même de notre tissu social en créant le doute et la peur dans ce qui n'a jamais été remis en question - le son de la voix d'un être cher", a-t-elle ajouté.

Après avoir raconté l' histoire de son horrible expérience avec les escrocs d'enlèvement et d'extorsion qu'elle a confiés à AZ Family en avril, la mère de l'Arizona a expliqué à quel point le clone de voix deepfake semblait être réel :

« C'était la voix de ma fille. C'étaient ses cris ; c'était ses sanglots. C'était sa façon de parler. Je ne pourrai jamais chasser cette voix et les appels désespérés à l'aide de mon esprit .

" Nous ne pouvons plus faire confiance à 'voir c'est croire' ou 'je l'ai entendu de mes propres oreilles' ou même le son de la voix de votre propre enfant "

Se prononçant sur l'avenir de l'IA générative utilisée à des fins néfastes, DeStefano a averti : « Plus longtemps cette forme de terreur restera impunie, plus elle deviendra flagrante. Il n'y a pas de limite à la profondeur du mal que l'IA peut activer .

Elle a poursuivi en disant: «Alors que notre monde évolue à un rythme fulgurant, l'élément humain de familiarité qui jette les bases de notre tissu social de ce qui est connu et de ce qui est vrai est en train d'être révolutionné avec l'IA – certains pour de bon et d'autres pour mal.

"Nous ne pouvons plus croire 'voir c'est croire' ou 'je l'ai entendu de mes propres oreilles' ou même le son de la voix de votre propre enfant."

Lorsque DeStefano a découvert que sa fille n'avait pas été kidnappée, elle a appelé la police, mais ils lui ont dit qu'ils ne pouvaient pas faire grand-chose parce que c'était juste une farce et qu'il n'y avait pas eu d'enlèvement ni d'argent échangé.

« Est-ce notre nouvelle normalité ? » interrogea-t-elle.

« Est-ce le futur que nous créons en permettant les dérives de l'intelligence artificielle sans conséquence et sans régulation ?

" Si nous ne sommes pas contrôlés, non réglementés et que nous sommes laissés sans protection sans conséquence, cela réécrira notre compréhension et notre perception de ce qui est et de ce qui n'est pas la vérité . "

À la suite de son allocution d'ouverture, DeStefano n'a été convoquée pour un interrogatoire qu'à la toute fin de l'audience, où elle a réitéré que "toute l'IA n'est pas mauvaise" et qu'il y avait beaucoup de "progrès prometteurs dans l'IA" qui pourraient améliorer la vie des gens.

Alors que DeStefano a clairement décrit les dommages significatifs résultant d'acteurs malveillants utilisant l'IA de manière terrifiante, l'économiste en chef de Microsoft , Michael Schwarz, a déclaré au Forum économique mondial (WEF) en mai que l'IA ne devrait pas être réglementée tant qu'il n'y aurait pas de dommages significatifs .

"Nous ne devrions pas réglementer l'IA tant que nous ne verrons pas un préjudice significatif qui se produit réellement - pas des scénarios imaginaires"

Michael Schwarz, économiste en chef de Microsoft, au WEF Growth Summit 2023

S'exprimant lors du WEF Growth Summit 2023 lors d'un panel sur " Growth Hotspots: Harnessing the Generative AI Revolution ", Michael Schwarz de Microsoft a fait valoir qu'en ce qui concerne l'IA, il serait préférable de ne pas la réglementer jusqu'à ce que quelque chose de mal se produise, afin de ne pas supprimer les avantages potentiellement plus importants.

« Je suis tout à fait convaincu que oui, l'IA sera utilisée par de mauvais acteurs ; et oui, cela causera de vrais dégâts; et oui, nous devons être très prudents et très vigilants », a déclaré Schwarz au panel du WEF.

Interrogé sur la réglementation de l'IA générative, l'économiste en chef de Microsoft a expliqué :

« Quelle devrait être notre philosophie concernant la réglementation de l'IA ? De toute évidence, nous devons le réglementer, et je pense que ma philosophie est très simple.

« Nous devrions réglementer l'IA de manière à ne pas jeter le bébé avec l'eau du bain .

« Donc, je pense que la réglementation ne devrait pas être basée sur des principes abstraits.

"En tant qu'économiste, j'aime l'efficacité, donc d'abord, nous ne devrions pas réglementer l'IA tant que nous ne verrons pas un préjudice significatif qui se produit réellement - pas des scénarios imaginaires ", a-t-il ajouté.

Le 23 janvier 2023, Microsoft a prolongé son partenariat avec OpenAI - les créateurs de ChatGPT - en investissant 10 milliards de dollars supplémentaires en plus du "1 milliard de dollars que Microsoft a versé dans OpenAI en 2019 et un autre tour en 2021", selon Bloomberg .