Inteligência Artificial Maliciosa Habilita Golpe de Sequestro Deepfake

No início deste ano, a mãe de Scottsdale, Arizona, Jennifer DeStefano, experimentou um terror que nenhuma mãe deveria enfrentar - o som da voz soluçante de sua filha chorando que ela havia sido sequestrada.

Mas não era sua filha ao telefone. Foi um deepfake de IA tão convincente que DeStefano estava preparado para entregar $ 50.000 aos golpistas, que disseram a ela que matariam sua filha se ela não pagasse.

Hoje, DeStafano deu um testemunho sincero perante o Senado dos EUA, transmitindo sua história angustiante e aterrorizante ao Subcomitê Judiciário de Direitos Humanos e Direito .

“Quanto mais tempo essa forma de terror permanecer impune, mais flagrante ela se tornará. Não há limite para a profundidade do mal que a IA pode permitir”

“ A inteligência artificial está sendo armada não apenas para invocar medo e terror no público americano, mas na comunidade global em geral, à medida que capitaliza e redefine o que conhecemos como familiar”, disse DeStefano.

“A IA está revolucionando e desvendando a própria base de nosso tecido social, criando dúvida e medo naquilo que nunca foi questionado – o som da voz de um ente querido”, acrescentou.

Depois de recontar a história de sua experiência horrível com os golpistas de sequestro e extorsão que ela deu à Família AZ em abril, a mãe do Arizona explicou como o clone de voz deepfake parecia real:

“ Era a voz da minha filha. Foram seus gritos; eram seus soluços. Era o jeito que ela falava. Jamais poderei tirar da cabeça aquela voz e os gritos desesperados de socorro .”

“Não podemos mais confiar em 'ver para crer' ou 'eu ouvi com meus próprios ouvidos' ou mesmo no som da voz de seu próprio filho "

Opinando sobre o futuro da IA generativa usada para fins nefastos, DeStefano alertou: “ Quanto mais tempo essa forma de terror permanecer impune, mais flagrante ela se tornará. Não há limite para a profundidade do mal que a IA pode permitir .”

Ela continuou dizendo: “À medida que nosso mundo se move em um ritmo extremamente rápido, o elemento humano de familiaridade que estabelece as bases para nossa estrutura social do que é conhecido e do que é verdade está sendo revolucionado com a IA - alguns para o bem e outros para mal.

“Não podemos mais confiar em 'ver para crer' ou 'eu ouvi com meus próprios ouvidos' ou mesmo no som da voz de seu próprio filho."

Quando DeStefano descobriu que sua filha não havia sido sequestrada, ela ligou para a polícia, mas eles disseram que pouco podiam fazer porque era apenas um trote e não houve sequestro real ou troca de dinheiro.

“ Esse é o nosso novo normal ?” ela questionou.

“ É este o futuro que estamos criando ao permitir os abusos da inteligência artificial sem consequências e sem regulamentação ?”

“Se for deixado descontrolado, desregulado e formos deixados desprotegidos sem consequências, isso reescreverá nossa compreensão e percepção do que é e do que não é verdade .”

Após seus comentários iniciais, DeStefano não seria chamada para interrogatório até o final da audiência, onde ela reiterou que “nem toda IA é má” e que havia muitos “avanços esperançosos na IA” que poderiam melhorar a vida das pessoas.

Enquanto DeStefano delineou claramente danos significativos decorrentes de maus atores usando IA de maneiras aterrorizantes, o economista-chefe da Microsoft , Michael Schwarz, disse ao Fórum Econômico Mundial (WEF) em maio que a IA não deveria ser regulamentada até que houvesse danos significativos .

“Não devemos regular a IA até que vejamos algum dano significativo que esteja realmente acontecendo – não cenários imaginários”

Economista-chefe da Microsoft, Michael Schwarz, no WEF Growth Summit 2023

Falando no WEF Growth Summit 2023 durante um painel sobre “ Growth Hotspots: Harnessing the Generative AI Revolution ”, Michael Schwarz, da Microsoft, argumentou que, quando se trata de IA, seria melhor não regulá-la até que algo ruim aconteça, para não suprimir os benefícios potencialmente maiores.

“ Estou bastante confiante de que sim, a IA será usada por pessoas mal-intencionadas; e sim, causará danos reais; e sim, temos que ser muito cuidadosos e vigilantes ”, disse Schwarz ao painel do WEF.

Quando questionado sobre a regulamentação da IA generativa, o economista-chefe da Microsoft explicou:

“Qual deve ser nossa filosofia sobre a regulamentação da IA? Claramente, temos que regulá-lo e acho que minha filosofia é muito simples.

“ Devemos regular a IA de forma a não jogarmos fora o bebê junto com a água do banho .

“Então, acho que a regulamentação não deve ser baseada em princípios abstratos.

“Como economista, gosto de eficiência, então, primeiro, não devemos regular a IA até que vejamos algum dano significativo que esteja realmente acontecendo – não cenários imaginários ”, acrescentou.

Em 23 de janeiro de 2023, a Microsoft estendeu sua parceria com a OpenAI – os criadores do ChatGPT – investindo US$ 10 bilhões adicionais além do “US$ 1 bilhão que a Microsoft despejou na OpenAI em 2019 e outra rodada em 2021”, segundo a Bloomberg .