Kötü Amaçlı Yapay Zeka, Deepfake Kaçırma Dolandırıcılığına Olanak Sağlıyor

Bu makalenin ana görseli HackerNoon'unYapay Zeka Görüntü Oluşturucusu tarafından "kötü robot" istemi aracılığıyla oluşturuldu

Bu yılın başlarında, Scottsdale, Arizona'lı anne Jennifer DeStefano, hiçbir annenin asla yüzleşmemesi gereken bir dehşet yaşadı: kızının kaçırıldığını haykıran hıçkırık sesi.

Ama telefondaki kızı değildi. Bu o kadar inandırıcı bir yapay zeka deepfake'iydi ki DeStefano, eğer borcunu ödemezse kızını öldüreceklerini söyleyen dolandırıcılara 50 bin dolar vermeye hazırdı.

Bugün DeStafano, ABD Senatosu önünde, yürek parçalayıcı ve dehşet verici öyküsünü İnsan Hakları ve Hukuk Yargı Alt Komitesi'ne aktaran samimi bir ifade verdi.

“Bu terör biçimi ne kadar uzun süre cezasız kalırsa, o kadar vahim hale gelecektir. Yapay zekanın mümkün kılabileceği kötülüğün derinliğinin sınırı yok”

DeStefano, " Yapay zeka, yalnızca Amerikan kamuoyunda korku ve terör uyandırmak için değil, aynı zamanda tanıdık olarak bildiğimiz şeylerden yararlanarak ve onları yeniden tanımlayarak genel olarak küresel toplumda korku ve terör uyandırmak için silah haline getiriliyor" dedi.

"Yapay zeka, bir zamanlar hiç sorgulanmayan bir şeyde - sevilen birinin sesinde - şüphe ve korku yaratarak sosyal dokumuzun temellerini kökten değiştiriyor ve çözüyor" diye ekledi.

Arizonalı anne, Nisan ayında AZ Ailesi'ne verdiği adam kaçırma ve gasp dolandırıcılarıyla yaşadığı korkunç deneyimi yeniden anlattıktan sonra, derin sahte ses klonunun ne kadar gerçek göründüğünü şöyle anlattı:

“ Kızımın sesiydi. Bu onun çığlıklarıydı; onun hıçkırıklarıydı. Onun konuşma şekli buydu. O sesi ve çaresiz yardım çığlıklarını asla aklımdan silip atamayacağım .”

“ Artık 'Görmek inanmaktır'a, 'Kendi kulaklarımla duydum'a, hatta kendi çocuğunuzun sesine bile güvenemeyiz ”

Kötü amaçlarla kullanılan üretken yapay zekanın geleceği hakkında görüş belirten DeStefano şu uyarıda bulundu: " Bu terör türü ne kadar uzun süre cezasız kalırsa, o kadar korkunç hale gelecektir. Yapay zekanın sağlayabileceği kötülüğün derinliğinin sınırı yok .”

Şöyle devam etti: "Dünyamız ışık hızıyla hareket ederken, bilinenin ve gerçeğin sosyal dokusunun temelini oluşturan aşinalık şeklindeki insani unsur, yapay zeka ile devrim yaratıyor; bazıları iyi, bazıları kalıcı. fenalık.

“Artık 'Görmek inanmaktır'a, 'Kendi kulaklarımla duydum'a, hatta kendi çocuğunuzun sesine bile güvenemeyiz.”

DeStefano, kızının kaçırılmadığını öğrendiğinde polisi aradı, ancak polisler ona yapabilecekleri çok az şey olduğunu, çünkü bunun sadece bir şaka araması olduğunu ve gerçek bir kaçırma ya da para alışverişi olmadığını söylediler.

“ Yeni normalimiz bu mu ?” diye sordu.

“ Yapay zekanın suiistimallerine sonuçsuz ve düzenleme olmaksızın izin vererek yarattığımız gelecek bu mu ?”

" Kontrolsüz, kuralsız bırakılırsak ve hiçbir sonuç olmadan korumasız bırakılırsak, bu, neyin gerçek olup neyin olmadığına dair anlayışımızı ve algımızı yeniden yazacaktır ."

Açılış konuşmasının ardından DeStefano, duruşmanın sonuna kadar sorgulanmak üzere çağrılmadı; burada "tüm yapay zekaların kötü olmadığını" ve "yapay zekada insanların yaşamlarını iyileştirebilecek pek çok umut verici gelişme" olduğunu yineledi.

DeStefano, yapay zekayı korkutucu şekillerde kullanan kötü aktörlerden kaynaklanan anlamlı zararı açıkça belirtirken, Microsoft baş ekonomisti Michael Schwarz, Mayıs ayında Dünya Ekonomik Forumu'na (WEF) anlamlı bir zarar oluşana kadar yapay zekanın düzenlenmemesi gerektiğini söyledi.

“Hayali senaryolar değil, gerçekten meydana gelen anlamlı bir zarar görene kadar yapay zekayı düzenlememeliyiz”

Microsoft Baş Ekonomisti Michael Schwarz, WEF Büyüme Zirvesi 2023'te

WEF Büyüme Zirvesi 2023'te " Büyümenin Sıcak Noktaları: Üretken Yapay Zeka Devriminden Yararlanmak " konulu bir panelde konuşan Microsoft'tan Michael Schwarz, konu yapay zeka olduğunda, kötü bir şey olana kadar onu düzenlememenin en iyisi olacağını savundu. potansiyel olarak daha büyük faydaları bastırır.

“ Evet, yapay zekanın kötü aktörler tarafından kullanılacağından oldukça eminim; ve evet, gerçek hasara yol açacaktır; ve evet, çok dikkatli ve tetikte olmalıyız ," dedi Schwarz WEF paneline.

Üretken yapay zekanın düzenlenmesi hakkında soru sorulduğunda Microsoft baş ekonomisti şunları açıkladı:

“Yapay zekayı düzenleme konusundaki felsefemiz ne olmalı? Açıkçası bunu düzenlememiz gerekiyor ve oradaki felsefemin çok basit olduğunu düşünüyorum.

“ Yapay zekayı, bebeği banyo suyuyla birlikte atmayacak şekilde düzenlemeliyiz .

“Dolayısıyla düzenlemenin soyut ilkelere dayanmaması gerektiğini düşünüyorum.

"Bir ekonomist olarak verimliliği seviyorum, bu nedenle öncelikle, hayali senaryolar değil, gerçekten meydana gelen anlamlı bir zarar görene kadar yapay zekayı düzenlememeliyiz " diye ekledi.

23 Ocak 2023'te Microsoft, ChatGPT'nin yaratıcıları olan OpenAI ile ortaklığını genişletti ve Bloomberg'e göre "Microsoft'un 2019'da OpenAI'ye ve 2021'de bir sonraki turda aktardığı 1 milyar doların" üzerine 10 milyar dolar daha yatırım yaptı .