Seçimlerde GenAI: Kampanyaları Yeniden Şekillendirmek, Etik Kaygıları Artırmak

2024 yılı, Ocak ayında Bangladeş'ten Aralık ayında Gana'ya kadar dünya çapında seçimler yapılırken yaklaşık iki milyar kişinin oy kullanacağı yıl olacak. Flört, eğitim, yaratıcılık, müşteri hizmetleri ve sosyal medya dahil olmak üzere insan davranışının ve endüstrinin her yönünün Üretken Yapay Zeka (AI) tarafından etkilenmesi nedeniyle, seçimler nerede yapılırsa yapılsın Generative AI (AI) tarafından geçersiz kılınmayacaktı. AI.

Nesil yapay zeka, kampanyaların yürütülme, bilgilerin dağıtılma ve seçmenlerin etkilenme biçimini yeniden şekillendiriyor. Örneğin, Aralık ayında, partisinin halka açık mitingler düzenlemesi yasaklanan Pakistan'ın hapisteki eski başbakanı Imran Khan, sanal bir mitingde konuşma yapmak için yapay zeka tarafından oluşturulan bir ses klibini kullandı. Konuşma, Khan'ın hapishaneden onayladığı yazılı bir versiyondan oluşturuldu.

Teknoloji baskıyla karşı karşıya kalanların sesi oldu. Muhalefet liderlerinin sık sık hapse atılma, sürgüne gönderilme veya ölme talihsizliğiyle karşı karşıya kaldığı Belarus'ta muhalefet, OpenAI'nin ChatGPT'si kullanılarak oluşturulmuş ve herhangi bir tepki korkusu olmadan özgürce konuşabilen sanal bir aday olan Yas Gaspadar adlı bir yapay zeka botu kurdu.

Ancak ikna edici mesajların hazırlanmasından belirli demografik grupların hedeflenmesine kadar, bu teknolojinin uygulanmasıyla her şey yolunda gitmiyor. Ortaya çıkan duygular, dünya çapındaki siyasi analistler ve politika yapıcılar arasında hem heyecan hem de endişe yaratıyor.

2024 CrowdStrike Küresel Tehdit Raporu'na göre, Üretken Yapay Zeka'nın kullanımı 2024 ufkunda görünüyor. Rapor, 2024'te yapılması planlanan 40'tan fazla demokratik seçimle birlikte ulus devlet ve e-Suç karşıtlarının seçim sürecini aksatmak veya seçmenlerin görüşlerini etkilemek için çok sayıda fırsata sahip olacağını öngörüyor. Çin, Rusya ve İran'daki ulus-devlet aktörlerinin, coğrafi çatışmalar ve küresel seçimler ortamında ortalığı karıştırmak için yanlış bilgi veya dezenformasyon operasyonları yürütmesi oldukça muhtemel.

Kişiselleştirilmiş Kampanya

Üretken yapay zekanın seçimler üzerindeki en önemli etkilerinden biri, kişiselleştirilmiş kampanyaları benzeri görülmemiş bir ölçekte kolaylaştırma yeteneğidir. Yapay zeka algoritmaları, seçmen bilgilerinden oluşan geniş veri kümelerini analiz ederek son derece kişiselleştirilmiş mesajlar, reklamlar ve sosyal yardım stratejileri üretebilir. Bu yaklaşımla, siyasi kampanyalar bireyleri demografik özelliklerine, ilgi alanlarına ve geçmiş davranışlarına göre mikro hedefleyerek sosyal yardım çabalarından en iyi şekilde yararlanabilir.

Mart ayında, Meksika sivil örgütü Sociedad Civil de México, X üzerinde #Xochitl2024 yazısını ve #StarbucksQueremosTazaXG hashtagini taşıyan renkli bir Starbucks kupasını gösteren, yapay zeka tarafından oluşturulmuş bir görsel yayınladığında , Mart ayında sosyal medyada siyasi bir Starbucks kupası dolaşmıştı ( #StarbucksWeWantACupXG). Meksika'nın muhalefetteki başkan adayı Xóchitl Gálvez, X takipçilerinden “café sin miedo” (korkusuz kahve) sipariş etmelerini istedi. Kullanıcılar çok geçmeden yapay zeka tarafından oluşturulan görseli paylaşmaya başladı ve bu trend yakalandı. Daha sonra Starbucks, tasarımın kahve markasından kaynaklanmadığını belirtti .

Bu, görsel siyaseti yürütmenin tamamen yeni bir yolunun dönüm noktasındadır ve muhtemelen siyasi kampanyalar sırasında multimedya eserlerini tüketme şeklimizi temelden değiştirecek bir yoldur.

Joyojeet Pal, Michigan Üniversitesi'nde doçent

Aljazeera , Hindistan'da işlerin resmiyet kazandığını söylüyor . Şubat ayında, Hindistan Ulusal Kongresi (INC) tarafından Başbakan Narendra Modi'nin parodisini yapan bir Instagram videosu 1,5 milyondan fazla görüntüleme topladı. Aynı gün, BJP'nin resmi hesabı, merhum vatansever şarkıcı Mahendra Kapoor'un sesini Başbakan'ın başarıları hakkında şarkı söylemek üzere klonlamak için yapay zekayı kullanan bir video yükledi.

Michigan Üniversitesi'nden doçent Joyojeet Pal, "Bu, görsel politikaları yürütmenin tamamen yeni bir yolunun dönüm noktasıdır ve muhtemelen siyasi kampanyalar sırasında multimedya eserlerini tüketme şeklimizi temelden değiştirecek bir yoldur" dedi.

Dezenformasyon ve Yanlış Bilgi

Ancak üretken yapay zekanın yaygınlaşması, dezenformasyon ve yanlış bilginin yayılmasına ilişkin endişeleri de artırıyor. İkna edici derecede insan benzeri metinler üretme yeteneği sayesinde, kötü niyetli aktörler yapay zekayı kullanarak sahte anlatılar oluşturup yayabilir, anlaşmazlık tohumları ekebilir ve kamuoyunu manipüle edebilir. Yapay zekanın ürettiği yanlış bilgilerle mücadele etme zorluğu, dünya çapında demokratik süreçlerin bütünlüğüne yönelik önemli bir tehdit oluşturmaktadır.

Endonezya'da Facebook'ta yayınlanan uydurma bir videoda , seçilen başkan yardımcısının hükümet yardımlarından yararlananlara hakaret ettiği görüldü. ABD'de izleyiciler, Başkan Joe Biden'ın yapay zeka tarafından oluşturulan ve seçmenlerden evde kalmalarını isteyen otomatik çağrılarını gördü.

Şubat ayında, İngiltere merkezli bir düşünce kuruluşu olan Stratejik Diyalog Enstitüsü (ISD), Çin hükümetinin yürüttüğü 'spamouflage' olarak adlandırılan, ABD'ye yanlış bilgi yaymak amacıyla yapay zeka tarafından oluşturulan görüntüleri paylaşan bir kampanyayı ortaya çıkardı . bu yılki seçimler.

Deepfake videoları seçimlerle dolu bu yılda yaygınlaştı. Pakistan , Tayvan ve Bangladeş gibi birçok ülkede bu tür videoların seçmenler arasında yanlış bilgi yaydığı olaylara tanık olundu.

Etik ve Düzenleyici Zorluklar

Seçimlerde üretken yapay zekanın yükselişi, bunun etik sonuçları ve düzenleyici gözetim ihtiyacı etrafında tartışmalara yol açtı. Şeffaflık, hesap verebilirlik ve demokratik normların korunmasına ilişkin sorular, politika yapıcılar ve teknoloji uzmanları arasındaki tartışmaların merkezi haline geldi.

Her ülkenin kendi kültürünü korurken ekonomik potansiyelden yararlanabilmesi için kendi yapay zeka altyapısına sahip olması gerekiyor

Nvidia'nın CEO'su Jensen Huang

Nvidia CEO'su Jensen Huang'ın da belirttiği gibi, her ülkenin kendi kültürünü korurken ekonomik potansiyelden yararlanabilmesi için kendi yapay zeka altyapısına sahip olması gerekiyor. Siyasi kampanyalar için yapay zekanın potansiyelinden yararlanmak ve olumsuz sonuçlarını hafifletmek arasında bir denge kurmak, paydaşlar için önemli bir zorluk olmaya devam ediyor.

Avrupa Birliği (AB), Mart ayında Yapay Zeka Yasasını oluşturarak ilk resmi adımı attı. Kanuna göre kişilerin temel haklarına yönelik yüksek risk teşkil eden kullanım durumları kısıtlanıyor. “Kabul edilemez risk” oluşturan yapay zekalar da yasaklanmayla karşı karşıya. Bu, yapay zeka sistemlerinin "davranışı çarpıtmak ve bilinçli karar almayı engellemek için bilinçaltı, manipülatif veya aldatıcı teknikler" kullandığı veya savunmasız insanları istismar ettiği kullanım durumlarını içerir.

Hindistan'da Birliğin Elektronik ve Bilişimden Sorumlu Devlet Bakanı Rajeev Chandrashekhar, yapay zeka düzenleyici çerçevesinin bu yıl Haziran-Temmuz aylarında tartışılacağını ve tartışılacağını belirtti.

Teknoloji şirketleri de yapay zeka tarafından oluşturulan içeriğin verdiği zararı azaltmak için çaba gösteriyor.

C2PA adı verilen açık kaynaklı bir internet protokolü, bir içeriğin kökeni hakkındaki ayrıntıları kodlamak için kriptografiyi kullanır. Bu, bir içeriğin nereden geldiği ve onu kimin veya neyin oluşturduğu gibi bilgilerin bizim için mevcut olacağı anlamına gelir. Google, Microsoft ve Meta gibi teknoloji devleri bu protokolün parçası olduklarını zaten duyurdular .

Nesil yapay zekanın seçim politikalarında kullanımı devam ettikçe etkisi önümüzdeki yıllarda daha da yoğunlaşacak. Yapay zeka teknolojisindeki ilerlemeler ve algoritmaların giderek daha karmaşık hale gelmesi, siyasi kampanyaların ve seçmen katılımının dinamiklerini değiştirmeye devam edecek. Hızla değişen bu ortamda ilerlemek için politika yapıcılar, seçim otoriteleri ve sivil toplum, demokratik süreçlerin bütünlüğünü koruyan sağlam düzenleyici çerçeveler ve etik kurallar oluşturmak üzere işbirliği yapmalıdır.

Sonuçta yapay zekayı ne kadar tanıyoruz?

Nesil yapay zeka, özellikle de GPT (Generative Pre-trained Transformer) gibi dil modelleri şüphesiz siyasi anlatıları şekillendiriyor. Bu modeller, insan benzeri bir dili taklit ederek ve konuşmalardan sosyal medya gönderilerine kadar çeşitli içerikler üreterek çok büyük miktarda metin üretebilir. Belirli seçmen kesimlerinde yankı uyandıracak şekilde tasarlanmış mesajlar hazırlayan ve önemli konularda kamuoyunu etkili bir şekilde etkileyen bu teknoloji, kampanyacıların eline büyük bir güç verdi.

Ancak insanların gördüklerini anlayıp anlamadıklarını veya buna körü körüne inanıp inanmadıklarını sormak önemlidir. Başbakan Narendra Modi, derin sahtekarlıklarla ilgili endişelerini bizzat dile getirdi ve medyayı, halkı Yapay Zeka kuşağının riskleri konusunda eğitmeye çağırdı.

Ipsos anket verilerine göre bireylerin yapay zekayı anlama biçiminde bir gecikme var ve bu gözlem küresel. 31 ülkede yapılan bir ankette ortalama yüzde 70'i yapay zekayı iyi anladığını düşünüyor ancak yalnızca yüzde 50'si yapay zeka kullanan ürün ve hizmetleri adlandırabiliyor. Örneğin Hindistan'da bu rakam %64'tür. Ayrıca ilginç bir şekilde, gelişmekte olan pazarlardaki nüfus yapay zeka teknolojisine daha fazla güveniyor. Ayrıca yapay zekanın dezavantajlarından çok artılarını görme eğilimindeler.

Üretken yapay zekanın yükselişi, seçimlerin yapılma ve kazanılma biçiminde derin bir değişimi temsil ediyor. Yapay zeka, kişiselleştirilmiş kampanyalar ve seçmen katılımı için benzeri görülmemiş fırsatlar sunarken aynı zamanda dezenformasyon, mahremiyet ve demokratik hesap verebilirlik açısından da önemli zorluklar ortaya çıkarıyor. Toplumlar bu yeni gerçekliğe uyum sağladıkça, yapay zekanın seçim süreçlerinde sorumlu bir şekilde kullanılması, dünya çapında demokratik yönetişimin bütünlüğünü ve meşruiyetini korumak açısından hayati önem taşıyacaktır.