2000'den Fazla Araştırmacı Yapay Zekanın Geleceğini Tahmin Ediyor

Yapay Zeka gelişiminin hızı doğal bir doruğa ulaştı. GPT-4 , Gemini , Claude vb. araçlar ve bunların yapımcıları, sağlık ve eğitimden finans ve eğlenceye kadar toplumun her yönünü yakında değiştirebileceklerini iddia ediyor. Bu hızlı evrim, yapay zekanın gidişatına ilişkin her zamankinden daha kritik soruları gündeme getiriyor: teknolojinin yararları, evet, ama aynı zamanda ( çoğunlukla! ) hepimiz için oluşturduğu potansiyel riskler.

Bu durumda uzmanların görüşlerini dinlemek, anlamak ve dikkate almak önem kazanmaktadır. “ Yapay Zekanın Geleceği Üzerine Binlerce Yapay Zeka Yazarı ” başlıklı yeni bir anket, bu tür uzmanların yapay zekanın potansiyeli hakkındaki görüşlerini ölçmeye yönelik en kapsamlı çabayı temsil ediyor. Katja Grace ve AI Impacts'teki ekibi tarafından Bonn Üniversitesi ve Oxford Üniversitesi'nden araştırmacıların işbirliğiyle gerçekleştirilen çalışma, 2.778 araştırmacıya anket yaparak yapay zekanın ilerlemesi ve sosyal etkileri hakkındaki tahminlerini araştırdı. Temasa geçilenlerin tümü daha önce üst düzey AI mekanlarında hakemli makaleler yazmıştı.

Yapay zeka çalışmasının geleceğinden önemli çıkarımlar

Kısacası anket, yapay zeka araştırmacıları arasında teknolojinin geleceğine ve toplumsal etkilerine ilişkin beklentilerin ve endişelerin karmaşıklığını ve genişliğini vurguluyor.

• Uzmanlar, yapay zekanın 2028 gibi erken bir tarihte önemli kilometre taşlarına ulaşacağını tahmin ediyor: " Ödeme işleme sitesinin tamamını sıfırdan kodlamak ve Taylor Swift gibi hit sanatçıların gerçek şarkılarından ayırt edilemeyecek yeni şarkılar yazmak gibi ".

  
  

• Katılımcıların önemli bir çoğunluğu, en iyi yapay zeka sistemlerinin önümüzdeki yirmi yıl içinde muhtemelen çok dikkate değer yeteneklere ulaşacağına inanıyor. Bu, " hedeflere ulaşmanın beklenmedik yollarını " bulmayı (%82,3), " çoğu konuda bir uzman gibi konuşmayı" (%81,4) ve sıklıkla " insanlar için şaşırtıcı şekillerde " davranmayı (%69,1) içeriyor.

  
  

• Dahası, fikir birliği, 2047 yılına kadar yapay zekanın tüm görevlerde insanlardan " daha iyi performans gösterme " şansının %50 olduğunu öne sürüyor; bu tahmin, bir yıl önce yapılan tahminlere kıyasla 13 yıl ileri gitmiş durumda .

  
  

• Tüm insan mesleklerinin " tamamen otomatikleştirilebilir " hale gelme şansının artık 2037'ye kadar %10'a, 2116'ya kadar ise %50'ye ulaşacağı tahmin ediliyor ( 2022 anketindeki 2164'e kıyasla).

  
  

• Anket, yapay zeka kararlarının yorumlanabilirliğine ilişkin şüphelere işaret ediyor; katılımcıların yalnızca %20'si, kullanıcıların 2028 yılına kadar " yapay zeka sistemlerinin tercihlerinin ardındaki gerçek nedenleri anlayabileceğini " düşünüyor. Yapay zeka (kötü şöhretli bir şekilde) bir kara kutudur ve bu endişe, yapay zeka şeffaflığında gerçek, devam eden zorlukları yansıtmaktadır. Bu, özellikle yapay zekanın karar verme sürecini anlamanın güven ve hesap verebilirlik açısından hayati önem taşıdığı kritik uygulamalarda (finans, sağlık hizmetleri…) geçerlidir.

  
  

• Çalışma aynı zamanda yapay zekanın potansiyel olumsuz etkilerine ilişkin " önemli " endişeleri de vurguluyor. Yanlış bilgilerin yayılması, kamuoyunun manipülasyonu ve yapay zekanın otoriter kullanımı, şaşırtıcı olmayan bir şekilde önemli endişeler yaratıyor. Bu tehlikeleri hafifletmeye yönelik proaktif önlemlere yönelik çağrılar günümüzde çok azdır ve bu bir sorundur .

  
  

• Yüksek seviyeli makine zekasının uzun vadeli etkileri konusunda çok çeşitli görüşler var; katılımcıların önemli bir kısmı, sıfır olmayan olasılıkları hem son derece iyi hem de son derece kötü sonuçlara (insan neslinin tükenmesi dahil) atfediyor. Bu, " bundan sonra ne olacağını bilmiyoruz " diyen bilim insanı. Ancak… yanıt verenlerin %38 ila %51'i, insanlığın yok olması kadar kötü sonuçlara yol açacak gelişmiş yapay zekaya en az %10 şans verdi ; bu da dikkat etmemiz gereken bir şey gibi görünüyor.

  
  

• Son olarak, yapay zekanın daha hızlı mı yoksa daha yavaş mı ilerlemesinin insanlığın geleceği için daha iyi olacağı konusunda bir anlaşmazlık var. Ancak yanıt verenlerin çoğunluğu, yapay zeka güvenlik araştırmalarına şu anda olduğundan daha fazla öncelik verilmesini savunuyor; bu da yapay zekanın varoluşsal risklerini ele almanın ve güvenli bir şekilde geliştirilmesini ve konuşlandırılmasını sağlamanın önemi konusunda artan bir fikir birliğini yansıtıyor.

Bu bilgiyle ne yapacağız?

İlerlemenin yolu oldukça açık: Dünyanın her yerindeki hükümetlerin yapay zeka güvenlik araştırmaları için fonları artırması ve yapay zeka sistemlerinin mevcut ve gelecekteki insani değerler ve çıkarlarla uyumlu olmasını sağlamak için sağlam mekanizmalar geliştirmesi gerekiyor.

Birleşik Krallık hükümeti kısa süre önce, yeni bir sorumlu yapay zeka ekosisteminin oluşturulması için 30 milyon £ dahil olmak üzere, yapay zeka ile ilgili bir dizi proje için 50 milyon £'dan fazla fon sağlayacağını duyurdu . Buradaki fikir, yapay zeka yeteneklerinin sorumlu ve güvenilir uygulamalarını sağlayan araçlar ve programlar oluşturmaktır.

Bu arada Biden-Harris Yönetimi, 2024'ün başlarında endüstri liderleri, akademi ve sivil toplum da dahil olmak üzere 200'den fazla yapay zeka paydaşını bir araya getiren ABD Yapay Zeka Güvenliği Enstitüsü Konsorsiyumunun (AISIC) kurulduğunu duyurdu. Bu konsorsiyum, kırmızı ekip oluşturma, yetenek değerlendirmeleri, risk yönetimi ve diğer kritik güvenlik önlemlerine ilişkin yönergeler geliştirerek güvenli ve güvenilir yapay zekanın geliştirilmesini ve dağıtılmasını desteklemeyi amaçlamaktadır.

Bunlar bir başlangıç ​​ama hepsi fazlasıyla ulusal.

Hükümetler bugün sadece kendi arka bahçelerine bakamazlar. Ayrıca yapay zeka teknolojilerinin etik açıdan geliştirilmesi ve yaygınlaştırılmasına rehberlik etmek, şeffaflığı ve hesap verebilirliği sağlamak için ULUSLARARASI düzenlemeleri uygulamamız gerekiyor. Bu, yapay zeka araştırmacıları, etik uzmanları ve politika yapıcılar arasında disiplinlerarası ve ULUSLARARASI işbirliklerini teşvik etmeyi içerir. Mevcut İnsan Hakları çerçevelerini güçlendirmek ve geliştirmek için aşağıdakilerin hayata geçirildiğini gördüğümde kendimi dünyada daha güvende hissedeceğim:

• Küresel yapay zeka güvenlik çerçeveleri
• Uluslararası yapay zeka güvenlik zirveleri
• Küresel yapay zeka etiği ve güvenlik araştırma fonları.

Sonuç çıkarmak için çok erken

Felaketin tuzağına düşmek için belki biraz erken. Anket değerli bilgiler sağlasa da, katılımcılar arasında kendi kendine seçimden kaynaklanan potansiyel önyargılar ve teknolojik gelişmeleri doğru bir şekilde tahmin etme konusundaki ( bariz! ) zorluklar da dahil olmak üzere sınırlamaları var. Daha fazla araştırma, bakış açılarının çeşitliliğini genişletmeyi ve belirli sektörlerde yapay zeka gelişiminin etkilerini araştırmayı amaçlamalıdır.

Sonuçta yapılan tahminlerin doğruluğu ne olursa olsun, kelimelerden daha fazlasına ihtiyacımız var. Yapay zeka hem benzeri görülmemiş fırsatların hem de önemli zorlukların kaynağıdır. Araştırmacılar, politika yapıcılar ve halk arasındaki açık diyalog yoluyla, kendimizi yapay zeka tehlikesinden koruyacak ve herkes için daha iyi bir geleceğe yönlendirecek kurallar oluşturmalıyız .

Dünya çok büyük, biz ise çok küçüğüz. Orada iyi şanslar.