Yapay Zeka Politikası: Duraklatmaktan Düzenlemeye Kadar Her Şey İnsanların Kalbini ve Zihnini Kazanmakla İlgili

“Mektup” sadece başlangıçtı. Yapay zeka siyaset şovuna hoş geldiniz. Biraz patlamış mısır alın ya da daha iyisi ringe çıkın.

“Geçen gün hükümetin Yaşamın Geleceği Enstitüsü'nden bir mektup aldım.

Açtım okudum enayi oldukları söyleniyor

Beni orduları için falan istediler

Beni umursadığını hayal et, asla dedim

Burası asla umursamayan bir ülke

Benim ve benim gibi bir kardeş hakkında çünkü bunu hiç yapmadılar

Ben onunla değildim ama tam o anda aklıma geldi

Enayilerin otorite gücü vardı”

Public Enemy - Black Steel In The Hour Of Chaos Şarkı Çevirisi

Public Enemy ile yapay zekanın bugünkü durumu arasındaki bağlantı hemen belli olmayabilir. Ancak "hükümet"i "Yaşamın Geleceği Enstitüsü" ve "otorite"yi "güç" ile değiştirirseniz, bu sözler bugün yapay zekada olup bitenler için oldukça iyi bir metafor olabilir.

Twitter'da bilinen adıyla "Mektup", Hayatın Geleceği Enstitüsü (FLI) tarafından derlenen ve sayıları her geçen gün artan kişi tarafından imzalanan bir Açık Mektuptur . "Gelişmiş yapay zeka tasarımı ve geliştirilmesi için bir dizi paylaşılan güvenlik protokolü geliştirmek ve uygulamak" amacıyla GPT-4'ten daha büyük yapay zeka modellerinin eğitimine ara verilmesi çağrısında bulunuyor.

FLI'nin mektubunda "Yapay zeka araştırma ve geliştirmesinin, günümüzün güçlü, en son teknolojiye sahip sistemlerini daha doğru, güvenli, yorumlanabilir, şeffaf, sağlam, uyumlu, güvenilir ve sadık hale getirmeye yeniden odaklanması gerektiği" belirtiliyor. “Mektup” hakkında haklı endişelerini dile getiren kişiler de dahil olmak üzere çok az kişinin katılmayacağı bir ifade.

Ben de “Mektubu” imzaladım. Ben bunu yaptığımda 1.000'den az imzacı vardı. Bugün FLI'nin SSS'sine göre yaklaşık 50.000'i var. İmzalamadım çünkü FLI'ya veya çerçevesine tamamen katılıyorum - bundan çok uzak. Yukarıdaki ifadeyle ilgili de çekincelerim var ve sözde yapay zeka abartısının son derece farkındayım ve onu eleştiriyorum.

Dikkat çekebileceğini ve çok ihtiyaç duyulan bir sohbeti başlatabileceğini umarak "Mektup"ı imzaladım ve öyle de oldu. Yapay zeka tepkisinin bu kadar hararetli tartışmaları alevlendirdiğini hatırladığım diğer tek zaman 2020'ydi. Bu , Google'ın, giderek daha büyük Yapay Zeka Büyük Dil Modelleri oluşturma uygulamasıyla ilgili endişelerini "" olarak bilinen bir makalede dile getiren bir dizi araştırmacıyı kovduğu zamandı. Stokastik Papağanlar”.

Elbette yapay zekada 2,5 yıl bir ömürdür. Bu , yapay zekanın ana akıma girmesinden önce, ChatGPT öncesiydi . Ancak bu, her ne kadar hararetle tartışılsa da, konuların bugün de geniş çapta iyi anlaşıldığı anlamına gelmiyor.

Hayatın Geleceği Enstitüsü ve TESCREAL

“Mektup”a yönelik eleştirilerin ilk satırı, mektubun kökenlerine ve onu hazırlayan ve imzalayan kişilerin gündemlerine atıfta bulunuyor - ve haklı olarak da öyle. Aslında Yaşamın Geleceği Enstitüsü Etkili Fedakarlık, Uzun Vadeli bir organizasyondur.

Özetle bu, teknolojinin bugün neden olduğu gerçek sorunlardan ziyade varsayımsal tekno-ütopik bir gelecekle ilgilenen insanlar anlamına geliyor. Her ne kadar FLI'nin SSS'si mevcut zararları da ele almaya çalışsa da, Peter Thiel ve Elon Musk bir şekilde "ekonomik gücün yoğunlaşmasını" bir endişe olarak öne sürüyorlar, kulağa pek inandırıcı gelmiyor.

Daha önce Lontermizm'in içinde yer alan filozof ve tarihçi Emile P. Torres, Lontermizm'i ve onun ideoloji ailesini tanımlamak için TESCREAL kısaltmasını icat etti. İnsanlığı Dünya'yı yok etmekten kurtarmak için Mars'a gitmemiz gerektiğini veya sorunlarımızı çözmek için süper gelişmiş yapay zekaya ihtiyacımız olduğunu iddia etmek TESCREAL düşüncesi hakkında çok şey ifade ediyor.

Bu insanlar sizin iyiliğinizi düşünmüyor ve kesinlikle kendimi FLI tarafından hazırlanan ve Elon Musk tarafından imzalanan bir mektubu imzalarken görmedim. Ancak bunu yapmamak da zor. Elon Musk tiplerinin elde ettiği fon, etki ve tanıtım miktarını, onları eleştirenler için bile göz ardı etmek zordur.

Finansman ve hedefler

Konuya ilişkin örnek: Yapay Zeka Etiği Uzmanı Timnit Gebru tarafından kurulan Dağıtılmış Yapay Zeka Araştırma Enstitüsü DAIR . Gebru, 2020 yılında Google'dan kovulan kişilerden biriydi. DAIR , Gebru'nun yapmak istediği türden işleri mümkün kılmak için 2021 yılında kuruldu.

DAIR, "yapay zekanın kaçınılmaz olmadığı, zararlarının önlenebilir olduğu ve üretimi ve dağıtımı farklı bakış açıları ve kasıtlı süreçler içerdiğinde faydalı olabileceği inancına dayanmaktadır". Bu övgüye değer görünüyor.

DAIR, misyonunda çalışmak üzere çok sayıda araştırmacıyı istihdam ediyor ve Ford Vakfı, MacArthur Vakfı, Kapor Merkezi, George Soros'un Açık Toplum Vakfı ve Rockefeller Vakfı'ndan 3,7 milyon dolar topladı . Araştırmanın bir şekilde finanse edilmesi gerekiyor. Ancak belki de bu fonun kaynağı hakkında da düşünmeye değer.

Gebru bu açmazın farkında ve "şu anda büyük hayırseverlik yapan Büyük Teknoloji milyarderleri" hakkında konuştu. Muhtemelen DAIR kurucuları, bu fonların övgüye değer buldukları hedefler doğrultusunda kullanılmasının, fonların kökeninden daha önemli olabileceğine inanıyor. Ancak bu düşünce tarzı yalnızca DAIR'e mi mahsustur?

DAIR, "Stochastic Parrots'un listelenen yazarlarının" AI duraklatma "mektubu hakkında açıklaması" yayınladı . Diğer açılardan çok düşünceli olan bu açıklamada, yazarları "bu mektubu imzalayan bilgisayar profesyonellerinin sayısını ve medyada aldığı olumlu ilgiyi görmekten dehşete düştüklerini" yazıyorlar.

Sebepler, zararlar ve politika

FLI'nin mektubunu imzalayan profesyonellerden bazılarını tanıyor ve onlarla çalışmış olsam da, kendim dışında kimse adına konuşamam. Ancak onlara şüphe avantajı sağlamanın adil olacağını düşünüyorum.

Gary Marcus gibi bazıları ise “The Letter”ı tam olarak onaylamasalar da, çok önemli buldukları belirli bir hedefe ulaşmak için imza attıklarını ifade etti. Tanıdık geliyor mu?

İnsanlar imzacıların amaçlarını sorguladılar ve bazılarının, onlara yetişmek için halihazırda yapay zekaya liderlik edenleri oyalamak isteyebileceğini iddia ettiler. Elon Musk, x.ai adında yeni bir yapay zeka şirketi kuruyor . Ve OpenAI artık belki de daha büyük yapay zeka modellerinin gidilecek yol olmadığını söylüyor .

Ancak imzalayan herkesin motivasyonu kişisel çıkar değildir. Günümüzde yapay zeka sistemlerinin devreye alınmasından kaynaklanan zararlar da gerçektir.

İşçi sömürüsü ve büyük miktarda veri hırsızlığı ; baskı sistemlerinin yeniden üretimi ve bilgi ekosistemimize yönelik tehlike ; gücün yoğunlaşması . DAIR'in bahsettiği zararların hepsi son derece gerçektir.

Güç sahibi olanlar bunları ya aktif olarak teşvik ediyor ya da akılsızca yapay zeka aracılığıyla mümkün kılıyor. Sorunları gündeme getirmek, farkındalık yaratmak ve Big Tech'in ilerleyişini baltalamak için koalisyonlar kurmak yapılacak pragmatik şeydir.

Eğer bu kulağa politika gibi geliyorsa, bunun nedeni, insanların belirttiği gibi, öyle olmasıdır. Bu, bunun "fikirler, korkular, değerler, tutumlar, inançlar, bakış açıları, kaynaklar, teşvikler ve düpedüz tuhaflıklar" ile artı para ve güçle ilgili olduğu anlamına gelir.

Her zaman bununla ilgiliydi. Dışarıdan etkileme oyununu oynamaya başlamadan önce Google'ın içinden bazı şeyleri değiştirmeye çalışan Gebru bu oyuna yabancı değil.

Medya etkisi ve araştırma

FLI'nin yapay zeka moratoryumu çağrısı ilk değildi ama ilgi çeken çağrıydı. Pragmatik olmak, eleştirel bile olsa, imza atmayı gerektiriyordu. FLI'den önce moratoryum teklif etmesine rağmen Marcus'un yaptığı da buydu. Bu, Elon Musk tipi imzacıların veya DAIR'in FLI'nin mektubu için gördüğü "olumlu medya kapsamının" ilgisini çekmedi.

Bunlardan bir kısmının olduğu doğrudur. Bazı satış noktaları her zaman sansasyonellik kartını oynamaya heveslidir, diğerleri ise açıkça TESCREAL'den ilham almaktadır . Ancak bu, haberlerin tamamının olumlu olduğu anlamına gelmiyor. Her durumda medya etkisi oyunun bir parçası.

Peki ya araştırma? Hem DAIR hem de Marcus, Andrew Ng ve Yann LeCun gibi AI liderleri araştırmalardan bahsediyor. Ng ve LeCun, araştırmanın "[AI] sistemlerini çok daha kontrol edilebilir hale getirecek yeni fikirler" getirmenin çözümünün bir parçası olduğuna inanıyor .

Bu, esas olarak teknik nitelikteki sorunlara indirgenen yaygın bir inancın somut örneğidir. Bu inanca sahipseniz, sorunların üstesinden gelmek için gereken şeyin çözüm bulmak için daha fazla araştırma olduğuna inanmak da mantıklı olacaktır.

Ancak “Stokastik Papağanlar” olayının da gösterdiği gibi, bu hiçbir zaman çözüm eksikliğiyle ilgili değildi. Daha çok gündemlerle, siyasetle, parayla ve güçle ilgili.

Tekeller ve yapay zekanın düzeltilmesi

Marcus, yapay zeka konusunda kendisini en çok korkutan şeyin insanlar olduğunu belirtiyor. Köprü kurmayı ve tek bir konuya odaklanmamayı savunuyor. Bu ruhla, yalnızca araştırma yoluyla daha iyi yapay zeka oluşturmaya odaklanmamak önemlidir. İnsanların buna erişmesini sağlamak çok önemlidir.

Sonuçta Internet Explorer'dan daha iyi bir tarayıcıya erişim sahibi olmak, tarayıcının kendisinden daha önemliydi. Eğer bu 90'lardaki tarayıcı savaşları için doğruysa, bize günümüzün yapay zekası hakkında da bir şeyler söyleyebilir. Matt Stoller'ın ileri sürdüğü argümanın özü budur.

Kararlı bir tekel karşıtı olan Stoller, hem Google'ın hem de Microsoft'un yapay zekaya yönelik ilgisini aynı madalyonun iki yüzü olarak görüyor. Stoller, Google'ın yapay zekanın arama alanındaki hakimiyetine tehdit oluşturduğu yönündeki iddiasının, Google'a yönelik antitröst soruşturmasını yanıltma çabası olduğunu düşünüyor.

Stoller, "demokratik bir toplum olarak yasa koyucularımıza bu fantastik bilimsel bilginin az sayıda kişi tarafından kontrol edilmesini istemediğimizi söylemek bizim sorumluluğumuzdadır" diyor. Big Tech'e karşı dikkatli olunması çağrısında bulunmakta haklı.

Bazı yapay zeka araştırmacıları ve girişimcileri, herkesin kullanımına açık veri kümeleri ve modeller oluşturmaya çalışıyor. Bu harika, ancak tarayıcı metaforunu aklımızda tutmamız gerekiyor. Veri kümeleri ve modeller, geliştiricilerin bir şeyler oluşturmasına olanak tanır. Ama eğer Büyük Teknoloji onları dışarıda bıraktığı için bu şeylere raf alanı olmazsa, pek bir işe yaramayacaklar.

Yapay zeka uzmanı olmanın faydası var. Ancak Melanie Mitchell ve onun Senatör Chris Murphy ile olan görüşmesinin gösterdiği gibi, neden bahsettiğinizi bilmek mutlaka sesinizin duyulacağı anlamına gelmiyor.

Mitchell, yapay zeka hakkındaki abartıları çürütme konusunda harika bir iş çıkardı. Yapay zeka konusunda bir şeyler yapabilecek insanlarla ittifaklar kurmak... o kadar da değil. Bazen müdahale etmek doğru şeydir ve oraya ulaşmak için ittifaklara ihtiyaç vardır.

Mütevazi bir teklif

Yapay zeka uzmanı olsun veya olmasın, her birimizin yapabileceği çok önemli birkaç şey var.

Öncelikle dünyadaki ChatGPT'lerin uyguladığı tekelci gücün doğasını anlayın. Bu Büyük Teknoloji sistemlerini ne kadar çok kullanırsak, onların daha iyi olmasına o kadar katkıda bulunuyoruz ve Büyük Teknolojinin gücünü o kadar besliyoruz. Bu sefer buna kanmayalım . Sayıları giderek artan alternatifleri kullanalım.

İkincisi, yapay zeka siyasetine girin. Bir senatöre mektup gönderin, imza toplayın, sokaklarda yürüyün veya bir Twitter Alanı düzenleyerek yapay zekaya yönelik uluslararası bir ajansı tartışın ; ne işe yararsa onu yapın. Ama bir şeyler yapın ya da en azından başkalarının ne yaptığının farkında olun. İşi her zamanki gibi yapay zekanın baş döndürücü hızıyla sürdürmek felaketin reçetesidir.

Zaten güç ölçeğinin büyük ölçüde Büyük Teknoloji lehine ayarlandığı bir durumdayız. Hiçbir şey yapmamak, adaletsizlik karşısında tarafsız kalmak, yani zalimin tarafını seçmek demektir. Zaten güç ölçeğinin büyük ölçüde Büyük Teknoloji lehine ayarlandığı bir durumdayız.