“Mektup” sadece başlangıçtı. Yapay zeka siyaset şovuna hoş geldiniz. Biraz patlamış mısır alın ya da daha iyisi ringe çıkın. “Geçen gün bir mektup aldım. hükümetin Yaşamın Geleceği Enstitüsü'nden Açtım okudum enayi oldukları söyleniyor Beni orduları için falan istediler Beni umursadığını hayal et, asla dedim Burası asla umursamayan bir ülke Benim ve benim gibi bir kardeş hakkında çünkü bunu hiç yapmadılar Ben onunla değildim ama tam o anda aklıma geldi Enayilerin vardı” otorite gücü Public Enemy - Black Steel In The Hour Of Chaos Şarkı Çevirisi Public Enemy ile yapay zekanın bugünkü durumu arasındaki bağlantı hemen belli olmayabilir. Ancak "hükümet"i "Yaşamın Geleceği Enstitüsü" ve "otorite"yi "güç" ile değiştirirseniz, bu sözler bugün yapay zekada olup bitenler için oldukça iyi bir metafor olabilir. Twitter'da bilinen adıyla "Mektup", . "Gelişmiş yapay zeka tasarımı ve geliştirilmesi için bir dizi paylaşılan güvenlik protokolü geliştirmek ve uygulamak" amacıyla GPT-4'ten daha büyük yapay zeka modellerinin eğitimine ara verilmesi çağrısında bulunuyor. Hayatın Geleceği Enstitüsü (FLI) tarafından derlenen ve sayıları her geçen gün artan kişi tarafından imzalanan bir Açık Mektuptur FLI'nin mektubunda "Yapay zeka araştırma ve geliştirmesinin, günümüzün güçlü, en son teknolojiye sahip sistemlerini daha doğru, güvenli, yorumlanabilir, şeffaf, sağlam, uyumlu, güvenilir ve sadık hale getirmeye yeniden odaklanması gerektiği" belirtiliyor. “Mektup” hakkında haklı endişelerini dile getiren kişiler de dahil olmak üzere çok az kişinin katılmayacağı bir ifade. Ben de “Mektubu” imzaladım. Ben bunu yaptığımda 1.000'den az imzacı vardı. Bugün yaklaşık 50.000'i var. İmzalamadım çünkü FLI'ya veya çerçevesine tamamen katılıyorum - bundan çok uzak. Yukarıdaki ifadeyle ilgili de çekincelerim var ve sözde yapay zeka abartısının son derece farkındayım ve onu eleştiriyorum. FLI'nin SSS'sine göre Dikkat çekebileceğini ve çok ihtiyaç duyulan bir sohbeti başlatabileceğini umarak "Mektup"ı imzaladım ve öyle de oldu. Yapay zeka tepkisinin bu kadar hararetli tartışmaları alevlendirdiğini hatırladığım diğer tek zaman 2020'ydi. Bu zamandı. Stokastik Papağanlar”. , Google'ın, giderek daha büyük Yapay Zeka Büyük Dil Modelleri oluşturma uygulamasıyla ilgili endişelerini "" olarak bilinen bir makalede dile getiren bir dizi araştırmacıyı kovduğu Elbette yapay zekada 2,5 yıl bir ömürdür. Bu . Ancak bu, her ne kadar hararetle tartışılsa da, konuların bugün de geniş çapta iyi anlaşıldığı anlamına gelmiyor. , yapay zekanın ana akıma girmesinden önce, ChatGPT öncesiydi Hayatın Geleceği Enstitüsü ve TESCREAL “Mektup”a yönelik eleştirilerin ilk satırı, mektubun kökenlerine ve onu hazırlayan ve imzalayan kişilerin gündemlerine atıfta bulunuyor - ve haklı olarak da öyle. Aslında Yaşamın Geleceği Enstitüsü Etkili Fedakarlık, bir organizasyondur. Uzun Vadeli Özetle bu, teknolojinin bugün neden olduğu gerçek sorunlardan ziyade varsayımsal tekno-ütopik bir gelecekle ilgilenen insanlar anlamına geliyor. Her ne kadar FLI'nin SSS'si mevcut zararları da ele almaya çalışsa da, Peter Thiel ve Elon Musk bir şekilde "ekonomik gücün yoğunlaşmasını" bir endişe olarak öne sürüyorlar, kulağa pek inandırıcı gelmiyor. Daha önce Lontermizm'in içinde yer alan filozof ve tarihçi Emile P. Torres, Lontermizm'i ve onun ideoloji ailesini tanımlamak için kısaltmasını icat etti. İnsanlığı Dünya'yı yok etmekten kurtarmak için Mars'a gitmemiz gerektiğini veya sorunlarımızı çözmek için süper gelişmiş yapay zekaya ihtiyacımız olduğunu iddia etmek TESCREAL düşüncesi hakkında çok şey ifade ediyor. TESCREAL Bu insanlar sizin iyiliğinizi düşünmüyor ve kesinlikle kendimi FLI tarafından hazırlanan ve Elon Musk tarafından imzalanan bir mektubu imzalarken görmedim. Ancak bunu yapmamak da zor. Elon Musk tiplerinin elde ettiği fon, etki ve tanıtım miktarını, onları eleştirenler için bile göz ardı etmek zordur. Finansman ve hedefler Konuya ilişkin örnek: Yapay Zeka Etiği Uzmanı Timnit Gebru tarafından kurulan Dağıtılmış Yapay Zeka Araştırma Enstitüsü . Gebru, 2020 yılında Google'dan kovulan kişilerden biriydi. DAIR 2021 yılında kuruldu. DAIR , Gebru'nun yapmak istediği türden işleri mümkün kılmak için DAIR, "yapay zekanın kaçınılmaz olmadığı, zararlarının önlenebilir olduğu ve üretimi ve dağıtımı farklı bakış açıları ve kasıtlı süreçler içerdiğinde faydalı olabileceği inancına dayanmaktadır". Bu övgüye değer görünüyor. DAIR, misyonunda çalışmak üzere çok sayıda araştırmacıyı istihdam ediyor ve Ford Vakfı, MacArthur Vakfı, Kapor Merkezi, George Soros'un Açık Toplum Vakfı ve Rockefeller Vakfı'ndan . Araştırmanın bir şekilde finanse edilmesi gerekiyor. Ancak belki de bu fonun kaynağı hakkında da düşünmeye değer. 3,7 milyon dolar topladı Gebru bu açmazın farkında ve "şu anda büyük hayırseverlik yapan Büyük Teknoloji milyarderleri" hakkında konuştu. Muhtemelen DAIR kurucuları, bu fonların övgüye değer buldukları hedefler doğrultusunda kullanılmasının, fonların kökeninden daha önemli olabileceğine inanıyor. Ancak bu düşünce tarzı yalnızca DAIR'e mi mahsustur? . Diğer açılardan çok düşünceli olan bu açıklamada, yazarları "bu mektubu imzalayan bilgisayar profesyonellerinin sayısını ve medyada aldığı olumlu ilgiyi görmekten dehşete düştüklerini" yazıyorlar. DAIR, "Stochastic Parrots'un listelenen yazarlarının" AI duraklatma "mektubu hakkında açıklaması" yayınladı Sebepler, zararlar ve politika FLI'nin mektubunu imzalayan profesyonellerden bazılarını tanıyor ve onlarla çalışmış olsam da, kendim dışında kimse adına konuşamam. Ancak onlara şüphe avantajı sağlamanın adil olacağını düşünüyorum. gibi bazıları ise “The Letter”ı tam olarak onaylamasalar da, çok önemli buldukları belirli bir hedefe ulaşmak için imza attıklarını ifade etti. Tanıdık geliyor mu? Gary Marcus ve bazılarının, onlara yetişmek için halihazırda yapay zekaya liderlik edenleri oyalamak isteyebileceğini iddia ettiler. . Ve . İnsanlar imzacıların amaçlarını sorguladılar Elon Musk, x.ai adında yeni bir yapay zeka şirketi kuruyor OpenAI artık belki de daha büyük yapay zeka modellerinin gidilecek yol olmadığını söylüyor Ancak imzalayan herkesin motivasyonu kişisel çıkar değildir. Günümüzde yapay zeka sistemlerinin devreye alınmasından kaynaklanan zararlar da gerçektir. ve ; ve ; . DAIR'in bahsettiği zararların hepsi son derece gerçektir. İşçi sömürüsü büyük miktarda veri hırsızlığı baskı sistemlerinin yeniden üretimi bilgi ekosistemimize yönelik tehlike gücün yoğunlaşması Güç sahibi olanlar bunları ya aktif olarak teşvik ediyor ya da akılsızca yapay zeka aracılığıyla mümkün kılıyor. Sorunları gündeme getirmek, farkındalık yaratmak ve Big Tech'in ilerleyişini baltalamak için yapılacak pragmatik şeydir. koalisyonlar kurmak Eğer bu kulağa politika gibi geliyorsa, bunun nedeni, gibi, öyle olmasıdır. Bu, bunun "fikirler, korkular, değerler, tutumlar, inançlar, bakış açıları, kaynaklar, teşvikler ve düpedüz tuhaflıklar" ile artı para ve güçle ilgili olduğu anlamına gelir. insanların belirttiği Her zaman bununla ilgiliydi. Dışarıdan etkileme oyununu oynamaya başlamadan önce Google'ın içinden bazı şeyleri değiştirmeye çalışan Gebru bu oyuna yabancı değil. Medya etkisi ve araştırma FLI'nin yapay zeka moratoryumu çağrısı ilk değildi ama ilgi çeken çağrıydı. Pragmatik olmak, eleştirel bile olsa, imza atmayı gerektiriyordu. rağmen Marcus'un yaptığı da buydu. Bu, Elon Musk tipi imzacıların veya DAIR'in FLI'nin mektubu için gördüğü "olumlu medya kapsamının" ilgisini çekmedi. FLI'den önce moratoryum teklif etmesine Bunlardan bir kısmının olduğu doğrudur. Bazı satış noktaları her zaman sansasyonellik kartını oynamaya heveslidir, diğerleri ise . Ancak bu, haberlerin tamamının olumlu olduğu anlamına gelmiyor. Her durumda medya etkisi oyunun bir parçası. açıkça TESCREAL'den ilham almaktadır Peki ya araştırma? Hem DAIR hem de Marcus, Andrew Ng ve Yann LeCun gibi AI liderleri araştırmalardan bahsediyor. . Ng ve LeCun, araştırmanın "[AI] sistemlerini çok daha kontrol edilebilir hale getirecek yeni fikirler" getirmenin çözümünün bir parçası olduğuna inanıyor Bu, esas olarak teknik nitelikteki sorunlara indirgenen yaygın bir inancın somut örneğidir. Bu inanca sahipseniz, sorunların üstesinden gelmek için gereken şeyin çözüm bulmak için daha fazla araştırma olduğuna inanmak da mantıklı olacaktır. Ancak “Stokastik Papağanlar” olayının da gösterdiği gibi, bu hiçbir zaman çözüm eksikliğiyle ilgili değildi. Daha çok gündemlerle, siyasetle, parayla ve güçle ilgili. Tekeller ve yapay zekanın düzeltilmesi Marcus, yapay zeka konusunda kendisini en çok korkutan şeyin insanlar olduğunu belirtiyor. Köprü kurmayı ve tek bir konuya odaklanmamayı savunuyor. Bu ruhla, yalnızca araştırma yoluyla daha iyi yapay zeka oluşturmaya odaklanmamak önemlidir. İnsanların buna erişmesini sağlamak çok önemlidir. Sonuçta Internet Explorer'dan daha iyi bir tarayıcıya erişim sahibi olmak, tarayıcının kendisinden daha önemliydi. Eğer bu 90'lardaki için doğruysa, bize günümüzün yapay zekası hakkında da bir şeyler söyleyebilir. özü budur. tarayıcı savaşları Matt Stoller'ın ileri sürdüğü argümanın Kararlı bir tekel karşıtı olan Stoller, hem Google'ın hem de Microsoft'un yapay zekaya yönelik ilgisini aynı madalyonun iki yüzü olarak görüyor. Stoller, Google'ın yapay zekanın arama alanındaki hakimiyetine tehdit oluşturduğu yönündeki iddiasının, Google'a yönelik antitröst soruşturmasını yanıltma çabası olduğunu düşünüyor. Stoller, "demokratik bir toplum olarak yasa koyucularımıza bu fantastik bilimsel bilginin az sayıda kişi tarafından kontrol edilmesini istemediğimizi söylemek bizim sorumluluğumuzdadır" diyor. Big Tech'e karşı dikkatli olunması çağrısında bulunmakta haklı. Bazı yapay zeka araştırmacıları ve girişimcileri, herkesin kullanımına açık ve oluşturmaya çalışıyor. Bu harika, ancak tarayıcı metaforunu aklımızda tutmamız gerekiyor. Veri kümeleri ve modeller, geliştiricilerin bir şeyler oluşturmasına olanak tanır. Ama eğer Büyük Teknoloji onları dışarıda bıraktığı için bu şeylere raf alanı olmazsa, pek bir işe yaramayacaklar. veri kümeleri modeller Yapay zeka uzmanı olmanın faydası var. Ancak Melanie Mitchell ve onun Senatör Chris Murphy ile olan görüşmesinin gösterdiği gibi, neden bahsettiğinizi bilmek mutlaka sesinizin duyulacağı anlamına gelmiyor. Mitchell, konusunda harika bir iş çıkardı. ittifaklar kurmak... o kadar da değil. Bazen müdahale etmek doğru şeydir ve oraya ulaşmak için ittifaklara ihtiyaç vardır. yapay zeka hakkındaki abartıları çürütme Yapay zeka konusunda bir şeyler yapabilecek insanlarla Mütevazi bir teklif Yapay zeka uzmanı olsun veya olmasın, her birimizin yapabileceği çok önemli birkaç şey var. Öncelikle dünyadaki ChatGPT'lerin uyguladığı tekelci gücün doğasını anlayın. Bu Büyük Teknoloji sistemlerini ne kadar çok kullanırsak, onların daha iyi olmasına o kadar katkıda bulunuyoruz ve Büyük Teknolojinin gücünü o kadar besliyoruz. . Sayıları giderek artan alternatifleri kullanalım. Bu sefer buna kanmayalım İkincisi, yapay zeka siyasetine girin. Bir senatöre mektup gönderin, imza toplayın, sokaklarda yürüyün veya ; ne işe yararsa onu yapın. Ama bir şeyler yapın ya da en azından başkalarının ne yaptığının farkında olun. İşi her zamanki gibi yapay zekanın baş döndürücü hızıyla sürdürmek felaketin reçetesidir. bir Twitter Alanı düzenleyerek yapay zekaya yönelik uluslararası bir ajansı tartışın Zaten güç ölçeğinin büyük ölçüde Büyük Teknoloji lehine ayarlandığı bir durumdayız. Hiçbir şey yapmamak, adaletsizlik karşısında tarafsız kalmak, yani zalimin tarafını seçmek demektir. Zaten güç ölçeğinin büyük ölçüde Büyük Teknoloji lehine ayarlandığı bir durumdayız. Bu parçanın bir versiyonu görünür. burada
