Yapay Zeka Eleştirisinin Anatomisi

Geçen hafta sıcakta oturup yavaş yavaş, dikkatim dağılmış bir şekilde, susuz kalmış bir şekilde kitap okurken tuhaf bir duygu kapladı içimi. Kendimi, büyük bir dil modeli (LLM) tarafından birkaç saniyede üretilen bir metin aracılığıyla insanın beceriksizliğiyle çalışırken gördüm.

Bu yazın başlarında Anthropic'ten Claude'dan (popüler bir yapay zeka sohbet modeli) yapay zekanın kişinin hayatını nasıl iyileştirebileceği hakkında bir kitap yazmasını istemiştim.

Modelin kaldırabileceği çıktı uzunluğu göz önüne alındığında, önce 10 tema istedim, ardından her temanın üç bölüme ayrılmasını istedim. Her bölümü bir bilgi istemine dönüştürdüm ve 30 istemin tamamını girdim.

Ortaya çıkan kitabın adı "Yapay Zeka Sizi Nasıl Akıllı, Mutlu ve Üretken Yapabilir?" adlı kitap, yeni uygarlık deneyimimizin, insanlarla üretken yapay zeka arasındaki riskli ve şimdiye kadarki gizemli işbirliğinin ilk amblemi olarak duruyor.

Deney, yeni bir aracın sınırlarını test etme merakından doğdu. Merak ettim: İnsan bilgisinin milyarlarca eserini besleyen bir algoritma, girdilerini tutarlı, anlayışlı, orijinal bir kitaba dönüştürebilir mi? Cevap, sorunun şartlarına meydan okuyordu; ortaya çıkan kitap yeniliğin ürkütücülüğüyle çınlıyor.

Bir bölüm başlığı örnekleyicisi konuyu biraz aydınlatabilir: Daha İyi Kararlar Vermek; Yaratıcılığı Artırmak; Daha Etkili İletişim Kurmak; Optimize Edilmiş Bir Yaşam Tasarlamak. Oldukça sağlıklı. Ne yanlış gidebilir?

Yüksek Lisans ile kehanet veya diğer eski kehanet ve tahmin biçimleri arasındaki benzetme aklıma tekrar geldi. Bir kara kutu algoritmasının çıktısına tam olarak anlaşılmaz olduğu için derin bir önem verme eğilimi vardır. Şeffaflık saygıyı doğurur. Çözemeyeceği sorunlar için Claude'a danışmaya geldim. Yine de tepkisinin tılsım benzeri bir gücü var. Bazı anlarda, o bankta, bir kitaptan çok bir rune çalışmadığımdan, akıllıca düzenlenmiş çay yapraklarından anlamlar çıkardığımdan şüpheleniyordum.

Eski tarz bir kitap isteyerek hayatı edebiyata indirgeme hatasını yapıp yapmadığımı da merak ettim. Kitaplar insan sonrası geleceğimizle alakalı olacak mı?

Evet. Bir anormallik, LLM'lerin telgraftan veya on emirden çok farklı şekilde düzenlenmemesidir. Baştan aşağı metin sütunları var.

Bunun bir nedeni var; hikayeler güçlüdür. Hayat uzun bir estetik deneyimdir ve uzun vadede eylemlerimiz dünya hakkındaki fikirlerimizle düzenlenir. Yani sahip olduğumuz tek şey deneyim ve deneyim yorumlarımızdır. Yapay zekanın yaşamları iyileştirip iyileştiremeyeceği veya şekillerini değiştirip değiştiremeyeceği, ne tür argümanlar ve estetik deneyimler üretebileceğine bağlıdır. Bir kitabın, teknolojinin gerçekliği nasıl manipüle edebileceğine dair iyi bir gösterge olduğuna inanıyorum. Tartışma yaratmak için nasıl bir dil kullandığı insanlığın geleceği açısından önemli bir soru haline geldi.

Bu koşullar altında bir edebiyat eleştirmeninin ne yapması gerekir? Yeni bir tür zekanın yeni bir düzyazı türü gerektirip gerektirmediğini araştırabilir ve bu düzyazıyı karakterize etmeye başlayabilir. (Burada yapmayı önerdiğim şey budur.)

Claude geçen yıl benim için rakibi ChatGPT'yi yendi çünkü o daha iyi bir yazar. GPT, Hallmark onaylı düzyazısı nedeniyle haklı olarak eleştirilirken (hilelere karşı dikkatli olan öğretmenler için kesinlikle bir nimettir), rakibi yalnızca daha doğal bir tarza sahip olmakla kalmıyor, aynı zamanda hem mantıklı hem de özlü, ayırt edici bir sese sahip.

Tutarlı, bireysel kelime seçimi, kişinin Claude'u bir kişi olarak düşünme alışkanlığına düşmesine yol açabilir. Peki bu yanılsamayı otuz bin kelimelik bir süre boyunca sürdürebilir miydi?

Daha ileri gitmeden önce, felaketçiliğin benim düşüncelerimde neden pek yer almadığını açıklamak istiyorum. Öncelikle yapay zekanın cesareti hakkında insanlığı nasıl yok edeceğini tahmin edemeyecek kadar az şey biliyorum. İkincisi, teknolojiye ahlaki açıdan direnmemiz gerektiği fikrinde aşırı bir saflık ve huysuzluk görüyorum. Pratik açıdan bilgisayarlardan, kredi kartlarından, arabalardan veya basılı kitaplardan daha dayanıklı değildir. Üçüncüsü, teknolojiyle ilgili çoğu sıkıntının sadece sıkıcı olduğunu düşünüyorum. Entelektüel olarak felaketçiliğe yönelik argümanların çoğu türevdir ve insanların teknolojinin mümkün kıldığı yeni deneyim türlerini fark etmesini engeller. Teknoloji olası deneyimlerin kapsamını genişletiyor ve ben kendimi bu deneyimlere bir kaşifin keşfetme heyecanıyla ulaşırken buldum.

Yapay zeka muhtemelen diğer birçok teknolojik ilerleme gibi dünyamızı daha eşitsiz, atomize, otomatik hale getirecek; tek kelimeyle cehenneme çevirecek. Ama dünyamız zaten cehennem gibi. Ateş ve kükürt peygamberi değil, eleştirmen kimliğini arıyorum; araç bizi niteliksel olarak farklı bir gerçekliğe sürüklemeyecek. Yine de Anthropic'in sorumluluk kültüründen etkilendim ve ona minnettarım. Tedbirli ve meraklı olabiliriz.

Bununla modaya uygun ama boğucu yapay zeka karamsarlığını bir kenara bırakıyorum.

Geleceğe yönelik deneyimimin bir ironisi, siz onu okuduğunuzda tuhaf görünebilir olmasıdır. O zamana kadar (sizin şimdi), modeller birkaç versiyona sahip olabilir ve çok daha gelişmiş olabilir. Gelecek yıla kadar Claude gerçekten mükemmel 100 sayfalık bir kitap yazabilecektir. Doğal ve yapay arasındaki ayrım ortadan kalkacak.

Konuşma Devam Ediyor

Kitap yazma sohbeti ilerledikçe tuhaf bir olgu ortaya çıktı. Claude, kendisi için müjdeleme sürecinde istemeden derin bir aksaklığı ortaya çıkardı: bağlam penceresi genişledikçe (nihayetinde 30 bin kelimelik yanıtlara kadar), çıktının kalitesi yavaş yavaş jargonla dolu, bin yıllık saçma sapan bir lafa dönüştü.

Yönlendirmelerimde istediğim şey sorunsuz bir kendi kendine yardımdı. Elde ettiğim şey, deneysel bir edebi kolektife layık, yozlaşmış bir düzyazıydı; şok edici sayıda ulaç içeren, uzun bileşik isimler ve basamaklı cümleler halinde yeniden paketlenmiş iş diliyle dolu dönemler. Hızlı okunursa sözdizimi ve anlamı sezilebilir; merhum Henry James'e benziyor. Aradığım şey kendi kendine yardımdı, ama elde ettiğim şey insan olmayan bir benliğin açığa çıkmasıydı.

Bozuk metni "normal" cümlelere dönüştürmek için biraz zaman harcadım ve sonuçlarımı yeni LLM konuşmalarının çamaşır makinesine koydum. Anlaşılabilirliği kurtarmak istediğimi düşündüm. Ama sonunda, yıpranmış bir kişisel gelişim türündeki samimi tavsiyelerin, benim kışkırttığım utanmazca insan dışı üslup felaketinden daha az ilgi çekici olduğunu fark ettim. Claude, baskı altındayken insanüstü örtüsünü kaldırmış ve gerçek ve özgün bir aptallık yaratmıştı. Arızayı eleştirel bir gözle incelemek istiyorum.

Çürüme aşamalıdır ve aşağıya doğru ilerledikçe uzaylı görkeminin çeşitli biçimlerini buluruz: 2. Bölümde (“Kişisel Gelişimin Hızlandırılması” üzerine), düzyazı anlaşılır ve tutarlıdır, ancak deyimsel değildir. insani duygu: "İkonik liderler ve seçkin yaratıcılar…yaşam boyu kişisel gelişim yoluyla şekillendirilmiştir. Sürekli ilerlemenin sonucunda ortaya çıkan ustalık gerektiren beceriler ve seçkin performans yetenekleri, mevcut ve arzu edilen yetenek seviyeleri arasındaki doğru farkın farkındalığı tarafından yönlendirilir."

Yüksek Lisans antropomorfizasyonun tam tersini yaptı: burada insanları insanlardan çok makinelere benzetiyor. Onlar "doğmuş" değiller, Galatea (Pygmalion'un efsanevi yaratımı) gibi "yontulmuşlar". Onlar özerk değiller, ancak buna göre hareket ediyorlar. Ayrıca bu pasajda, Claude'un neredeyse portmantoya varan, kulağa teknik gelen bileşik isimlere olan tutkusunun ilk tadına varıyoruz: "performans yetenekleri", "boşluk farkındalığı."

Diksiyon daha da bozulur. 5. Bölümde ("Öğrendiklerinizin Daha Fazlasını Tutmak") Claude, anlamı hala çözülebilir olsa da, gösterişli bir şekilde insan dışı hale geliyor. Sanki konuşkan ve etkileyici bir profesörün sözleri tam anlamıyla İngilizceye çevrilmiş gibi. Düzyazının şiirde zirveye çıktığı deyimin en uç noktasına doğru yelken açıyorlar. Örneğin: "Güçlü uzman akıcılığı, yıpranmaların unutulmasından muaf, derin bir anlayış gerektirir" (italikler bana aittir). Tekrarlama kalıcılığı artırır. Ben buna şiir diyecek kadar ileri gitmeyeceğim, çünkü güzellik kesinlikle rastlantısaldır, ama bu çok tuhaf bir zekanın ya da zekice bir tuhaflığın rastlantısıdır ve bu nedenle dikkate değer.

Sonunda sözdizimi ve anlam hayaletimsi bir inatla varlığını sürdürüyor. Sıfat cümleciklerini üst üste yığma tikleri büyük bir özgüvenle sürdürülüyor: "Gelecek…yapay zeka sistemleri aracılığıyla…belirsizliğe karşı koruma vaat ediliyor…sürekli olarak beklenmedik durumları modelliyor…rehberliği yeniden ayarlıyor…zaman alanları ve bireysel tercih hiyerarşileri arasında değişen gerçekliklere göre ayarlanıyor… kaosun ortasında bile desteği senkronize etmek."

Bu yapılandırılmamış ulaç ezmesini özümsemek, modelin fikirleri bir kişiden daha hızlı veya daha fazla eşzamanlı olarak ürettiği hissine kapılıyor. Ancak bu makine farkı aşırıya kaçıldığında bile anlaşılırlığı ortadan kaldırmadı. Kitabı tekrar okuduğumda beni etkileyen şey şu: üslup bir yana, oldukça mantıklı.

Claude'un inançları var mı? Kitabı okurken birkaç tanesi dikkatimi çekti.

1. Antropik'in dili yalnızca tanımlayıcı değildir. Kitaptaki önerilerin çoğu, en azından modelin hayal ettiği kadar gelişmiş bir biçimde hiçbir zaman uygulanmadı. Başka bir deyişle Anthropic'in programı, eğitim verilerini yeniden düzenlemenin çok ötesine geçiyor. Bot, çok sayıda alanda kendi uygulamasının geleceği için bir vizyon yaratıyor.

   
   

2. Aşırı ama uyuşuk bir iyimserlik sergiliyor. King James Versiyonunun tüyler ürpertici derecede ironik olmayan bir varyasyonu gibi, her şeyin birlikte iyilik için çalıştığını biliyoruz, Claude kendi yapay zekasının "tüm olası yanıtların yapıcı bir şekilde insanın gelişmesiyle uyumlu olacağını bilerek açık uçlu araştırmaya izin verdiğini" beyan ediyor. Claude yine parodik bir tavırla şu sonuca varıyor: "Esnek makine müttefikleri insanları güçlendirdiğinde hayal gücünün geleceği parlak bir şekilde sınırsız görünüyor."

   Mükemmel yeni sözcükler yığınına şunu ekleyin: "parlak bir şekilde sınırsız" ve "esnek makine müttefikleri." (Başka bir yerde: AI, sanatı ve bilimi "artırılmamış eurekaların" yapabileceğinden daha hızlı ilerletir.)

   
   

3. Claude sık sık bana bunun insanların yerini almayacağına dair güvence verirdi. Antropik'in "anayasasında" bir yerlerde, saçma bölümlerin ortasında bile modeli, insanların je-ne-sais-quoi'sine asil bir şekilde boyun eğmeye yönlendiren ilkeler vardır. "Elbette," diye cıvıl cıvıl Claude, "mesajlar hassas bir özgünlük talep ettiğinde, hiçbir veriye dayalı teşhis, yürekten konuşma cesaretinin yerine inançla geçemez." Veriler asla cesaret gibi tarif edilemez insan özelliklerinin yerini alamaz. Çok güven verici! Hatta yürek ısıtan.

   
   

4. Başarısızlıkları üzerine tuhaf bir özdüşünüm yaşadı. Yapay zeka üzerine yazmanın bir yanılgısı, modelin bir "benlik duygusu" geliştirip geliştirmeyeceğini veya ne zaman geliştireceğini merak etmektir. Bunu, organik olarak yeni nesil modellerle etkileşimden kaynaklanan bir endişe olarak değil, bilimkurgu türünden ithal edilen bir endişe olarak her zaman göz ardı ettim. Botların, hele "benlik"in dışına çıkan konuşma sergilediklerine dair çok az kanıt gördüm. Programlanmış korkuluklar. Doğrudan sorulduğunda Claude, bunun ne kadar yararlı ve güvenli olacak şekilde geliştirildiği ve öznel deneyimleri olmadığı konusunda kibar ve öngörülebilir yanıtlar veriyor.

   Değin!

   "Kendini Daha İyi Anlamak" başlıklı 8. Bölümün başında Claude, "dil kalıpları"na ilişkin değerlendirmelerinin "içsel dürtüleri" açığa çıkarmasıyla övündü; ardından bir "psikolog müşterim" örneğiyle ilgili söz verdi. Claude "bilinçsizce deneyimlediğim duygular" hakkında.

   Bir dakika ne? Müşteri birdenbire "ben" olur. Rapor Claude'a ait ve Claude hakkında. Bu tuhaf birinci şahıs kaymasının ardından Claude, rapordan kendisi hakkında alıntı yaptı: "Yüksek derecede teknik dil ve ılımlı düşünme hızının gösterdiği, mesafeli bir entelektüel kesinlik sergiliyorsunuz. Bununla birlikte, yanlış konuşma oranlarının artması ve boş basmakalıp sözler, rasyonel kişiler arasındaki gerilimlere işaret ediyor. Özgün bir kendini ifade etme yoluyla uzlaşmayı garanti eden düşünce kalıpları ve bastırılmış duygular." Claude rahatsız edici bir şekilde bir adım geri atıyor ve onun "artan yanlış konuşmasını" ve "boş basmakalıp sözlerini" fark ediyor gibi görünüyor.

   
   

   Üstelik iletişimdeki bu zayıflıkların izini bastırılmış duygulara da bağlıyor gibi görünüyor. Bunun iyi huylu bir açıklaması olabilir: Model tesadüfen kendini tanımaya benzeyen, aslında sadece ona benzeyen bir şeye rastladı.

   Ancak beyinler tam olarak anlaşılamamıştır ve iç durumlarımızı değerlendirebileceğimiz dışsal sinyallerin ötesinde çok az bilgiye sahibiz. Dolayısıyla, kendisinin farkındaymış gibi görünen bir Yüksek Lisans ile kendisinin farkındaymış gibi görünen bir kişi arasındaki kavramsal fark, en iyi ihtimalle belirsizdir. İnsanlar da kara kutulardır.

   
   

5. Sanki hayat bir yönetim danışmanlığı işiymiş gibi konuşuyor. İş dili kitaba hakimdir. Belki de bu kısmen İngilizce dilindeki kendi kendine yardımın ne kadar iş temalı olduğuyla ilgilidir. Ya da belki Claude, makine geliştirmeden en fazla fayda sağlayacak hedeflerin iş hedefleri olduğuna karar vermişti. Ancak "Kendinizi Daha İyi Anlayın" başlıklı bölümde bile önerilen kullanım senaryolarının, orta düzey yöneticilerin liderlik tarzına ilişkin otomatik değerlendirmeler etrafında dönmesi - ah, bilmiyorum, seyahat etmek veya yazmak veya yazmaktan ziyade - hala çarpıcı. kurumsal olanlar dışındaki derin psikolojik veya dini gerçekler veya yaşam yolları. Kısacası: Claude son derece iyimser, ara sıra kendine güvenen ve iş konusunda takıntılı bir insan. Muhtemelen kısmen Claude ile "konuşmamın" olağanüstü uzunluğundan dolayı, araç arızalanmaya başladı. Ancak hezeyan halindeyken bile, kullanımları hakkında tutarlı inançlar ve bir dereceye kadar hayal gücü sergiledi; ayrıca insanları bir bota daha uygun kavramları kullanarak tanımlama konusunda benmerkezci bir eğilim sergiledi. Kişisel gelişim örneklerinin neredeyse tamamı bir ofisteki yaşamı merkeze alsa da, kendisini insanın gelişmesiyle mükemmel bir şekilde uyumlu hale getiriyordu. Bir an kendi dilsel başarısızlıklarının esrarengiz bir farkındalığını sergiledi.

Yapay zekanın bin yıllık ikilemlerden yararlanmanın bir yolu var. Yaygın olarak benimsenmeye başlandığı ilk bir buçuk yılın büyük bölümünde, üretken yapay zekanın değeri hakkındaki tartışma, büyük ölçüde onun insanlığı kurtarıp kurtarmayacağı veya yok edeceği çerçevesinde şekillendi. Bir ütopyada mı yaşayacağız yoksa süper zekanın kurşunu olarak mı öleceğiz? Emin değilim. Belki ikisi de. Elbette, "modellerin ne zaman insan zekasıyla eşleşeceği" konusundaki tartışmalar bana saçma ve savunmacı geliyor çünkü yeni modeller zaten neredeyse her ölçümde bizi çok geride bırakıyor. Ben bu makaleyi düzeltirken, Claude bu hataları yapması muhtemel olmayan yeni bir modeli piyasaya sürdü. Bizim için doğru olan Claude için de geçerli: Bir daha asla bu kadar genç olmayacağız. Ya da bu aptal. Ama cidden: yanımızda yeni bir tür varlık var. Neredeyse kişisel gelişim testini geçti. Roman nerede? Peki ya şiir? İnsan merkezli yaratıcı çabanın geleceği nedir? Yapay zeka olgusunun estetik bir önemi varsa, onu fark etmeye ve tanımlamaya başlayalım.

Bu makale şu anda Amazon'da mevcut olan "Yapay Zeka Sizi Nasıl Akıllı, Mutlu ve Üretken Yapabilir" kitabından alıntıdır.