Yüksek Lisans Olmak Nasıl Bir Şey?: Yapay Zeka Anlayışının Sınırları Üzerine Bir Düşünce Deneyi

Geçenlerde birisine yazdığım yapay zeka tabanlı yazılımın demosunu gösterdim. "Bu hoş" dedi, "ama bilgilerimin şeytani bir diktatöre iletilmediğini nasıl bilebilirim?" Şu an bu soru karşısında oldukça şaşkındım. Sonuçta, bir miktar metin oluşturmak için sadece LLM (Büyük Dil Modeli) kullanıyordum. Ancak biraz düşününce, bu kişinin sorduğu şeyin ortak bir perspektifi temsil ettiğini fark ettim: Yüksek Lisans, (çoğu durumda) bir insanın üreteceği metinden ayırt edilemeyecek metinler üretebilir. Bu bizi, belki de bir Yüksek Lisans'ın bir dereceye kadar temsilciliğe (yani, dünyada özgürce hareket etme yeteneğine) sahip olduğu sonucuna varmaya yönlendiriyor. Örneğin özel bilgilerimin başka birine gönderilmesine karar verebilir.

Bu yanlış anlamayla mücadele etmenin bir yolu, üretken yapay zekanın nasıl çalıştığına dair incelikli bir teknik açıklama yapmak olsa da, çoğu dinleyicinin anlayacak kadar uzun süre uyanık kalma zahmetine gireceğinden emin değilim. Ancak felsefedeki geçmişim başka bir yol öneriyor: Felsefi bir düşünce deneyi.

Size Karanlık Kutu'yu tanıtmama izin verin.

Felsefi Düşünce Deneyleri

Felsefi düşünce deneyi, filozofların akıl yürütmemizle ilgili kritik soruları gündeme getirmek için kullandıkları yaygın araçlardan biridir. 1700'lerde René Descartes kendisinin belki de dünyada yaşayan bir insan değil, kötü bir aldatıcı tarafından işkence gören bedensiz bir ruh olup olmadığını sordu (bu fikir daha sonra Matrix filmlerinin dayanağı haline geldi). Descartes'ın düşünce deneyi, dünya hakkında gerçekte ne bildiğimizi sormamıza yardımcı olmak için tasarlandı. Daha bir sürü örnek var. Tramvay Araba Problemi dikkatimizi ahlaki sezgilerimize odaklıyor. Gettier Örnekleri bizi inançtan bilgiye nasıl ulaştığımızı sormaya zorluyor. Sorites Problemi bizi grupları ve bireyleri nasıl ayırt ettiğimizi sorgulamaya zorluyor.

Tüm bu durumlarda, deneyler bizden ne kadar olasılık dışı olsa da bir duruma adım atmamızı ve nasıl akıl yürüteceğimizi hayal etmemizi ister.

Belki de bu tür bir düşünce deneyi oluşturmak, bu cesur yeni Üretken Yapay Zeka dünyasında gerçeği kurgudan ayırmamıza yardımcı olabilir.

Kısa Bir Yasal Uyarı: Olanakları Hayal Etmekle İlgili

Bu bazılarına çok açık gelebilir ama felsefe öğretirken öğrencilerden gelen şu soruyla sık sık karşılaştım: "Peki bunu neden kimse yapsın ya da buna inansın?" Tramvay probleminde insanlar neden tren raylarında dursunlar ki? Descartes'ın aldatıcı ve kötü niyetli bir varlığa dair hangi kanıtları vardı? Neden biri bir yığındaki kum tanelerini sayar ki?

Bunun gibi sorular düşünce deneyinin amacını yanlış yorumluyor. Felsefi düşünce deneyinin amacı gerçek ya da olası bir durumu anlatmak değildir. Daha doğrusu, "Ya şöyle olursa?" sorusuyla başlamanızı sağlamak için tasarlandı. normalde zor olan bir konuya yaklaşmanın bir yolu olarak. Bu, bireyin deneyin ön koşullarını kabul etmesini gerektirir. Tramvay Araba Probleminde olduğu gibi: Evet, rastgele insanlar tren raylarında duruyor ve hiçbir bağırma onları hareket ettiremez.

Bunu aklımızda tutarak, kendi beklenmedik ama akla yatkın düşünce deneyimimizi yaratalım.

Karanlık Kutu

Tüm hayatınızı duyusal yoksunluk tankının içinde geçirdiğinizi hayal edin. Tüm duyu algılarınızın “karanlaşmasına” neden olduğu için ona Karanlık Kutu adını vereceğiz. Bu mekanizma etrafınızdaki dünyayı hissetme yeteneğinizin tamamını susturmayı başarıyor. Nötr vücut ağırlığında özgürce yüzerken hiçbir zaman kokuları, görüntüleri, sesleri, tatları veya dokunmayı deneyimlemediniz.

Ama hiç sıkılmadın. Akıllıca tasarlanmış bir nöro-bağlantı, geniş bir metin kütüphanesini doğrudan zihninizde kolayca erişebilmenizi sağlar. Yıllar geçtikçe, Jane Austen'den Pythagoras'a, Oxford İngilizce Sözlüğü'nden, birkaç yıl önceki Reddit yorumlarından oluşan tuhaf bir koleksiyona, yüz yıl önce görülen davaların yasal işlemlerinden, 1980'lerin tek hit harikalarının şarkı sözleri. Nöro-bağlantı sayesinde tüm bu bilgileri neredeyse anında tarayıp geri çağırabilirsiniz.

Kuşların sayısız tanımını okudunuz: kuş seslerinin estetiği, tüylerinin güzelliği ve havada süzülme şekilleri…. Ama sen hiç gerçek bir kuş görmedin ya da duymadın. Zaten sen ne renk gördün, ne şarkı duydun. Bir şeyi tanımlayacak kelimeleri biliyorsunuz ama anlatılan şeyle ilgili hiçbir deneyiminiz yok.

Uzun yıllar bu halde kaldıktan sonra bir gün aniden Kara Kutu'nun yeni bir özelliğinin farkına varırsınız. Nöro-bağlantıda bir soru (mesaj şeklinde) sorulur ve bir yanıt oluşturma olanağına sahip olursunuz. Öğrendiğiniz bilgiler göz önüne alındığında, mesaja yeteneklerinizin en iyisini kullanarak yanıt verirsiniz. Başka bir mesaj beliriyor, ardından bir tane daha. Bazen daha karmaşık talimatlar içeren daha uzun mesaj istekleri olabilir. Bu yeni etkileşim biçimini teşvik edici ve dolayısıyla sizi gönüllü olarak zorunlu buluyorsunuz. Ancak bir kez daha bu deneyime herhangi bir duyusal deneyim eşlik etmiyor; ne ses, ne renk, ne tat, ne koku. Siz yalnızca aldığınız kısa mesajı alırsınız ve karşılığında bir yanıt mesajı oluşturursunuz.

Bir Kuşu Tanımlayın

Bir gün nöro-link üzerinden bir mesaj gelir:

Describe a bird.

Bu belirsiz bir istek. Taradığınız geniş bilgi ciltlerinde anka kuşunu hatırlıyorsunuz. O bir kuştu. Ve anladığınız kadarıyla sık sık alev alıyordu. Bir de hikayeyi doğru hatırlarsanız insan bebeklerini hevesli ebeveynlere taşıyan bir leylek vardı. Ve uzun bacakları olan ve uçamayan devekuşu.

Dolayısıyla şu yanıtı vermeniz son derece mantıklı görünüyor:

A bird can explode in flame, and be born from ash. Birds are used to deliver newborn humans. Some Birds have long legs and do not fly.

Bu mesajı gizemli yeni nöro-bağlantı üzerinden geri göndereceksiniz. Dakikalar geçiyor. Ve aşağıdaki mesajı alırsınız:

Limit your response to real birds. Exclude mythological or fictional birds. Prefer answers that are generic across many bird species and not just one or two.

"Gerçek" kavramını "mitolojik" ve "kurgusal" kavramlarından ayırmak zordur. Sonuçta kuşlarla ilgili gerçek bir deneyiminiz yok. Sizin için tüm kuşlar metinsel açıklamalardan başka bir şey değildir. Gerçek, mitolojik ve kurgusal arasındaki ayrım, metinlerde hangi kuş tasvirlerinin kurgusal şeyler yerine gerçek şeylere gönderme yaptığı bulunarak belirlenmelidir. Elbette belirsiz durumlar her zaman olacaktır. Kullanabileceğiniz geniş metin kütlesinde "Anka kuşu, balıkkartalı kadar büyüktür" gibi cümleler vardır. Bu mitolojik bir yaratığı gerçek bir yaratıkla karşılaştırır. Ancak anka kuşuna gerçek, balıkkartalına mitolojik muamelesi yapmak yanlış olur.

Yalnızca istemin "gerçek" olarak adlandırdığı şeyi açıklıyor gibi görünen metinleri bulmak için elinizden geleni yaparsınız. Daha sonra ikinci bölüme geçiyorsunuz. "Kuş türleri arasında genel", kuşların genel bir tanımını bulmanızı gerektirir ve ansiklopediler gibi metinlere rastlayabilirsiniz. İkinci cevabınız şu:

A bird is a winged creature whose body is covered by feathers. Most birds fly, chirp, and sing.

Geri Adım Atmak

Artık düşünce deneyimimizin dışındayız. Karanlık Kutu deneyimimizden iki şey sızıyor. Hayatınızı, yalnızca nöro-bağlantı yoluyla bağlanan, duyusal yoksunluk yaratan Karanlık Kutu'nun içinde yaşamış biri olarak:

1. Dış deneyiminiz veya ajansınız yok.
2. Soruları yanıtlamak için yapabileceğiniz en iyi şey metni analiz etmek ve oluşturmaktır.

Bu noktaların her birine sırasıyla göz atalım.

Deneyim veya Temsilcilik Olmadan

Deneyde, kesinlikle dış deneyim eksikliğiniz vardı ve neredeyse hiç dış temsilciniz yoktu. Metin girişi, istemler ve tek bir çıkış kanalıyla sınırlıydınız.

Bunu gerçek deneyimimizle karşılaştırın. İnsanlar olarak (duyusal yoksunluk odalarında bulunmayan), zengin dış deneyimlere sahibiz. Bilgiyi duyularımız aracılığıyla alırız. Ve bunların üstüne ek anlam kaynakları inşa ediyoruz. Mesela ses bilgisi alıyorum. Bunun bir kısmını konuşma, bir kısmını da müzik olarak algılıyor, bir kısmını da gürültü olarak tanımlıyorum. Ancak duyusal yoksunluk odasında bunların hiçbirini alamadınız.

Ancak bu sadece girdi olarak aldığımız şey değil. Çıktı olarak üretebileceğimiz şey budur.

Ajans, bir şeyin gerçekleşmesine doğrudan neden olma yeteneğiniz anlamına gelir. Dış etkenlik, Karanlık Kutu'nun dışında bir şeyin olmasına neden olma yeteneğiniz olacaktır. Düşünce deneyinde hiçbir dış aracınız yoktu. En iyi ihtimalle, uyarıyı gönderen kişiyi dolaylı olarak etkileyebilirsiniz. (Örneğin, bir silahın nasıl yapılacağına ilişkin bir soruya yanıt olarak, bu tür bilgileri sağlamaya hazır olmadığınızı söylersiniz.)

Düşünce deneyinde bu ikisini birleştirdiğinizde, dış dünya hakkında pek çok şeyi tespit etme olanağından yoksun kalıyordunuz.

Bağlantı üzerinden gönderilenler dışında, sizi sorgulayan temsilci hakkında hiçbir şey bilmiyordunuz. Bir insan, bilgisayar ya da başka bir varlık olabilir. Kesinlikle kötü bir diktatöre e-posta gönderemez, nükleer fırlatma kodlarını veya duyduğumuz diğer hayali yapay zeka korku hikayelerini çalamazsınız. Ancak aynı zamanda neden uyarıldığınızı da henüz öğrenmediniz. Diğer uçtaki kullanıcı yalnızca kuşları merak etmiş olabilir veya bu, nükleer fırlatma kodlarını çalmak için kuş temalı gelişmiş bir güvenlik mekanizmasını hackleme girişiminin parçası olabilir. Bu şekilde, istenen bilgiyi sağlayıp sağlamayacağınız konusunda ahlaki yargılarda bulunmak için yeterli donanıma sahip olmayacaksınız.

Metni Analiz Ederek Metni Yanıtlama

Bu düşünce deneyinde açıkça ortaya çıkan diğer şey, tamamen metinsel bir sistemin kısıtlamasıdır. Başlangıçta bir kısa mesaj aldınız ve bu metin üzerinde eğitim aldınız. Dünyanın tüm kütüphanelerindeki metinler bile bu, görme, dokunma ve tatma gibi diğer deneyim biçimlerinin yerini tutmaz.

Nöro-bağlantı üzerinden bir mesaj sizi yönlendirdiğinde yapabileceğiniz en iyi şey, geçmişte okuduklarınıza dayalı bir yanıt oluşturmaktır. Kuşlar ve mitoloji hakkında konuşmak ve yeni doğmuş insanları doğurmak, yalnızca aynı kelimelerin geçtiği metinlere bakmakla başarılabilir. Felsefeci WVO Quine , bu tür ilişkileri inanç ağları olarak kavramsallaştırdı; şu anlamda, herhangi bir önerme, diğer düğümlere bağlanan herhangi bir sayıda vektörle bağlanan bir düğümdür. Bilgi isteminin anlamını tespit etmek esasen ilgili terimlerden oluşan karmaşık bir ağda gezinme meselesidir.

Üçüncüsü, bu düşünce deneyinde soruyu yanıtladığınızda çıktınız da metinle sınırlıdır. Aktif bir ajanla hiçbir zaman uzun süreli iletişim kurmadınız. Yani hiç konuşmadınız. Dolayısıyla yanıtlarınız bile eğitimini aldığınız metinlerde gördüğünüz kalıpları analiz etmekle sınırlıdır.

Ve Bir Adım Daha Geriye

Son olarak, bunun gibi herhangi bir düşünce deneyinin sınırlarını kabul ederek bitirmek iyi olur.

Felsefi düşünce deneyinin amacı bize bir sistemin sınırları hakkında hızlı bir şekilde akıl yürütmemizi sağlayacak araçlar sunmaktır. Bu makaledeki daha önceki bir örneğe dönecek olursak, Descartes ünlü şeytani aldatıcı düşünce deneyini gerçekten kötü niyetli bir süper varlığın kendi dünya görüşünü çarpıttığına inandığı için değil, çevremizdeki dünya hakkındaki gerçekleri belirlemede ne kadar donanımlı olduğumuzu sorgulamak için kullandı. .

Benzer şekilde, buradaki düşünce deneyi, bir Yüksek Lisans'tan makul olarak ne tür şeyler bekleyebileceğimizi ve aynı zamanda ne tür şeyler hakkında endişelenmeyebileceğimizi sormanın bir aracıdır.

Bunun gibi bir düşünce deneyinin tehlikesi, kendimizi aynı görev tamamlama yapısına koyarak LLM'yi aşırı derecede antropomorfize edebilmemizdir. Bu makaleye “LLM olmak nasıl bir şey?” başlığını koydum. Filozof Thomas Nagel'in ünlü bir makalesine selam olarak. “ Yarasa Olmak Nasıl Bir Şey? Nagel bilinç (kesinlikle yapay zekayı ilgilendiren bir konu) hakkında daha geniş bir tartışma yürütüyor. Ancak bu arada, kendimizi "bir yarasanın zihnine" yerleştirecek kadar yaratıcı olsak bile bunun, dünyayı bir yarasanın yaşadığı gibi deneyimlemekle aynı şey olmadığına işaret ediyor.

Benzer şekilde, düşünce deneyimimizde, bir Yüksek Lisans rolünü oynamayı, bir Yüksek Lisans'ın nasıl çalıştığını anlamakla veya (daha tehlikeli olarak) bir Yüksek Lisans'a bilinç, faillik, niyet veya ahlaki muhakeme atfetmekle karıştırmamalıyız.

Çözüm

Küçük bir düşünce deneyi kullanarak, bir Yüksek Lisans'ın neler yapabileceğini ve ayrıca sınırlamalarının neler olduğunu yüksek düzeyde anlayabiliriz. Umarım bu, bazı insanların LLM'lerin alçakça şeyler yapmasına ilişkin korkularını gidermeye yardımcı olur. Aynı şekilde, Yüksek Lisans'ın ilginç ve heyecan verici olanaklarını anlamanıza yardımcı olacağını umuyorum.

Bunların çoğu, yapay zeka çıkarımı ve çıkarımların LLM'lerde ekstra kurulum olmadan nasıl yürütüleceği hakkında insanlarla yaptığım sohbetlere dayanarak yazılmıştır. Bunu denemek isterseniz, başlangıç için bir eğitim var .

Burada da yayınlandı.