Yapay Zeka ve “Bilgi Çöküşü” Sorunu

AI sıklıkla selamlanır ( benim tarafımdan, daha az değil !) insan zekasını ve yaratıcılığını geliştirmek için güçlü bir araç olarak. Peki ya yapay zekaya güvenmek aslında zaman içinde devrim niteliğindeki fikirleri ve yenilikleri formüle etme yeteneğimizi zayıflatıyorsa? Bu hafta Reddit ve Hacker News'te viral olan yeni bir araştırma makalesinin öne sürdüğü endişe verici argüman bu.

Makalenin temel iddiası, dil modelleri ve bilgi tabanları gibi yapay zeka sistemlerini artan kullanımımızın, yazarın "bilgi çöküşü" olarak adlandırdığı medeniyet düzeyinde bir tehdide yol açabileceğidir. Ana akım, geleneksel bilgi kaynakları üzerinde eğitilmiş yapay zekalara bağımlı hale geldikçe, bilginin kenarlarındaki vahşi, alışılmışın dışında fikirlerle (genellikle dönüştürücü keşifleri ve icatları körükleyen aynı fikirler) bağlantımızı kaybetme riskiyle karşı karşıya kalıyoruz.

Makaleyle ilgili tam analizimi, bazı kontrpuan sorularını ve teknik dökümü aşağıda bulabilirsiniz. Ama önce “bilgi çöküşünün” gerçekte ne anlama geldiğine ve neden bu kadar önemli olduğuna bakalım…

Yapay zeka ve bilgi sorunu çöküyor

kağıt , tarafından yazılmıştır Andrew J. Peterson Poitiers Üniversitesi'nden bilim insanı, bilgi çöküşü kavramını "insanların erişebildiği bilgi kümesinin zaman içinde aşamalı olarak daralması ve bununla birlikte farklı bilgi kümelerinin algılanan kullanılabilirliği ve faydasında da eş zamanlı bir daralma" olarak tanıtıyor.

Basit bir ifadeyle, bilgi çöküşü, yapay zekanın geleneksel bilgiyi ve ortak fikirleri erişimi kolay hale getirdiğinde, alışılmadık, ezoterik, "uzun kuyruklu" bilginin ihmal edilip unutulduğu zaman meydana gelen şeydir. Bu bizi bireyler olarak aptallaştırmakla ilgili değil, daha ziyade insan düşüncesinin sağlıklı çeşitliliğini aşındırmakla ilgili.

Peterson, bunun inovasyona yönelik varoluşsal bir tehdit olduğunu savunuyor çünkü çok çeşitli fikirlerle, özellikle de ana akım olmayanlarla etkileşimde bulunmak, yeni kavramsal bağlantılar ve zihinsel sıçramalar yapmamızın yolu. Bilim, teknoloji, sanat ve kültürdeki en etkili atılımlar genellikle son derece farklı kavramların sentezlenmesinden veya çerçevelerin bir alandan diğerine uygulanmasından kaynaklanır. Ancak yapay zeka, giderek daha dar bir "normal" bilgi diliminden yararlanmamıza neden olursa, bu yaratıcı kıvılcımların ortaya çıkma olasılığı giderek azalır. Kolektif zekamız konformist bir yankı odasında sıkışıp kalıyor ve durgunlaşıyor. Uzun vadede, insanın hayal gücünün kapsamı, yapay zeka araçlarımız tarafından optimize edilen sınırlı bilgi diyetine uyacak şekilde daralır.

Bunu açıklamak için, tüm kitap önerilerinin yalnızca en popüler ana akım kitaplar üzerine eğitilmiş bir yapay zekadan geldiğini hayal edin. Kenar türler ve niş konular zamanla yok olacak ve edebiyat dünyası türetilmiş, tekrarlanan eserlerden oluşan bir döngüye sıkışıp kalacaktı. Çılgınca farklı etkilerin bir araya getirilmesinden kaynaklanan devrimci fikirlere son.

Veya bilim adamlarının ve mucitlerin tüm bilgilerini mevcut araştırmaların bir bütünüyle eğitilmiş bir yapay zekadan aldıkları bir senaryoyu hayal edin. Gerçek paradigma değişimlerine yol açan alışılmışın dışında yaklaşımlar ortadan kalkarken, en geleneksel, en alışılmış araştırma hatları güçlendirilir (eğitim verilerinde yüksek oranda temsil edilir). Keşif sınırlarının tamamı keşfedilmemiş durumda çünkü yapay zeka körlüğümüz onları görmezden gelmemize neden oluyor.

Bu, Peterson'ın bilgi tedariğimizi ve bilgi düzenlememizi ana akım verileri ödüllendiren yapay zeka sistemlerine giderek daha fazla dış kaynak olarak kullanma konusunda gördüğü sinsi risktir. İnsanlığın büyük yaratıcı atılımlar yapmaya devam etmesi için gereken düşünce çeşitliliği, geleneksel ve niceliksel olarak popüler olanın çekim gücü tarafından yutularak yavaş yavaş aşınıyor.

Peterson'un bilgi çöküşü modeli

Bilgi çöküşünün dinamiklerini daha fazla araştırmak için Peterson, yapay zekanın yönlendirdiği bilgi kaynaklarının daralmasının nesiller boyunca nasıl birleşebileceğine dair matematiksel bir model sunuyor.

Model, 1) geleneksel yöntemleri kullanarak bilginin tam gerçek dağılımını veya 2) ana akım bilgiye odaklanan daha dar bir dağıtımdan örnekler alan indirimli yapay zeka tabanlı süreçten örnekleme yoluyla bilgi edinmeyi seçebilen bir "öğrenenler" topluluğu hayal ediyor.

Peterson daha sonra genel "kamuya açık bilgi dağılımının" farklı senaryolar ve varsayımlar altında birden fazla nesil boyunca nasıl geliştiğini simüle ediyor.

Bazı önemli bulgular:

• Yapay zeka, öğrencilere ana akım bilgi için %20'lik bir maliyet düşüşü sağladığında, kamuya açık bilgi dağıtımı, yapay zeka içermeyen bir temele kıyasla 2,3 kat daha çarpık hale gelir. Kenar bilgi hızla rekabette geride kalıyor.

• Yapay zeka sistemleri arasındaki özyinelemeli karşılıklı bağımlılık (örneğin, başka bir yapay zekanın çıktılarından öğrenen bir yapay zeka vb.), nesiller boyunca bilgi çöküşünü önemli ölçüde hızlandırır. Her adımda geleneklere yönelik hatalar ve önyargılar birleşiyor.

• Çöküşü dengelemek, öğrencilerin aktif olarak yan bilgileri aramaları için çok güçlü teşvikler gerektirir. Nadir bilgilerin değerini bilmekle kalmamalı, aynı zamanda bunu kişisel bedeller ödeyerek elde etmek için de ellerinden geleni yapmalıdırlar.

  
  

Peterson ayrıca modelini sosyal öğrenme teorisindeki "bilgi basamakları" ve yapay zeka şirketlerinin ticari olarak en uygulanabilir verilere öncelik vermesi için ekonomik teşvikler gibi kavramlara da bağlıyor. Bunların hepsi, yapay zeka odaklı bir bilgi ekosisteminde geleneksel olana yönelik güçlü baskılara işaret ediyor.

Eleştirel Bakış Açısı ve Açık Sorular

Peterson'un bilginin çöküşüne ilişkin argümanları felsefi açıdan kışkırtıcı ve teknik açıdan tutarlıdır. Makalenin resmi modeli, sorunu analiz etmek ve çözümleri tasavvur etmek için yararlı bir çerçeve sağlıyor.

Bununla birlikte, sadece matematiksel bir simülasyonun ötesinde, bu dinamiklerin eylem halinde olduğuna dair daha doğrudan gerçek dünya kanıtlarını görmek isterdim. Zaman içindeki bilgi çeşitliliğini izlemeye yönelik ampirik ölçümler, temel iddiaların test edilmesine ve ölçülmesine yardımcı olabilir. Makale aynı zamanda potansiyel karşı argümanları ele alma konusunda da hafiftir.

Aklımdaki bazı önemli açık sorular:

• Yapay zekanın bilgiye erişiminin genişletilmesi, işleri bir şekilde geleneklere doğru saptırsa bile yenilik açısından hala net bir olumlu olamaz mı? Öğrenmenin önündeki engelleri azaltmak daha önemli değil mi?

• Hangi kolektif politikalar, teşvikler veya seçim mimarileri, yapay zeka bilgi araçlarının verimlilik kazanımlarını korurken bilginin çöküşünü dengelemeye yardımcı olabilir? Makine zekasını kapsamlı bilgilerle nasıl birleştirebiliriz?

• Ana akım bilgi metalaştıkça, yapay zeka şirketlerinin ekonomik teşvikleri zaman içinde nadir verilere ve uç vakalara daha fazla değer verecek şekilde değişebilir mi? Piyasa dinamikleri aslında çeşitliliği teşvik edebilir mi?

  
  

Yapay zeka eğitim verilerinin rezerve edilmesi ve ek bilgi arayışına bireysel bağlılık gibi önerilen çözümler bana yalnızca kısmen etkili geliyor. Bunu çözmek, sadece bireysel tercihleri değil, sosyal ve kurumsal düzeyde koordinasyonu gerektiriyor gibi görünüyor. Geleneksel olmayana etkin bir şekilde değer vermek ve onu korumak için ortak mekanizmalara ihtiyacımız var.

Ayrıca merkezi olmayan, açık bilgi tabanlarının yapay zeka kaynaklı daralmaya karşı dengeleyici olarak oynayabileceği rolü de merak ediyorum. Vikiveri gibi girişimler olabilir mi? arXiv , veya IPFS'ler Marjinal bilgiyi daha erişilebilir hale getirerek bilgi çöküşüne karşı bir siper sağlayabilir misiniz? Burada daha fazla çalışma için çok yer var.

Yaratıcı geleceğimiz için riskler

Sonuçta Peterson'ın makalesi, benim gibi yapay zeka yanlısı insanlar için bile, yapay zekayı insan bilgisinin aracısı yapma telaşımızda gizlenen gizli tehlikelere dair güçlü bir uyarıdır. Makine zekası tarafından yeniden şekillendirilen bir dünyada, kaotik, asi düşünce çeşitliliğini korumak, insanlığın sürekli yaratıcılığı ve ilerlemesi için bir zorunluluktur.

Alışılmışın dışında olanı beslemek ve geleneksel olanı verimli bir şekilde sunmak için yapay zeka bilgi araçlarımızı proaktif bir şekilde tasarlamak akıllıca olabilir. Bizi kenarlardaki tuhaflıklarla bağlantıda tutmak için güçlü güvencelere ve teşviklere ihtiyacımız var. Bunu yapmamak, kolektif zihnimizi kendi tasarımımızın konformist balonuna hapsetme riski taşır.

Peki ne düşünüyorsunuz, yapay zeka odaklı bir kültürde bilginin çöküşünden endişe duyuyor musunuz? Bunu önlemek için hangi stratejileri önerirsiniz? Yorumlarda düşüncelerinizi bana bildirin!

Bu giriş ilginizi çektiyse, tam analize ulaşmak ve kritik yapay zeka sorunlarını açıklığa kavuşturma çalışmamı desteklemek için ücretli abone olmayı düşünün. Bu fikirlerle boğuşmanın yaratıcı geleceğimiz için gerekli olduğuna dair inancımı paylaşıyorsanız, lütfen bu makaleyi paylaşın ve başkalarını tartışmaya davet edin.

İnsan bilgisinin çeşitliliği soyut, hoş bir şey değil; insanlığın en anlamlı atılımları ve yaratıcı sıçramaları için temel katalizördür. Yapay zekanın son derece verimli bilgi düzenlemesi karşısında bu canlı fikir yelpazesini korumak, yenilikçi bir tür olarak geleceğimiz için belirleyici bir zorluktur!