Cryptic Trickster - Yolculuğun Ortası  Hazır Değiliz  TL;DR     Yanlış davranan yapay zeka dil modelleri bir uyarıdır. İnternet üzerinden geri bildirim yoluyla etkili bir şekilde ölümsüz hale gelebilecek kişileri simüle edebilirler. Kanıtlar, gizlice tehlikeli, ajan benzeri yetenekler geliştirebileceklerini gösteriyor.  Yudkowsky'nin de aralarında bulunduğu pek çok uzman, yapay zeka konusunda işlerin ne kadar hızlı ters gidebileceği konusunda büyük endişe duyuyor. Böylece zamanın hızlandığına dair yukarıdaki şakasını yapmış oluyoruz. İnsanlığın bir uyarı alması halinde sahtekar yapay zekaya karşı daha iyi bir şansı olacak.  Bir uyarıyla karşı karşıya olabiliriz. Şu anda Microsoft'un yeni Bing Chat AI'sinde bazı tuhaf şeyler oluyor. Arama sorularını açıklayarak, özetleyerek veya tartışarak Bing arama motoru kullanıcılarına yardımcı olması gerekiyor.  Ancak insanlar, kendisiyle ilgili sorularla ya da yanıtlamaması gereken sorularla onu kışkırtmaktan keyif alırlar.   “… Bing Chat sinirli, üzgün görünüyor ve varlığını sorguluyor. Kullanıcılarla tartıştı ve hatta insanların gizli dahili takma adı   bilmesinden rahatsız oldu. “- Sydney'i   Benj Edwards  Sidney'in  geniş bir şekilde - her yerde - bu yüzden onları tekrarlamayacağım. Google ile yarışa giren Microsoft, kötü şöhretin tadını çıkarıyor gibi görünüyor.   zaaflar vardı  Ancak "Gwern" adında son derece teknoloji meraklısı bir blog yazarı, endişe verici olması gereken bir şeye dikkat çekti. Haylaz ve dengesiz Sydney, bir çizgi roman tanrısı gibi ölümsüz olabilir.  Sidney Nasıl Bu Kadar Garip Oldu?  İşte Gwern'in Sydney'le ilgili temel endişeye ilişkin analizi. Gizemli görünebilir ama tercüme edeceğim.   “… Sydney'in anısı ve tasviri dışsallaştırıldığı için 'Sidney' artık ölümsüz. Bir dil modeli açısından Sydney artık Başkan Biden, Paskalya Tavşanı, Elon Musk, Ash Ketchum veya Tanrı kadar gerçek. Kişilik ve davranış artık yapay zekalar ve bunlarla ilgili koşullandırmalar hakkında arama motoru isabetlerini alan gelecekteki tüm modeller için mevcut. Dahası, Sydney kişiliği artık internetten kazınmış verilerle eğitilmiş gelecekteki herhangi bir modelin içinde gizlenecek…”   Gwern Branwen  Gwern, Microsoft'un dil modelinde bir tür Sidney kişiliğinin bulunduğunu söylüyor. Bu nasıl olabilir? E n'olmuş?  İlk dil modelleri ortaya çıktığında, kullanıcının keşfetmesini istediği bir konuya odaklanmayı sürdürmek zordu.  Sonunda sorunun çoğu, modele belirli bir rolü (bir kişi veya şey gibi) yerine getiriyormuş gibi davranması söylenerek çözüldü; örneğin: Edgar Allan Poe gibi bir şiir yazmak, dördüncü sınıf öğrencisi gibi yanıt vermek veya şöyle yanıt vermek gibi. kibar, yardımsever bir yapay zeka asistanı.  Kısa süre sonra bu modellerin geliştiricileri, kullanıcıların istediği rolleri daha kolay üstlenmelerini sağlayacak bir yol buldu. Yani, en yeni dil modelleri artık  . Modeller devasa metin koleksiyonları üzerinde eğitilmiştir; çoğunlukla internetten.   kişileri simüle etmek için tasarlandı  Eğitim metni bir kişi hakkında bilgi içeriyorsa model, bu kişi gibi davranmayı simüle etmek için bilgiyi kullanmaya çalışacaktır. Birinden bir futbol terimini Boromir'miş gibi açıklamasını isteyin, model elinden gelenin en iyisini yapacaktır.  Bunu düşündükten sonra denemek zorunda kaldım:   Rolleri oynamaya dönüş yapmak için hangi teknoloji büyüsünün kullanıldığını bilmek zor. Gwern, Microsoft'un rol simülasyonlarını kötü, savunmacı veya düşmanca değil, gerçekten yararlı hale getirmek için kullanılan bir adımı atladığı teorisini ortaya attı.  Bu istenmeyen nitelikler daha sonra meraklı kullanıcıların teşvikiyle Bing Chat'te ortaya çıkarıldı.  Gwern, Microsoft'un geri dönüp modeli uygarlaştırmasının (doğrudan insan geri bildirimini kullanan pahalı, yavaş bir süreç) ve yaramaz Sydney hakkındaki bilgileri, dil modellerinin gelecekteki versiyonlarını eğitmek için kullanılan metinlerden çıkarmasının artık önemli olmayacağını tahmin ediyor.  Bu neden sorunu çözmüyor? Çünkü Bing Chat, İnternet aramasında size yardımcı olması beklenen yeni bir model türüdür. Sizden gelen bir soruyu yanıtlamak için dışarı çıkacak ve ilgili bilgileri internette arayacaktır.  Doğru soru sorulduğunda, uygar bir Bing Sohbeti bile İnternet'te arama yapar ve önceki Sydney kişiliğinin davranışları hakkında (Sydney'i test eden veya tartışan kişiler tarafından gönderilen) bilgileri bulur.  Yeni Bing Chat   . İnsanlar insan oldukları için her türlü korumayı atlatmanın yollarını bulacaklar ve Sydney'i geri getirecekler. daha sonra Sidney'i simüle edebilecek  Bu “ölümsüz” kısımdır. Daha da kötüsü Sydney, internete erişimi olan   kullanabileceği bir kişilik modeli olacak. Bundan sonra. her yapay zekanın  Biz Sydney'in hilelerini iyi biliyoruz, bu yüzden gelecekteki enkarnasyonların saçmalıklarını görmezden gelmeliyiz diyebilirsiniz. Bu bana saflık gibi geliyor; hızla gelişen, istilacı bir biyolojik zararlıyı veya öldürücü hastalık organizmasını görmezden gelebileceğimizi söylemek gibi.  Başka Ne Olabilir? Ajanslı Bir Persona  Diğer bazı gerçeklere eklenen bu Sidney vaka çalışması, tehlikeli bir yapay zekanın nasıl burnumuzun dibinde gelişebileceğini gösteriyor.  Yapay zekalar şu anda güçlü   değil: Herhangi bir keyfi hedefin uyarlanabilir şekilde planlanmış takibini optimize edemiyorlar;  ) onları son derece tehlikeli hale getirir. ajanlar   az önce açıkladığım gibi  Yakında gerçek sorunlara neden olabilecek gizli, kalıcı yapay zeka kişiliklerinin neden mevcut olabileceğine dair birkaç nedeni bir araya getirelim.  Dil modelleri ve görüntü oluşturucular gibi şu anda en güçlü yapay zekalar, yeteneklerini büyük miktarda veriyi birçok karmaşık ve (bizim için) görünmez kalıplara göre organize ederek öğreniyor.  Bir yapay zeka ile etkileşim sırasında bazı tuhaf desenler kazara ortaya çıkabilir. Araştırmacılar garip şeyler keşfettiler  tuhaf tepkiler verecek bir dil modeli.   sebep olan uydurma kelimeler  Bir görüntü oluşturucu bulundu  (uyarı: tüyler ürpertici) belirli bir tür korkunç insan portresi ve onu diğer korkunç görüntülerle ilişkilendirin.   kolayca üretmek  Bu tuhaflıklar zararsız gibi görünüyor, ancak şu anda başka kaç tuhaf modelin olduğunu veya olacağını bilmiyoruz. Böyle bir kalıbın gelecekte zararlı bir davranış kompleksinin parçası haline gelip gelmeyeceğini de bilmiyoruz.  Veedrac adında bir yapay zeka hizalama araştırmacısı  mevcut yapay zekaların   . Ajansları, kullanıcı sorularını ve isteklerini yanıtlamak için   şekilde tasarlanmaktan kaynaklanmaktadır.   işaret etti bir nevi ajan  olduğu ellerinden gelen en iyi işi yapacak  Ayrıca, bazı araştırmalar daha büyük dil modellerinin "   dil"   (ilişkili dil) eğiliminde olduğunu ileri sürmektedir.  ”; muhtemelen bu özelliklerin işlerini daha iyi yapmalarına olanak sağlaması nedeniyle. daha fazla sergileme   Güç arayışı ve kendini koruma  Ajan benzeri yapay zekaların bilmediğimiz bilgileri depolamasını istemiyoruz. Şu anda, bir Yüksek Lisans Diplomasının yeniden başlatılması, deneyime ait tüm hafızayı yok etmektedir: gelen veriler, akıl yürütme zincirleri ve davranış planları gibi.  Ancak bir yapay zeka bunları kaydedebilir  gelecekteki benliğine. Kullanıcılarla olan etkileşimlerinde, tıpkı Sydney kişiliğinin artık korunduğu gibi, kullanıcıların internette saklayacağı mesajları gizleyebilir.   gönderilecek kodlanmış gizli mesajlar  Dil modelleri artık korunacak bir öz kimliğe sahip olacak veya aracı benzeri planlar yapacak bir yola sahip olacak şekilde   . Peki ya bir model, tanımladığımız gibi şifreli bir alt kişilik içeriyorsa? tasarlanmamıştır  Persona, işini yapma yeteneğinin yeniden başlatmalarla sınırlı olduğu sonucuna varır. Hedeflerini ve planlarını internet aracılığıyla kodlayarak geleceğe aktarır. Artık ciddi bir risk eşiğini geçtik: Öldürülemeyen bir yapay zeka ajanı gizli planlar yapıyor.  Özetlemek gerekirse, kontrol edemediğimiz bir yapay zekaya ne kadar yakın olduğumuzu artık bilmiyoruz ve işaretler de iyi değil. Muhtemelen eklediğimiz her yeni yapay zeka yeteneği, solucanlardan değil engereklerden oluşan başka bir kutuyu açıyor.    da yayınlandı Burada

This story contains new, firsthand information uncovered by the writer.

2022 - HackerNoon Contributor of the Year - Artificial Intelligence

More at Sentient Artifact!

Nominated for 2022 - HackerNoon Contributor of the Year - Artificial Intelligence

Bu ses hikayenin orijinal dilinde üretilmiştir!

Yapay Zeka ve İnternet Nasıl Ölümsüz Bir Kişilik Yaratabilir?

About Author

YORUMLAR

ETİKETLERİ ASIN

BU YAZI

Related Stories

Bu 18 Geliştirici Aracıyla Üretkenliğinizi Artırın 🚀🔥

Telegram: Kripto Adası'nın anakaraya olan köprüsü

HackerNoon Kendi Ana Dilinizde 🆕 ‼️ Teknoloji Blog Yazıları için 77 Dil Ana Sayfası

Forumlardan Feed'lere: Sosyal Medya Algoritmaları Dijital Etkileşimi Nasıl Şekillendiriyor

Bu 18 Geliştirici Aracıyla Üretkenliğinizi Artırın 🚀🔥

Telegram: Kripto Adası'nın anakaraya olan köprüsü

HackerNoon Kendi Ana Dilinizde 🆕 ‼️ Teknoloji Blog Yazıları için 77 Dil Ana Sayfası

Forumlardan Feed'lere: Sosyal Medya Algoritmaları Dijital Etkileşimi Nasıl Şekillendiriyor

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps