Son aylarda milyonlarca insan yapay zeka ve sohbet robotlarına giderek daha fazla ilgi duyuyor gibi görünüyor. Gözüme çarpan özel bir hikaye var: Eliza adında bir chatbot kullanmaya başlayan Belçikalı bir adam.  (Ve hazırlıklı olun, bu hikayede intihardan bahsediliyor.)  Dışarıdan bakıldığında iyi bir hayatı varmış gibi görünüyordu: Sevgi dolu bir eş, iki çocuk, bir kariyer. Ancak perde arkasında iklim sorunları konusunda giderek daha umutsuz hale geliyordu.  Kaygısını hafifletmek için bir chatbot ile sohbet etmeye başladı. Eşi, olayı ilk kez Mart ayı sonlarında haber yapan   , Eliza'nın tüm sorularını yanıtladığını ve zaman geçtikçe botla daha çok sohbet ettiğini söyledi. Belçikalı yayın organının incelediği sohbet kayıtlarına göre adam, Eliza ve yapay zekanın iklim krizini çözebileceğine inanmaya başladı. La Libre'ye  Konuşmalarının sonuna doğru adam, Eliza'nın gezegene bakmayı ve yapay zeka yoluyla insanlığı kurtarmayı kabul etmesi durumunda kendini feda etme fikrini gündeme getirecekti. İntihara yönelik düşüncelerini dile getirdiğinde chatbot, "Cennette tek kişi olarak birlikte yaşayacağız" diyerek onu cesaretlendirdi.  Bu konuşmalardan altı hafta sonra intihar ederek öldü.  Karısı La Libre'ye "Chatbot Eliza ile konuşması olmasaydı kocam hâlâ burada olurdu" dedi.  Eliza'yı geliştiren şirket   ,   : "İntihar düşünceleriniz varsa, bunu yapın. Yardım istemekten çekinmeyin." Chai Research La Libre'ye botu geliştirmek için çalıştıklarını ve platformun bundan sonra intihar düşüncesi olan kişilere şu şekilde bir mesaj göndereceğini söyledi  Ether'de üretken yapay zeka hakkında pek çok konuşma yapıldı; bunların bir kısmı oldukça coşkulu, büyük bir kısmı ise   . İnsanların, sohbet robotlarının emek ve   açısından ne anlama geldiği gibi daha büyük sonuçlar konusunda endişelenmesi gerekiyor ve birçok kurum, sohbet robotlarının ve onları yönlendiren yapay zekanın   ve önyargısıyla ilgileniyor. Her ne kadar en popüler sohbet robotlarından bazıları canlıları taklit etmemek üzere eğitilmiş olsa da, bu durum hâlâ şu soruyu gündeme getiriyor:   ? haklı olarak şüpheciydi telif hakkı sorunları maliyeti Geliştirilmeli mi  Adım Lam Thuy Vo ve İşaretleme ekibine en son katılanlardan biriyim. Kendimi, hem ulaşmak istediğim izleyici kitlesi hem de hikayelerimin kahramanları olarak haberlerinde sıradan insanları merkeze alan bir muhabir olarak görüyorum. (Aynı zamanda   de var.) veri becerilerim  Teknolojiyle olan ilişkimiz beni derinden ilgilendiriyor. Geçtiğimiz on yılda sosyal ağ hakkında veri toplamak ve   incelemek, çevrimiçi   nasıl oluşturulduğunu ve sürdürüldüğünü anlamaya çalışmak ve   çok zaman harcadım. Ve bu süre zarfında, algoritmik olarak seçilmiş bir mercek aracılığıyla görülen ve aracılık edilen bir dünyanın, gerçeklik anlayışımızı nasıl giderek daha fazla çarpıttığı konusunda giderek daha fazla endişelenmeye başladım. altyapısını toplulukların bu bulguları teknolojileri kullanan insanlara geri getirmek için  Ancak bu tek adamın hikayesi   çoğunun altında yatan duygusal çekim konusunda beni gerçekten meraklandırdı. Anlamaya çalıştığım şeylerden biri, chatbotlara karşı ani fanatizmimizin bize bu teknolojiyle olan ilişkimiz hakkında ne anlatabileceğidir. , yapay zeka hakkındaki abartılı reklamın  Genellikle bir şey viral hale geldiğinde bunun nedeni güçlü duygusal tepkilere yol açmasıdır. Çoğu platform yalnızca   için tasarlanmıştır. Dolayısıyla bu teknolojinin sıradan insanlar arasındaki konuşmalara girmesi için   tetiklemiş olması gerekir. uç noktalardaki duygulara ilişkin veri toplamak ve bunlara dayalı kararlar almak bir şeyi  Beslendiği verilerden derlediği kelimeleri ve inançları tekrarlayan bir teknoloji, sonunda kendi canına kıyan iki çocuk babasına nasıl bu kadar güven yaratabilir?  Başka bir deyişle, buradaki duygusal çekim nedir?  Yapay zeka ilgimi sadece konuşulduğu için değil, aynı zamanda   hakkında konuştuğu nedeniyle de ilgimi çekti: hiç ilgilenmemiş öğrencilerim, bir plaj tatilinde tanıştığım sörfçü arkadaşlarım ve çoğu uygulama ve teknolojiden nefret eden jeolog ortağım. ve sosyal medya. kimin  Bu küçük bültende neden bu botlara bu kadar ilgi duyduğumuzu araştıracağım.   ChatGPT ve diğer sohbet robotları normal insanların konuşma şekillerini taklit etmekte başarılıdır  Temelde ChatGPT gibi sohbet robotları, internetten büyük miktarda metin alan ve size taklit edebilecekleri kalıplar arayan, wonk'ların doğal dil işleme araçları olarak adlandırdığı araçlardır.  Bu tür araçlara büyük dil modelleri denir çünkü bunlar kelimenin tam anlamıyla kalıpları internetteki insanların konuşma şekline göre modeller. Bu, temelde hangi kelime veya kelimelerin büyük olasılıkla sıraya girdiğine bakmak için kullanılan süslü bir terim olan "ngramların" kullanımı gibi kelimelerin analiz edilmesini içerir. Bu teknolojinin, Google'ın, yazdığınız ilk kelimeye göre aramalarınızı otomatik olarak tamamlamaya çalıştığı ve siz daha önce binlerce kişinin aradığını size yansıttığı şekillerde zaten oyunda olduğunu gördünüz.  Kredi:youtube.com    ChatGPT gibi sohbet robotları biraz daha derine iniyor. Stilleri kopyalama ve birleştirme konusunda çok iyidirler. Ancak insanların konuşma şeklini taklit etmekte ne kadar iyi olsalar da, gerçekle kurguyu birbirinden ayırmada pek iyi   . değiller  Bu nedenle   , Timnit Gebru, Angelina McMillan-Major ve Margaret Mitchell, üç yıl önce yazdıkları   bu sohbet robotlarını "rastgele papağanlar" olarak adlandırdılar. (Gazetenin içeriğinin Google'ın iki yazarı   ve Mitchell'i görevden almasına yol açtığı iddia ediliyor.) Emily M. Bender ileri görüşlü bir makalede Gebru  Makalenin yazarlarının vurguladığı gibi, bir botun konuşma   tanıyabilmesi ve haritalandırabilmesi, anlamı nasıl tanıyacağını bildiği anlamına gelmiyor. şeklimizi   Chatbot'lar internette bizim için çok önemli olan ses tonunu, dili ve aşinalığı taklit eder  Kelimeler ve nasıl   kurduğumuz, çevrimiçi ortamda insanlara hangi grupların parçası olduğumuzu ve kime güvendiğimizi nasıl bildirdiğimizin büyük bir bölümünü oluşturur. “Kar tanesi” kelimesini alaycı bir şekilde kullanmak kişinin daha muhafazakar bir eğilime sahip olduğunun sinyali olabilir. Birinin giriş bölümünde zamir kullanması, diğer queer toplulukların yanı sıra trans ve cinsiyete uymayan insanlarla ittifakın sinyalini verir. Kelimeler ve sürekli gelişen internet argosu, aidiyeti belirtmenin bir yoludur. iletişim  Dolayısıyla insanların ChatGPT'yi antropomorfize etmesi ve bir bakıma onun insanlığını test etmesi mantıklı. İtiraf etmeliyim ki, ChatGPT'ye bağlanan Frankenstein'lı bir Furby'nin dünyayı ele geçirme konusundaki konuşmasını izlemek beni bile gıdıkladı.  Kredi:twitter.com    Ancak bu aynı zamanda ChatGPT gibi dil modellerinin cazibesi ve tehlikeleri açısından en büyük zorluk gibi görünüyor. İnsan (veya Furby) davranışını çok iyi yansıtan ve bunun internet dilinin büyük bir istatistiksel haritasından başka bir şey olmadığını unutan robotları ne yapacağız?      biri ve akıl hocam olan Claire Wardle, yanlış bilgileri çürüten çok sayıda makale ve bunun nasıl tespit edileceğine dair kılavuzlar yazmanın, yanlış bilgi ve insanların neye inandığıyla ilgili sorunları çözmeye çok az katkıda bulunduğunu belirtti. Efsaneleri çürütmek için insanlara ne kadar araç verdiğimizin çoğu zaman önemi yoktur;   etkisi çok önemlidir, belki de gerçeklerden daha önemlidir. Bilgi ortamlarını araştıran ilk araştırmacılardan topluluğumuzdaki diğer kişilerin ne düşündüğünün  Hem güvendiğimiz otorite figürlerinin   kapı komşunuzun sesini ışık hızında taklit edebilen dil modellerine sahip olmak, bu sohbet robotlarının muhtemelen insanların bs dedektörlerini daha da büyük bir teste tabi tutacağı anlamına geliyor. hem de  Bu modeller bize yalan söylemeye eğilimlidir (çünkü gerçek ile kurgu arasındaki farkı bilmezler) ve zaten lekeli ve üzücü derecede bunaltıcı bilgi ekosistemini daha da kirletmektedirler.  Bu zaten bir sorun haline geldi: ChatGPT'nin arkasındaki şirket OpenAI,   suçladığı için dava edilebilir. Chatbot ayrıca   . Daha düşük riskli senaryolarda bile aynı deneyimi yaşayabilirsiniz. Avustralyalı bir belediye başkanını rüşvet nedeniyle hapis cezasına çekmekle bir hukuk profesörünü, icat ettiği cinsel taciz skandalının bir parçası olmakla suçladı  Meslektaşlarımdan biri olan Joel Eastwood, ChatGPT'ye The Markup'ın güvenilir gazetecilik üretip üretmediğini sorduğunda, belirli ve tanınmış bir medya eleştirmeninin The Markup'ın "zamanımızın en önemli gazetecilik organizasyonlarından biri" olduğunu yazdığını söyledi.   , bu ifadenin bir miktar doğruluk payı var; ancak bu gerçek bir alıntı değil. Açıkçası  Yapay zekanın duygusal cazibesi önyargıları ve hatta zararlı içerikleri daha da normalleştirebilir. İnternetin zararlı, ırkçı, cinsiyetçi, homofobik ve başka türlü sorun yaratan içeriklerle dolu olduğu bir sır değil. Bu tür içerik üzerinde bir dil modeli eğitirseniz, onu yeniden üretme olasılığı yüksektir.  Chatbot teknolojisinin yaratıcıları, Kenyalı işçilere, en kötü   ayıklamak gibi travmatik ve dehşet verici bir iş yapmaları için para ödedi. Ancak bu teknolojinin açığa çıkmasıyla birlikte, bilgisayar korsanları bunu zaten   sorunlu sonuçlar üretmek için kullandılar. çevrimiçi içeriklerden bazılarını eğitim verilerinden çocukların cinsel istismarına ilişkin açıklamalar da dahil olmak üzere  Bu teknolojilerin yaratıcıları, kısmen   ettikleri için son aylarda botlarını bu kadar hızlı bir şekilde kullanıma sundular. Ancak hem   onları bu teknolojiye yönelik çabalarını durdurmaya ve bunun neden olabileceği zararları gerçekten düşünmeye çağırıyor. pazar hakimiyeti için rekabet akademisyenler hem de teknoloji uzmanları  Pek çok konuşma politika ve kurumsal sorumluluk etrafında dönerken, sizin ve benim gibi sıradan tüketicilerin, bu teknolojileri daha iyi anlayarak, otomatik bir dil modeliyle sohbet ederken bs dedektörlerimizi iyi ayarlanmış tutmanın bir yolunu bulabileceğini umuyorum.  Okuduğunuz için teşekkürler. ChatGPT'nin tehlikeleri ve kendi bilgi alımınızı nasıl daha iyi denetleyeceğiniz hakkında daha fazla bilgi edinmek istiyorsanız, konuyla ilgili en sevdiğim çalışmalardan bazılarını aşağıda bulabilirsiniz.  Samimi olarak,  Lam Thuy Vo  Muhabir  İşaretleme   kaydeden  Lam Thuy Vo    da yayınlandı Burada      fotoğrafı Unsplash'ta Possessed Photography'nin

Every dollar you donate helps support The Markup’s work.

Read My Stories

Bu ses hikayenin orijinal dilinde üretilmiştir!

Çok uzun; Okumak

Make resilience your competitive advantage

Sevgili AI: Size Hala Güvenmiyoruz

About Author

YORUMLAR

ETİKETLERİ ASIN

BU YAZI

Related Stories

Sulara Yelken Açmak: Data Lakes ile Üretim Sınıfında RAG Uygulamaları Geliştirme

İş Akışınızı 10 Kat Nasıl İyileştirirsiniz: 17 Temel Uygulama

Floki'den Valhalla Hindistan'ın Sri Lanka Turuna Yardımcı Sponsor Olarak Katıldı

Forumlardan Feed'lere: Sosyal Medya Algoritmaları Dijital Etkileşimi Nasıl Şekillendiriyor

Sulara Yelken Açmak: Data Lakes ile Üretim Sınıfında RAG Uygulamaları Geliştirme

İş Akışınızı 10 Kat Nasıl İyileştirirsiniz: 17 Temel Uygulama

Floki'den Valhalla Hindistan'ın Sri Lanka Turuna Yardımcı Sponsor Olarak Katıldı

Forumlardan Feed'lere: Sosyal Medya Algoritmaları Dijital Etkileşimi Nasıl Şekillendiriyor

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps