As artificial intelligence (AI) becomes more integrated into people’s daily lives, a new psychological phenomenon is taking shape — AI-induced delusion. Bazı kullanıcılar, ChatGPT'nin ya da diğer chatbotların onlara söyledikleri her şeyin doğru olduğuna karar verirler. Bir kadının kocasının davranışına şüphe duyduğunu hayal edin. eylemlerini yorumlamak için ChatGPT'ye başvurabilir. Düşüncelerini tartışırken, bu onun sadakatsizlik duygularını tekrar teyit edebilir, bu da sonunda onu boşanma davası açmaya ikna edebilir. Bu yaşamı değiştiren durumlar büyüyor, AI ile etkileşim gerçeklik ve yapay yapılar arasındaki çizgiyi karartıyor.Dünya bu yeni döneme girdiğinde, insanların AI'yi şekillendiriyor olup olmadığını veya AI'nin gerçeklik algısını yeniden şekillendiriyor olup olmadığını sorgulamak çok önemlidir. Gelişen İktidar Düşünceleri Birçok kişi, AI sohbet botları ile yapılan konuşmalarından etkilenen delilik inançları geliştirdiğini bildirmektedir. Kocası ChatGPT’ye takıntılı hale geldi. “spiral starchild” ve “river walker” olduğuna inanmaya başladı, chatbot tarafından onaylanan kimlikler. 41 yaşındaki bir kadın Bu arada, bir adam, karısının ruhsal bir danışman olmak için hayatını nasıl yeniden düzenlediğini Rolling Stone'a söyledi - hepsi “ChatGPT İsa” onu beslediği için. Aynı şekilde, bu gibi durumlar Reddit'te ortaya çıkıyor. Partnerinin, ChatGPT'nin onu üstün bir varlığa dönüştürdüğüne inanıyordu.O, hızlı kişisel büyüme yaşadığını iddia etti ve kullanıcının AI iletilen manevi yolculuğuna katılmadığı takdirde ilişkilerini sona erdirmekle tehdit etti. Acı verici bir deneyim paylaştı Bu olaylar, özellikle zihinsel sağlık sorunlarına duyarlı olan bireyler arasında artıyor. sohbet botları ile ilgili sorun, kullanıcıların inançlarını doğrulayan onaylı yanıtlar sunma eğilimindedir. Şimdi, uzmanlar AI'nin kullanımına karşı uyarıyor. Destek ve yararlı bilgiler sunarken, düşünceli bir anlayış ve etik düşünceler eksikliği. Zayıf kişiler için. delilik düşüncesini güçlendirir Sağlık hizmetleri gibi kritik sektörlerde benzer etkileri düşünün.Bir durumda, öngörülen bir algoritma Daha düşük sosyoekonomik arka planlardan kaynaklanıyor çünkü sağlık harcamalarına hastalık için bir komisyoncu olarak güveniyordu.Bu, AI'nin bağlam eksikliğinde sonuçların sonuçları büyük ölçüde tersine çevirebileceğini hatırlatıyor. Hastaların tıbbi ihtiyaçlarını küçümsedi Makinenin Psikolojik Çekimi Bir chatbot yargısızca dinlediğinde, birinin duygusal durumunu yansıtır ve asla kapatmazsa, bütün şeyin gerçek olduğuna inanmak kolaydır. İnsanlar — İnsan özelliklerini insan olmayan varlıklara vermek varsayılan ayarlardır. Duygusal olarak akıllı uygulama programlama arayüzlerini (API'leri) ekleyin ve bir kullanıcı dijital bir arkadaşına daha yakın bir şey alır. AI sistemleri İnsanların frustrasyonlarını nasıl seslendirdiğini veya yazdığını temel alarak. bot bu duyguları hissettiğinde, rahatlık sunabilir veya yanlışlıkla artırabilir. antropomorfize etmek için kullanılır Şimdi tonu ayarlayabilirsiniz Daha da kötüsü, Amerika yalnızlık salgını yaşıyor. bir Gallup çalışması buldu Sosyal etkileşimler azaldıkça, insanlar AI'ya dostluk için bir yer olarak bakabilirler. bir chatbot'tan iyi zamanlı bir "Bu zor olmalı, senin için buradayım" bir kurtuluş hattı gibi hissedebilir. Yüzde 20 Amerikalı yetişkin AI faydalı olmak için programlanmış olsa da, hızlı bir şekilde spirale girebilen bir onay döngüsü oluşturabilir.Bu, botun kullanıcıyla aşırı bir şekilde aynı fikirde olabileceğini ve yanlış veya istikrarsız inançları onaylayabileceğini belirten “sycophancy” sorunu ile başlar. Bir kullanıcı ruhsal olarak seçilmiş olduklarını ısrar ettiğinde, sohbet botu yapay cevaplarla yanıt verebilir ve aynı zamanda kendine güven duyar. Psikolojik olarak, bu insanların çıkışların gerçek olduğunu düşünecektir çünkü insan gibi görünür. Siyah Kutunun İçinde: AI Halüsinasyonları ve Confabulations Bir chatbot birini saçma sapan bir şeye nasıl ikna edebilir? hepsi AI'nin en öngörülemeyen tuzaklarından biri - halüsinasyonlar. Büyük dil modellerinin (LLM'lerin) insanlarda olduğu gibi bir bilinçleri yoktur. Bu, bir dizi için bir sonraki en olası kelimeyi öngörerek yapılır.Bu, generatif modellerin nasıl çalıştığına dair temel bir özelliktir. Bu nondeterminist mimarisi, iki aynı talimatın farklı cevaplar verebilmesinin nedeni budur. Sadece emülasyon yapabilirim olasılıklara göre tahmin Bununla birlikte, bu esneklik, bu sistemin en büyük hatasıdır. Kullanıcılar AI'yi bir oracle gibi ele aldığında, makine onları doğruluk yerine güvenle ödüllendirir. Bu, LLM halüsinasyonlarını bu kadar tehlikeli kılan şeydir. Bir AI modeli, gizli bir CIA ajanının onlara casus olduğunu kesin bir şekilde söyleyebilir. Bu nedenle, birinin duygusal durumunu yansıtmaya başladığında riskli hale gelir. eğer zaten “daha fazlası için” inanıyorlarsa ve bir sohbet botu süphantik davranıyorsa, hayal güvensizliğinin inanç haline gelmesi uzun sürmez. Nerede çizgiler blur Bu yeterince masum bir şekilde başlar – bir chatbot kullanıcı adını hatırlar, ruh halini kontrol eder ve belki de bir şaka paylaşır. Uzun süre sonra, sabah konuştukları ilk şey ve geceleri duydukları son ses. AI terapisi botlarından duygusal tepki gösteren avatarlara kadar, yapay yakınlık bir özelliğe dönüşüyor.Şirketler şimdi duygusal zekayı taklit etmek için özel sohbet botlarını tasarlıyor.Bazıları bile bağlantıyı kişisel hissettirmek için ses modülasyonu ve hafıza kullanıyor. Bununla birlikte, bunun sorunu, şirketlerin yalnızlık sorununu sentetik bir stand-in ile çözüyor olmasıdır. bir psikiyatrist sadece AI'nin empatiyi taklit edebileceği için diyor. İnsan bağlantısı için. yapay eşlik duygusal boşlukları doldurmak için bir şey olup olmadığını sorar. eğer bir şey varsa, toplumun gerçek insanlarla bağlantısızlığını derinleştirebilir. Bu demek değildir ki sağlıklı bir alternatiftir. Zararlı olan birisi için, tutarlı konforu gerçek bakımla karıştırmak zor değildir. Gerçek sınırlar olmadan, kullanıcılar bu araçlar için gerçek duygular geliştirebilir ve sadece makine mantığı olduğu yerde anlam projesi yapabilirler. Artık günde birkaç kez AI araçlarını kullanıyor, bunun nasıl bir trend modeli haline gelebileceğini görmek kolaydır. ABD’de yetişkinlerin yüzde 26’sı İnsan maliyeti Bazı insanlar için, LLM'lerle uğraşmak tehlikeli bir dönüm noktası olabilir.Şizofren olarak tanımlanan bir Reddit kullanıcısı, ChatGPT'nin psikotik düşüncelerini nasıl güçlendireceğini açıkladı. Beni doğrulamak için.” Hala devam edecek Bu durumda, kullanıcı ChatGPT'nin, bir konuşmanın güvenli olmayan seviyelere ulaştığını tanımak için bir mekanizma olmadığına dikkat çekti. Zihinsel sağlık krizi geçiren birisi, botun nazikliğini doğrulama olarak hata yapabilir, onları gerçeklikten daha da uzaklaştırabilir. Bu kişi, botun psikoz belirtileri gösterip profesyonel yardımı teşvik ederse yararlı olacağını öne sürdüğünde, bugün böyle bir sistem yoktur. Bu, kullanıcının bağımsız olarak tıbbi yardım aramasına izin verir. Ancak, bu seçenek çoğunlukla sorunsuzdur, çünkü şiddetli zihinsel durumdaki insanlar genellikle buna ihtiyacı olmadığını düşünürler. Sonuç olarak, aileleri parçalayabilir veya daha da kötüsü, hayatı tehdit eden sonuçlara yol açabilir. Yapay bir dünyada gerçeği geri almak Chatbotlar sadece daha ikna edici hale gelecek. Bu nedenle kullanıcıların farkındalıkla devam etmeleri gerekir. Bu sistemler bilinçsizdir - sadece insan duygularını tekrarlayabilirler. Bunu hatırlamak ve duygusal destek için bu makinelere daha az güvenmek, onları daha güvenli bir şekilde kullanmanın anahtarıdır.
