ChatGPT ve Diğer Chatbotlardaki İnsan Önyargısı Neden Sosyal Bozulmaya Yol Açabilir?

Yapay zeka devrimi şüphesiz yeni teknolojik buluşların sorumlusudur.

Bunun bozulması, şu anda insanların 21. yüzyılda yaşama, etkileşim kurma ve sosyalleşme şekillerini şekillendiren, akıllara durgunluk veren sohbet robotları ve ChatGPT gibi yapay zeka modellerini ortaya çıkardı.

OpenAI sohbet robotu ChatGPT, geçen yıl piyasaya sürülmesinden sadece iki ay sonra dünya çapında 100 milyondan fazla kullanıcı kaydetti.

Bunu takiben Google, insanlara arama sonuçlarından sindirimi kolay bilgiler sağlayan yapay zeka destekli bir konuşma modeli olan Bard'ın lansmanını da duyurdu .

Bunların hepsi, yapay zeka gelişiminin insanlara kolay bir yaşam tarzı sağlamaya ne kadar yakın olduğunu gösteren devasa başarılar olarak hizmet ediyor. Ama bazı aksaklıklar olabilir.

Yapay Zeka Devrimi Sorunu

Yapay zekanın yardımıyla insani meseleleri ele almanın daha iyi yollarının yaratılması bazı sonuçları da beraberinde getiriyor.

ChatGPT ve diğer gelişmiş sohbet robotları gibi üst düzey yapay zeka modellerinin ortaya çıkışı halihazırda insan işleri için bir tehdit oluşturuyor.

Yapay zeka er ya da geç insanların işlerini gizlice ele geçirecek ya da birçok çalışanı kendi alanlarında işe yaramaz hale getirecek.

Yapay zeka devrim yarattıkça iş kesintilerinin kaçınılmaz olduğu öne sürülüyor. Ancak bu yapay zeka modelleri sırayla insan hayatına sızıp her şeyin düzenini değiştirdikçe dikkat edilmesi gereken daha çok şey var.

Bu yeni teknolojilerle (ChatGPT ve diğer Chatbot'lar) ilgili ciddi gözlem gerektiren potansiyel bir sorun, bu modellerin nasıl toplumsal bozulmaya neden olabileceğidir.

OpenAI CEO'su Sam Altman'a göre ChatGPT ile mücadelede en büyük sorunlardan biri önyargı sorunudur.

İnsan önyargısı ChatGPT'nin büyük bir sorunu olarak tanımlandı ve elbette bu yalnızca OpenAI'nin ChatGPT'sine özel değil.

Seçici insan tercihi sorunları olan başka Chatbot'lar da var.

Yapay Zeka Önyargı İstatistikleri

Tidio'nun araştırması, insanların yalnızca %2'sinin yapay zekanın önyargısız olduğunu düşündüğünü gösteriyor; aksine, ankete katılanların %45'i yapay zekanın temel modern sorununun sosyal önyargı olduğunu düşünüyor.

Bu, ChatGPT gibi yapay zeka sohbet robotlarının ve geri kalanların karar verme ve operasyonlarında hâlâ adaletten yoksun olduğu anlamına geliyor. Çünkü bu yapay zeka modelleri kullanıldığında insan önyargısı görünüşte dikkate değer.

Yapay Zeka (İnsan) Önyargısı Nedir?

Yapay zeka önyargısı, bir model algoritmasını eğitmek için önyargılı veriler kullanıldığında ortaya çıkan ve sonuçta makinenin kararını etkileyen bir yapay zeka sorunudur.

Yapay zekada önyargının rolünü açıklayan Veri Bilimi ve Yapay Zeka başkanı Steve Nouri , yapay zekada insan önyargısının üç şekilde olduğunu belirtti: cinsiyet önyargısı, ırksal önyargı ve yaş ayrımcılığı.

Yapay zekada insanın önyargısı, ele geçirilen verilerin veya geliştiricilerin sorumluluğunda kabul edilir.

Bu, bir Chatbot'un tek başına ırkçı hakaretler başlatmasının, incitici ifadeler yaymasının veya belirli bir grup insana karşı ayrımcılık yapmasının neredeyse imkansız olduğunu gösteriyor.

Önyargılı bir algoritma veya model tarafından tüketilen veriler dışında.

Bunun iyi bir örneği, Microsoft Twitter sohbet robotu Tay'ın 2016 yılında ırkçı önyargılı olmakla suçlanmasının ardından aniden kapatılması olabilir.

Yakın zamanda başlatılan OpenAI konuşma modeli ChatGPT bile, ABD'nin eski başkanı Donald Trump'a karşı 'muhafazakar karşıtı önyargı ve kin ' beslediği için önyargılı olmakla kınandı.

Chatbotlardaki İnsan Önyargısı Neden Sosyal Bozulmaya Yol Açabilir?

ChatGPT'nin eski başkan Donald Trump hakkında sahip olduğu siyasi önyargı, yapay zeka modelinin ve onun gelişen şirketi OpenAI'nin sosyal medyada yüksek düzeyde eleştirilmesine yol açtı.

OpenAI CEO'su Sam Altman, geniş çaplı kuşatmaya yanıt olarak Şubat ayı başında konuyu ele alan bir tweet attı . Sam'e göre ChatGPT önyargısını ortadan kaldırmaya ve iyileştirmeye yönelik ayarlamalar devam ediyor.

Sam, tweetlerinde OpenAI çalışanlarına yönelik "korkunç" olduğunu düşündüğü "nefret" olduğunu itiraf etti.

Ayrıca şirketinin, tarafsızlığı teşvik etmek ve kullanıcıların bireysel tercihlere göre sistemleri kullanmasını sağlamak için chatbot varsayılan ayarını iyileştirmek için çalıştığını da açıkladı.

Ancak bu kolay olmayacak. Sam bile sürecin zor olduğunu ve uygulanmasının zaman alacağını itiraf etti.

ChatGPT'nin siyasi önyargısı, OpenAI çalışanlarına yönelik yersiz saldırılara yol açtı. Bu, herhangi bir önyargılı yapay zeka modelinin sosyal sonuçlarını tartmak için yeterli bir gösterge.

Yapay zeka önyargıları bireyler ve topluluklar üzerinde korkunç sonuçlar doğurabilir. Bir grup insanın adil olmayan şekilde eleştirilmesine veya ayrımcılığa yol açabilir, bu da dolaylı olarak düşmanlığa veya sosyal patlamaya yol açabilir.

Bu nedenle şu anda önyargıları göz ardı etmemek, bunun yerine uygulanabilir çözümler talep etmek önemlidir .

Tıpkı Sam'in belirttiği gibi, "başka insanlara saldırmanın" yapay zeka alanının ilerlemesine yardımcı olmada önemli bir etkisi yoktur. Yapay zeka chatbot önyargılarını azaltmak için olası seçeneklere dikkat çekilmelidir.

Yapay Zeka Sohbet Robotlarında Önyargı Nasıl Azaltılır

Yapay zeka sohbet robotlarında insan önyargısı, önyargılı algoritmaların veya verilerin ve model geliştiricilerin kullanılmasından kaynaklanmaktadır. Yapay zekada önyargıyı önlemek için sohbet robotları oluştururken aşağıdakilere dikkat edilmelidir:

Diverse Origin'in Geliştiricileri

Yapay zekada algoritma önyargısı veya veri önyargısı çoğunlukla mümkündür çünkü insan olan geliştiriciler, yaklaşımlarında doğal olarak önyargılıdır.

Homojen geliştiricilerden oluşan bir ekibin, belirli yaşam sorunlarına ilişkin görüşlerini ve bakış açılarını destekleyen veya destekleyen bir yapay zeka modeli oluşturması kolaydır.

Bunun olmasını önlemek için algoritmik önyargının gözlemlenmesine ve azaltılmasına yardımcı olabilecek çeşitli veri bilimcilerinden oluşan bir ekibin çalıştırılmasına ihtiyaç vardır.

Sentetik Verilerin Kullanımı

Yapay zeka modellerinin büyük miktarlarda sansürsüz veri tüketmesi onu taraflı hale getiriyor. Chatbot önyargısını ortadan kaldırmanın bir yolu, modelin geliştiriciler tarafından kapsamlı bir şekilde gözlemlenen sentetik verileri kullanmasını sağlamaktır.

Şeffaflık

ChatGPT tarafından keşfedilen önyargıya tepki olarak OpenAI, yeni yapay zekalı sohbet robotunun hâlâ "gerçekleri açık tutma konusunda sorun yaşadığını ve zaman zaman zararlı talimatlar verdiğini" kabul etti.

Yapay zeka şirketi, insanlara önemli veya hassas bilgiler konusunda neden hala chatbot'a güvenilemeyeceğini anlatmak için ortaya çıktı.

Bu, sohbet robotlarında insani önyargıyı engellemek için gereken bir şeffaflık biçimidir. Modelin zayıf yönleri belirtilerek, toplumsal bozulma daha tırmanmadan ehlileştirilebilir.

Modelin Geliştirme Öncesi ve Sonrası Test Edilmesi

Belirtildiği gibi geliştiriciler, modeli geliştirilmeden önce ve geliştirildikten sonra test etmelidir.

Bu, sohbet robotunun işlevlerini değerlendirmek ve test nedeniyle ortaya çıkabilecek her türlü önyargıyı ele almak uzun zaman alabilir.

Veri bilimcilerin yapay zeka sohbet robotunun çalışması için ihtiyaç duyduğu verileri yakından incelemesine izin vermek ve modelin nasıl yanıt vereceğini veya bozduğu bilgileri nasıl oluşturacağını beklediğini mükemmelleştirmek, geliştirme sonrasında yapılması zorunlu bir inceleme olmalıdır.

Çözüm

ChatGPT, diğer tüm chatbotlar gibi hâlâ insan önyargısından uzak. Bu, hem yapay zekanın eğitildiği veriler hem de geliştiricilerin kişisel tercihleri tarafından oluşturulan temel bir sorundur.

Geliştiriciler ve veri bilimi ekipleri, bu yapay zeka modelleri tarafından kullanılan verilerin toplanmasına yönelik yaklaşımlarında klinik ve objektif olmaya başladıklarında, yapay zeka önyargısı yok olma yolculuğuna başlayacak.