Şirketlerin %75'i ChatGPT Kullanımını Yasaklıyor: Ne Oldu?

ChatGPT balayı dönemi bitti mi?

ChatGPT geçen yıl piyasaya sürülmesinden bu yana dünyayı kasıp kavurdu. Ancak yakın zamanda yapılan bir anket şunu ortaya çıkardı: İşletmelerin %75'i İşyerlerinde ChatGPT ve diğer Üretken Yapay Zeka uygulamalarını uygulamış veya yasaklamayı düşünüyor.

Şirketler ChatGPT'den neden çekiniyor?

Yeteneklerinden şüphe etmiyorlar. Bunun yerine potansiyel siber güvenlik riskleri konusunda endişeleniyorlar.

Büyüyen Bir Endişe: Veri Sızıntıları ve ChatGPT

Üretken yapay zeka araçları her etkileşimden öğrenecek şekilde tasarlanmıştır. Onlara ne kadar çok veri verirseniz o kadar akıllı olurlar. Kulağa harika geliyor, değil mi?

Ancak verinin nereye gittiği, onu kimin göreceği ve nasıl kullanıldığı konusunda gri bir alan var.

Bu gizlilik endişeleri İtalyan veri koruma otoritesinin ChatGPT'yi geçici olarak yasaklamak Nisan içinde.

İşletmeler için endişe, ChatGPT'nin kullanıcı tarafından gönderilen bilgileri alması, bundan ders alması ve potansiyel olarak diğer kullanıcılarla gelecekteki etkileşimlerde bu bilgilerin kaymasına izin vermesidir.

OpenAI'nin ChatGPT yönergeleri, kullanıcı verilerinin incelenip sistemi iyileştirmek için kullanılabileceğini gösteriyor. Peki bu veri gizliliği açısından ne anlama geliyor?

Cevap net değil ve kaygının nedeni de bu.

Veri Sızıntısı Endişeleri: Gerçek Risk Nedir?

Bir Cyberhaven araştırması , 1 Haziran itibarıyla çalışanların %10,8'inin işyerinde ChatGPT kullandığını ve %8,6'sının şirket bilgilerini girdiğini ortaya çıkardı. Endişe verici istatistik, çalışanların %4,7'sinin gizli bilgilerini ChatGPT'ye girmiş olmasıdır.

ChatGPT'nin çalışma şekli nedeniyle geleneksel güvenlik önlemleri eksiktir. Çoğu güvenlik ürünü, dosyaların paylaşılmasını veya yüklenmesini engellemek üzere tasarlanmıştır. Ancak ChatGPT kullanıcıları içeriği kopyalayıp tarayıcılarına yapıştırır.

Artık OpenAI bir vazgeçme seçeneği ekledi. Kullanıcılar, verilerinin ileri eğitim amacıyla kullanılmamasını talep edebilir.

Ancak vazgeçme varsayılan ayar değildir. Dolayısıyla kullanıcılar farkında olmadığı ve proaktif önlemler almadığı sürece etkileşimleri yapay zekayı eğitmek için kullanılabilir.

Endişeler bununla sınırlı değil.

Vazgeçmiş olsanız bile verileriniz sistem üzerinden geçmeye devam eder. OpenAI kullanıcılara verilerin sorumlu bir şekilde yönetildiğini garanti ederken ChatGPT kara kutu görevi görüyor . Verilerin alındıktan sonra sistem içinde nasıl aktığı açık değildir.

Ayrıca bir şeylerin ters gitme riski de var.

21 Mart 2023'te OpenAI, sohbet geçmişlerini farklı kullanıcıların adlarıyla yanlış şekilde adlandıran bir aksaklık nedeniyle ChatGPT'yi kapattı . Bu başlıklar özel veya hassas ayrıntılar içeriyorsa diğer ChatGPT kullanıcıları bunları görmüş olabilir. Hata aynı zamanda bazı ChatGPT Plus abonelerinin kişisel verilerini de açığa çıkardı.

Samsung Olayı

İlk büyük ChatGPT veri sızıntısı bu yılın başlarında meydana geldi ve teknoloji devi Samsung'u içeriyordu. Bloomberg'e göre hassas dahili kaynak kodu yanlışlıkla sızdırılmış Bir mühendis bunu ChatGPT'ye yükledikten sonra.

Bunun gibi bir sızıntının ciddi sonuçları olabilir.

Ve bu sadece Samsung değildi. Teknoloji sektörünün bir diğer devi Amazon'un da kendi endişeleri vardı. Şirket tanımlanmış örnekler ChatGPT'nin yanıtları ürkütücü bir şekilde Amazon'un dahili verilerine benziyordu.

ChatGPT'de Amazon'un özel verileri bulunuyorsa, bu verilerin yanlışlıkla rakiplere aktarılmasını engelleyen nedir?

Açık Düzenlemelerin Eksikliği

Üretken yapay zeka araçlarının hızlı gelişimi ve benimsenmesi, düzenleyici kurumların arayı kapatmasına neden oldu. Sorumlu kullanıma ilişkin sınırlı yönergeler vardır.

Peki, yapay zeka nedeniyle bir veri ihlali meydana gelirse bunun sorumlusu kimdir: aracı kullanan şirket mi, çalışanlar mı, yoksa yapay zeka sağlayıcısı mı?

OpenAI'de Kullanım Şartları , sorumluluk kullanıcıya aittir:

Bu da riskleri şirketlere yüklüyor. Açık düzenlemeler olmadığında, en iyi eylem planına karar vermek onlara bırakılır. Bu yüzden artık birçok kişi daha tereddütlü hale geliyor.

Teknoloji Liderlerinden Çelişkili Görüşler

Yeni teknolojilerin dağıtımı söz konusu olduğunda işletmeler genellikle teknoloji liderlerine başvurur. Bir teknoloji devinin yeni bir yeniliği benimsemesi genellikle diğer şirketlerin de aynı şeyi yapması için yeşil ışık olarak görülür.

Dolayısıyla, Microsoft kadar etkili bir şirket bir teknolojiyle ilgili karışık sinyaller sunduğunda, dalgalanmalar tüm sektörlerde hissediliyor.

Bir yandan Microsoft, Üretken Yapay Zeka araçlarının kullanımına ilişkin çekincelerini dile getirdi. Ocak ayında Microsoft, çalışanlarını 'hassas verileri' ChatGPT ile paylaşmamaları konusunda uyarmıştı.

Ancak Microsoft aynı zamanda teknolojinin kendi sürümü olan Azure ChatGPT'yi de destekliyor. Bu yineleme, kurumsal kullanıcılar için daha güvenli ve daha kontrollü bir ortam vaat ediyor.

Bu hamle şu soruları gündeme getiriyor: Azure ChatGPT, Microsoft'un daha geniş Üretken Yapay Zeka ortamında işaret ettiği risklere karşı gerçekten bağışık mı? Yoksa bu, işletmelerin Microsoft ekosistemi içinde kalmasını sağlamaya yönelik stratejik bir manevra mı?

ChatGPT'yi Benimseme Dengesi

Herhangi bir yeni teknolojiyi değerlendirirken işletmeler genellikle potansiyel faydalar ve potansiyel tuzaklar arasındaki çekişmenin ortasında kalıyor.

ChatGPT ile şirketler bekle-gör yaklaşımını benimsiyor gibi görünüyor.

Teknoloji ve düzenlemeleri geliştikçe daha güvenli, daha şeffaf bir kullanımın sağlanabileceği ümit ediliyor.

Şimdilik ChatGPT, biraz kodlama yardımı ve içerik açısından harika. Ancak özel veriler konusunda ona güvenmem.