OpenAI Bir Yapay Zeka Tespit Aracı Geliştirdi, Peki Neden Yayınlamıyor?

OpenAI, Kasım 2022'de ChatGPT'yi piyasaya sürerek en azından teknoloji çevrelerinde bir gecede tanınan bir isim haline geldi. İşletmeler ve bireyler araçlarını hızla benimsedi ve günlük görevleri otomatikleştirmek için bunları kullanmaya başladı.

Yapay zeka tarafından oluşturulan metin ve görsellerle ilgili bir sorun, mevcut çalışmaları yansıtabilmeleridir. Bazıları yazılımı intihalle suçlarken, diğerleri bunun insan yapımı çalışmalar kadar ayrıntılı olmadığını düşünüyor. Her yerdeki işverenler, hedef kitlelerin ihtiyaçlarını karşılamak ve teknolojiyi kullanmak için en iyi zamanı bilmek için yapay zeka kullanımını tespit etmenin daha iyi yollarını istiyor.

Open AI, bir AI tespit aracı oluşturarak yanıt verdi ancak henüz yayınlamadı. Birçok kişi gecikmenin nedenini ve halka açık olup olmayacağını bilmek istiyor.

OpenAI Aracını Piyasaya Sürmekte Neden Tereddüt Ediyor?

TechCrunch, bilgisayar programının ödevlerini yazdırmasıyla kopya çeken öğrencileri yakalamak için tasarlanmış OpenAI'nin tespit aracını açıklayan bir makale yayınladı. Şirket, bunu yayınlamak yerine üzerinde durdu ve bu da bazılarının nedenini sorgulamasına neden oldu. OpenAI'nin bir temsilcisi, şirketin aracın daha geniş etkileri ve zaman ayırıyor.

Diğer birçok tespit aracı etkisizdi, zaman zaman yanlış pozitifler yaratıyordu ve diğerlerinde AI tarafından oluşturulan metni tespit etmekte başarısız oluyordu. OpenAI'nin ürünü esas olarak ChatGPT tarafından filigranlanmış metinleri tespit etmeye odaklanacaktı. Yayınlanmamasının bir nedeni de ana dili İngilizce olmayan konuşmacıları olumsuz etkileyebileceği korkusudur. Araç ayrıca ChatGPT'nin filigranlanmış kelimeleri eklerken çalışma şeklini değiştirmesini zorluyor.

Aracın Daha Geniş Kullanımları

Tespit yazılımının amacı öğrencilerin yapay zeka kullanarak ödev yazmasını yakalamak olsa da, özellikle daha geniş çaplı dolandırıcılıkla mücadelede olmak üzere birçok başka durumda da uygulanabilir.

Örneğin, siber suçlular tarafından kullanılan bilgisayar tarafından oluşturulmuş metinleri yakalamada bir AI tespit aracının ne kadar yararlı olabileceğini düşünün. Sadece 2023'te, fidye yazılımı ödemeleri bir önceki yıla göre iki katına çıktı 1 milyar doların üzerine çıktı ve bu rakam yükselmeye devam etmesi bekleniyor AI'nın yaygınlaşmasıyla birlikte önemli ölçüde. Tüketiciler ve şirketler veri ihlalleriyle mücadele etmek için çalışırken, AI bilgisayar tarafından oluşturulan metni tespit etmeyi kolaylaştırabilir.

Birçok dolandırıcılık, birinin duygusal kalbini titretmek veya korku yaratmak için akan sözcükler içerir. Bir mesajın meşru olup olmadığından emin olunmadığında, insanlar metni algılama aracından geçirerek onu oluşturmak için yapay zeka kullanılıp kullanılmadığını görebilir. Bu, birçok dolandırıcılık robot tarafından yazılmış metin içerdiğinden oldukça değerli olabilir.

Algılama Araçlarının Kullanımına Karşı Argümanlar

Şimdiye kadar, AI tespit araçları pek doğru olmadı. Orijinal içeriği yanlış bir şekilde AI tarafından oluşturulmuş olarak işaretlediler ve öğrencilerin notları ve bazen akademik kariyerleri için mücadele etmek zorunda kalmalarına neden oldular. Üniversiteler ve işverenler intihal konusunu ciddiye alırlar, bu yüzden yanlış bir suçlama birinin geleceğini veya geçim kaynağını mahvedebilir.

Kullanıcılar, araçlara erişemediğinde de etkisiz kalabilir. Kullanımı kolay ve çok yönlü yazılıma bağlanın HumanizeAI ve RealWriter gibi AI tespitini aşmalarına yardımcı olan. İnsanlar, bilgi çalmadan beyin fırtınası yapmalarına ve yeni fikirler üretmelerine olanak tanıyan şekillerde AI'yı kullanmayı öğrenmelidir. Ancak, bir dedektör tarafından işaretlenme korkusuyla herhangi bir tür yazılımı kullanmaktan kaçınabilirler.

Yazılımın muhalifleri, bir dedektörü tetikleme korkusuyla insanların daha az yaratıcı olmasına yol açabileceğinden endişe ediyor. StealthAI gibi programlar AI tarafından oluşturulan metni yeniden yazın daha insani ses çıkarmak için. Ayrıca insanların ChatGPT gibi yaygın olarak kullanılan araçlardan uzaklaşıp aynı filigranlara sahip olmayanları arayacaklarını ve bu sayede dedektör aracının işe yaramaz hale geleceğini söylüyorlar.

İnsanlar ayrıca kötü oyuncuların bu aracı kullanarak kodu tersine mühendislikle kullanarak bir şey yaratmaları konusunda endişelerini dile getiriyorlar. derin sahte videolar oluşturmak için yapay zekayı kullanın veya DDoS saldırıları. Siber suçlular zaten kurnazdır. Kimse onlara insanları kişisel verilerini paylaşmaya kandırmak için daha fazla yol vermek istemez.

Yapay Zeka Algılama Aracının Faydaları

Yapay zeka tespit araçlarına karşı argümanlar yakında tartışmalı bir konu haline gelebilir. İnsanlar ana dili İngilizce olmayanların geride kalması konusunda endişelerini dile getirirken, yazılım geliştiricileri muhtemelen zaman geçtikçe dil engeli sorunlarını çözecektir.

Birçok kişi OpenAI'nin yakında aracını yayınlayacağına inanıyor. Raporlar gösteriyor ki o iç tartışma devam ediyor Yaklaşık iki yıldır yazılımın yararlılığı ile kapsayıcılık konusundaki endişeler hakkında tartışıyorlar. Bazıları üniversitelerin ve işverenlerin AI tespit araçlarını kullanmalarının faydalarını görüyor.

Yapay zeka dedektörü gelişimi arttıkça, bunun şu gibi amaçlar için kullanılacağını göreceksiniz:

• Siyasi kampanyalarda kullanılan sahte videoların tespiti

• Yanlış bilgileri bulma ve bunları diğer botlardan daha doğru bir şekilde işaretleme

• Etik içerik üretme

  
  

Aracın piyasaya sürülmesi, diğer markaların kendi programlarını oluşturmalarına ilham verebilir ve yapay zeka tespitinin başarı oranını artırabilir.

Yapay Zeka Kullanımının Geleceği

İster sevin ister nefret edin, AI burada kalmaya devam edecek — ancak şirketler ilk tahmin edilenden biraz daha yavaş benimsedi. MIT, teknolojinin yaygınlaştığını gösteren bir rapor yayınladı farklı oranlarda benimsendi sektörlere göre. Örneğin, AI'yı benimseyen işletmelerin çoğu imalat ve sağlık sektöründeydi.

Pazarlama departmanları yapay zekanın nasıl çalıştığı ve nasıl uygulanabileceği konusunda daha fazla bilgi edindikçe, daha fazla markanın bunu kullanacağını ve gizlilik sorunlarını ve kopyalamayı önlemek için algılama araçları arayacağını bekliyoruz.

Bir süre AI kullananlar, yazılım yardımı olmadan tespit edilebilen kalıpları fark etmeye başlar. Örneğin, neredeyse her makalenin girişi benzer bir dile sahiptir. Düzen, tempo ve detaylar aynıdır. Biraz pratik yaparak, çoğu kişi AI tarafından üretilen bir parçayı oldukça doğru bir şekilde tespit edebilir.

İnsanların Araca Neden Şimdi İhtiyacı Var

Yapay zeka tarafından üretilen içeriği doğru bir şekilde tespit etmenin bir yolu olmadan, insanlar çevrimiçi okuduklarına güvenmeyebilirler. Diğer durumlarda, birinin açıklamadan yapay zeka kullandığından şüphelenebilirler ancak bunu kanıtlamanın imkansız olduğunu görebilirler. Çalışanlar, suçlu olmadıklarında yanlış bir şekilde suçlanabilir veya işlerini ve derecelerini kaybedebilirler.

Bu araç, öğrencilerin çok az çalışma yapmasına ve derslerinde isteksiz olmalarına rağmen başkalarının sıkı çalışması, alın teri ve gözyaşlarıyla yüksek lisans derecesi almaları sorununu çözecek.

OpenAI'nin ürünü muhtemelen eğitim sektöründe en büyük etkiye sahip olacak. Ancak şirketler, müşterilerin okumak isteyeceği benzersiz, oldukça hedefli içerikler ürettiklerinden emin olmak için de bunu kullanabilirler.

Karmaşık Bir Sorun

OpenAI'nin tespit aracını kullanmama kararı, AI teknolojisi büyüdükçe ve etik kaygılar ortaya çıktıkça en iyisini yapma isteğinden kaynaklanmaktadır. Muhtemelen yazılımı bir noktada yayınlayacak ve bu da her yerdeki eğitimcilerin rahatlamasına neden olacak. Diğer endüstrilerin bunu nasıl kullanacağı ise henüz belli değil. \

Yapay zeka programları geliştiren tüm şirketler, sundukları her özelliğin artılarını ve eksilerini dengelemelidir. Ancak o zaman yapay zeka, ilerlemeyi teşvik eden vazgeçilmez bir araç haline gelecektir.