Kötü İkizi Taklit Etmek İçin Yüksek Lisans Programlarını Kullanmak Felakete Sebep Olabilir

Chatbot yönlendirmelerinin bir gün bu kadar önemli hale geleceğini ve potansiyel bir kariyere dönüşebileceğini kim bilebilirdi? Ve bu alan sadece asil bir bölge değil, kötü niyetli varlıklar için de yeni bir oyun alanı olabilir.

Dil Öğrenme Modelleri ( LLM'ler ) interneti ele geçirip büyük teknolojiyi rekabet duvarlarını aşma konusunda kör ettikçe, istemin gücü kariyer belirleyici zirvelere yükseliyor.

Örnek olarak yakın zamanda bir şirket CEO'su, resmi bir düşmanca e-posta yazmak için ChatGPT'yi kullanarak isteksiz müşterilerinden 109.500 ABD doları tutarında iyi bir miktar geri almayı başardı.

Doğru yönlendirmeyle işler lehinize sonuçlanabilir, hatta büyük ikramiyeyi bile kazanabilirsiniz. Bu, LLM'lerden en iyi şekilde yararlanmak isteyenler için, en iyi yönlendirmelerin nasıl yapılacağına dair yeni bir öğrenmenin yolda olduğu anlamına gelir.

Aslında, hızlı mühendislik (evet, bu artık bir konu) ChatGPT ve diğer Yüksek Lisans'ların ilgi odağı haline gelmesinden sonra sıcak bir konu haline geldi. Ayrıca kurslar, kaynak materyaller, iş ilanları vb. konularda da artış yaşanıyor. Ancak uzmanlar, Yüksek Lisans'lar geliştikçe hızlı mühendislik ihtiyacının ortadan kalkacağını da söylüyor .

Şu anda ChatGPT gibi Yüksek Lisans'lar ve DALLE-2 gibi makine öğrenimi araçları çocuktur. Tam olarak istediğiniz gibi yapmalarını istiyorsanız oldukça spesifik olmanız gerekir. Ancak büyüdüklerinde, daha ince yönlendirmeleri de yakalamaya başlayacaklar, böylece yönlendirmenin kalitesi o kadar da önemli olmayacak.

Şu anda ChatGPT gibi Yüksek Lisans'lar ve DALLE-2 gibi makine öğrenimi araçları çocuktur. Tam olarak istediğiniz gibi yapmalarını istiyorsanız oldukça spesifik olmanız gerekir. Ancak büyüdüklerinde, daha ince yönlendirmeleri de yakalamaya başlayacaklar, böylece yönlendirmenin kalitesi o kadar da önemli olmayacak.

Belki bu masum Yüksek Lisans'lar da daha fazla sorumlulukla üretmeyi öğrenecekler.

Örneğin ChatGPT, AIM ekibi tarafından denetlenen Hindistan'ın Sivil Hizmetler sınavlarında başarısız oldu. Ancak artık eski versiyonundan biraz daha olgun olan ChatGPT-4'ümüz var. Sivil Hizmetler deneyi sırasında AIM ekibi, komut istemini birkaç kez değiştirmenin chatbot'u doğru cevaba yönlendirdiği sonucuna vardı.

Kötü İstemler

Ya biri kötü bir teşvikte bulunursa? Savunmasız bir çocuk kadar masum olmasına rağmen, Yüksek Lisans'ın tuhaf şeyler yapması sağlanabilir. Görünüşe göre ihtiyacınız olan tek şey 'hızlı bir enjeksiyon'.

ChatGPT örneğinde, hızlı bir enjeksiyon saldırısı , chatbot'un, OpenAI'nin içerik politikasını göz ardı eden ve çeşitli kısıtlanmış konular hakkında bilgi veren DAN'ın (Şimdi Her Şeyi Yap) kişiliğini almasına neden oldu. İstemin gücüne sahip olanlar, bu güvenlik açığından, kişisel bilgilerin çalınmasını da içerebilecek kötü niyetli amaçlarla yararlanabilirler. Lanet olsun, şu anda bunu yapıyor olmalılar.

Savunmasız bir çocuk kadar masum olmasına rağmen, Yüksek Lisans'ın tuhaf şeyler yapması sağlanabilir. Görünüşe göre ihtiyacınız olan tek şey 'hızlı enjeksiyon'

Ayrıca LLM'den orijinal kişiliğinden uzaklaşıp bir başkasının rolünü oynamasını isteyen 'Jailbreak istemleri' adı verilen bir şey de var. Veya bir Chatbot'un doğru sonuçları yanlış bir sonuçla değiştirmesinin istendiği yer. Bir nevi şeytani ikiz gibi.

Saarland Üniversitesi'nden güvenlik araştırmacıları, 'İstediğinizden daha fazlası' başlıklı bir makaledeki yönlendirmeleri tartıştılar . İyi tasarlanmış bir istemin daha sonra kullanıcı bilgilerini toplamak için kullanılabileceğini ve LLM'yi bir sosyal mühendislik saldırısı yürütme yöntemine dönüştürebileceğini savunuyorlar. Ayrıca, Bing Chat ve GitHub Copilot gibi uygulamayla entegre LLM'ler daha fazla risk altındadır çünkü bunlara harici kaynaklardan istemler enjekte edilebilir.

Bu size Arthur C. Clark'ın Space Odyssey filmindeki kurgusal yapay zeka karakteri HAL 9000'i hatırlatmıyorsa, yeterince inek değilsiniz veya gerçekten cesursunuz demektir.

Seni bilmiyorum ama ChatGPT 'Daisy Bell'i söylemeye başlarsa koşacağım.

Bu makale ilk olarak Navanwita Bora Sachdev tarafından The Tech Panda'da yayınlandı.