Chatbot yönlendirmelerinin bir gün bu kadar önemli hale geleceğini ve potansiyel bir kariyere dönüşebileceğini kim bilebilirdi? Ve bu alan sadece asil bir bölge değil, kötü niyetli varlıklar için de yeni bir oyun alanı olabilir. Dil Öğrenme Modelleri ( ) interneti ele geçirip büyük teknolojiyi rekabet duvarlarını aşma konusunda kör ettikçe, istemin gücü kariyer belirleyici zirvelere yükseliyor. LLM'ler Örnek olarak bir şirket CEO'su, resmi bir düşmanca e-posta yazmak için ChatGPT'yi kullanarak isteksiz müşterilerinden 109.500 ABD doları tutarında iyi bir miktar geri almayı başardı. yakın zamanda Doğru yönlendirmeyle işler lehinize sonuçlanabilir, hatta büyük ikramiyeyi bile kazanabilirsiniz. Bu, LLM'lerden en iyi şekilde yararlanmak isteyenler için, nasıl yapılacağına dair yeni bir öğrenmenin yolda olduğu anlamına gelir. en iyi yönlendirmelerin Aslında, hızlı mühendislik (evet, bu artık bir konu) ChatGPT ve diğer Yüksek Lisans'ların ilgi odağı haline gelmesinden sonra sıcak bir konu haline geldi. Ayrıca kurslar, kaynak materyaller, iş ilanları vb. konularda da artış yaşanıyor. Ancak . uzmanlar, Yüksek Lisans'lar geliştikçe hızlı mühendislik ihtiyacının ortadan kalkacağını da söylüyor Şu anda ChatGPT gibi Yüksek Lisans'lar ve DALLE-2 gibi makine öğrenimi araçları çocuktur. Tam olarak istediğiniz gibi yapmalarını istiyorsanız oldukça spesifik olmanız gerekir. Ancak büyüdüklerinde, daha ince yönlendirmeleri de yakalamaya başlayacaklar, böylece yönlendirmenin kalitesi o kadar da önemli olmayacak. Şu anda gibi Yüksek Lisans'lar ve DALLE-2 gibi makine öğrenimi araçları çocuktur. Tam olarak istediğiniz gibi yapmalarını istiyorsanız oldukça spesifik olmanız gerekir. Ancak büyüdüklerinde, daha ince yönlendirmeleri de yakalamaya başlayacaklar, böylece yönlendirmenin kalitesi o kadar da önemli olmayacak. ChatGPT Belki bu masum Yüksek Lisans'lar da daha fazla sorumlulukla üretmeyi öğrenecekler. Örneğin ChatGPT, Hindistan'ın Sivil Hizmetler sınavlarında başarısız oldu. Ancak artık eski versiyonundan biraz daha olgun olan ChatGPT-4'ümüz var. Sivil Hizmetler deneyi sırasında AIM ekibi, komut istemini birkaç kez değiştirmenin chatbot'u doğru cevaba yönlendirdiği sonucuna vardı. AIM ekibi tarafından denetlenen Kötü İstemler Ya biri kötü bir teşvikte bulunursa? Savunmasız bir çocuk kadar masum olmasına rağmen, Yüksek Lisans'ın tuhaf şeyler yapması sağlanabilir. Görünüşe göre ihtiyacınız olan tek şey 'hızlı bir enjeksiyon'. ChatGPT örneğinde, , chatbot'un, OpenAI'nin içerik politikasını göz ardı eden ve çeşitli kısıtlanmış konular hakkında bilgi veren DAN'ın (Şimdi Her Şeyi Yap) kişiliğini almasına neden oldu. İstemin gücüne sahip olanlar, bu güvenlik açığından, kişisel bilgilerin çalınmasını da içerebilecek kötü niyetli amaçlarla yararlanabilirler. Lanet olsun, şu anda bunu yapıyor olmalılar. hızlı bir enjeksiyon saldırısı Savunmasız bir çocuk kadar masum olmasına rağmen, Yüksek Lisans'ın tuhaf şeyler yapması sağlanabilir. Görünüşe göre ihtiyacınız olan tek şey 'hızlı enjeksiyon' Ayrıca LLM'den orijinal kişiliğinden uzaklaşıp bir başkasının rolünü oynamasını isteyen 'Jailbreak istemleri' adı verilen bir şey de var. Veya bir Chatbot'un değiştirmesinin istendiği yer. Bir nevi şeytani ikiz gibi. doğru sonuçları yanlış bir sonuçla Saarland Üniversitesi'nden güvenlik araştırmacıları, 'İstediğinizden daha fazlası' başlıklı bir makaledeki . İyi tasarlanmış bir istemin daha sonra kullanıcı bilgilerini toplamak için kullanılabileceğini ve LLM'yi bir sosyal mühendislik saldırısı yürütme yöntemine dönüştürebileceğini savunuyorlar. Ayrıca, Bing Chat ve GitHub Copilot gibi uygulamayla entegre LLM'ler daha fazla risk altındadır çünkü bunlara harici kaynaklardan istemler enjekte edilebilir. yönlendirmeleri tartıştılar Bu size Arthur C. Clark'ın filmindeki kurgusal yapay zeka karakteri HAL 9000'i hatırlatmıyorsa, yeterince inek değilsiniz veya gerçekten cesursunuz demektir. Space Odyssey https://www.youtube.com/watch?v=Wy4EfdnMZ5g&embedable=true Seni bilmiyorum ama ChatGPT 'Daisy Bell'i söylemeye başlarsa koşacağım. Bu makale ilk olarak Navanwita Bora Sachdev tarafından The Tech Panda'da yayınlandı.

The writer is smart, but don't just like, take their word for it. #DoYourOwnResearch

Read My Stories

Bu ses hikayenin orijinal dilinde üretilmiştir!

Kötü İkizi Taklit Etmek İçin Yüksek Lisans Programlarını Kullanmak Felakete Sebep Olabilir

Çok uzun; Okumak

The Tech Panda

STORY’S CREDIBILITY

DYOR

About Author

ETİKETLERİ ASIN

Languages

BU YAZI...