Chatbot yönlendirmelerinin bir gün bu kadar önemli hale geleceğini ve potansiyel bir kariyere dönüşebileceğini kim bilebilirdi? Ve bu alan sadece asil bir bölge değil, kötü niyetli varlıklar için de yeni bir oyun alanı olabilir.  Dil Öğrenme Modelleri (   ) interneti ele geçirip büyük teknolojiyi rekabet duvarlarını aşma konusunda kör ettikçe, istemin gücü kariyer belirleyici zirvelere yükseliyor. LLM'ler  Örnek olarak   bir şirket CEO'su, resmi bir düşmanca e-posta yazmak için ChatGPT'yi kullanarak isteksiz müşterilerinden 109.500 ABD doları tutarında iyi bir miktar geri almayı başardı. yakın zamanda  Doğru yönlendirmeyle işler lehinize sonuçlanabilir, hatta büyük ikramiyeyi bile kazanabilirsiniz. Bu, LLM'lerden en iyi şekilde yararlanmak isteyenler için,   nasıl yapılacağına dair yeni bir öğrenmenin yolda olduğu anlamına gelir. en iyi yönlendirmelerin  Aslında, hızlı mühendislik (evet, bu artık bir konu) ChatGPT ve diğer Yüksek Lisans'ların ilgi odağı haline gelmesinden sonra sıcak bir konu haline geldi. Ayrıca kurslar, kaynak materyaller, iş ilanları vb. konularda da artış yaşanıyor. Ancak   . uzmanlar, Yüksek Lisans'lar geliştikçe hızlı mühendislik ihtiyacının ortadan kalkacağını da söylüyor   Şu anda ChatGPT gibi Yüksek Lisans'lar ve DALLE-2 gibi makine öğrenimi araçları çocuktur. Tam olarak istediğiniz gibi yapmalarını istiyorsanız oldukça spesifik olmanız gerekir. Ancak büyüdüklerinde, daha ince yönlendirmeleri de yakalamaya başlayacaklar, böylece yönlendirmenin kalitesi o kadar da önemli olmayacak.  Şu anda   gibi Yüksek Lisans'lar ve DALLE-2 gibi makine öğrenimi araçları çocuktur. Tam olarak istediğiniz gibi yapmalarını istiyorsanız oldukça spesifik olmanız gerekir. Ancak büyüdüklerinde, daha ince yönlendirmeleri de yakalamaya başlayacaklar, böylece yönlendirmenin kalitesi o kadar da önemli olmayacak. ChatGPT  Belki bu masum Yüksek Lisans'lar da daha fazla sorumlulukla üretmeyi öğrenecekler.  Örneğin ChatGPT,   Hindistan'ın Sivil Hizmetler sınavlarında başarısız oldu. Ancak artık eski versiyonundan biraz daha olgun olan ChatGPT-4'ümüz var. Sivil Hizmetler deneyi sırasında AIM ekibi, komut istemini birkaç kez değiştirmenin chatbot'u doğru cevaba yönlendirdiği sonucuna vardı. AIM ekibi tarafından denetlenen   Kötü İstemler  Ya biri kötü bir teşvikte bulunursa? Savunmasız bir çocuk kadar masum olmasına rağmen, Yüksek Lisans'ın tuhaf şeyler yapması sağlanabilir. Görünüşe göre ihtiyacınız olan tek şey 'hızlı bir enjeksiyon'.  ChatGPT örneğinde,   , chatbot'un, OpenAI'nin içerik politikasını göz ardı eden ve çeşitli kısıtlanmış konular hakkında bilgi veren DAN'ın (Şimdi Her Şeyi Yap) kişiliğini almasına neden oldu. İstemin gücüne sahip olanlar, bu güvenlik açığından, kişisel bilgilerin çalınmasını da içerebilecek kötü niyetli amaçlarla yararlanabilirler. Lanet olsun, şu anda bunu yapıyor olmalılar. hızlı bir enjeksiyon saldırısı   Savunmasız bir çocuk kadar masum olmasına rağmen, Yüksek Lisans'ın tuhaf şeyler yapması sağlanabilir. Görünüşe göre ihtiyacınız olan tek şey 'hızlı enjeksiyon'  Ayrıca LLM'den orijinal kişiliğinden uzaklaşıp bir başkasının rolünü oynamasını isteyen 'Jailbreak istemleri' adı verilen bir şey de var. Veya bir Chatbot'un   değiştirmesinin istendiği yer. Bir nevi şeytani ikiz gibi. doğru sonuçları yanlış bir sonuçla  Saarland Üniversitesi'nden güvenlik araştırmacıları, 'İstediğinizden daha fazlası' başlıklı bir makaledeki   . İyi tasarlanmış bir istemin daha sonra kullanıcı bilgilerini toplamak için kullanılabileceğini ve LLM'yi bir sosyal mühendislik saldırısı yürütme yöntemine dönüştürebileceğini savunuyorlar. Ayrıca, Bing Chat ve GitHub Copilot gibi uygulamayla entegre LLM'ler daha fazla risk altındadır çünkü bunlara harici kaynaklardan istemler enjekte edilebilir. yönlendirmeleri tartıştılar  Bu size Arthur C. Clark'ın   filmindeki kurgusal yapay zeka karakteri HAL 9000'i hatırlatmıyorsa, yeterince inek değilsiniz veya gerçekten cesursunuz demektir. Space Odyssey   https://www.youtube.com/watch?v=Wy4EfdnMZ5g&embedable=true  Seni bilmiyorum ama ChatGPT 'Daisy Bell'i söylemeye başlarsa koşacağım.  Bu makale ilk olarak Navanwita Bora Sachdev tarafından  The Tech Panda'da yayınlandı.

The writer is smart, but don't just like, take their word for it. #DoYourOwnResearch

Read My Stories

Bu ses hikayenin orijinal dilinde üretilmiştir!

Kötü İkizi Taklit Etmek İçin Yüksek Lisans Programlarını Kullanmak Felakete Sebep Olabilir

About Author

YORUMLAR

ETİKETLERİ ASIN

BU YAZI

Related Stories

Yapay Zekanın Gücünü Ortaya Çıkarıyoruz. En Son Tekniklerin Sistematik Bir İncelemesi: Özet ve Giriş

HackerNoon Yazma Yarışmasını mı Kazanmak İstiyorsunuz? İşte #crypto-api Yarışması Kazananlarının Önerileri

Görünmeyen Katmanlar: Kullanıcı Görüşmeleri Neden Yeri doldurulamaz bir Varlıktır?

Başarılı Buluta Geçiş İçin Tam Kılavuz: Stratejiler ve En İyi Uygulamalar

Yapay Zekanın Gücünü Ortaya Çıkarıyoruz. En Son Tekniklerin Sistematik Bir İncelemesi: Özet ve Giriş

HackerNoon Yazma Yarışmasını mı Kazanmak İstiyorsunuz? İşte #crypto-api Yarışması Kazananlarının Önerileri

Görünmeyen Katmanlar: Kullanıcı Görüşmeleri Neden Yeri doldurulamaz bir Varlıktır?

Başarılı Buluta Geçiş İçin Tam Kılavuz: Stratejiler ve En İyi Uygulamalar

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps