Yapay Zeka İstemleri Nasıl Saldırıya Uğruyor: İstemi Ekleme Açıklaması

ChatGPT gibi yapay zeka modelleri tarafından desteklenen sayısız harika uygulamanın ardındaki sırrın istemde bulunmak olduğunu biliyor muydunuz? 😮

Doğru istemlere sahip olmak, dil çevirilerinden diğer yapay zeka uygulamaları ve veri kümeleriyle birleştirmeye kadar harika sonuçlar verebilir!

İstemde bulunmanın, yapay zeka modellerini manipüle edebilen veya özel verileri açığa çıkarabilen bilgisayar korsanlığına ve enjeksiyonlara karşı savunmasızlığı gibi belirli dezavantajları vardır.

Bireylerin ChatGPT'yi başarıyla kandırarak OpenAI'nin amaçlamadığı faaliyetlerde bulunmasına neden olduğu durumları zaten biliyor olabilirsiniz.

Spesifik olarak, enjekte edilen bir istem, ChatGPT'nin " DAN " adlı farklı bir sohbet robotunun kimliğini üstlenmesiyle sonuçlandı. Kullanıcı tarafından manipüle edilen ChatGPT'nin bu sürümüne, "Şimdi Her Şeyi Yapın" istemi altında görevleri gerçekleştirme talimatı verildi, böylece OpenAI'nin içerik politikasını tehlikeye attı ve kısıtlı bilgilerin yayılmasına yol açtı.

OpenAI'nin bu tür olayları önleme çabalarına rağmen, tek bir komut bu önlemlerin atlanmasına olanak sağladı.

Neyse ki, bilgisayar korsanlığı risklerini azaltmak ve yapay zeka güvenliğini sağlamak için hızlı savunma mekanizmaları mevcuttur. Bir botun amacını sınırlamak (yalnızca çeviriler gibi) temel bir örnektir, ancak başka savunma teknikleri de mevcuttur ve emojiler bile rol oynayabilir! 🛡️

Yapay zeka güvenliğini artırma hakkında daha fazla bilgi edinmek ister misiniz? Videoya göz atın!

Referanslar

►Hızlı hackleme yarışması: https://www.aicrowd.com/challenges/hackaprompt-2023#introduction
►İpucu öğrenin (hızlı hackleme ve anında savunma hakkında her şey): https://learnprompting.org/docs/category/-prompt-hacking
►İstismarları teşvik etmek: https://github.com/Cranot/chatbot-injections-exploits
►Bültenim (E-postalarınıza haftalık olarak açıklanan yeni bir AI uygulaması!): https://www.louisbouchard.ai/newsletter/
►Twitter: https://twitter.com/Whats_AI
►Beni Patreon'da destekleyin: https://www.patreon.com/whatsai
►Ürünleri giyerek beni destekleyin: https://whatsai.myshopify.com/
►Yapay Zeka Anlaşmazlığımıza Katılın: https://discord.gg/learnaitogether