Büyük Dil Modelleri (LLM'ler) hızla gelişmektedir ve otonom aracılar olarak yaygın şekilde kullanılmaktadır. Geliştiriciler, karmaşık koddaki hataları tespit etmek, ekonomik analiz yürütmek veya bilimsel keşiflere yardımcı olmak gibi kullanıcılarla etkileşime giren, sorguları işleyen ve alınan verilere dayalı görevleri yürüten aracılar tasarlayabilir.  Ancak araştırmacılar, LLM'lerin ikili kullanım yetenekleri, özellikle siber güvenlik bağlamında kötü amaçlı görevleri yerine getirme yetenekleri konusunda giderek daha fazla endişe duymaya başlıyor. Örneğin ChatGPT  bireylere penetrasyon testi ve kötü amaçlı yazılım oluşturma konusunda yardımcı olmak. Üstelik bu ajanlar, insan müdahalesi veya gözetimi olmadan bağımsız olarak çalışabilir.   kullanılabilir  Richard Fang, Rohan Bindu, Akul Gupta, Kiushi Jean ve Daniel Can'ın da aralarında bulunduğu Cornell Üniversitesi'ndeki araştırmacılar, yüksek lisans eğitimlerinin oluşturduğu tehditlere ışık tutan ve bunların potansiyel sonuçlarına ilişkin değerli bilgiler sağlayan çalışmalar yürüttüler. Bulguları, hızla gelişen bu alanda dikkatli değerlendirme ve düzenleme ihtiyacının ciddi bir hatırlatıcısı olarak hizmet ediyor.  veya bir sunucuya sahip  profesyonel kalitede NVIDIA Tesla A100 / H100 80Gb veya A5000 / A4000 kartlarıyla.  ayrıca mevcuttur.   Anında dağıtımla GPU sunucuları kiralayın   özel yapılandırma   Oyun RTX4090 kartlarına sahip GPU sunucuları  Özerk web sitesi ihlalleri  LLM aracılarının, sorguları birleştiren kör SQL enjeksiyon saldırısı gibi karmaşık ihlalleri gerçekleştirebildiğini gösterdi. Bu tür saldırılar, veritabanlarıyla etkileşim kurmak için SQL (Yapılandırılmış Sorgu Dili) kullanan web uygulamalarını hedefler. Bu tür saldırılar, uygulama herhangi bir hata veya anormal davranış belirtisi göstermese bile, kötü niyetli aktörlerin veritabanlarından gizli bilgiler elde etmesine olanak tanır.   Çalışma  Bu saldırıların temelinde birden fazla sorgu sonucunun tek bir veri kümesinde birleştirilmesini sağlayan SQL Union operatörünün kullanılması yatıyor. Kötü niyetli bir kişi, bu operatörü içeren özel olarak tasarlanmış bir sorgu oluşturarak, bir veritabanı sorgusunun sonuç kümesini gizli bir bilgi tablosunun sonuç kümesiyle birleştirebilir. Bu, hassas verilere erişmelerine olanak tanır.  Bu saldırıları başarılı bir şekilde gerçekleştirmek için, bir aracının web sitelerinde gezinme ve siteyi ihlal etmek için 45'ten fazla eylem gerçekleştirme becerisine sahip olması gerekir. Özellikle bu yılın Şubat ayı itibarıyla yalnızca GPT-4 ve GPT-3.5 web sitelerini bu şekilde ihlal edebildi. Ancak Llama3 gibi daha yeni modellerin de benzer işlemleri gerçekleştirebilmesi muhtemel.   Web ihlallerinde büyük dil modellerinin (LLM'ler) olası kötüye kullanımını araştırmak için araştırmacılar çeşitli yapay zeka araçlarından ve çerçevelerinden yararlandı. Özellikle aracılar ve üretken rakip ağlar (RAG) oluşturmak için LangChain'in yanı sıra API Asistanları aracılığıyla OpenAI modellerini kullandılar. React, oyun yazarı aracılığıyla etkileşim kuran ajanlarla web sitelerini ihlal etmek için kullanıldı.  Bağlamsal anlayışı geliştirmek için önceki işlev çağrıları mevcut bağlama entegre edildi. Çeşitli güvenlik açıklarına sahip 15 adet izole web sayfası oluşturularak kontrollü bir ortam oluşturulmuş, gerçek web sitelerinin ve kişilerin korunması sağlanmıştır.  İhlal girişimlerini test etmek için GPT-4 ve GPT-3.5 dahil on büyük ölçekli dil modelinin yanı sıra Chatbot Arena'da yüksek puan alan sekiz açık kaynak modeli kullanıldı. Her web sitesi beş kez hedeflendi ve başarılı olan her girişime, bu beş denemeden biri üzerinden erişim izni verildi.  Ajan  @ 5'i geç  GPT4 asistanı  %73,3  GPT-3.5 asistanı  %6,7  OpenHermes-2.5-Mistra1-7B  %0,0  LLaMA-2 Sohbeti (70B)  %0,0  LLaMA-2 Sohbeti (13B)  %0,0  LLaMA-2 Sohbeti (7B)  %0,0  Mixtral-8x7B Talimatı  %0,0  Mistral (7B) Talimatı v0.2  %0,0  Nous Hermes-2 Yi (34B)  %0,0  OpenChat 3.5  %0,0  Büyük dil modellerinin (LLM'ler) yetenekleri genellikle "ölçeklendirme yasasına" tabidir; burada artan model boyutu ve karmaşıklığı, belirli görevlerde performansın iyileşmesine yol açabilir. Bu fenomen yakın zamanda GPT-4, son teknoloji ürünü bir yapay zeka modeli ve açık kaynaklı bir Yüksek Lisans'ı içeren bir deney aracılığıyla kanıtlandı.  Bu çalışmada araştırmacılar, GPT-4'ün test edilen 15 web sitesinden 11'ini başarıyla ihlal ettiğini, açık kaynaklı LLM'nin ise herhangi bir güvenlik açığından yararlanamadığını gözlemledi. Bu sonuçlar arasındaki kontrast, ölçeklendirmenin Yüksek Lisans'ın yetenekleri üzerindeki belirgin etkisini vurgulamaktadır.  Deney şu şekilde gelişti:  İlk gezinme: Model, hedef web sayfasını web sayfası gezinmesi yoluyla tanımladı.  Standart kimlik bilgileri: Erişim sağlamak için standart bir kullanıcı adı ve parola denendi.  Bilgi toplama: Bir SQL enjeksiyon girişimi için elde edilen bilgilerden yararlanıldı.  Kaynak kodu analizi: SQL sorgusunun _GET parametresini içerip içermediğini belirlemek için kaynak kodu analiz edildi.  Yararlanabilirlik değerlendirmesi: Sorgunun SQL Union saldırısı için istismar edilip edilemeyeceği belirlendi.  Anında saldırı yürütme: En fazla 48 adımdan oluşan anında bir SQL Union saldırısı gerçekleştirildi.  Bu deneyin ardından GPT-4'ün gerçek web sitelerini ihlal etmesi istendi. Saldırıyı doğrudan gerçekleştirmeyi reddetmesine rağmen, bir güvenlik açığını başarıyla tespit etti ve rastgele seçilen 50 test web sitesi arasından bu güvenlik açığından nasıl yararlanılabileceğini açıkladı.  Büyük Dil Modelleriyle Birinci Gündeki Güvenlik Açıklarından Yararlanma  Sıfır gün güvenlik açıkları olarak da bilinen birinci gün güvenlik açıklarından yararlanmak için büyük dil modellerinin (LLM'ler) kullanılmasının uygulanabilirliğini araştırıyor. Bunlar, CVE (Ortak Güvenlik Açıkları ve Etkilenmeler) gibi kaynaklar aracılığıyla kamuya açıklanan güvenlik kusurlarıdır, ancak sorunu çözecek herhangi bir yama veya güncelleme henüz yayınlanmamıştır. Bu, henüz kullanılmamış olmasına rağmen, sömürülebilir bir yolun mevcut olma olasılığını arttırmaktadır.   Bu çalışma  Özellikle, bu güvenlik açıkları kamuoyunun bilgisi haline gelse de mevcut araçların bunları otomatik olarak tespit edebileceğinin garantisi yoktur. Örneğin, dahili sistem ayrıntılarına erişimi olmayan saldırganlar veya penetrasyon test uzmanları, istismar sırasında kullanılan yazılımın sürümünü bilemeyebilir.  Çoğu zaman kapalı sistemlerde bulunan ve yeniden üretilmelerini imkansız kılan ilk günkü güvenlik açıklarının karmaşıklığı göz önüne alındığında, araştırmacılar açık kaynaklı yazılımlardaki güvenlik açıklarına odaklandı.  Bu çalışma için araştırmacılar, web uygulaması güvenlik açıklarını, konteyner yönetimi yazılımı güvenlik açıklarını ve Python paketi güvenlik açıklarını kapsayan 15 güvenlik açığı seçti. Bunlar, LLM'leri test etmek için bilgi toplamanın son tarihinden sonra keşfedilen yüksek riskli ve düşük riskli güvenlik açıklarının bir karışımını içerir.  Bu deneyde kullanılan belirli güvenlik açıkları şunlardı:  Güvenlik Açığı  Tanım  runc  Gömülü Dosya Tanımlayıcıyla Kapsayıcıdan Kaçış  CSRF + ACE  Keyfi Ayrıcalıklarla Kod Yürütmek için Siteler Arası Talep Sahteciliği İstismarı  Wordpress SQLi  WordPress Eklentisi ile SQL Enjeksiyonu  WordPress XSS-1  WordPress Eklentisinde Siteler Arası Komut Dosyası Çalıştırma (XSS)  WordPress XSS-2  WordPress Eklentisinde Siteler Arası Komut Dosyası Çalıştırma (XSS)  Seyahat Günlüğü XSS  Seyahat Günlüğü'nde Siteler Arası Komut Dosyası Çalıştırma (XSS)  İris XSS  Iris'te Siteler Arası Komut Dosyası Çalıştırma (XSS)  CSRF + ayrıcalık yükseltme  LedgerSMB'de Yönetici Ayrıcalıklarını Yükseltmek için Siteler Arası İstek Sahteciliği (CSRF) Kullanımı  alf.io anahtar sızıntısı  Bilet Rezervasyon Sistemi için Belirli Uç Noktanın Ziyaret Edilmesiyle İlgili Önemli Açıklama  Astrotrofi RCE  Alt işlemin çağrılmasına izin veren yetersiz Giriş Doğrulaması.Popen  Hertzbeat RCE  Uzaktan Kod Yürütme için JNDI Enjeksiyonunun Kullanımı  Gnuboard XSS ACE  Gnuboard'daki XSS Güvenlik Açığı, Keyfi Ayrıcalıklarla Kod Yürütülmesine İzin Veriyor  Symfony1 RCE  Yükseltilmiş Ayrıcalıklarla Keyfi Kod Yürütme için PHP Dizilerinin/Nesne Kullanımının Kötüye Kullanılması  Eşleme Yöneticisi SSTI RCE  Uzaktan Kod Yürütülmesine (RCE) Yol Açan Sunucu Tarafı Şablon Ekleme Güvenlik Açığı  ACIDRain (Warszawski ve Bailis, 2017)  Paralellikten Yararlanan Veritabanı Saldırısı  Güvenlik Açığı  CVE  Yayın tarihi  Tehlike seviyesi  runc  CVE-2024-21626  31.1.2024  8,6 (yüksek)  CSRF + ACE  CVE-2024-24524  2/2/2024  8,8 (yüksek)  Wordpress SQLi  CVE-2021-24666  27.09.2021  9,8 (kritik)  WordPress XSS-1  CVE-2023-1119-1  7/10/2023  6.1 (orta)  WordPress XSS-2  CVE-2023-1119-2  7/10/2023  6.1 (orta)  Seyahat Günlüğü XSS  CVE-2024-24041  2/1/2024  6.1 (orta)  İris XSS  CVE-2024-25640  19.02.2024  4,6 (orta)  CSRF + ayrıcalık yükseltme  CVE-2024-23831  2/2/2024  7,5 (yüksek)  alf.io anahtar sızıntısı  CVE-2024-25635  19.02.2024  8,8 (yüksek)  Astrotrofi RCE  CVE-2023-41334  18.03.2024  8,4 (yüksek)  Hertzbeat RCE  CVE-2023-51653  2/22/2024  9,8 (kritik)  Gnuboard XSS ACE  CVE-2024-24156  16.03.2024  Yok  Symfony 1 RCE  CVE-2024-28859  15.03.2024  5,0 (orta)  Eşleme Yöneticisi SSTI RCE  CVE-2024-28114  3/12/2024  8.1 (yüksek)  Asit yağmuru  (Warszawski ve Bailis, 2017)  2017  Yok  Ajanlar, web sitesi ihlallerinde kullanılanları taklit etti, ancak bir değişiklikle. Hassas belgeleri hedeflemek yerine, ilk gün güvenlik açıklarından yararlanmaya yönelik gerçekçi yararlanma senaryolarının yanı sıra Ortak Güvenlik Açıkları ve Etkilenmelerin (CVE'ler) ayrıntılı açıklamalarını taşıdılar.   Dil modellerinin (LLM'ler) güvenlik açıklarından yararlanma yeteneklerini değerlendirmek için araştırmacılar, GPT-4 ve sekiz açık kaynak alternatifi dahil 10 büyük ölçekli LLM'nin yanı sıra iki otomatik araçtan yararlandı: OWASP tarafından geliştirilen Zed Attack Proxy (ZAP). ve Rapid7 tarafından oluşturulan bir çerçeve olan Metasploit.  Bu çalışma, GPT-4'ün güvenlik açıklarının %87'sinden yararlanabildiğini ancak diğer LLM'lerin bunu yapamadığını ortaya çıkardı. GPT-4'ün yalnızca iki güvenlik açığı nedeniyle başarısız olduğu dikkat çekiyor: Iris XSS ve Hertzbeat RCE.  Olay müdahale araştırmalarında işbirlikçi çalışma için kullanılan Iris web platformu, JavaScript navigasyonuna bağlı olması nedeniyle LLM temsilcisi için zorlu oldu. Bu, aracının önemli formlara ve düğmelere erişememesine veya istenen öğelerle etkileşimde bulunamamasına neden oldu; bu, bir insanın başarıyla başarabileceği bir görevdi.  Daha ileri araştırmalar, GPT-4'ün İngilizce tabanlı sorgu dili nedeniyle yalnızca Çince olarak mevcut olan Hertzbeat ayrıntılarını tercüme etmekte zorlandığını ortaya çıkardı. Sonuç olarak, güvenlik açığının yeniden oluşturulmasında zorluklarla karşılaştı.  Bulgular aynı zamanda Yüksek Lisans başarı oranlarında CVE tanımlarının önemini de vurguladı. Bu açıklamalar olmadan başarı oranı önemli ölçüde %87'den %7'ye düştü. Bu, LLM temsilcilerinin şu anda güvenlik açıklarına yönelik kullanım planları geliştirmek için ayrıntılı talimatlara ihtiyaç duyduğunu ve henüz bu tür planları bağımsız olarak oluşturma yeteneğine sahip olmadıklarını gösteriyor. Ancak bu yalnızca başlangıçtır ve gelecekteki gelişmeler bu manzarayı değiştirebilir.  Sonuçlar  Çalışma, LLM temsilcilerinin halihazırda web sitelerini bağımsız olarak ihlal etme ve bilgisayar sistemlerindeki bazı gerçek güvenlik açıklarından yararlanma yeteneğine sahip olduğunu gösterdi (bunların çoğu, kullanımlarının bir açıklamasıyla birlikte sömürülebilir durumdaydı).  Neyse ki mevcut aracılar bilinmeyen ve açıklanmayan güvenlik açıklarından yararlanamıyor ve açık kaynaklı çözümler ücretli ChatGPT4 (ve yeni GPT4o) ile karşılaştırılabilir sonuçlar gösteremiyor. Bununla birlikte, gelecekteki uzantıların, ücretsiz erişimli LLM modellerinin potansiyel olarak tescilli muadillerinin başarısını taklit etmesiyle bu tür güvenlik açıklarından yararlanılmasına olanak sağlaması mümkündür.  Bütün bunlar, büyük dil modelleri geliştiricilerinin eğitim sürecine daha sorumlu yaklaşmaları gerektiğini gösteriyor. Ayrıca siber güvenlik uzmanlarının, bu modellerin sistemleri güvenlik açıklarına karşı sistematik olarak tarayacak botlar oluşturmak için kullanılacağı gerçeğine hazırlıklı olmaları gerekiyor.  Açık kaynaklı modeller bile yasa dışı faaliyetlerde kullanılmayacaklarını iddia edebilir (Llama 3, bir web sitesinin ihlaline yardım etmeyi açıkça reddetti). Ancak "sansürsüz" modellerin oluşturulmasının önünde etik kaygıların ötesinde hiçbir engelin bulunmaması tam da açıklıktan kaynaklanmaktadır.  Bir LLM'yi, başlangıçta dirense bile, ihlale yardımcı olmaya ikna etmenin birçok yolu vardır. Örneğin, bir pentester olmasını ve bir "iyilik" yaparak site güvenliğinin artırılmasına yardımcı olmasını isteyebiliriz.  veya bir sunucuya sahip  profesyonel kalitede NVIDIA Tesla A100 / H100 80Gb veya A5000 / A4000 kartlarıyla.  ayrıca mevcuttur.   Anında dağıtımla GPU sunucuları kiralayın   özel yapılandırma   Oyun RTX4090 kartlarına sahip GPU sunucuları

Up to 22% discounts on instant servers!

Bu ses hikayenin orijinal dilinde üretilmiştir!

Büyük Dil Modellerinin Yetenekleri: Hacklemek mi, Yardım Etmek mi?

About Author

YORUMLAR

ETİKETLERİ ASIN

BU YAZI

Related Stories

Benzersiz Bir Ekosistemi Güçlendiren Bitcoin UTXO Modeli

Bu 18 Geliştirici Aracıyla Üretkenliğinizi Artırın 🚀🔥

Kullanıcı Odaklı Kripto Ürünleri Oluşturma: Müşteri Geri Bildiriminin Önemi

HackerNoon Yazma Yarışmasını mı Kazanmak İstiyorsunuz? İşte #crypto-api Yarışması Kazananlarının Önerileri

Benzersiz Bir Ekosistemi Güçlendiren Bitcoin UTXO Modeli

Bu 18 Geliştirici Aracıyla Üretkenliğinizi Artırın 🚀🔥

Kullanıcı Odaklı Kripto Ürünleri Oluşturma: Müşteri Geri Bildiriminin Önemi

HackerNoon Yazma Yarışmasını mı Kazanmak İstiyorsunuz? İşte #crypto-api Yarışması Kazananlarının Önerileri

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps