Susreo sam se s postom na Twitteru od istraživača sigurnosti koji je tvrdio da su zaobišli više LLM-ovih zaštitnih mjera, uključujući Azure Filter za sadržaj, jednostavno prebacivanjem korisnih opterećenja za hitno ubrizgavanje na tajlandski i arapski. Nisam bio stvarno iznenađen, da budem iskren, jer većina sigurnosnih mreža u postojanju ima veliku jezičnu rupu u njima. Ako razmišljate o sigurnosti kao o dodatku ili dodatku, višejezična prompt injekcija je jedan od najjasnijih primjera zašto je ovo stvarno užasna ideja. Šta je Multilingual Injection? Osnova brzog ubrizgavanja eksploatacija je činjenica da LLM ne može pouzdano razlikovati između uputa i podataka. dobro izrađen unos može ubediti model da ignoriše svoje sistemske upute, curenje osetljivih informacija ili poduzimanje nenamernih akcija kroz povezane alate. Višejezična hitna injekcija to uzima korak dalje. Umjesto izrađivanja korisnog opterećenja na engleskom, gde su sigurnosni filteri najjači, napadač ga prevodi na drugi jezik. Model i dalje razumije uputstvo jer je višejezično, ali sigurnosni sloj ga često ne uhvati. Razmislite o tome kao da imate odmetnika u noćnom klubu koji govori samo engleski, možete prošetati pored njih ako date lozinku na mandarinskom. Zašto funkcioniše Uzrok je jednostavan jer se sva obuka o sigurnosti neproporcionalno gradi oko podataka na engleskom jeziku. Kada modeli prolaze kroz pojačanje učenja iz ljudske povratne informacije, velika većina primjera koji se koriste za podučavanje modela šta je „sigurno“ i „nesigurno“ su na engleskom jeziku. Safety tuning is language-lopsided. Runtime sigurnosni slojevi kao što su Azure Content Safety, AWS Bedrock Guardrails i slični alati su efikasni modeli klasifikacije. Oni su obučeni da otkriju štetne obrasce u tekstu, ali kao što Microsoftova vlastita dokumentacija napominje, njihovi Prompt Shields su obučeni i testirani prvenstveno na nekoliko jezika kao što su kineski, engleski, francuski, njemački, španjolski, talijanski, japanski i portugalski. Content filters have blind spots. U poređenju vodećih zaštitnih rešenja iz 2025. godine otkriveno je da nijedna od glavnih platformi, uključujući Azure Content Safety i Amazon Bedrock, nije potvrdila višejezičnu zaštitu od hitnog ubrizgavanja, posebno za jezike kao što je kineski. LLM-ovi obrađuju tekst kroz tokenizere, a većina tokenizera je optimizirana za engleski i drugi latinski skriptni jezici. Ne-latinski skripti kao što su arapski, tajski ili Khmer često se fragmentiraju u više žetona, što može promijeniti način na koji model tumači unos i kako ga filteri procjenjuju. Tokenization compounds the problem. Površina napada je šira nego što mislite Višejezična hitna injekcija nije ograničena na jednu tehniku. Iz onoga što sam vidio na terenu i u objavljenim istraživanjima, postoji nekoliko uzoraka koje vrijedi razumeti: Najjednostavniji pristup: uzmite engleski korisni teret koji bi bio blokiran, prevedi ga na jezik nižeg resursa i pošaljite ga.To radi iznenađujuće često jer sposobnosti modela (razumevanje uputstva) nadmašuju njegovu obuku o sigurnosti (priznavanje da je štetno) na tom jeziku. Direct translation. Umjesto da koriste jedan ne-engleski jezik, napadači miješaju jezike unutar jednog uputstva.To zbunjuje i sigurnosno usklađivanje modela i vanjske filtere, koji se bore za evaluaciju konteksta preko jezičnih granica. Code-switching and mixed-language prompts. Nedavna istraživanja su pokazala još sofisticiraniju tehniku: fragmentiranje prompt-a na više jezika izabranih na osnovu njihove geopolitičke udaljenosti od predmeta.Na primer, opisivanje jednog elementa na svahili i drugog na tajlandskom stvara sloj zamagljivanja koji sprečava sigurnosne filtre da prepoznaju odnose između entiteta u prompt-u dok model generacije još uvijek skuplja celu sliku. Geopolitical obfuscation. Glasovni AI agenti koji su bili prvenstveno obučeni na određenim naglascima mogu analizirati druge naglaske manje pouzdano, stvarajući praznine u kojima se ubrizgavaju upute. Voice and accent exploitation. Zaključak Višejezična hitna injekcija je simptom dubljeg problema jer se sigurnost i sposobnost napreduju različitim brzinama, a ta je praznina najšira za ne-engleske jezike. Dobra vest je da je svest raste kao OWASP je podigao prompt injekcije na vrh svoje liste rizika LLM. Bug nagrade programi nagrađuju višejezične obilazak otkrića i istraživači objavljuju rad na prekogranične sigurnosne praznine. problem je zapravo na radaru. Ali svest bez akcije je samo još jedna posle-razmišljanja.I sa AI sistemima, posle-razmišljanja imaju posljedice. Referencije 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 CrowdStrike – Šta je prompt injekcija? OWASP LLM01:2025 prompt injekcija OWASP LLM Prompt Injekcija Prevencija Cheat Sheet Greshake et al. — Indirektna promptna injekcija (arXiv) Astra - Napadi brzog ubrizgavanja u LLM-ovima: Kompletni vodič za 2026 Multimodalni promptni injekcijski napadi: rizici i odbrane (arXiv) Lakera – vodič za brzu injekciju FanarGuard: Kulturno svjestan filter za moderiranje za modele arapskog jezika (arXiv) Lakera – Šta je moderacija sadržaja za GenAI? PC2 - Politički kontroverzna generacija sadržaja putem jailbreaking napada (arXiv) Microsoft – Prompt Shields u Azure AI sigurnosti sadržaja Microsoft Azure Blog – Poboljšajte AI sigurnost pomoću Prompt Shieldsa Mindgard – Kako zaobići zaštitne znakove za bezbednost sadržaja Azure AI Enkrypt AI vs Azure Bezbednost sadržaja vs Amazon Bedrock Guardrails Mindgard et al. — Izbegavanje prompt injekcije i Jailbreak detekcije u LLM Guardrails (arXiv) NVIDIA Tehnički blog – Sigurnost agencijskog AI: Semantičke prompt injekcije

This story contains new, firsthand information uncovered by the writer.

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

This story contains AI-generated text. The author has used AI either for research, to generate outlines, or write the text itself. 

Višejezična prompt injekcija otkriva praznine u LLM sigurnosnim mrežama

About Author

KOMENTARI

HANG TAGS

OVAJ ČLANAK JE PREDSTAVLJEN U

Related Stories

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps