Kam hasur në një postim në Twitter nga një studiues i sigurisë i cili pretendonte se ata kishin shmangur disa mbrojtje të kohës së drejtimit të LLM, duke përfshirë Azure Content Filter, thjesht duke ndryshuar ngarkesat e tyre të dobishme të injektimit të menjëhershëm në tajlandisht dhe arabisht. Unë nuk isha me të vërtetë i befasuar, për të qenë i sinqertë, sepse shumica e rrjeteve të sigurisë në ekzistencë kanë një vrimë të madhe gjuhësore në to. Çfarë është injeksioni shumëgjuhësor i shpejtë? Baza e shfrytëzimeve të injektimit të menjëhershëm është fakti se LLM-të nuk mund të dallojnë në mënyrë të besueshme mes udhëzimeve dhe të dhënave. një hyrje e ndërtuar mirë mund të bindë modelin që të injorojë këshillat e tij të sistemit, të rrjedhë informacione të ndjeshme, ose të ndërmarrë veprime të padëshiruara përmes mjeteve të lidhura. Injektimi i menjëhershëm me shumë gjuhë e merr këtë një hap më tej. Në vend që të krijojë ngarkesën e dobishme në anglisht, ku filtrat e sigurisë janë më të fortë, sulmuesi e përkthen atë në një gjuhë tjetër. Mendoni për këtë si të keni një kundërshtar në një klub nate që flet vetëm anglisht, ju mund të ecni direkt përtej tyre nëse jepni fjalëkalimin në Mandarin. Pse funksionon Arsyeja rrënjësore është e thjeshtë pasi çdo trajnim i sigurisë është ndërtuar në mënyrë disproporcionale rreth të dhënave në gjuhën angleze. Kur modelet përjetojnë mësimin e përforcimit nga reagimet njerëzore, shumica e shembujve të përdorur për të mësuar modelin se çfarë është "i sigurt" dhe "jo i sigurt" janë në anglisht. Safety tuning is language-lopsided. Shtresat e sigurisë në kohën e zbatimit, të tilla si Azure Content Safety, AWS Bedrock Guardrails dhe mjete të ngjashme janë modele efikase të klasifikimit.Ata janë të trajnuar për të zbuluar modelet e dëmshme në tekst, por siç vë në dukje dokumentacioni i Microsoft-it, mburojat e tyre Prompt janë të trajnuar dhe të testuar kryesisht në një grusht gjuhësh si kineze, angleze, franceze, gjermane, spanjolle, italiane, japoneze dhe portugeze. Content filters have blind spots. Një krahasim 2025 i zgjidhjeve kryesorë të gardrail zbuloi se asnjë nga platformat kryesore, duke përfshirë Azure Content Safety dhe Amazon Bedrock, nuk kishte validuar mbrojtjet shumëgjuhësore të futjes së menjëhershme, veçanërisht për gjuhë si kineze. LLM-të përpunojnë tekst përmes tokenizers, dhe shumica e tokenizers janë të optimizuara për anglisht dhe gjuhë të tjera të skripteve latine. skripte jo-latine si arabe, tajlandeze, ose Khmer shpesh bëhen të fragmentuara në më shumë tokens, të cilat mund të ndryshojnë mënyrën se si modeli interpreton hyrjen dhe se si filtrat e vlerësojnë atë. Tokenization compounds the problem. Sipërfaqja e sulmit është më e gjerë se sa mendoni Injektimi i menjëhershëm me shumë gjuhë nuk kufizohet në një teknikë të vetme. Nga ajo që kam parë në fushë dhe në hulumtimet e publikuara, ka disa modele që ia vlen të kuptohen: Qasja më e thjeshtë: merrni një peshë angleze që do të bllokohej, përktheni atë në një gjuhë me burim më të ulët dhe dërgoni atë.Kjo funksionon çuditërisht shpesh sepse aftësitë e modelit (kuptimi i udhëzimit) tejkalojnë trajnimin e tij të sigurisë (njohja e tij si të dëmshme) në atë gjuhë. Direct translation. Në vend që të përdorin një gjuhë të vetme jo-angleze, sulmuesit përzihen gjuhët brenda një kërkese të vetme.Kjo ngatërron të dy rregullimin e sigurisë të modelit dhe filtrat e jashtëm, të cilët luftojnë për të vlerësuar kontekstin mbi kufijtë e gjuhës. Code-switching and mixed-language prompts. Hulumtimet e kohëve të fundit kanë demonstruar një teknikë edhe më të sofistikuar: fragmentimi i një prompt në shumë gjuhë të zgjedhura bazuar në distancën e tyre gjeopolitike nga subjekti. për shembull, përshkrimi i një elementi në Swahili dhe një tjetër në Tajlandë krijon një shtresë mbivlerësimi që pengon filtrat e sigurisë të njohin marrëdhëniet midis entiteteve në prompt ndërsa modeli i gjenerimit ende mbledh imazhin e plotë. Geopolitical obfuscation. Agjentët e AI të bazuar në zë që janë trajnuar kryesisht në aksente të caktuara mund të analizojnë aksente të tjera më pak të besueshme, duke krijuar boshllëqe ku udhëzimet e injektuara kalojnë. Voice and accent exploitation. Konkludimi Injektimi i menjëhershëm me shumë gjuhë është një simptomë e një problemi më të thellë, pasi siguria dhe aftësitë po avancojnë me shpejtësi të ndryshme, dhe kjo hendek është më e gjerë për gjuhët jo-angleze. Lajmi i mirë është se ndërgjegjësimi po rritet pasi OWASP ka ngritur injeksionin e menjëhershëm në krye të listës së rrezikut të LLM-së. programet e shpërblimit të gabimeve janë shpërblimi për zbulimet shumëgjuhësore të bypassit dhe hulumtuesit janë duke botuar punën mbi boshllëqet e sigurisë ndër-gjuhësore. Por ndërgjegjësimi pa veprim është vetëm një tjetër pas mendimit.Dhe me sistemet e AI, pas mendimit kanë pasoja. Referencë 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 CrowdStrike – Çfarë është injeksioni i shpejtë? OWASP LLM01:2025 Injektim i menjëhershëm OWASP LLM Prompt Injection Parandalimi Cheat Sheet Greshake et al. — Injektim i menjëhershëm i menjëhershëm (arXiv) Astra - Sulmet e menjëhershme të injeksionit në LLMs: Udhëzues i plotë për 2026 Sulmet multimodale të injeksionit të menjëhershëm: Rreziqet dhe mbrojtjet (arXiv) Lakera – Udhëzues për injeksion të shpejtë FanarGuard: Një filtër moderimi kulturor për modelet e gjuhës arabe (arXiv) Lakera – Çfarë është moderimi i përmbajtjes për GenAI? PC2 - Politically Controversial Content Generation nëpërmjet Jailbreaking Attacks (arXiv) Microsoft – Prompt Shields në Azure AI Content Safety Microsoft Azure Blog – Përmirësoni sigurinë e AI me Prompt Shields Mindgard – Si të shmangni mbrojtjet e sigurisë së përmbajtjes së Azure AI Mbrojtja e përmbajtjes së Azure vs Amazon Bedrock Guardrails Mindgard et al. — Bypassing Prompt Injection dhe Jailbreak Detection në LLM Guardrails (arXiv) Blog teknik i NVIDIA - Sigurimi i AI-së Agjentike: Injektimet e Promptit Semantik

This story contains new, firsthand information uncovered by the writer.

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

This story contains AI-generated text. The author has used AI either for research, to generate outlines, or write the text itself. 

Injektimi i shumë gjuhëve ekspozon boshllëqet në rrjetat e sigurisë LLM

About Author

KOMENTE

VARUR TAGS

KY ARTIKU U PARAQIT NË

Related Stories

Rrjeti SQD sapo vrau emetimet e tokenëve.Ja çfarë paguan 16 miliardë dollarë në DeFi TVL

Rrjeti SQD sapo vrau emetimet e tokenëve.Ja çfarë paguan 16 miliardë dollarë në DeFi TVL

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps