Ho incontrato un post su Twitter da un ricercatore di sicurezza che ha affermato di aver eludito molteplici garanzie di runtime LLM, tra cui Azure Content Filter, semplicemente cambiando i loro carichi utili di iniezione rapida in tailandese e arabo. Non sono veramente sorpreso, per essere onesto, perché la maggior parte delle reti di sicurezza esistenti hanno un enorme buco linguistico in essi. Se stai pensando alla sicurezza come a un'ulteriore riflessione o add-on, l'iniezione prompt multilingue è uno degli esempi più chiari del perché questa è un'idea davvero orribile. Che cos’è l’iniezione multilingue? La base degli sfruttamenti di iniezione rapida è il fatto che i LLM non possono distinguere in modo affidabile tra istruzioni e dati. un input ben elaborato può convincere il modello a ignorare le istruzioni del suo sistema, rilasciare informazioni sensibili o intraprendere azioni involontarie attraverso strumenti connessi. L'iniezione istantanea multilingue porta questo passo in più. Invece di elaborare il carico utile in inglese, dove i filtri di sicurezza sono più forti, l'attaccante lo traduce in un'altra lingua. Il modello capisce ancora l'istruzione perché è multilingue, ma il livello di sicurezza spesso non lo cattura. Pensa a questo come avere un bouncer in un club notturno che parla solo inglese, puoi camminare accanto a loro se inserisci la password in mandarino. Perché funziona La causa principale è semplice, poiché ogni formazione sulla sicurezza è costruita in modo sproporzionato intorno ai dati in lingua inglese. Quando i modelli si sottopongono all'apprendimento di rinforzo dal feedback umano, la stragrande maggioranza degli esempi utilizzati per insegnare al modello ciò che è "sicuro" e "insicuro" sono in inglese. Safety tuning is language-lopsided. Gli strati di sicurezza in tempo di esecuzione come Azure Content Safety, AWS Bedrock Guardrails e strumenti simili sono modelli di classificazione efficaci. Essi sono addestrati a rilevare modelli dannosi nel testo, ma come rileva la propria documentazione di Microsoft, i loro Prompt Shield sono addestrati e testati principalmente su una manciata di lingue come cinese, inglese, francese, tedesco, spagnolo, italiano, giapponese e portoghese. Content filters have blind spots. Un confronto del 2025 delle principali soluzioni di guardrail ha rilevato che nessuna delle principali piattaforme, tra cui Azure Content Safety e Amazon Bedrock, aveva convalidato le difese multilingue per l'iniezione rapida, in particolare per lingue come il cinese. I LLM elaborano il testo attraverso tokenizers, e la maggior parte dei tokenizers sono ottimizzati per l'inglese e altre lingue di script latino. gli script non latini come arabo, tailandese o khmer sono spesso frammentati in più token, che possono cambiare il modo in cui il modello interpreta l'ingresso e come i filtri lo valutano. Tokenization compounds the problem. La superficie dell'attacco è più ampia di quanto pensi L'iniezione istantanea multilingue non è limitata a una singola tecnica. Da ciò che ho visto nel campo e nelle ricerche pubblicate, ci sono diversi modelli da capire: L'approccio più semplice: prendere un carico utile inglese che sarebbe stato bloccato, tradurlo in un linguaggio di risorsa inferiore e inviarlo. Questo funziona sorprendentemente spesso perché le capacità del modello (comprendere l'istruzione) superano la sua formazione sulla sicurezza (riconoscendolo come dannoso) in quella lingua. Direct translation. Piuttosto che utilizzare un singolo linguaggio non inglese, gli aggressori mescolano lingue all'interno di un unico prompt. Questo confonda sia l'allineamento di sicurezza del modello che i filtri esterni, che lottano per valutare il contesto oltre i confini linguistici. Code-switching and mixed-language prompts. Recenti ricerche hanno dimostrato una tecnica ancora più sofisticata: frammentare un prompt su più lingue scelte in base alla loro distanza geopolitica dal soggetto. ad esempio, descrivere un elemento in swahili e un altro in thailandese crea un livello di oscuramento che impedisce ai filtri di sicurezza di riconoscere le relazioni tra le entità nel prompt mentre il modello di generazione ancora assembla l'immagine completa. Geopolitical obfuscation. Gli agenti di intelligenza artificiale basati sulla voce che sono stati principalmente addestrati su determinati accenti possono analizzare altri accenti in modo meno affidabile, creando lacune in cui le istruzioni iniettate scivolano. Voice and accent exploitation. Conclusione L'iniezione istantanea multilingue è un sintomo di un problema più profondo, poiché la sicurezza e le capacità avanzano a velocità diverse, e questo divario è più ampio per le lingue non inglesi. La buona notizia è che la consapevolezza sta crescendo poiché OWASP ha elevato l'iniezione prompt al top della sua lista di rischi LLM. programmi di bug bounty stanno premiando le scoperte di bypass multilingue e i ricercatori stanno pubblicando lavori sulle lacune di sicurezza cross-lingual. Ma la consapevolezza senza azione è solo un altro pensiero dopo, e con i sistemi AI, i pensieri dopo hanno conseguenze. Riferimenti 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 CrowdStrike – Che cosa è l’iniezione rapida? OWASP LLM01:2025 Iniezione prompt OWASP LLM Prompt Iniezione Prevenzione Cheat Sheet Greshake et al. — Iniezione prompt indiretta (arXiv) Astra - attacchi di iniezione rapida nei LLM: una guida completa per il 2026 Attacchi di iniezione prompt multimodale: rischi e difese (arXiv) Lakera - Guida per l'iniezione rapida FanarGuard: un filtro di moderazione culturalmente consapevole per modelli di lingua araba (arXiv) Lakera – Che cosa è la moderazione dei contenuti per GenAI? PC2 - Generazione di contenuti politicamente controversi tramite attacchi jailbreaking (arXiv) Microsoft – Prompt Shields in Azure AI Content Safety Microsoft Azure Blog – Migliora la sicurezza AI con Prompt Shields Mindgard – Come bypassare le salvaguardie di sicurezza dei contenuti di Azure AI Azure Content Security vs Amazon Bedrock Guardrails Mindgard et al. — Bypassing Prompt Injection e Jailbreak Detection in LLM Guardrails (arXiv) Blog tecnico di NVIDIA – Securing Agentic AI: Semantic Prompt Injections

This story contains new, firsthand information uncovered by the writer.

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

This story contains AI-generated text. The author has used AI either for research, to generate outlines, or write the text itself. 

Iniezione di prompt multilingue espone lacune nelle reti di sicurezza LLM

About Author

COMMENTI

CARTELLINI

QUESTO ARTICOLO È STATO PRESENTATO IN

Related Stories

Indian PM Woos Tech CEOs During U.S. State Visit

Arron Goolsbey Talks Future of Gaming with AI and Blockchain at Mythical Games

Streamlining Network Policy Management - Interview with Startups of the Year Nominee, Otterize

New Year, New Exciting Features: Mint Your Name, Watch Web 2.5 and Meet The Top Startups of The Year

Indian PM Woos Tech CEOs During U.S. State Visit

Arron Goolsbey Talks Future of Gaming with AI and Blockchain at Mythical Games

Streamlining Network Policy Management - Interview with Startups of the Year Nominee, Otterize

New Year, New Exciting Features: Mint Your Name, Watch Web 2.5 and Meet The Top Startups of The Year

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps