Me encontré con una publicación en Twitter de un investigador de seguridad que afirmó que habían evitado múltiples salvaguardas de tiempo de ejecución de LLM, incluyendo el filtro de contenido de Azure, simplemente cambiando sus cargas de pago de inyección rápida a tailandés y árabe. No me sorprendió realmente, para ser honesto, porque la mayoría de las redes de seguridad existentes tienen un enorme agujero de lenguaje en ellos.Si está pensando en la seguridad como una reflexión posterior o un complemento, la inyección de prompt multilingüe es uno de los ejemplos más claros de por qué esta es una idea realmente horrible. ¿Qué es la inyección multilingüe rápida? La base de las explotaciones de inyección rápida es el hecho de que los LLM no pueden distinguir de manera confiable entre instrucciones y datos. una entrada bien elaborada puede convencer al modelo a ignorar su prompt del sistema, filtrar información sensible o tomar acciones no intencionadas a través de herramientas conectadas. La inyección instantánea multilingüe lleva esto un paso más allá. En lugar de elaborar la carga útil en inglés, donde los filtros de seguridad son más fuertes, el atacante la traduce a otro idioma. El modelo todavía entiende la instrucción porque es multilingüe, pero la capa de seguridad a menudo no la captura. Piense en ello como tener un bouncer en un club nocturno que sólo habla inglés, puede caminar justo por ellos si da la contraseña en mandarín. Por qué funciona La causa raíz es simple, ya que todo y cada entrenamiento de seguridad se construye desproporcionadamente en torno a los datos en inglés. Cuando los modelos se someten a aprendizaje reforzado a partir de la retroalimentación humana, la gran mayoría de los ejemplos utilizados para enseñar al modelo lo que es "seguro" y "inseguro" están en inglés. Safety tuning is language-lopsided. Las capas de seguridad de tiempo de ejecución como Azure Content Safety, AWS Bedrock Guardrails y herramientas similares son modelos de clasificación eficaces. Están capacitados para detectar patrones dañinos en texto, pero como señala la propia documentación de Microsoft, sus Prompt Shields se entrenan y prueban principalmente en un puñado de idiomas como chino, inglés, francés, alemán, español, italiano, japonés y portugués. Content filters have blind spots. Una comparación de 2025 de las principales soluciones de guardarela encontró que ninguna de las principales plataformas, incluyendo Azure Content Safety y Amazon Bedrock, había validado las defensas de inyección rápida multilingüe, especialmente para idiomas como el chino. Los LLM procesan texto a través de tokenizadores, y la mayoría de los tokenizadores están optimizados para el inglés y otros idiomas de escritura latino. los scripts no latinos como el árabe, el tailandés o el khmer a menudo se fragmentan en más tokens, lo que puede cambiar la forma en que el modelo interpreta la entrada y cómo los filtros la evalúan. Tokenization compounds the problem. La superficie de ataque es más amplia de lo que piensas La inyección instantánea multilingüe no se limita a una única técnica. De lo que he visto en el campo y en la investigación publicada, hay varios patrones que vale la pena entender: El enfoque más sencillo: tomar una carga útil inglesa que se bloquearía, traducirla a un idioma de recursos más bajos y enviarla. Esto funciona sorprendentemente a menudo porque las capacidades del modelo (entendiendo la instrucción) superan su entrenamiento de seguridad (reconociéndolo como dañino) en ese idioma. Direct translation. En lugar de usar un único idioma no inglés, los atacantes mezclan idiomas dentro de un único prompt. Esto confunde tanto el alineamiento de seguridad del modelo como los filtros externos, que tienen dificultades para evaluar el contexto a través de las fronteras del idioma. Code-switching and mixed-language prompts. Las investigaciones recientes han demostrado una técnica aún más sofisticada: fragmentar un prompt en varios idiomas elegidos en función de su distancia geopolítica del tema. Por ejemplo, describir un elemento en swahili y otro en tailandés crea una capa de obstrución que impide que los filtros de seguridad reconozcan las relaciones entre entidades en el prompt mientras el modelo de generación todavía asenta la imagen completa. Geopolitical obfuscation. Esto se extiende más allá del texto.Los agentes de inteligencia artificial basados en voz que fueron entrenados principalmente en ciertos acentos pueden analizar otros acentos de manera menos fiable, creando lagunas en las que las instrucciones inyectadas se deslizan.Si el tubo de voz a texto interpreta mal la entrada, los filtros de seguridad descendentes nunca ven la intención real. Voice and accent exploitation. Conclusión La inyección instantánea multilingüe es un síntoma de un problema más profundo, ya que la seguridad y la capacidad avanzan a diferentes velocidades, y esa brecha es más amplia para los idiomas no ingleses. La buena noticia es que la conciencia está creciendo a medida que OWASP ha elevado la inyección instantánea a la parte superior de su lista de riesgos LLM. programas de recompensa de errores están recompensando los descubrimientos de bypass multilingüe y los investigadores están publicando trabajo sobre las brechas de seguridad translinguales. Pero la conciencia sin acción es sólo otro pensamiento posterior.Y con los sistemas de IA, los pensamientos posteriores tienen consecuencias. Referencias 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 CrowdStrike – ¿Qué es la inyección rápida? OWASP LLM01:2025 inyección rápida OWASP LLM Prompt Injeción Prevención Cheat Sheet Greshake et al. — Injeción prompt indirecta (arXiv) Astra - ataques de inyección rápida en los LLM: Guía completa para 2026 Atacos de inyección de promptes multimodales: riesgos y defensas (arXiv) Lakera – Guía para la inyección rápida FanarGuard: un filtro de moderación culturalmente consciente para modelos de lengua árabe (arXiv) Lakera — ¿Qué es la moderación de contenido para GenAI? PC2 - Generación de contenido políticamente controvertido a través de ataques de jailbreaking (arXiv) Microsoft — Prompt Shields en la seguridad del contenido de la IA de Azure Blog de Microsoft Azure - Mejora la seguridad de la IA con Prompt Shields Mindgard – Cómo eludir las salvaguardas de seguridad de contenido de la IA de Azure Seguridad de contenido de Azure vs Amazon Bedrock Guardrails Mindgard et al. — Bypassing Prompt Injection and Jailbreak Detection en LLM Guardrails (arXiv) Blog Técnico de NVIDIA — Securing Agentic AI: Semantic Prompt Injections

This story contains new, firsthand information uncovered by the writer.

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

This story contains AI-generated text. The author has used AI either for research, to generate outlines, or write the text itself. 

Building Soteria

Read My Stories

Este audio es producido en el idioma original de la historia!

La inyección de prompt multilingüe expone lagunas en las redes de seguridad de LLM

About Author

COMENTARIOS

ETIQUETAS

ESTE ARTÍCULO FUE PRESENTADO EN

Related Stories

Nómadas digitales escuchen: lo que necesitan saber sobre la nueva visa DTV de Tailandia

De los foros a los feeds: cómo los algoritmos de las redes sociales influyen en la interacción digital

Valhalla de Floki se une como patrocinador asociado de la gira de la India por Sri Lanka

La fuga rápida del sistema Claude Sonnet 3.5: un análisis forense

Nómadas digitales escuchen: lo que necesitan saber sobre la nueva visa DTV de Tailandia

De los foros a los feeds: cómo los algoritmos de las redes sociales influyen en la interacción digital

Valhalla de Floki se une como patrocinador asociado de la gira de la India por Sri Lanka

La fuga rápida del sistema Claude Sonnet 3.5: un análisis forense

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps