Ich traf auf einen Twitter-Beitrag von einem Sicherheitsforscher, der behauptete, dass sie mehrere LLM-Laufzeit-Schutzmaßnahmen umgangen hatten, einschließlich Azure Content Filter, indem sie einfach ihre sofortigen Injektions-Payloads auf Thai und Arabisch wechselten. Ich war nicht wirklich überrascht, um ehrlich zu sein, weil die meisten Sicherheitsnetze, die es gibt, ein riesiges Sprachloch in ihnen haben. Wenn Sie über Sicherheit als Nachdenken oder Add-on nachdenken, ist die mehrsprachige Injektion eines der klarsten Beispiele, warum dies eine wirklich schreckliche Idee ist. Was ist Multilingual Injection? Die Grundlage der schnellen Injektions-Exploits ist die Tatsache, dass LLMs zwischen Anweisungen und Daten nicht zuverlässig unterscheiden können.Eine gut gefertigte Eingabe kann das Modell davon überzeugen, seine System-Anweisungen zu ignorieren, sensible Informationen zu verlieren oder unbeabsichtigte Aktionen durch verbundene Tools zu ergreifen. Anstatt die Nutzlast in Englisch, wo die Sicherheitsfilter am stärksten sind, übersetzt der Angreifer sie in eine andere Sprache. Das Modell versteht die Anweisung immer noch, weil es mehrsprachig ist, aber die Sicherheitsebene fängt sie oft nicht ein. Denken Sie darüber nach, wie Sie einen Bouncer in einem Nachtclub haben, der nur Englisch spricht, Sie können direkt vorbei gehen, wenn Sie das Passwort in Mandarin geben. Warum es funktioniert Die Ursache ist einfach, da jedes Sicherheitstraining unverhältnismäßig auf englischsprachigen Daten basiert. Wenn Modelle das Verstärkungslernen aus menschlichem Feedback durchlaufen, sind die überwiegende Mehrheit der Beispiele, die das Modell lehren, was „sicher“ und „unsicher“ ist, auf Englisch. Safety tuning is language-lopsided. Runtime-Sicherheitsschichten wie Azure Content Safety, AWS Bedrock Guardrails und ähnliche Tools sind wirksame Klassifizierungsmodelle. Sie sind geschult, um schädliche Muster im Text zu erkennen, aber wie die eigene Dokumentation von Microsoft feststellt, werden ihre Prompt Shields hauptsächlich in einer Handvoll Sprachen wie Chinesisch, Englisch, Französisch, Deutsch, Spanisch, Italienisch, Japanisch und Portugiesisch geschult und getestet. Content filters have blind spots. Ein Vergleich der führenden Guardrail-Lösungen im Jahr 2025 ergab, dass keine der großen Plattformen, darunter Azure Content Safety und Amazon Bedrock, mehrsprachige Injektionsschutzmaßnahmen validiert hatte, insbesondere für Sprachen wie Chinesisch. LLMs verarbeiten Text über Tokenizers, und die meisten Tokenizers sind für Englisch und andere lateinische Skriptsprachen optimiert. Nicht-Lateinische Skripte wie Arabisch, Thai oder Khmer werden oft in mehr Token fragmentiert, was verändern kann, wie das Modell den Eingang interpretiert und wie Filter ihn bewerten. Tokenization compounds the problem. Die Angriffsoberfläche ist breiter, als Sie denken Mehrsprachige Instant-Injektion ist nicht auf eine einzige Technik beschränkt. Von dem, was ich auf dem Gebiet und in der veröffentlichten Forschung gesehen habe, gibt es mehrere Muster, die es wert sind zu verstehen: Der einfachste Ansatz: Nehmen Sie eine englische Nutzlast, die blockiert würde, übersetzen Sie sie in eine Sprache mit niedrigeren Ressourcen und übermitteln Sie sie. Direct translation. Anstatt eine einzige nicht-englische Sprache zu verwenden, mischen Angreifer Sprachen innerhalb einer einzigen Anzeige. Dies verwirrt sowohl die Sicherheitsanpassung des Modells als auch externe Filter, die Schwierigkeiten haben, den Kontext über Sprachgrenzen hinweg zu bewerten. Code-switching and mixed-language prompts. Die jüngste Forschung hat eine noch anspruchsvollere Technik demonstriert: Die Fragmentierung einer Anzeige in mehreren Sprachen, die auf der Grundlage ihrer geopolitischen Entfernung vom Thema ausgewählt wurden. Zum Beispiel erzeugt die Beschreibung eines Elements in Swahili und eines anderen in Thai eine Verschleierungsschicht, die verhindert, dass Sicherheitsfilter die Beziehungen zwischen den Entitäten in der Anzeige erkennen, während das Generationsmodell immer noch das gesamte Bild zusammensetzt. Geopolitical obfuscation. Sprachbasierte KI-Agenten, die hauptsächlich auf bestimmten Akzenten geschult wurden, können andere Akzente weniger zuverlässig analysieren und Lücken schaffen, in denen injizierte Anweisungen durchlaufen. Voice and accent exploitation. Schlussfolgerung Mehrsprachige sofortige Injektion ist ein Symptom eines tieferen Problems, da Sicherheit und Fähigkeiten mit unterschiedlichen Geschwindigkeiten voranschreiten, und diese Lücke ist am breitesten für nicht-englische Sprachen. Die gute Nachricht ist, dass das Bewusstsein wächst, da OWASP die sofortige Injektion an die Spitze seiner LLM-Risikenliste erhöht hat. Bug-Bonusprogramme belohnen mehrsprachige Bypass-Entdeckungen und Forscher veröffentlichen Arbeit über sprachübergreifende Sicherheitslücken. Aber Bewusstsein ohne Handlung ist nur ein weiterer Nachdenken. Und mit KI-Systemen haben Nachdenken Konsequenzen. Referenzen 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 CrowdStrike – Was ist Prompt Injection? OWASP LLM01:2025 Prompt Injektion OWASP LLM Prompt Injektionsprävention Cheat Sheet Greshake et al. — Indirekte Prompt-Injektion (arXiv) Astra - Sofortige Injektionsangriffe in LLMs: Vollständiger Leitfaden für 2026 Multimodal Prompt Injection Attacks: Risiken und Verteidigung (arXiv) Lakera – Leitfaden für die schnelle Injektion FanarGuard: Ein kulturell bewusster Moderationsfilter für arabische Sprachmodelle (arXiv) Lakera – Was ist Content Moderation für GenAI? PC2 – Politisch kontroverse Content Generation über Jailbreaking Attacks (arXiv) Microsoft – Prompt Shields in Azure AI Content Security Microsoft Azure Blog – Verbessern Sie die KI-Sicherheit mit Prompt Shields Mindgard – So umgehen Sie Azure AI Content Security Guardrails Enkrypt AI vs. Azure Content Safety vs. Amazon Bedrock Guardrails Mindgard et al. — Umgehen von Prompt-Injektion und Jailbreak-Erkennung in LLM Guardrails (arXiv) NVIDIA Technical Blog — Securing Agentic AI: Semantic Prompt Injections (NVIDIA Technischer Blog — Sicherung der Agentischen KI: Semantic Prompt Injections)

This story contains new, firsthand information uncovered by the writer.

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

This story contains AI-generated text. The author has used AI either for research, to generate outlines, or write the text itself. 

Mehrsprachige Prompt-Injektion zeigt Lücken in LLM-Sicherheitsnetzen

About Author

KOMMENTARE

Hängeetiketten

DIESER ARTIKEL WURDE VORGESTELLT IN

Related Stories

HackerNoon Decoded 2024: Wir feiern unsere Remote-Work-Community!

HackerNoon Decoded 2024: Celebrating Our Data Science Community!

HackerNoon Decoded 2024: Celebrating Our Writing Community!

Welcome to HackerNoon Decoded: The Best of 2024 Tech Blogging

HackerNoon Decoded 2024: Wir feiern unsere Remote-Work-Community!

HackerNoon Decoded 2024: Celebrating Our Data Science Community!

HackerNoon Decoded 2024: Celebrating Our Writing Community!

Welcome to HackerNoon Decoded: The Best of 2024 Tech Blogging

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps