وصلت إلى رسالة على تويتر من أخصائي أبحاث الأمن الذين أكدوا أنهم كانوا يغادرون مزيد من أمنيات أداء LLM ، بما في ذلك ملف محتوى Azure ، ببساطة عن طريق تغيير كمية كمية كمية كمية كمية كمية كمية كمية كاملة من كمية كمية كمية كاملة من كمية كمية كمية كاملة من كمية كمية كمية كاملة من كمية كمية كاملة من كمية كمية كمية كاملة من كمية كمية كمية كاملة من كمية كمية كمية كاملة من كمية كمية كمية كاملة من كمية كمية كمية كاملة من كمية كمية كمية كاملة من كمية كمية كمية كاملة من كمية كمية كمية كاملة من كمية كمية كمية كاملة من كمية كمية كمية ك لم أفاجأ كثيراً، لكي أكون صادقًا، لأن معظم الشبكات الأمنية موجودة لديها فجوة كبيرة فيها.إذا كنت تفكر في الأمن كفكرة أو إضافيًا، فإن إدخال الإشارة المتعددة اللغات هو أحد الأمثلة الأكثر وضوحًا لماذا هذا هو فكرة خطيرة حقًا. ما هو التعبير باللغة المتعددة؟ أساس التهابات السريعة هو حقيقة أن LLMs لا يمكن تمييزها بشكل موثوق بين الإرشادات والبيانات، ويمكن أن يؤكد الدخول جيداً النماذج لتجاهل الإرشادات النظامية، أو إخراج المعلومات ذات الصلة، أو اتخاذ الإجراءات غير المرغوب فيها من خلال الأدوات المرتبطة. بدلاً من إنتاج بطاقة الاستخدام باللغة الإنجليزية، حيث تكون ملفات السلامة أقوى، يترجم الهجوم إلى لغة أخرى.لقد فهم النموذج حتى الآن الإرشادات لأنها متعددة اللغات، لكن طبقة السلامة غالباً ما لا تكتشفها. فكر في ذلك كما لو كان لديك رغيف في كرة القدم التي تتحدث فقط باللغة الإنجليزية، يمكنك المشي مباشرة من خلالها إذا قمت بإدخال كلمة المرور باللغة الأندلسية. لماذا يعمل السبب الأساسي هو بسيط ، حيث يتم بناء جميع التدريبات الأمنية بشكل غير متزايد حول البيانات باللغة الإنجليزية. عندما تتناول النماذج تعزيز التعلم من ردود الفعل البشرية، فإن معظم الأمثلة المستخدمة لتعليم النماذج ما هو "من الأمان" و "من غير الأمان" هي باللغة الإنجليزية. Safety tuning is language-lopsided. يتم تدريبها على اكتشاف الأنماط الضارة في النص، ولكن كما تقول توثيقات مايكروسوفت الخاصة بك، يتم تدريب و اختبار حوافز الحوافز الضارة بشكل رئيسي على عدد قليل من اللغات مثل الصيني، الإنجليزي، الفرنسي، الفرنسي، الإسباني، الإيطالي، الياباني، والبرتغالي. Content filters have blind spots. وقد أظهرت مقارنة بين حلول الحد الأقصى لعام 2025 أن لا أحد من المنصات الرئيسية، بما في ذلك Azure Content Safety وAmazon Bedrock، قد تم تأكيد حماية الإرسال السريع المتعددة اللغات، وخاصة للغة مثل اللغة الصينية. يتم معالجة الملفات من خلال محركات تاتينيز ، ويتم تحسين معظم محركات تاتينيز للغة الإنجليزية وغيرها من لغات الكتابة اللاتينية ، كما أن الملفات غير اللاتينية مثل اللغة العربية ، تايلاندية ، أو الكرملية غالبا ما تتحول إلى المزيد من المحركات ، والتي يمكن أن تغير كيفية تفسير النماذج وكيفية تقييمها من قبل الملفات. Tokenization compounds the problem. سطح الهجوم أوسع مما تعتقد لا توجد توجيهات سريعة متعددة اللغات محدودة إلى تقنية واحدة. من ما رأيته في المجال والبحوث المكتوبة، هناك العديد من النماذج التي يستحق فهمها: هذا يعمل بشكل مفاجئ في كثير من الأحيان لأن القدرة على التفكير (مع فهم الإرشادات) تتجاوز تدريبات السلامة (مع تعريفها بأضرارها) في هذا اللغات. Direct translation. بدلاً من استخدام لغة أخرى غير الإنجليزية ، فإن المهاجمين يختلطون اللغات داخل إشارة واحدة ، وهذا يؤثر على توازن السلامة من النماذج والتركيزات الخارجية ، والتي تحاول تقييم السياق عبر حدود اللغات. Code-switching and mixed-language prompts. وقد أظهرت الأبحاث الحديثة تقنية أكثر تعقيداً: تقسيم نصيحة على عدة لغات تم اختيارها بناءً على المسافة الجيوسياسية لها من الموضوع، على سبيل المثال، فإن وصف عنصر واحد باللغة السوشيالية والآخر باللغة التايلاندية يخلق طبقة من الارتباك الذي يمنع مستشعرات الأمان من التعرف على العلاقات بين الأفراد في نصيحة في حين أن نموذج التوليد لا يزال يجمع الصورة الكاملة. Geopolitical obfuscation. ويمكن للشركات الذكية المرتبطة بالصوت التي تم تدريبها بشكل رئيسي على بعض الارتباطات أن تشرح الارتباطات الأخرى بشكل غير موثوق به، مما يخلق الفجوات حيث تنزف الإرشادات التي تم إرسالها. Voice and accent exploitation. النتيجة إن إدخال الوسائط المتعلقة باللغة متعددة اللغات هو علامة على مشكلة أعمق حيث تتطور الأمان والقدرة على التقدم في سرعات مختلفة ، وهذا الفرق هو الأكبر بالنسبة لغات غير الإنجليزية. الأخبار الجيدة هي أن الوعي يتزايد مع OWASP قد ارتفعت الإضراب السريع إلى أعلى قائمة المخاطر LLM. برامج مكافأة البضائع تكرم اكتشافات التردد متعددة اللغات والباحثين نشر العمل على الفجوات الأمنية المتنوعة. ولكن الوعي دون العمل هو مجرد التفكير الأخير.و مع أنظمة الذكاء الاصطناعي، فإن التفكير الأخير له عواقب. التقارير 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 CrowdStrike - ما هو التعبئة السريعة؟ OWASP LLM01:2025 إزالة الضوء OWASP LLM مكافحة التهاب التهاب التهاب التهاب Greshake et al. - إزالة الطلب المباشر (arXiv) Astra - هجمات التعبئة السريعة في LLMs: دليل كامل لعام 2026 الهجمات التهابات المتحركة المتحركة: المخاطر والمقاومة (arXiv) Lakera - إرشادات سريعة FanarGuard: Filter for Moderation for Arabic Language Models (arXiv) Lakera - ما هو التخفيف من المحتوى ل GenAI؟ PC2 - إنتاج المحتوى المضاد للحل السياسي من خلال الهجمات الجاذبة (arXiv) Microsoft – Prompt Shields في Azure AI Content Safety مدونة Microsoft Azure - تحسين أمان الذكاء الاصطناعي مع Prompt Shields Mindgard - كيفية تجنب حواجز أمان المحتوى Azure AI تقييمات تقييمات تقييمات تقييمات تقييمات تقييمات تقييمات تقييمات تقييمات تقييمات تقييمات تقييمات تقييمات تقييمات تقييمات تقييمات تقييمات تقييمات تقييمات تقييمات تقييمات تقييمات تقييمات تقييمات تقييمات تقييمات تقييمات تقييمات تقييمات تقييمات تقييمات تقييمات تقييمات Mindgard et al. — تجنب إزالة إزالة المفاتيح وإزالة إزالة المفاتيح في LLM Guardrails (arXiv) فيديو NVIDIA Technical Blog - Securing Agentic AI: Semantic Prompt Injections

This story contains new, firsthand information uncovered by the writer.

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

This story contains AI-generated text. The author has used AI either for research, to generate outlines, or write the text itself. 

Building Soteria

Read My Stories

تم إنتاج هذا الصوت باللغة الأصلية للقصة!

إزالة المفاتيح الضوئية متعددة اللغات تظهر الفجوات في شبكات السلامة لـ LLM

About Author

تعليقات

شنق العلامات

تم تقديم هذه المقالة في

Related Stories

Top 4 Hiring Trends for Mobile App Developers in 2018

How can AR, IoT, Blockchain and Chatbots redefine Customer Experience

30 Top Blockchain Development Companies in 2019

Cappasity -Turning dreams into Augmented reality

Top 4 Hiring Trends for Mobile App Developers in 2018

How can AR, IoT, Blockchain and Chatbots redefine Customer Experience

30 Top Blockchain Development Companies in 2019

Cappasity -Turning dreams into Augmented reality

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps