Niliwasiliana na chapisho kwenye Twitter kutoka kwa mtafiti wa usalama ambaye alidai kuwa walikuwa wamepoteza vikwazo vingi vya uendeshaji wa LLM, ikiwa ni pamoja na Filter ya Maudhui ya Azure, tu kwa kubadilisha payloads zao za kuingiza haraka kwa Thai na Kiarabu. Sikuwa na mshangao sana, kwa kuwa kwa uaminifu, kwa sababu mitandao mengi ya usalama inayopo kuna shimo kubwa la lugha ndani yao. Ikiwa unadhani usalama kama mawazo ya baadaye au add-on, kuingiza maombi ya lugha nyingi ni moja ya mifano ya wazi zaidi kwa nini hii ni wazo mbaya sana. Jinsi ya kufanya Injection Multilingual? Msingi wa upasuaji wa haraka ni ukweli kwamba LLMs hawawezi kutambua kwa uaminifu kati ya maagizo na data. Upatikanaji mzuri unaweza kuwahakikishia mfano wa kupuuza maagizo ya mfumo wake, kupoteza habari nyeti, au kuchukua hatua zisizohitajika kupitia zana zilizounganishwa. Injini ya haraka ya lugha nyingi inachukua hatua zaidi. Badala ya kufanya kazi kwa Kiingereza, ambapo filters za usalama ni nguvu zaidi, mshambuliaji hutafsiri kwa lugha nyingine. Mfano bado anajua maagizo kwa sababu ni lugha nyingi, lakini kiwango cha usalama mara nyingi haina kukamata. Fikiria kama kuwa na bouncer katika klabu ya usiku ambayo inazungumza Kiingereza tu, unaweza kutembea mbele yao kama wewe kutoa password katika Mandarin. Kwa nini inafanya kazi Sababu ya msingi ni rahisi kwa sababu kila mafunzo ya usalama yanatengenezwa kinyume na data ya lugha ya Kiingereza. Wakati mifano inapofanyiwa kujifunza kutoka kwa maoni ya binadamu, idadi kubwa ya mifano iliyotumika kufundisha mfano nini ni "salama" na "si salama" ni kwa Kiingereza. Safety tuning is language-lopsided. Viwango vya usalama vya uendeshaji kama vile Usalama wa Maudhui ya Azure, AWS Bedrock Guardrails, na zana sawa ni mifano ya ufafanuzi wa ufanisi. Wao ni mafunzo ya kutambua mifano mbaya katika maandishi, lakini kama kumbukumbu ya Microsoft mwenyewe inasema, vifaa vya Prompt Shield wao vinafundishwa na kupimwa hasa kwenye lugha kadhaa kama Kichina, Kiingereza, Kifaransa, Kijerumani, Kihispania, Kihispania, Kihispania, Kijapani, na Kijapani. Content filters have blind spots. Uwiano wa 2025 wa ufumbuzi wa mstari wa mbele uligundua kuwa hakuna jukwaa kuu ikiwa ni pamoja na Azure Content Safety na Amazon Bedrock, lilikuwa na uhakika wa ulinzi wa maombi ya muda mrefu, hasa kwa lugha kama Kichina. LLMs kusindika maandishi kupitia tokenizers, na tokenizers wengi ni bora kwa lugha za Kiingereza na lugha nyingine za maandishi ya Latin. scripts zisizo za Kiarabu kama Kiarabu, Thai, au Khmer mara nyingi hupunguzwa katika tokens zaidi, ambayo inaweza kubadilisha jinsi mfano unafafanua kuingia na jinsi filters hupimwa. Tokenization compounds the problem. Upepo wa mashambulizi ni mkubwa kuliko unavyofikiri Injection ya haraka ya lugha nyingi sio mdogo kwa mbinu moja. Kutokana na kile nimeona katika uwanja na katika utafiti uliochapishwa, kuna mifano kadhaa ambayo inapaswa kuelewa: Njia rahisi zaidi: kuchukua matumizi ya Kiingereza ambayo ingekuwa kufungwa, kutafsiri kwa lugha ya chini ya rasilimali, na kuwasilisha. Hii inafanya kazi mara kwa mara kwa sababu uwezo wa mfano (kuelewa maagizo) huchukua mafunzo yake ya usalama (kujua kama mbaya) katika lugha hiyo. Direct translation. Badala ya kutumia lugha moja isiyo ya Kiingereza, washambuliaji huchanganya lugha ndani ya mwongozo mmoja. Hii huchanganya usawa wa usalama wa mfano na filters za nje, ambazo zinajaribu kutathmini mazingira ndani ya mipaka ya lugha. Code-switching and mixed-language prompts. Utafiti wa hivi karibuni umeonyesha mbinu ya kifahari zaidi: kugawanya mwongozo katika lugha nyingi zilizochaguliwa kulingana na umbali wao wa kijiografia kutoka kwa mada. Kwa mfano, kuelezea kipengele kimoja katika lugha ya Swahili na kipengele kingine katika Thai huunda kiwango cha uchafuzi ambacho kinakuzuia filters za usalama kutambua uhusiano kati ya vitu katika mwongozo wakati mfano wa uzazi bado unakusanya picha kamili. Geopolitical obfuscation. Hii inazidi zaidi ya maandishi. waandamanaji wa AI wa sauti ambao walijifunza hasa juu ya maonyesho fulani wanaweza kufafanua maonyesho mengine kwa uhakika kidogo, kuunda upungufu ambapo maagizo yaliyowasilishwa yanavuka. Voice and accent exploitation. Mwisho wa Injection ya haraka ya lugha nyingi ni dalili ya tatizo kubwa kwani usalama na uwezo unaendelea kwa kasi tofauti, na kwamba upungufu ni mkubwa zaidi kwa lugha zisizo za Kiingereza. Habari njema ni kwamba ufahamu unaongezeka kama OWASP imeongeza upasuaji wa haraka hadi juu ya orodha yake ya hatari ya LLM. Programu za bure za bure zinapongeza ufumbuzi wa lugha nyingi na watafiti wanachapisha kazi juu ya upuuzi wa usalama wa lugha. tatizo ni kweli kwenye radar. Lakini ufahamu bila kuchukua hatua ni tu mawazo ya baadaye. Na na mifumo ya AI, mawazo ya baadaye ina matokeo. Maelezo ya 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 CrowdStrike - Ni nini Injection ya haraka? OWASP LLM01:2025 Utaratibu wa Injection OWASP LLM Prompt Injection kuzuia Cheat Sheet Greshake et al. — Injection ya prompt ya moja kwa moja (arXiv) Astra - mashambulizi ya haraka katika LLMs: Mwongozo kamili kwa 2026 Mashambulizi ya Multimodal Prompt Injection: Hatari na Ulinzi (arXiv) Lakera - Mwongozo wa Injection ya Haraka FanarGuard: Filter ya Utunzaji wa Utunzaji wa Utunzaji wa Kiutamaduni kwa Mifano ya Lugha ya Kiarabu (arXiv) Lakera - Nini ni ufanisi wa maudhui kwa GenAI? PC2 - Utengenezaji wa maudhui ya kimapenzi kupitia mashambulizi ya Jailbreaking (arXiv) Microsoft - Prompt Shields katika Usalama wa Maudhui ya Azure AI Blog ya Microsoft Azure - Kuimarisha Usalama wa AI na Ulinzi wa Prompt Mindgard - Jinsi ya Kuepuka Ulinzi wa Maudhui ya AI ya Azure Usalama wa Maudhui ya Azure vs Amazon Bedrock Guardrails Mindgard et al. — Kuondoa Injection Prompt na Jailbreak Utafutaji katika LLM Guardrails (arXiv) Blogu ya Kiufundi ya NVIDIA - Usalama wa AI ya Agent: Injections ya Prompt ya Semantic

This story contains new, firsthand information uncovered by the writer.

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

This story contains AI-generated text. The author has used AI either for research, to generate outlines, or write the text itself. 

Building Soteria

Read My Stories

Sauti hii imetolewa katika lugha asilia ya hadithi!

Injection ya prompt ya lugha nyingi inaonyesha upungufu katika mtandao wa usalama wa LLM

About Author

MAONI

HANG TAGS

MAKALA HII ILIWASILISHWA NDANI

Related Stories

Master Crypto Security: Your Complete Guide to Safe Wallet Management

Details of the Aerial Voyage.—Kennedy silenced

Sweet Security Unveils First Unified Detection And Response Platform

A PENDENT WORLD

Master Crypto Security: Your Complete Guide to Safe Wallet Management

Details of the Aerial Voyage.—Kennedy silenced

Sweet Security Unveils First Unified Detection And Response Platform

A PENDENT WORLD

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps