LLMjacking کیا ہے؟ بڑے زبان ماڈلوں کی تیزی سے بڑھتی ہوئی ترقی نے ہیکرز کو حملہ کرنے کے لئے ایک نیا اور منافع بخش طریقہ دیا ہے. LLMjacking، جو غلط مقاصد کے لئے غیر قانونی طور پر خود میزبان LLM انشورنس کی ہیکنگ ہے، ایک فوری دھمکی ہے. سیکورٹی کمیونٹی میں بہت سے لوگ اس کے بارے میں بات کر رہے ہیں. "،" ایک پیچیدہ منصوبہ ہے جو انٹرنیٹ پر ظاہر LLM اور ماڈل کنٹیکٹ پروٹوکول کے اختیارات کے لئے تلاش کرتا ہے، ان کا کنٹرول لے جاتا ہے، اور سیاہ ویب مارکیٹوں پر چوری شدہ وسائل کو فروخت کرتا ہے. 35،000 سے زائد حملے کے سیشنز موجود ہیں، فی دن 972 حملوں کے اوسط کے ساتھ. Operation Bizarre Bazaar کے مترادفات یہ مضمون یہ بتاتا ہے کہ کس طرح LLMjacking کام کرتا ہے، اس سے کیا کمزوریوں کو فائدہ اٹھایا جاتا ہے، اور سب سے اہم بات یہ ہے کہ آپ کو اس بڑھتی ہوئی دھمکی سے اپنے خود میزبان LLMs کی حفاظت کے لئے ابھی استعمال کرسکتے ہیں. ایک LLMJacking حملہ کے مترادفات LLMjacking صرف ایک انفرادی فائدہ نہیں ہے، بلکہ ایک پیچیدہ، کئی مرحلے کی کارروائی ہے جس میں ایک منظم نقطہ نظر کی خصوصیات ہیں. ان حملوں کے پیچھے کے میکانیزم کو سمجھنے ان کے خلاف مؤثر دفاعی مرحلے کا آغاز ہوتا ہے. مرحلہ 1: Scan روبوٹ جو خود کار طریقے سے کام کرتے ہیں ہمیشہ کھلے پورٹ اور خدمات کے لئے تلاش کر رہے ہیں جو انٹرنیٹ پر مقبول خود میزبان LLM فریم ورک سے منسلک ہیں. 
 
 
 
 Ollama انٹرفیسز کے لئے معاوضہ پورٹ 11434 ہے. آپ ویب کے ذریعے OpenAI مطابقت پذیر API تک رسائی حاصل کرسکتے ہیں. ان میں LiteLLM یا FastChat کے ساتھ بنائے گئے API شامل ہیں، جو معیاری ترقیاتی بندرگاہوں جیسے 8000 پر کام کرتے ہیں. غیر تصدیق شدہ ماڈل کنٹیکٹ پروٹوکول سرور ان کے لئے ایسا کرنے کے لئے ایک معیاری طریقہ فراہم کرتے ہوئے AI ایجنٹوں کے لئے مختلف اوزار اور ڈیٹا ذرائع کے ساتھ کام کرنے کے لئے آسان بناتے ہیں. مرحلہ 2: Validation ایک بار ایک ممکنہ ہدف کی شناخت کی جاتی ہے، ایک یونٹ کی انٹرفیس، "silver.inc" کا کہنا ہے کہ 8 گھنٹے یا اس سے بھی کم کے اندر انٹرفیس کا اندازہ لگاتا ہے. 
 
 
 
 
 موجودہ ماڈلوں کے ساتھ ساتھ ان کے ذاتی سرگرمیوں کی ایک جامع فہرست بنائیں. جوابات کی فائدہ اور تیزی کا اندازہ کریں. اس بات کی جانچ پڑتال کریں کہ آخر نقطہ فی الحال شرح کی حد کو محدود کرتا ہے یا اضافی سیکورٹی اقدامات ہے. اندرونی نظاموں کے اندر lateral navigation کے لئے ممکنہ راستے کا تجربہ کریں. مرحلہ 3: Monetization تصدیق شدہ اختیارات "The Unified LLM API Gateway" میں شامل کیے جاتے ہیں، ایک مارکیٹ میں جو 30 سے زائد مختلف LLMs تک رسائی فراہم کرتا ہے - سب کو ہیکڈ انشورنس پر چلتا ہے. یہ پلیٹ فارم ہالینڈ میں گولیوں کی روک تھام انشورنس پر میزبان کیا جاتا ہے اور Discord اور Telegram چینلز کے ذریعے مارکیٹنگ کیا جاتا ہے. گاہکوں کو ان چوری شدہ وسائل تک رسائی حاصل کرنے کے لئے cryptocurrency یا ادائیگی کی سہولت کے ایپلی کیشنز کے ذریعے ادائیگی. ایک LLMjacking حملے کے مالی اور سیکورٹی اثرات شدید ہیں. بڑے ماڈل پر چلنے والے نتیجہ بہت تیزی سے کمپیوٹنگ کی اعلی قیمت کی وجہ سے بڑے ابر کے اکاؤنٹس میں اضافہ کرسکتے ہیں. اس کے علاوہ، اگر ہیک کیا گیا LLM تلاش میں اضافہ شدہ پیداوار یا افعال کال کے ذریعہ حساس اندرونی اعداد و شمار تک پہنچ سکتا ہے، تو اعداد و شمار کو چوری کرنے کے امکانات بہت زیادہ ہیں. آخر میں، ایک ہیک کیا گیا LLM نقطہ نظر آپ کے نیٹ ورک کے ارد گرد منتقل کرنے کے لئے ایک بنیاد کے طور پر استعمال کیا جا سکتا ہے. مسئلہ کا ذریعہ: ڈپازٹ کی طرف سے غیر محفوظ ڈپازٹ LLMjacking بہت اچھی طرح کام کرتا ہے کہ بنیادی وجہ یہ ہے کہ بہت سے خود میزبان LLM فریم ورک مقامی، ایک صارف کی ترقی کے لئے بنائے جاتے ہیں اور پیداوار یا ویب پر مبنی ماحولوں کے لئے پیشہ ورانہ طور پر محفوظ نہیں ہیں. Ollama آپ کے اپنے کمپیوٹر پر LLMs کو چلانے کے لئے سب سے بہترین آلات میں سے ایک ہے، Ollama کو دیکھو. Ollama اس طرح قائم کیا گیا ہے کہ آپ کو جب آپ http://localhost:11434 پر جائیں گے تو لاگ ان کرنے کی ضرورت نہیں ہے. یہ مقامی ترقی کے لئے منطقی ہے، لیکن جب اس بندرگاہ کو انٹرنیٹ پر کھول دیا جاتا ہے، چاہے مقصد سے یا غلطی سے، یہ ایک بڑا سیکورٹی گھوڑا بن جاتا ہے. اچھی خبر یہ ہے کہ ان مسائل کو حل کیا جا سکتا ہے اگر آپ چیزوں کو صحیح طریقے سے کرتے ہیں. اپنے خود میزبان LLM کو زیادہ محفوظ بنانے کے لئے ایک مفید گائیڈ آپ کو اپنے خود میزبان LLM انٹرفیس کی حفاظت کے لئے ایک دفاعی گہری نقطہ نظر کا استعمال کرنے کی ضرورت ہے. آپ کو صرف آپ کے سرور کے سامنے ایک فاریو ویئر نہیں ڈال سکتے ہیں؛ آپ کو اس سٹاک کے ہر سطح پر سیکورٹی کنٹرول شامل کرنے کی ضرورت ہے. کبھی بھی خام نقطہ نظر نہیں دکھائیں: برعکس پروکسی کی طاقت آپ اپنے خود میزبان LLM کو محفوظ رکھنے کے لئے سب سے اہم بات یہ ہے کہ انٹرنیٹ کی طرف سے خام، غیر تصدیق شدہ نقطہ نظر کو کبھی بھی نہیں دکھایا جاسکتا. آپ کو ہمیشہ اپنے LLM سروس کے مقابلے میں Nginx یا Caddy کی طرح ایک برعکس پروسیز ڈالنا چاہئے. Nginx اور API کلید تصدیق کے ساتھ Ollama کی حفاظت کیسے کریں Ollama آپ کے اپنے کمپیوٹر پر LLMs کو چلانے کا ایک اچھا طریقہ ہے، لیکن آپ کو اسے ویب پر نہیں ڈالنا چاہئے. شروع کرنے کے لئے، آپ کو ایک فائل بنانے کی ضرورت ہے جس میں آپ کے درست API کلیدوں کو محفوظ رکھیں. # apikeys.txt
my-secret-api-key-1
another-valid-key
 اس کے بعد، آپ کو Nginx کو ایک برعکس پروکسی کے طور پر عمل کرنے کے لئے ترتیب دینے کی ضرورت ہوگی اور داخل ہونے والے درخواستوں کے آوریشن ہیڈر میں ایک درست API کلید کی جانچ پڑتال کریں گے۔ یہاں ایک نمونہ Nginx ترتیب فائل ہے: 
# /etc/nginx/sites-available/ollama.conf A map to see if the API key you gave is valid.

    default 0; "Bearer my-secret-api-key-1" 1; "Bearer another-valid-key" 1;

server { listen 80; server_name your-llm-domain.com; 

    location / {
        # If the API key is not valid, return 401 'Unauthorized' and reject requests.

        # Proxy requests to the Ollama backend proxy_pass http://localhost:11434; proxy_set_header Host $host; proxy_set_header X-Real-IP $remote_addr; proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for; proxy_set_header X-Forwarded-Proto $scheme;
        
        # Raise the timeout for inference requests that take a long time to process. proxy_read_timeout 300s; proxy_connect_timeout 75s; 
    }
}
 یہ دو اہم چیزیں کرتا ہے: 
 
 
 یہ نقشہ ڈائریکٹری کے ساتھ $api_key_valid کہا جاتا ہے کہ ایک متغیر کی تعمیر کرتا ہے. اس متغیر کو 1 کی بنیاد پر ایک درست کلید ہے جس کی اجازت کے ہیڈر کی بنیاد پر مقرر کیا جائے گا؛ دوسری صورت میں 0. یہ سائٹ بلاک میں $api_key_valid کی قیمت پر نظر ڈالتا ہے. اگر درخواست 0 ہے تو، 401 غیر مجاز غلطی کا مطلب یہ ہے کہ یہ اجازت نہیں ہے. اس ترتیبات کا مطلب یہ ہے کہ آپ کے Ollama انسٹال کے لئے ہر درخواست کو لائسنس ہیڈر میں ایک مؤثر API کلید شامل ہونا چاہئے: curl http://your-llm-domain.com/api/generate \-H "Authorization: Bearer my-secret-api-key-1" \
-d '{ "model": "llama2", "prompt": "Why is the sky blue?" }'
 2.MCP کو محفوظ بنانے کے لئے ماڈل کنٹیکٹ پروٹوکول AI ایجنٹ بنانے کا ایک اچھا طریقہ ہے، لیکن یہ ان کو کم محفوظ بناتا ہے. حملہ آور آپ کے LLMs اور کسی بھی آلے یا API میں داخل ہوسکتے ہیں جو MCP سرور کو استعمال کرنے کے لئے مقرر کیا جاتا ہے اگر یہ محفوظ نہیں ہے. نیٹ ورک کی سطح پر انفرادی آپ کے MCP سرور کو جب بھی ممکن ہو تو براہ راست عوامی انٹرنیٹ سے منسلک نہیں ہونا چاہئے.اگر صرف ایک چھوٹی سی تعداد کے کلائنٹس کو اس تک رسائی حاصل کرنے کی ضرورت ہے تو، رسائی کو محدود کرنے کے لئے VPN یا دیگر نیٹ ورک کی سطح کے کنٹرول کا استعمال کریں. Authentication اور Authorization MCP کو یہ نہیں بتاتا ہے کہ کس تصدیق کے طریقہ کار کو استعمال کرنے کی ضرورت ہے، لہذا آپ کو اپنے آپ کو منتخب کرنے کی ضرورت ہے. آپ کو کم از کم ایک منفرد API کلید کی ضرورت ہے جو ہر درخواست کے لئے پتہ نہیں کیا جا سکتا. اگر آپ چیزوں کو زیادہ ذاتی رکھنے کی ضرورت ہے تو، ایک مضبوط تصدیق کے طریقہ کار جیسے OAuth 2.0 یا مشترکہ TLS کا استعمال کرنے کے بارے میں سوچنا. مثال کے طور پر، آپ کو ایک "صرف پڑھنے کے لئے" کلائنٹ ہوسکتا ہے جو صرف آپ کو معلومات فراہم کرنے کے لئے اوزار استعمال کرسکتا ہے اور ایک "صرف پڑھنے کے لئے" کلائنٹ ہے جو ڈیٹا کو تبدیل کرنے کے لئے اوزار استعمال کرسکتا ہے. داخلہ اور باہر نکلنے کی پاکیزگی آپ کو کسی بھی دوسرے ویب ایپلی کیشن سے input پر اعتماد نہیں کرنا چاہئے.To stop injection attacks, you should carefully clean and check all input to your MCP server. Also, you should clean up the output from your tools before sending it back to the client to stop information from leaking. 3۔ کاروبار کو محدود کرنے کا طریقہ کار قیمت کی حد ایک اچھا طریقہ ہے کہ آپ کو سروس سے انکار حملوں اور اس کے ذریعہ کے استعمال کے خلاف حفاظت کرنے کے لئے جو آپریشن Bizarre Bazaar میں ہوا ہے. ایک کلائنٹ کو ایک مقررہ وقت کے اندر درخواستوں کی تعداد کو محدود کرنے کے لئے آپ کے سسٹم کو زیادہ بھرتی یا قابل قدر اخراجات کا سامنا کرنے کے امکانات کے خلاف تحفظ کے طور پر کام کرتا ہے. شرح محدود کرنے کے لئے مختلف حکمت عملی موجود ہیں: 
 
 
 
 Per-IP Rate Limiting: ایک انفرادی IP ایڈریس سے متعلق درخواستوں کی مقدار کو منظم کرتا ہے. اگرچہ یہ لاگو کرنا آسان ہے، یہ تقسیم حملوں کے خلاف غیر مؤثر ثابت ہوسکتا ہے اور NAT کے پیچھے کام کرنے والے صارفین کو غیر منصفانہ طور پر سزا دے سکتا ہے. API کلید کی بنیاد پر شرح کی محدودیت کو لاگو کرنے کا ایک زیادہ مؤثر حکمت عملی ثابت ہوتا ہے.اس طرح صارفین کے درمیان وسائل کی مساوی تقسیم کی ضمانت دیتا ہے اور بدعنوانی کرنے والے افراد کی شناخت اور بلاک کرنے میں آسانی دیتا ہے. Token-Based Rate Limiting: LLMs کے سلسلے میں، یہ عام طور پر زیادہ منطقی ہے کہ پیدا ہونے والے Token کی تعداد پر مبنی شرح کی حد کو لاگو کرنا، درخواستوں کی تعداد کے برعکس. ایک پیداوار کے نظام میں، آپ کو ایک زیادہ طاقتور اور وسیع پیمانے پر حل کا استعمال کرنا چاہتے ہیں، جیسے ریڈس کے ساتھ چڑھنے والے ونڈوز کاٹنے والے، یا ایک خاص شرح کی حد محدود کرنے والی لائبریری جیسے فلیکس-محدد. مزید سیکورٹی کے بہترین طریقوں پہلے بیان کردہ بنیادی دفاع کے علاوہ، مندرجہ ذیل سیکورٹی اقدامات کو لاگو کرنے پر غور کریں: تمام رسائی کی سرگرمیوں کی نگرانی اور دستاویزات. تمام API درخواستوں کی جامع ریکارڈ کو برقرار رکھیں، استعمال شدہ API کلید، اصل IP ایڈریس، درخواست شدہ ماڈل، اور پیدا ہونے والے ٹوکن کی کل تعداد کی دستاویزات. یہ غیر معمولی رویے کی شناخت اور ممکنہ سیکورٹی مسائل کی تحقیقات میں مدد ملے گی. تجزیہ کو آسان بنانے کے لئے، ELK Stack یا Splunk کی طرح ایک مرکزی لاگ ان کے نظام کو لاگو کریں. روایتی سیکورٹی کا جائزہ لیں کسی بھی کھلے خدمات کی شناخت کرنے کے لئے اپنے بیرونی حملے کی سطح کو منظم طور پر سکرین کریں. nmap یا Cloud-native سیکورٹی سکرینر جیسے آلات کا استعمال کرتے ہوئے حملہ آوروں کی طرف سے ممکنہ استعمال سے پہلے غلط ترتیب شدہ ٹرانسپورٹ کی شناخت کریں. استعمال کی محدودیتیں شرح کی حدنگ کو نافذ کرنے کے علاوہ، ہر API کلید کے لئے سخت استعمال کی حدیں قائم کرنے کے لئے مشورہ دیا جاتا ہے. مثال کے طور پر، ہر کلید پر ماہانہ طور پر 1 ملین ٹوکن کی حد تقسیم کرنے کے قابل ہے. آپ کے سافٹ ویئر کو اپ ڈیٹ کریں اس بات کو یقینی بنائیں کہ آپ کے LLM فریم ورک، لوٹ بروکس، اور آپریٹنگ سسٹموں کو ہر وقت پیکیج کرنے کے لئے اپ گریڈ کیا جاتا ہے. خلاصہ: امن کو سب سے پہلے ڈالنے کا وقت ہے. LLMjacking کا اضافہ AI کمیونٹی کو بیدار کرنا چاہئے. ہم اب سیکورٹی کو نظر انداز کرنے کی اجازت نہیں دے سکتے. ہمیں یہ جاری رکھنا چاہئے کہ AI کیا کر سکتا ہے، لیکن ہمیں بھی سیکورٹی کو سب سے پہلے رکھنا اور نظام بنانے کی ضرورت ہے جو حملوں کو روک سکتا ہے. Operation Bizarre Bazaar کی کمپنیاں دکھاتا ہے کہ حملہ آوروں کو فعال طور پر تلاش کر رہے ہیں اور بڑے پیمانے پر کمزور LLM انشورنس کا استعمال کرتے ہیں. اچھی خبر یہ ہے کہ اس مضمون میں دفاعی اقدامات - آپ کے LLM کو ایک برعکس پروسیس کے پیچھے ڈالنا، مضبوط تصدیق اور لائسنس کا استعمال کرتے ہوئے، اور سخت شرح کی حدود کو نافذ کرنا - تمام مشہور سیکورٹی اقدامات ہیں جو جگہ پر ڈالنے کے لئے بہت زیادہ کام نہیں کرتے ہیں. ہم ان آلات کی ضرورت ہے کہ ہم AI کے نظام کو محفوظ بنانے کے لئے. ہم، انجینئرز اور ڈویلپرز جو سب سے پہلے لائنوں پر کام کرتے ہیں، ان کو استعمال کرنے کی ضرورت ہے. آپ آج ان اقدامات کو لے کر آپ کی AI انشورنس کو محفوظ اور محفوظ رکھ سکتے ہیں. وہ بھی LLMjacking کی بڑھتی ہوئی دھمکی سے آپ کے کاروبار کی حفاظت کریں گے.

This story contains new, firsthand information uncovered by the writer.

This story contains AI-generated text. The author has used AI either for research, to generate outlines, or write the text itself. 

Read My Stories

یہ آڈیو کہانی کی اصل زبان میں تیار کی گئی ہے!

LLMjacking خود میزبان AI انشورنس کے لئے ایک مہنگی نئی دھمکی کے طور پر ظاہر ہوتا ہے

About Author

تبصرے

ہینگ ٹیگز

یہ مضمون اس میں پیش کیا گیا تھا۔

Related Stories

On Sunday, the 26th of November, 1631

AI Search Traffic Marketshare for Calling HackerNoon Blogs: 52% OpenAI, 30% Amazon & 18% Perplexity

HackerNoon Decoded: The Top 10 Countries Where HackerNoon Is the Most Active

Urbain Grandier by Alexandre Dumas - Table of Links

On Sunday, the 26th of November, 1631

AI Search Traffic Marketshare for Calling HackerNoon Blogs: 52% OpenAI, 30% Amazon & 18% Perplexity

HackerNoon Decoded: The Top 10 Countries Where HackerNoon Is the Most Active

Urbain Grandier by Alexandre Dumas - Table of Links

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps