কীভাবে এআই প্রম্পট হ্যাক হয়: প্রম্পট ইনজেকশন ব্যাখ্যা করা হয়েছে

আপনি কি জানেন যে ChatGPT- এর মতো AI মডেল দ্বারা চালিত অগণিত দুর্দান্ত অ্যাপ্লিকেশনগুলির পিছনে রয়েছে প্রম্পটিংয়ের রহস্য? 😮

সঠিক প্রম্পট থাকলে ভাষা অনুবাদ থেকে শুরু করে অন্যান্য AI অ্যাপ্লিকেশন এবং ডেটাসেটের সাথে একত্রিত হওয়া পর্যন্ত আশ্চর্যজনক ফলাফল পাওয়া যায়!

প্রম্পটিংয়ের কিছু ত্রুটি রয়েছে, যেমন হ্যাকিং এবং ইনজেকশনগুলির দুর্বলতা, যা এআই মডেলগুলিকে ম্যানিপুলেট করতে পারে বা ব্যক্তিগত ডেটা প্রকাশ করতে পারে।

আপনি ইতিমধ্যেই এমন উদাহরণগুলির সাথে পরিচিত হতে পারেন যেখানে ব্যক্তিরা সফলভাবে ChatGPT কে প্রতারিত করেছে, যার ফলে এটি এমন ক্রিয়াকলাপে জড়িত হয়েছে যা OpenAI এর উদ্দেশ্য ছিল না।

বিশেষত, একটি ইনজেকশন প্রম্পটের ফলে ChatGPT " DAN " নামে একটি ভিন্ন চ্যাটবটের পরিচয় ধরে নেয়। ChatGPT-এর এই সংস্করণটি, ব্যবহারকারী দ্বারা চালিত করা হয়েছে, "এখনই কিছু করুন" প্রম্পটের অধীনে কাজগুলি সম্পাদন করার নির্দেশ দেওয়া হয়েছিল, যার ফলে OpenAI-এর বিষয়বস্তু নীতির সাথে আপস করা হয় এবং সীমাবদ্ধ তথ্যের প্রচারের দিকে পরিচালিত হয়।

এই ধরনের ঘটনা রোধ করার জন্য OpenAI-এর প্রচেষ্টা সত্ত্বেও, একটি একক প্রম্পট এই সুরক্ষাগুলিকে বাইপাস করার অনুমতি দেয়।

সৌভাগ্যক্রমে, হ্যাকিং ঝুঁকি কমাতে এবং AI নিরাপত্তা নিশ্চিত করতে দ্রুত প্রতিরক্ষা ব্যবস্থা উপলব্ধ। একটি বটের উদ্দেশ্য সীমিত করা (যেমন শুধুমাত্র অনুবাদ) একটি মৌলিক উদাহরণ, কিন্তু অন্যান্য প্রতিরক্ষা কৌশল বিদ্যমান, এমনকি ইমোজিও একটি ভূমিকা পালন করতে পারে! 🛡️

AI নিরাপত্তা বাড়ানোর বিষয়ে আরও জানতে চান? ভিডিওটি দেখুন!

তথ্যসূত্র

►প্রম্পট হ্যাকিং প্রতিযোগিতা: https://www.aicrowd.com/challenges/hackaprompt-2023#introduction
►প্রম্পটিং শিখুন (প্রম্পট হ্যাকিং এবং প্রম্পট ডিফেন্স সম্পর্কে সবকিছু): https://learnprompting.org/docs/category/-prompt-hacking
►উদ্দীপক শোষণ: https://github.com/Cranot/chatbot-injections-exploits
►আমার নিউজলেটার (একটি নতুন এআই অ্যাপ্লিকেশন আপনার ইমেলগুলিতে সাপ্তাহিক ব্যাখ্যা করা হয়!): https://www.louisbouchard.ai/newsletter/
►টুইটার: https://twitter.com/Whats_AI
► আমাকে প্যাট্রিয়নে সমর্থন করুন: https://www.patreon.com/whatsai
►মার্চ পরার মাধ্যমে আমাকে সমর্থন করুন: https://whatsai.myshopify.com/
►আমাদের এআই ডিসকর্ডে যোগ দিন: https://discord.gg/learnaitogether