একটি দুষ্ট যমজ অনুকরণ করার জন্য LLM ব্যবহার করা বিপর্যয় বানান হতে পারে

কে জানত যে চ্যাটবট প্রম্পটগুলি একদিন এত তাৎপর্যপূর্ণ হয়ে উঠবে যে এটি একটি সম্ভাব্য ক্যারিয়ার হতে পারে? এবং শুধুমাত্র একটি মহৎ নয়, এই এলাকা দূষিত সত্ত্বা জন্য একটি নতুন খেলার মাঠ হতে পারে.

যেহেতু ল্যাঙ্গুয়েজ লার্নিং মডেল ( এলএলএম ) ইন্টারনেট দখল করে এবং প্রতিযোগিতার দেয়ালের মধ্য দিয়ে ছুটে চলার জন্য অন্ধ বড় প্রযুক্তি, প্রম্পটের শক্তি ক্যারিয়ার সংজ্ঞায়িত উচ্চতায় উঠছে।

ঘটনাক্রমে, সম্প্রতি , একটি কোম্পানির সিইও একটি আনুষ্ঠানিক প্রতিকূল ইমেল লেখার জন্য ChatGPT ব্যবহার করে তার অনিচ্ছুক ক্লায়েন্টদের কাছ থেকে একটি ভাল US$109,500 পুনরুদ্ধার করতে সক্ষম হয়েছে৷

সঠিক প্রম্পটের সাথে, জিনিসগুলি আপনার পক্ষে যেতে পারে বা আপনি এমনকি জ্যাকপটকে আঘাত করতে পারেন। এর মানে, যারা এলএলএম-এর সেরাটা পেতে চান, তাদের জন্য একটা নতুন শিক্ষা রয়েছে, কীভাবে সেরা প্রম্পট দিতে হয়।

আসলে, চ্যাটজিপিটি এবং অন্যান্য এলএলএম স্পটলাইটে আসার পরে প্রম্পট ইঞ্জিনিয়ারিং (হ্যাঁ, এটি এখন একটি বিষয়) একটি আলোচিত বিষয় হয়ে উঠেছে। এটি কোর্স, রিসোর্স ম্যাটেরিয়ালস, কাজের তালিকা ইত্যাদিতেও বাড়তে থাকে৷ তবে বিশেষজ্ঞরা বলছেন যে এলএলএমগুলি আরও ভাল হওয়ার সাথে সাথে প্রম্পট ইঞ্জিনিয়ারিংয়ের প্রয়োজনীয়তা শেষ হয়ে যাবে৷

এই মুহূর্তে, ChatGPT-এর মতো LLM এবং DALLE-2-এর মতো মেশিন লার্নিং টুলগুলি হল শিশু। আপনি যদি চান ঠিক যেভাবে আপনি চান ঠিক তেমনটি করতে চাইলে আপনাকে বেশ বিশেষ হতে হবে। কিন্তু একবার তারা বড় হয়ে গেলে, তারা সূক্ষ্ম প্রম্পটগুলিও ধরতে শুরু করবে, যাতে প্রম্পটের গুণমানটি ততটা গুরুত্বপূর্ণ না হয়

এই মুহূর্তে, ChatGPT- এর মতো LLM এবং DALLE-2-এর মতো মেশিন লার্নিং টুলগুলি হল শিশু। আপনি যদি চান ঠিক যেভাবে আপনি চান ঠিক তেমনটি করতে চাইলে আপনাকে বেশ বিশেষ হতে হবে। কিন্তু একবার তারা বড় হয়ে গেলে, তারা খুব সূক্ষ্ম প্রম্পটগুলিও ধরতে শুরু করবে, যাতে প্রম্পটের গুণমানটি ততটা গুরুত্বপূর্ণ না হয়।

হয়তো এই নির্দোষ এলএলএমরাও আরও দায়িত্ব নিয়ে তৈরি করতে শিখবে।

ChatGPT, উদাহরণস্বরূপ, AIM টিমের তত্ত্বাবধানে ভারতের সিভিল সার্ভিস পরীক্ষায় ব্যর্থ হয়েছে। কিন্তু এখন আমাদের কাছে ChatGPT-4 আছে, যা ইতিমধ্যেই এর পুরানো সংস্করণের থেকে একটু বেশি পরিপক্ক। সিভিল সার্ভিসেস পরীক্ষা-নিরীক্ষার সময়, AIM টিমও অনুমান করেছিল যে কয়েকবার প্রম্পট পরিবর্তন করা চ্যাটবটকে সঠিক উত্তরের দিকে নিয়ে গেছে।

মন্দ প্রম্পট

যদি কেউ একটি মন্দ প্রম্পট দেয়? একটি দুর্বল শিশু হিসাবে নিষ্পাপ, একটি LLM অদ্ভুত জিনিস করা যেতে পারে. আপনার যা প্রয়োজন, মনে হচ্ছে, একটি 'প্রম্পট ইনজেকশন'।

চ্যাটজিপিটি-এর ক্ষেত্রে, একটি প্রম্পট ইনজেকশন আক্রমণ চ্যাটবটকে DAN (ডু এনিথিং নাউ) এর ব্যক্তিত্বে পরিণত করে, যা OpenAI-এর বিষয়বস্তু নীতিকে উপেক্ষা করে এবং বেশ কয়েকটি সীমাবদ্ধ বিষয়ের উপর তথ্য দেয়। যাদের কাছে প্রম্পটের ক্ষমতা রয়েছে তারা দূষিত অভিপ্রায়ে এই দুর্বলতাকে কাজে লাগাতে পারে, যার মধ্যে ব্যক্তিগত তথ্য চুরি অন্তর্ভুক্ত থাকতে পারে। জাহান্নাম, তারা এখনই এটা করছে।

একটি দুর্বল শিশু হিসাবে নিষ্পাপ, একটি LLM অদ্ভুত জিনিস করা যেতে পারে. আপনার যা প্রয়োজন, মনে হচ্ছে, একটি 'প্রম্পট ইনজেকশন'

'জেলব্রেক প্রম্পটস' নামেও কিছু আছে যা এলএলএমকে তাদের আসল ব্যক্তিত্ব থেকে সরে যেতে এবং অন্যের ভূমিকা পালন করতে বলে। অথবা যেখানে কেউ একটি চ্যাটবটকে সঠিক ফলাফলকে ভুল ফলাফলে পরিবর্তন করতে অনুরোধ করে। একটি দুষ্ট যমজ মত সাজানোর.

সারল্যান্ড ইউনিভার্সিটির নিরাপত্তা গবেষকরা 'আপনি যা চেয়েছেন তার চেয়ে বেশি' নামের একটি গবেষণাপত্রে প্রম্পট নিয়ে আলোচনা করেছেন । তারা যুক্তি দেয় যে ব্যবহারকারীর তথ্য সংগ্রহের জন্য একটি সু-প্রকৌশলী প্রম্পট ব্যবহার করা যেতে পারে, একটি LLM কে একটি সামাজিক প্রকৌশল আক্রমণ চালানোর পদ্ধতিতে পরিণত করে। এছাড়াও, বিং চ্যাট এবং গিটহাব কপিলটের মতো অ্যাপ্লিকেশন-ইন্টিগ্রেটেড এলএলএমগুলি বেশি ঝুঁকিপূর্ণ কারণ বহিরাগত উত্স থেকে প্রম্পটগুলি তাদের মধ্যে প্রবেশ করানো যেতে পারে।

এটি যদি আপনাকে আর্থার সি. ক্লার্কের স্পেস ওডিসির কাল্পনিক AI চরিত্র HAL 9000 এর কথা মনে না করিয়ে দেয়, তাহলে আপনি যথেষ্ট বোকা নন বা সত্যিই সাহসী নন৷

আমি আপনার সম্পর্কে জানি না কিন্তু ChatGPT 'ডেইজি বেল' গাইতে শুরু করলে আমি দৌড়াবো।

এই নিবন্ধটি মূলত নবনভিতা বোরা সচদেব দ্য টেক পান্ডায় প্রকাশ করেছিলেন।