কে জানত যে চ্যাটবট প্রম্পটগুলি একদিন এত তাৎপর্যপূর্ণ হয়ে উঠবে যে এটি একটি সম্ভাব্য ক্যারিয়ার হতে পারে? এবং শুধুমাত্র একটি মহৎ নয়, এই এলাকা দূষিত সত্ত্বা জন্য একটি নতুন খেলার মাঠ হতে পারে.  যেহেতু ল্যাঙ্গুয়েজ লার্নিং মডেল (   ) ইন্টারনেট দখল করে এবং প্রতিযোগিতার দেয়ালের মধ্য দিয়ে ছুটে চলার জন্য অন্ধ বড় প্রযুক্তি, প্রম্পটের শক্তি ক্যারিয়ার সংজ্ঞায়িত উচ্চতায় উঠছে। এলএলএম  ঘটনাক্রমে,   , একটি কোম্পানির সিইও একটি আনুষ্ঠানিক প্রতিকূল ইমেল লেখার জন্য ChatGPT ব্যবহার করে তার অনিচ্ছুক ক্লায়েন্টদের কাছ থেকে একটি ভাল US$109,500 পুনরুদ্ধার করতে সক্ষম হয়েছে৷ সম্প্রতি  সঠিক প্রম্পটের সাথে, জিনিসগুলি আপনার পক্ষে যেতে পারে বা আপনি এমনকি জ্যাকপটকে আঘাত করতে পারেন। এর মানে, যারা এলএলএম-এর সেরাটা পেতে চান, তাদের জন্য একটা নতুন শিক্ষা রয়েছে, কীভাবে   দিতে হয়। সেরা প্রম্পট  আসলে, চ্যাটজিপিটি এবং অন্যান্য এলএলএম স্পটলাইটে আসার পরে প্রম্পট ইঞ্জিনিয়ারিং (হ্যাঁ, এটি এখন একটি বিষয়) একটি আলোচিত বিষয় হয়ে উঠেছে। এটি কোর্স, রিসোর্স ম্যাটেরিয়ালস, কাজের তালিকা ইত্যাদিতেও বাড়তে থাকে৷ তবে   যে এলএলএমগুলি আরও ভাল হওয়ার সাথে সাথে প্রম্পট ইঞ্জিনিয়ারিংয়ের প্রয়োজনীয়তা শেষ হয়ে যাবে৷ বিশেষজ্ঞরা বলছেন   এই মুহূর্তে, ChatGPT-এর মতো LLM এবং DALLE-2-এর মতো মেশিন লার্নিং টুলগুলি হল শিশু। আপনি যদি চান ঠিক যেভাবে আপনি চান ঠিক তেমনটি করতে চাইলে আপনাকে বেশ বিশেষ হতে হবে। কিন্তু একবার তারা বড় হয়ে গেলে, তারা সূক্ষ্ম প্রম্পটগুলিও ধরতে শুরু করবে, যাতে প্রম্পটের গুণমানটি ততটা গুরুত্বপূর্ণ না হয়  এই মুহূর্তে,   এর মতো LLM এবং DALLE-2-এর মতো মেশিন লার্নিং টুলগুলি হল শিশু। আপনি যদি চান ঠিক যেভাবে আপনি চান ঠিক তেমনটি করতে চাইলে আপনাকে বেশ বিশেষ হতে হবে। কিন্তু একবার তারা বড় হয়ে গেলে, তারা খুব সূক্ষ্ম প্রম্পটগুলিও ধরতে শুরু করবে, যাতে প্রম্পটের গুণমানটি ততটা গুরুত্বপূর্ণ না হয়। ChatGPT-  হয়তো এই নির্দোষ এলএলএমরাও আরও দায়িত্ব নিয়ে তৈরি করতে শিখবে।  ChatGPT, উদাহরণস্বরূপ,   ভারতের সিভিল সার্ভিস পরীক্ষায় ব্যর্থ হয়েছে। কিন্তু এখন আমাদের কাছে ChatGPT-4 আছে, যা ইতিমধ্যেই এর পুরানো সংস্করণের থেকে একটু বেশি পরিপক্ক। সিভিল সার্ভিসেস পরীক্ষা-নিরীক্ষার সময়, AIM টিমও অনুমান করেছিল যে কয়েকবার প্রম্পট পরিবর্তন করা চ্যাটবটকে সঠিক উত্তরের দিকে নিয়ে গেছে। AIM টিমের তত্ত্বাবধানে   মন্দ প্রম্পট  যদি কেউ একটি মন্দ প্রম্পট দেয়? একটি দুর্বল শিশু হিসাবে নিষ্পাপ, একটি LLM অদ্ভুত জিনিস করা যেতে পারে. আপনার যা প্রয়োজন, মনে হচ্ছে, একটি 'প্রম্পট ইনজেকশন'।  চ্যাটজিপিটি-এর ক্ষেত্রে, একটি   চ্যাটবটকে DAN (ডু এনিথিং নাউ) এর ব্যক্তিত্বে পরিণত করে, যা OpenAI-এর বিষয়বস্তু নীতিকে উপেক্ষা করে এবং বেশ কয়েকটি সীমাবদ্ধ বিষয়ের উপর তথ্য দেয়। যাদের কাছে প্রম্পটের ক্ষমতা রয়েছে তারা দূষিত অভিপ্রায়ে এই দুর্বলতাকে কাজে লাগাতে পারে, যার মধ্যে ব্যক্তিগত তথ্য চুরি অন্তর্ভুক্ত থাকতে পারে। জাহান্নাম, তারা এখনই এটা করছে। প্রম্পট ইনজেকশন আক্রমণ   একটি দুর্বল শিশু হিসাবে নিষ্পাপ, একটি LLM অদ্ভুত জিনিস করা যেতে পারে. আপনার যা প্রয়োজন, মনে হচ্ছে, একটি 'প্রম্পট ইনজেকশন'  'জেলব্রেক প্রম্পটস' নামেও কিছু আছে যা এলএলএমকে তাদের আসল ব্যক্তিত্ব থেকে সরে যেতে এবং অন্যের ভূমিকা পালন করতে বলে। অথবা যেখানে কেউ একটি চ্যাটবটকে   পরিবর্তন করতে অনুরোধ করে। একটি দুষ্ট যমজ মত সাজানোর. সঠিক ফলাফলকে ভুল ফলাফলে  সারল্যান্ড ইউনিভার্সিটির নিরাপত্তা গবেষকরা 'আপনি যা চেয়েছেন তার চেয়ে বেশি' নামের একটি গবেষণাপত্রে   । তারা যুক্তি দেয় যে ব্যবহারকারীর তথ্য সংগ্রহের জন্য একটি সু-প্রকৌশলী প্রম্পট ব্যবহার করা যেতে পারে, একটি LLM কে একটি সামাজিক প্রকৌশল আক্রমণ চালানোর পদ্ধতিতে পরিণত করে। এছাড়াও, বিং চ্যাট এবং গিটহাব কপিলটের মতো অ্যাপ্লিকেশন-ইন্টিগ্রেটেড এলএলএমগুলি বেশি ঝুঁকিপূর্ণ কারণ বহিরাগত উত্স থেকে প্রম্পটগুলি তাদের মধ্যে প্রবেশ করানো যেতে পারে। প্রম্পট নিয়ে আলোচনা করেছেন  এটি যদি আপনাকে আর্থার সি. ক্লার্কের   কাল্পনিক AI চরিত্র HAL 9000 এর কথা মনে না করিয়ে দেয়, তাহলে আপনি যথেষ্ট বোকা নন বা সত্যিই সাহসী নন৷ স্পেস ওডিসির   https://www.youtube.com/watch?v=Wy4EfdnMZ5g&embedable=true  আমি আপনার সম্পর্কে জানি না কিন্তু ChatGPT 'ডেইজি বেল' গাইতে শুরু করলে আমি দৌড়াবো।  এই নিবন্ধটি মূলত নবনভিতা বোরা সচদেব  দ্য টেক পান্ডায় প্রকাশ করেছিলেন।

The writer is smart, but don't just like, take their word for it. #DoYourOwnResearch

Read My Stories

গল্পের মূল ভাষায় এই অডিও তৈরি!

একটি দুষ্ট যমজ অনুকরণ করার জন্য LLM ব্যবহার করা বিপর্যয় বানান হতে পারে

About Author

মন্তব্য

আসে ট্যাগ

এই নিবন্ধটি উপস্থাপন করা হয়েছে

Related Stories

AI এর শক্তি উন্মুক্ত করা। কাটিং-এজ টেকনিকের একটি পদ্ধতিগত পর্যালোচনা: বিমূর্ত ও ভূমিকা

অদেখা স্তরগুলি: কেন ব্যবহারকারীর সাক্ষাত্কারগুলি একটি অপরিবর্তনীয় সম্পদ

ডিজিটাল যাযাবর শুনুন: থাইল্যান্ডের নতুন ডিটিভি ভিসা সম্পর্কে আপনার যা জানা দরকার

হ্যাকারনুন লেখার প্রতিযোগিতা জিততে চান? #crypto-api প্রতিযোগিতার বিজয়ীরা কী সুপারিশ করেন তা এখানে

AI এর শক্তি উন্মুক্ত করা। কাটিং-এজ টেকনিকের একটি পদ্ধতিগত পর্যালোচনা: বিমূর্ত ও ভূমিকা

অদেখা স্তরগুলি: কেন ব্যবহারকারীর সাক্ষাত্কারগুলি একটি অপরিবর্তনীয় সম্পদ

ডিজিটাল যাযাবর শুনুন: থাইল্যান্ডের নতুন ডিটিভি ভিসা সম্পর্কে আপনার যা জানা দরকার

হ্যাকারনুন লেখার প্রতিযোগিতা জিততে চান? #crypto-api প্রতিযোগিতার বিজয়ীরা কী সুপারিশ করেন তা এখানে

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps