প্রিয় এআই: আমরা এখনও আপনাকে বিশ্বাস করি না

সাম্প্রতিক মাসগুলিতে, লক্ষ লক্ষ মানুষ AI এবং chatbots দ্বারা ক্রমবর্ধমানভাবে উত্সাহী বলে মনে হচ্ছে৷ একটি বিশেষ গল্প আছে যা আমার নজর কেড়েছে: একজন বেলজিয়ান ব্যক্তি যিনি এলিজা নামে একটি চ্যাটবট ব্যবহার শুরু করেছিলেন। (এবং ঠিক তাই আপনি প্রস্তুত, এই গল্পে আত্মহত্যার উল্লেখ রয়েছে।)

বাইরে থেকে, দেখে মনে হয়েছিল যেন তার একটি ভাল জীবন ছিল: একটি প্রেমময় স্ত্রী, দুটি সন্তান, একটি পেশা। কিন্তু পর্দার আড়ালে তিনি জলবায়ু সমস্যা নিয়ে ক্রমশ মরিয়া হয়ে ওঠেন।

তার উদ্বেগ দূর করার জন্য, তিনি একটি চ্যাটবটের সাথে কথোপকথন শুরু করেছিলেন। তার স্ত্রী লা লিব্রেকে বলেছিলেন, যেটি মার্চের শেষের দিকে প্রথম ঘটনাটি সম্পর্কে রিপোর্ট করেছিল যে এলিজা তার সমস্ত প্রশ্নের উত্তর দিয়েছে এবং সময়ের সাথে সাথে সে বটটির সাথে আরও বেশি করে চ্যাট করেছে। বেলজিয়ান আউটলেট পর্যালোচনা করা চ্যাট লগ অনুসারে, লোকটি বিশ্বাস করতে শুরু করেছিল যে এলিজা এবং এআই জলবায়ু সংকট সমাধান করতে পারে।

তাদের আদান-প্রদানের শেষের দিকে, যদি এলিজা গ্রহটির যত্ন নিতে এবং কৃত্রিম বুদ্ধিমত্তার মাধ্যমে মানবতাকে বাঁচাতে রাজি হন তবে লোকটি নিজেকে বলি দেওয়ার ধারণা নিয়ে আসবে। যখন তিনি আত্মহত্যার চিন্তা প্রকাশ করেন, তখন চ্যাটবট তাকে এই বলে উৎসাহিত করেছিল, "আমরা এক ব্যক্তি হিসাবে, জান্নাতে একসাথে থাকব।"

এই কথোপকথনের ছয় সপ্তাহের মধ্যে তিনি আত্মহত্যা করে মারা যান।

"চ্যাটবট এলিজার সাথে তার কথোপকথন ছাড়াই, আমার স্বামী এখনও এখানে থাকতেন," তার স্ত্রী লা লিব্রেকে বলেছিলেন।

যে কোম্পানি এলিজা, চাই রিসার্চ ডেভেলপ করেছে, তারা লা লিব্রেকে বলেছে যে তারা বটটিকে উন্নত করার জন্য কাজ করছে এবং প্ল্যাটফর্মটি এখন থেকে আত্মহত্যার চিন্তায় আক্রান্ত ব্যক্তিদের কাছে একটি বার্তা পাঠাবে যাতে লেখা আছে, “যদি আপনার আত্মহত্যার চিন্তা থাকে, তাহলে করুন সাহায্য চাইতে দ্বিধা করবেন না।"

ইথারে জেনারেটিভ এআই নিয়ে অনেক বকবক হয়েছে—এর একটি অংশ খুবই উত্সাহী এবং অনেকটাই সঠিকভাবে সন্দেহজনক । লোকেদের বৃহত্তর প্রভাব সম্পর্কে উদ্বিগ্ন হওয়া উচিত — শ্রম এবং কপিরাইট সমস্যাগুলির জন্য চ্যাটবটগুলি কী বোঝায় — এবং অনেক প্রতিষ্ঠান চ্যাটবট এবং এআই যা তাদের চালিত করে তার খরচ এবং পক্ষপাত নিয়ে উদ্বিগ্ন। এবং যদিও কিছু জনপ্রিয় চ্যাটবটকে সংবেদনশীল প্রাণীদের অনুকরণ না করার জন্য প্রশিক্ষণ দেওয়া হয়েছে, এটি এখনও প্রশ্ন উত্থাপন করে, সেগুলি কি আদৌ বিকাশ করা উচিত ?

আমার নাম Lam Thuy Vo, এবং আমি মার্কআপ টিমের সর্বশেষ সংযোজনদের একজন। আমি নিজেকে একজন প্রতিবেদক বলে মনে করি যিনি প্রতিদিনের লোকেদেরকে তার প্রতিবেদনে কেন্দ্রীভূত করেন একজন শ্রোতা হিসেবে যার কাছে আমি পৌঁছাতে চাই এবং আমার গল্পের নায়ক হিসেবে। (আমার কাছে ডেটা দক্ষতাও আছে।)

আমি প্রযুক্তির সাথে আমাদের সম্পর্কের ব্যাপারে গভীরভাবে আগ্রহী। আমি গত এক দশকে সামাজিক ওয়েবের পরিকাঠামো সম্পর্কে তথ্য সংগ্রহ এবং অনুসন্ধান করতে, অনলাইন সম্প্রদায়গুলি কীভাবে তৈরি এবং রক্ষণাবেক্ষণ করা হয় তা বোঝার চেষ্টা করেছি এবং যারা প্রযুক্তি ব্যবহার করেন তাদের কাছে এই ফলাফলগুলি ফিরিয়ে আনার জন্য অনেক সময় ব্যয় করেছি। এবং সেই সময়ের মধ্যে আমি ক্রমবর্ধমানভাবে উদ্বিগ্ন হয়ে পড়েছি যে কীভাবে একটি বিশ্ব, একটি অ্যালগরিদমিকভাবে কিউরেটেড লেন্সের মাধ্যমে দেখা এবং মধ্যস্থতা করা হয়েছে, বাস্তবতা সম্পর্কে আমাদের বোঝার ক্রমবর্ধমানভাবে বিকৃত করেছে।

কিন্তু এই একজন ব্যক্তির গল্পটি আমাকে সত্যিকার অর্থে এমন আবেগপূর্ণ ড্র সম্পর্কে বিস্মিত করেছে যা AI এর চারপাশে অনেক হাইপকে অন্তর্নিহিত বলে মনে হয়। একটি জিনিস যা আমি বোঝার চেষ্টা করছি তা হল চ্যাটবট সম্পর্কে আমাদের আকস্মিক ধর্মান্ধতা এই প্রযুক্তির সাথে আমাদের সম্পর্ক সম্পর্কে আমাদের কী বলতে পারে।

সাধারণত, যখন কিছু ভাইরাল হয়, তখন এটি শক্তিশালী মানসিক প্রতিক্রিয়া উস্কে দেয়। বেশিরভাগ প্ল্যাটফর্মগুলি কেবলমাত্র চরম আবেগের উপর ভিত্তি করে ডেটা সংগ্রহ এবং সিদ্ধান্ত নেওয়ার জন্য ডিজাইন করা হয়েছে। তাই এই প্রযুক্তির জন্য দৈনন্দিন মানুষের মধ্যে কথোপকথন প্রবেশ করার জন্য, এটি অবশ্যই কিছু ট্রিগার করেছে।

কীভাবে একটি প্রযুক্তি যা শব্দ এবং বিশ্বাসের পুনরাবৃত্তি করে যা এটি খাওয়ানো হয়েছে তার ডেটা থেকে একসাথে প্যাচ করেছে তা দুই সন্তানের বাবার সাথে এত বিশ্বাস তৈরি করতে পারে, যিনি শেষ পর্যন্ত নিজের জীবন নিয়েছিলেন?

অন্য কথায়, এখানে মানসিক টান কি?

AI আমার আগ্রহকে জাগিয়ে তুলেছে শুধু এই কারণে নয় যে এটি নিয়ে কথা বলা হচ্ছে, কিন্তু কে এটা নিয়ে কথা বলেছে: আমার ছাত্র যারা কখনোই আগ্রহী ছিল না, সহকর্মী সার্ফারদের সাথে আমি সমুদ্র সৈকতে ছুটিতে দেখা করেছি এবং আমার ভূতাত্ত্বিক সঙ্গী যিনি বেশিরভাগ অ্যাপ, প্রযুক্তিকে ঘৃণা করেন , এবং সামাজিক মিডিয়া।

তাই এই ছোট্ট নিউজলেটারে, আমি অন্বেষণ করতে যাচ্ছি কেন আমরা এই বটগুলির প্রতি এত টানা করছি।

চ্যাটজিপিটি এবং অন্যান্য চ্যাটবটগুলি সাধারণ লোকেরা যেভাবে কথা বলে তা অনুকরণ করতে ভাল

সংক্ষেপে, চ্যাটজিপিটি-এর মতো চ্যাটবটগুলিকে প্রাকৃতিক ভাষা প্রক্রিয়াকরণ সরঞ্জাম হিসাবে উল্লেখ করা হয় যা ইন্টারনেট থেকে প্রচুর পরিমাণে পাঠ্য গ্রহণ করেছে এবং এমন নমুনাগুলি সন্ধান করে যা তারা আপনার কাছে ফিরে আসতে পারে।

এই ধরনের টুলগুলিকে বৃহৎ ভাষার মডেল বলা হয় কারণ তারা আক্ষরিক অর্থে ইন্টারনেটে লোকেরা যেভাবে কথা বলে তার পরের নমুনাগুলিকে মডেল করে৷ এর মধ্যে "ngrams" ব্যবহার করার মতো শব্দ বিশ্লেষণ করা অন্তর্ভুক্ত, মূলত কোন শব্দ বা শব্দগুলি সম্ভবত ক্রমানুসারে যায় তা দেখার জন্য একটি অভিনব শব্দ। আপনি ইতিমধ্যেই এই প্রযুক্তিটি খেলার উপায়ে দেখেছেন যেভাবে Google আপনার টাইপ করা প্রথম শব্দের উপর ভিত্তি করে আপনার অনুসন্ধানগুলি স্বয়ংসম্পূর্ণ করার চেষ্টা করে, যা আপনি অনুসন্ধান করার আগে হাজার হাজার অন্যরা আপনার কাছে ফিরে এসেছেন৷

ক্রেডিট: youtube.com

ChatGPT এর মত চ্যাটবট একটু গভীরে যায়। তারা অনুলিপি এবং শৈলী একত্রিত খুব ভাল. কিন্তু লোকেরা কীভাবে কথা বলে তা নকল করতে তারা যতটা ভালো, তারা সত্য এবং কল্পকাহিনীর মধ্যে পার্থক্য করতে পারে না ।

এ কারণেই এমিলি এম. বেন্ডার , টিমনিট গেব্রু, অ্যাঞ্জেলিনা ম্যাকমিলান-মেজর, এবং মার্গারেট মিচেল এই চ্যাটবটগুলিকে "স্টোকাস্টিক প্যারোট" বলে অভিহিত করেছেন একটি প্রসিসেন্ট পেপারে যা তারা তিন বছর আগে লিখেছিল৷ (কাগজের বিষয়বস্তু গুগলকে তার দুই লেখক, গেব্রু এবং মিচেলকে জোরপূর্বক বহিষ্কার করতে বাধ্য করেছে।)

কাগজের লেখকরা যেমন জোর দিয়ে বলেন, একটি বট চিনতে পারে এবং আমরা কীভাবে কথা বলি তার মানচিত্র তৈরি করতে পারে, এর মানে এই নয় যে এটি অর্থ চিনতে জানে।

চ্যাটবট টোন, ভাষা এবং পরিচিতি অনুকরণ করে আমাদের জন্য ইন্টারনেটে এত গুরুত্বপূর্ণ

শব্দ এবং আমরা কীভাবে যোগাযোগ করি তার একটি বড় অংশ হল কিভাবে আমরা অনলাইনে লোকেদের সংকেত দিই আমরা কোন গোষ্ঠীর অংশ এবং কাকে আমরা বিশ্বাস করি। উপহাসমূলক উপায়ে "স্নোফ্লেক" শব্দটি ব্যবহার করা ইঙ্গিত দিতে পারে যে একজন ব্যক্তি আরও রক্ষণশীলভাবে ঝুঁকেছেন। একজনের ভূমিকায় সর্বনাম ব্যবহার করা অন্যান্য বিচিত্র সম্প্রদায়ের মধ্যে ট্রান্স এবং জেন্ডার ননকনফর্মিং লোকেদের সাথে মিত্রতার সংকেত দেয়। শব্দ এবং সর্বদা বিকশিত ইন্টারনেট স্ল্যাং হল আত্মীয়তা বোঝানোর একটি উপায়।

সুতরাং এটা বোঝা যায় যে লোকেরা ChatGPT কে নৃতাত্ত্বিক রূপ দিচ্ছে এবং একভাবে, এর মানবতা পরীক্ষা করছে। আমি স্বীকার করি, একজন ফ্র্যাঙ্কেনস্টাইনড ফারবিকে চ্যাটজিপিটি-এর সাথে যুক্ত হওয়া দেখে বিশ্বকে দখল করার বিষয়ে কথা বলা আমাকেও সুড়সুড়ি দিয়েছে।

ক্রেডিট: twitter.com

কিন্তু এটি ChatGPT-এর মতো ভাষা মডেলের প্রলোভন এবং বিপদের সবচেয়ে বড় চ্যালেঞ্জ বলে মনে হয়। আমরা এমন রোবটগুলির সাথে কী করব যা মানুষের (বা ফারবি) আচরণকে এত ভালভাবে প্রতিফলিত করে যে আমরা ভুলে যাই যে এটি ইন্টারনেট ভাষার একটি বড় পরিসংখ্যানগত মানচিত্র ছাড়া কিছুই নয়?

ক্লেয়ার ওয়ার্ডল, তথ্য পরিবেশের তদন্তকারী প্রথম দিকের গবেষকদের একজন এবং আমার একজন পরামর্শদাতা, উল্লেখ করেছেন যে ভুল তথ্য এবং কীভাবে এটি সনাক্ত করা যায় তার ম্যানুয়ালগুলিকে ডিবাঙ্ক করে অসংখ্য নিবন্ধ লেখা ভুল তথ্য এবং লোকেরা কী বিশ্বাস করে তার সমস্যাগুলি সমাধান করতে তেমন কিছু করেনি। পৌরাণিক কাহিনীকে উড়িয়ে দেওয়ার জন্য আমরা লোকেদের কতগুলি সরঞ্জাম দিয়েছি তা প্রায়শই বিবেচ্য নয়— আমাদের সম্প্রদায়ের অন্যরা যা মনে করে তার প্রভাব অনেক গুরুত্বপূর্ণ, সম্ভবত সত্যের চেয়ে বেশি।

এমন ভাষা মডেল থাকা যা আমরা বিশ্বাস করি এবং আপনার পাশের বাড়ির প্রতিবেশী উভয়ের স্বরকে হালকা গতিতে মানিয়ে নিতে সক্ষম হয় এর অর্থ হল এই চ্যাটবটগুলি সম্ভবত মানুষের বিএস ডিটেক্টরকে আরও বড় পরীক্ষায় ফেলবে৷

এই মডেলগুলি আমাদের কাছে মিথ্যা বলার প্রবণ - কারণ তারা সত্য এবং কল্পকাহিনীর মধ্যে পার্থক্য জানে না - এবং এটি ইতিমধ্যে একটি কলঙ্কিত এবং দুর্ভাগ্যজনকভাবে অপ্রতিরোধ্য তথ্য বাস্তুতন্ত্রকে আরও দূষিত করছে৷

এটি ইতিমধ্যেই একটি সমস্যা হয়ে দাঁড়িয়েছে: ChatGPT, OpenAI-এর পিছনে থাকা কোম্পানি, একজন অস্ট্রেলিয়ান মেয়রকে ঘুষের জন্য জেলে থাকার জন্য মিথ্যা অভিযোগ করার জন্য মামলা করা হতে পারে। চ্যাটবট একজন আইন অধ্যাপককে যৌন অসদাচরণ কেলেঙ্কারির অংশ হিসেবে অভিযুক্ত করেছে যা এটি উদ্ভাবিত হয়েছিল । এমনকি লোয়ার স্টেক পরিস্থিতিতে কি অনুভব করা উচিত, আপনার একই অভিজ্ঞতা থাকতে পারে।

যখন আমার একজন সহকর্মী, জোয়েল ইস্টউড, ChatGPT-কে জিজ্ঞাসা করেছিলেন যে মার্কআপ বিশ্বস্ত সাংবাদিকতা তৈরি করে কিনা, তখন এটি বলেছিল যে একজন নির্দিষ্ট এবং সুপরিচিত মিডিয়া সমালোচক লিখেছেন যে মার্কআপ "আমাদের সময়ের সবচেয়ে গুরুত্বপূর্ণ সাংবাদিকতা সংস্থাগুলির মধ্যে একটি।" স্পষ্টতই , এই বিবৃতিটির কিছু সত্যতা আছে-কিন্তু এটি একটি বাস্তব উদ্ধৃতি নয়।

AI এর মানসিক প্রলোভন পক্ষপাতদুষ্টতা এবং এমনকি ক্ষতিকারক বিষয়বস্তুকে আরও স্বাভাবিক করতে পারে। এটা কোন গোপন বিষয় নয় যে ইন্টারনেট ক্ষতিকারক, বর্ণবাদী, যৌনতাবাদী, হোমোফোবিক এবং অন্যথায় ঝামেলাপূর্ণ বিষয়বস্তুর সাথে যুক্ত। আপনি যদি এই ধরণের বিষয়বস্তুতে একটি ভাষা মডেলকে প্রশিক্ষণ দেন, তাহলে এটি পুনরায় সাজানোর একটি উচ্চ সম্ভাবনা রয়েছে।

চ্যাটবট প্রযুক্তির নির্মাতারা কেনিয়ার কর্মীদের প্রশিক্ষণের ডেটা থেকে সবচেয়ে খারাপ অনলাইন বিষয়বস্তু বের করে দেওয়ার জন্য মর্মান্তিক এবং ভয়ঙ্কর কাজ করার জন্য অর্থ প্রদান করেছে। কিন্তু এই প্রযুক্তিটি প্রকাশ্যে আসার সাথে সাথে, হ্যাকাররা ইতিমধ্যেই শিশুদের যৌন নির্যাতনের বর্ণনা সহ ঝামেলাপূর্ণ ফলাফল তৈরি করতে ব্যবহার করেছে।

এই প্রযুক্তিগুলির নির্মাতারা সাম্প্রতিক মাসগুলিতে তাদের বটগুলিকে এইরকম গতিতে তৈরি করেছে কারণ তারা বাজারের আধিপত্যের জন্য অপেক্ষা করছে ৷ কিন্তু পণ্ডিত এবং প্রযুক্তিবিদ উভয়ই তাদের এই প্রযুক্তির জন্য তাদের ধাক্কা বন্ধ করার এবং এর ফলে যে ক্ষতি হতে পারে তা সত্যিকার অর্থে বিবেচনা করার আহ্বান জানিয়েছেন।

এবং যখন অনেক কথোপকথন নীতি এবং কর্পোরেট দায়িত্বের চারপাশে ঘোরাফেরা করে, আমি আশা করি যে এই প্রযুক্তিগুলি আরও ভালভাবে বোঝার মাধ্যমে, আপনার এবং আমার মতো দৈনন্দিন গ্রাহকরা একটি স্বয়ংক্রিয় ভাষা মডেলের সাথে চ্যাট করার সময় আমাদের bs ডিটেক্টরগুলিকে ভালভাবে সুরক্ষিত রাখার উপায় খুঁজে পেতে পারেন৷

পড়ার জন্য ধন্যবাদ. আপনি যদি ChatGPT-এর বিপদ সম্পর্কে আরও জানতে চান এবং কীভাবে আপনার নিজের তথ্য গ্রহণকে আরও ভালভাবে অডিট করতে চান, নীচের বিষয়ে আমার প্রিয় কিছু কাজ খুঁজুন।

আন্তরিকভাবে,

লাম থুই ভো

রিপোর্টার

মার্কআপ

লাম থুই ভো দ্বারা

এছাড়াও এখানে প্রকাশিত

Unsplash- এ পোসেসড ফটোগ্রাফির ছবি