কেন ChatGPT এবং অন্যান্য চ্যাটবটগুলিতে মানব পক্ষপাত সামাজিক ব্যাঘাত ঘটাতে পারে

এআই বিপ্লব, নিঃসন্দেহে, নতুন প্রযুক্তিগত উদ্ভাবনের জন্য দায়ী।

এর ব্যাঘাতের ফলে চ্যাটবট এবং চ্যাটজিপিটি-এর মতো এআই মডেলগুলি প্রবর্তিত হয়েছে যা বর্তমানে 21 শতকে মানুষের জীবনযাপন, আদানপ্রদান এবং সামাজিকীকরণের উপায়গুলিকে রূপ দিচ্ছে যা মন ছুঁয়ে যায়৷

গত বছর চালু হওয়ার মাত্র দুই মাস পরে, OpenAI চ্যাটবট, ChatGPT, সারা বিশ্বে 100 মিলিয়নেরও বেশি ব্যবহারকারী রেকর্ড করেছে।

এই মামলা অনুসরণ করে, Google Bard চালু করারও ঘোষণা করেছে , একটি এআই-চালিত কথোপকথন মডেল যা অনুসন্ধান ফলাফল থেকে সহজে হজম করা তথ্য সরবরাহ করে।

এগুলি সবগুলিই স্মরনীয় কৃতিত্ব হিসাবে কাজ করে, যা দেখায় যে এআই বিকাশ একটি সহজ জীবনধারার সাথে মানুষকে সুরক্ষিত করার কতটা কাছাকাছি। তবে কিছু ত্রুটি থাকতে পারে।

এআই বিপ্লবের সমস্যা

AI এর সাহায্যে মানবিক বিষয়গুলি পরিচালনা করার আরও ভাল উপায় তৈরি করা কিছু প্রভাব নিয়ে আসে।

চ্যাটজিপিটি এবং অন্যান্য উন্নত চ্যাটবটের মতো উচ্চ-স্তরের AI মডেলগুলির উত্থান ইতিমধ্যেই মানুষের চাকরির জন্য হুমকি হয়ে দাঁড়িয়েছে।

শীঘ্রই বা পরে, AI চুরি করে মানুষের কাজ হাইজ্যাক করবে বা তাদের ক্ষেত্রের অনেক কর্মীকে অকেজো করে দেবে।

এআই বিপ্লবী হওয়ার কারণে চাকরির ব্যাঘাত অনিবার্য বলে মনে করা হচ্ছে। কিন্তু এই AI মডেলগুলি মানুষের জীবনে অনুপ্রবেশ ঘটাতে এবং জিনিসের ক্রম পরিবর্তন করার জন্য মোড় নেয়।

এই নতুন প্রযুক্তিগুলির সাথে যুক্ত একটি সম্ভাব্য সমস্যা - চ্যাটজিপিটি এবং অন্যান্য চ্যাটবট - যেটি গুরুতর পর্যবেক্ষণের প্রয়োজন তা হল এই মডেলগুলি কীভাবে সামাজিক ব্যাঘাত ঘটাতে পারে৷

ওপেনএআই সিইও, স্যাম অল্টম্যানের মতে, চ্যাটজিপিটি-এর সাথে লড়াই করার একটি প্রধান সমস্যা হল পক্ষপাতের সমস্যা।

মানবীয় পক্ষপাতকে ChatGPT-এর একটি প্রধান সমস্যা হিসেবে চিহ্নিত করা হয়েছে, এবং অবশ্যই, এটি শুধুমাত্র OpenAI-এর ChatGPT-এর জন্য একচেটিয়া নয়।

অন্যান্য চ্যাটবট আছে যাদের বেছে নেওয়া মানুষের পছন্দের সমস্যা রয়েছে।

এআই বায়াস পরিসংখ্যান

টিডিওর গবেষণা দেখায় যে মাত্র 2% লোক মনে করে AI পক্ষপাত মুক্ত; বিপরীতে, 45% উত্তরদাতা মনে করেন AI এর প্রধান আধুনিক সমস্যা হল সামাজিক পক্ষপাত।

এর মানে হল ChatGPT-এর মতো AI চ্যাটবট এবং বাকিদের এখনও তাদের বিচার ও পরিচালনায় ন্যায্যতার অভাব রয়েছে। কারণ এই AI মডেলগুলি ব্যবহার করে মানুষের কুসংস্কার স্পষ্টতই উল্লেখযোগ্য।

এআই (মানব) পক্ষপাত কি?

AI পক্ষপাত হল একটি কৃত্রিম বুদ্ধিমত্তার সমস্যা যখন একটি মডেল অ্যালগরিদমকে প্রশিক্ষণ দেওয়ার জন্য পক্ষপাতমূলক ডেটা ব্যবহার করা হয়, যা শেষ পর্যন্ত মেশিনের বিচারকে প্রভাবিত করে।

AI-তে পক্ষপাতের ভূমিকা ব্যাখ্যা করে, ডেটা সায়েন্স অ্যান্ড এআই-এর প্রধান স্টিভ নুরি বলেছেন যে AI-তে মানুষের পক্ষপাত তিনটি রূপে রয়েছে: লিঙ্গ পক্ষপাত, জাতিগত কুসংস্কার এবং বয়স বৈষম্য৷

AI-তে মানুষের পক্ষপাতকে আপস করা ডেটা বা ডেভেলপারদের দায়িত্ব বলে মনে করা হয়।

এটি দেখায় যে চ্যাটবটের পক্ষে জাতিগত অপবাদ উসকে দেওয়া, ক্ষতিকারক বিবৃতি ছড়িয়ে দেওয়া, বা নির্দিষ্ট গোষ্ঠীর লোকেদের বিরুদ্ধে বৈষম্য করা প্রায় অসম্ভব।

একটি পক্ষপাতদুষ্ট অ্যালগরিদম বা মডেল দ্বারা ক্ষয়প্রাপ্ত ডেটা ছাড়া আছে.

2016 সালে মাইক্রোসফ্ট টুইটার চ্যাটবট, টে, জাতিগতভাবে পক্ষপাতদুষ্টতার অভিযোগে অভিযুক্ত হওয়ার পরে হঠাৎ বন্ধ হয়ে যাওয়া একটি ভাল উদাহরণ হতে হবে।

এমনকি সম্প্রতি চালু হওয়া OpenAI কথোপকথন মডেল, ChatGPT, মার্কিন যুক্তরাষ্ট্রের প্রাক্তন রাষ্ট্রপতি ডোনাল্ড ট্রাম্পের বিরুদ্ধে 'রক্ষণশীল বিরোধী পক্ষপাত ও ক্ষোভ " ধরে রেখে পক্ষপাতদুষ্ট বলে নিন্দা করা হয়েছে।

চ্যাটবটগুলিতে মানব পক্ষপাত কেন সামাজিক ব্যাঘাত ঘটাতে পারে

প্রাক্তন রাষ্ট্রপতি ডোনাল্ড ট্রাম্প সম্পর্কে ChatGPT যে রাজনৈতিক পক্ষপাতিত্বের কারণে সামাজিক মিডিয়াতে এআই মডেল এবং এর বিকাশকারী সংস্থা ওপেনএআই-এর উচ্চ সমালোচনা হয়েছিল।

বিস্তৃত বিরোধের প্রতিক্রিয়ায়, ওপেনএআই সিইও, স্যাম অল্টম্যান এই সমস্যাটি সম্বোধন করে ফেব্রুয়ারির শুরুতে টুইট করেছিলেন । স্যাম এর মতে, চ্যাটজিপিটি পক্ষপাত দূর করতে এবং এটিকে উন্নত করার জন্য সামঞ্জস্য চলছে।

তার টুইটগুলিতে, স্যাম স্বীকার করেছেন যে ওপেনএআই-এর কর্মীদের প্রতি "ঘৃণা" নির্দেশিত হয়েছে, যা তিনি "ভয়াবহ" বলে মনে করেছিলেন।

তিনি আরও প্রকাশ করেছেন যে তার কোম্পানি নিরপেক্ষতা প্রচারের জন্য চ্যাটবট ডিফল্ট সেটিং উন্নত করতে এবং ব্যবহারকারীদের ব্যক্তিগত পছন্দের উপর ভিত্তি করে সিস্টেমগুলি ব্যবহার করতে সক্ষম করার জন্য কাজ করছে।

কিন্তু এটা সহজে ঘটবে না। এমনকি স্যাম স্বীকার করেছেন যে প্রক্রিয়াটি কঠিন এবং বাস্তবায়নে সময় লাগবে।

ChatGPT-এর রাজনৈতিক পক্ষপাত ওপেনএআই-এর কর্মীদের উপর অযৌক্তিক আক্রমণের দিকে পরিচালিত করে। যেকোন পক্ষপাতদুষ্ট এআই মডেলের সামাজিক পরিণতিগুলি ওজন করার জন্য এটি যথেষ্ট ইঙ্গিত।

এআই পক্ষপাতিত্ব ব্যক্তি এবং সম্প্রদায়ের উপর মারাত্মক পরিণতি আরোপ করতে পারে। এটি মানুষের একটি গোষ্ঠীর অন্যায্য সমালোচনা বা বৈষম্যের দিকে নিয়ে যেতে পারে, যা পরোক্ষভাবে শত্রুতা বা সামাজিক বিস্ফোরণের জন্ম দেয়।

এই কারণেই এই মুহূর্তে পক্ষপাতগুলোকে উপেক্ষা না করে বরং কার্যকর সমাধানের দাবি করা গুরুত্বপূর্ণ ।

ঠিক যেমন স্যাম বলেছেন, "অন্যান্য লোকেদের আক্রমণ" AI ক্ষেত্রের অগ্রগতিতে সহায়তা করার ক্ষেত্রে কোনও উল্লেখযোগ্য প্রভাব ফেলে না। AI চ্যাটবট পক্ষপাত কমাতে সম্ভাব্য বিকল্পগুলির দিকে মনোযোগ দেওয়া উচিত।

কীভাবে এআই চ্যাটবটগুলিতে পক্ষপাত কমানো যায়

AI চ্যাটবটগুলিতে মানুষের পক্ষপাতিত্ব হয় পক্ষপাতমূলক অ্যালগরিদম বা ডেটা এবং মডেলগুলির বিকাশকারীদের ব্যবহার করার কারণে। AI-তে পক্ষপাতিত্ব প্রতিরোধ করতে, চ্যাটবট তৈরিতে নিম্নলিখিতগুলি অবশ্যই পালন করা উচিত:

বৈচিত্র্যময় উত্সের বিকাশকারীরা

AI-তে অ্যালগরিদম পক্ষপাত বা ডেটা পক্ষপাত বেশিরভাগই সম্ভব কারণ বিকাশকারীরা - যারা মানুষ - স্বাভাবিকভাবেই তাদের পদ্ধতিতে পক্ষপাতদুষ্ট।

সমজাতীয় ডেভেলপারদের একটি দলের পক্ষে একটি এআই মডেল তৈরি করা সহজ যা কিছু নির্দিষ্ট জীবন সংক্রান্ত বিষয়ে তাদের মতামত এবং দৃষ্টিভঙ্গিকে সমর্থন করে বা সমর্থন করে।

এটি যাতে না ঘটে তার জন্য, বিভিন্ন ডেটা বিজ্ঞানীদের একটি দল নিয়োগ করা প্রয়োজন যারা অ্যালগরিদমিক পক্ষপাতের পর্যবেক্ষণ এবং হ্রাসে সহায়তা করতে পারে।

সিন্থেটিক ডেটা ব্যবহার

AI মডেলগুলির দ্বারা প্রচুর পরিমাণে সেন্সরবিহীন ডেটা খরচ এটিকে পক্ষপাতদুষ্ট করে তোলে। চ্যাটবট পক্ষপাত দূর করার একটি উপায় হল মডেলটি ডেভেলপারদের দ্বারা পুঙ্খানুপুঙ্খভাবে পর্যবেক্ষণ করা সিন্থেটিক ডেটা ব্যবহার করে তা নিশ্চিত করা।

স্বচ্ছতা

চ্যাটজিপিটি দ্বারা আবিষ্কৃত পক্ষপাতের প্রতিক্রিয়া, ওপেনএআই সম্মত হয়েছে যে তার নতুন এআই চ্যাটবট এখনও "এর তথ্যগুলি সোজা রাখতে এবং কখনও কখনও ক্ষতিকারক নির্দেশাবলী জারি করতে সমস্যায় পড়েছে"।

AI কোম্পানী লোকেদের বলার জন্য পরিষ্কার করতে এসেছিল কেন চ্যাটবট এখনও গুরুত্বপূর্ণ বা সংবেদনশীল তথ্যের জন্য নির্ভর করা যায় না।

চ্যাটবটগুলিতে মানুষের পক্ষপাত রোধ করার জন্য এটি স্বচ্ছতার একটি রূপ। মডেলের দুর্বলতাগুলি উল্লেখ করে, সামাজিক ব্যাঘাত বৃদ্ধির আগে নিয়ন্ত্রণ করা যেতে পারে।

বিকাশের আগে এবং পরে মডেল পরীক্ষা করা

ঠিক যেমন বলা হয়েছে, ডেভেলপারদের অবশ্যই মডেলটি তৈরি হওয়ার আগে এবং পরে পরীক্ষা করা উচিত।

এটি চ্যাটবটের কার্যাবলী মূল্যায়ন করতে এবং পরীক্ষার কারণ হতে পারে এমন যেকোনো ধরনের পক্ষপাতের সমাধান করতে দীর্ঘ সময় নিতে পারে।

AI চ্যাটবটের কাজ করার জন্য ডেটা বিজ্ঞানীদেরকে ঘনিষ্ঠভাবে অধ্যয়ন করার অনুমতি দেওয়া এবং মডেলটি কীভাবে প্রতিক্রিয়া জানাবে বা এটি যে তথ্যের অবনতি ঘটায় তা তৈরি করবে তা নিখুঁত করার জন্য বিকাশের পরে পরিচালনা করা একটি বাধ্যতামূলক পরীক্ষা হওয়া উচিত।

উপসংহার

চ্যাটজিপিটি, অন্যান্য চ্যাটবটের মতো, এখনও মানুষের পক্ষপাত মুক্ত হওয়া থেকে অনেক দূরে। এটি একটি মৌলিক সমস্যা যা AI দ্বারা প্রশিক্ষিত ডেটা এবং ডেভেলপারদের ব্যক্তিগত পছন্দ উভয় দ্বারাই তৈরি হয়েছে৷

একবার বিকাশকারী এবং ডেটা সায়েন্স দলগুলি এই AI মডেলগুলির দ্বারা ব্যবহৃত ডেটা সংগ্রহের ক্ষেত্রে তাদের দৃষ্টিভঙ্গিতে ক্লিনিকাল এবং উদ্দেশ্যমূলক হতে শুরু করলে, AI পক্ষপাত বিলুপ্তির পথে যাত্রা শুরু করবে।