Jan 01, 1970
2,340 পড়া
যখন এআই দুর্বৃত্ত হয় - মাইক্রোসফ্টের বিং চ্যাটের কৌতূহলী ঘটনা
অতিদীর্ঘ; পড়তে
মাত্র তিন মাসে, ChatGPT আমাদের বিশ্বকে বদলে দিয়েছে। জেনারেটিভ কথোপকথনমূলক বট এবং অন্যান্য এআই সিস্টেমের জন্য ব্যবসায় বিঘ্নিত করতে, গ্রাহকের অভিজ্ঞতা বাড়াতে, সমাজকে রূপান্তরিত করতে এবং উদ্ভাবনী সুযোগ তৈরি করতে প্রচুর সম্ভাবনা রয়েছে। যাইহোক, এআই সিস্টেমগুলি দুর্বৃত্ত হতে পারে যদি সেগুলিকে উন্নত এবং নিরাপদে এবং দায়িত্বের সাথে স্থাপন করা না হয়। দুর্বৃত্ত AI ব্যবহারকারী এবং সমাজের জন্য গুরুতর ঝুঁকি তৈরি করতে পারে। AI ডেভেলপার এবং AI সিস্টেম ব্যবহারকারী ব্যবসা দায়বদ্ধ হতে পারে যদি তাদের AI সিস্টেম ক্ষতি বা ক্ষতি করে। AI সিস্টেমগুলি উদ্দেশ্য অনুযায়ী আচরণ করে তা নিশ্চিত করা AI বিকাশকারী, ব্যবহারকারী এবং নীতিনির্ধারকদের সম্মিলিত দায়িত্ব জড়িত। উপযুক্ত প্রযুক্তিগত, অ-প্রযুক্তিগত এবং নিয়ন্ত্রক ব্যবস্থাগুলি অবশ্যই নিশ্চিত করতে হবে যে AI এমনভাবে তৈরি এবং স্থাপন করা হয়েছে যা নিরাপদ, সুরক্ষিত এবং সমাজের জন্য উপকারী।ChatGPT-এর প্রকাশ এবং ব্যাপকভাবে গ্রহণের পরে, অনেক লোক এর বিঘ্নকারী শক্তিকে ছাড় দেওয়ার চেষ্টা করেছে তা হল আর্টিফিশিয়াল ইন্টেলিজেন্স (AI) মডেলের আবেগ প্রক্রিয়া করার ক্ষমতা নেই।
এটা মেনে নেওয়া বেশ কঠিন যে চ্যাটজিপিটি দ্বারা উত্পাদিত কিছু কবিতা বা মিডজার্নি দ্বারা নির্মিত চিত্রগুলিতে শৈল্পিক গভীরতা বা সৃজনশীল আত্মার অভাব থাকে যখন এই জাতীয় কাজ পেশাদার শিল্পীদের মুগ্ধ করে।
যদি সাম্প্রতিক
AI-তে আবেগীয় বুদ্ধিমত্তা
জেনারেটিভ কথোপকথনমূলক এআই মডেলগুলি মানুষের আবেগকে চিনতে, ব্যাখ্যা করতে এবং যথাযথভাবে প্রতিক্রিয়া জানাতে ডিজাইন করা হয়েছে।
হিউম্যান ফিডব্যাক (RHLF) থেকে রিইনফোর্সমেন্ট লার্নিং এর ব্যবহার এআই সিস্টেমকে নতুন বা বিভিন্ন পরিস্থিতিতে মানিয়ে নিতে মানুষের মিথস্ক্রিয়া থেকে শেখা আচরণ ব্যবহার করে প্রসঙ্গ প্রক্রিয়া করতে সাহায্য করে।
মানুষের কাছ থেকে প্রতিক্রিয়া গ্রহণ করার ক্ষমতা এবং বিভিন্ন পরিস্থিতিতে তাদের প্রতিক্রিয়া উন্নত করার ক্ষমতা মানসিকভাবে বুদ্ধিমান আচরণকে বোঝায়।
মানসিক বুদ্ধিমত্তা AI-তে জনপ্রিয় হয়ে উঠছে কারণ আরও AI সিস্টেম মানুষের সাথে যোগাযোগ করার জন্য ডিজাইন করা হয়েছে। AI-তে সংবেদনশীল বুদ্ধিমত্তা অন্তর্ভুক্ত করা ডেভেলপারদের এমন সিস্টেম তৈরি করতে সাহায্য করে যা আরও মানুষের মতো এবং মানুষের চাহিদা এবং আবেগকে আরও ভালভাবে বুঝতে এবং প্রতিক্রিয়া জানাতে পারে।
কোকো, একটি অনলাইন ইমোশনাল সাপোর্ট চ্যাট অ্যাপ ব্যবহার করা হয়েছে
সফল ফলাফল আরও প্রমাণ করেছে যে এআই মডেলগুলি পার্থক্যটি না জেনেই মানব প্রতিপক্ষদের বুদ্ধিমত্তার সাথে আবেগ প্রক্রিয়া করতে পারে।
নৈতিক বা গোপনীয়তা আছে
বিং চ্যাট দুর্বোধ্যভাবে ব্যক্তিগত হয়ে ওঠে
চ্যাটজিপিটি-এর ব্যাপক গ্রহণযোগ্যতা এবং দুর্দান্ত সাফল্য, মাইক্রোসফ্ট
বিং চ্যাট নামেও পরিচিত, চ্যাটবটটি ওপেনএআই-এর জেনারেটিভ কথোপকথনমূলক এআই মডেলকে মাইক্রোসফটের মালিকানাধীন মডেলের সাথে একীভূত করে একটি "ক্ষমতা এবং কৌশলের সংগ্রহ" তৈরি করে যা প্রমিথিউস মডেল নামে পরিচিত।
মডেলটিকে "নতুন, পরবর্তী প্রজন্মের ওপেনএআই বৃহৎ ভাষার মডেল যা ChatGPT-এর চেয়ে বেশি শক্তিশালী" বলে কটূক্তি করা হয়েছে। ChatGPT-এর প্রশিক্ষণ ডেটা 2021-এর মধ্যে সীমাবদ্ধ, এবং টুলটি ইন্টারনেটের সাথে সংযুক্ত নয়।
যাইহোক, বিং চ্যাট একটি প্রম্পটে এর প্রতিক্রিয়া বৃদ্ধি করতে ইন্টারনেট থেকে ডেটা টেনে কথোপকথনকে পরবর্তী স্তরে নিয়ে যায়।
এর প্রতিক্রিয়ায় বর্তমান তথ্য এবং রেফারেন্সগুলিকে সংযোজন করার ক্ষমতা শুধুমাত্র মাইক্রোসফ্টের চ্যাটবটই করতে পারে না। এটি অত্যন্ত দৃঢ় দৃষ্টিভঙ্গি ধারণ করার জন্য এবং অপ্রত্যাশিতভাবে আক্রমনাত্মক আচরণ করার জন্য কুখ্যাত।
যেখানে তা হয়নি
বিপরীতে, ChatGPT একটি "মনোভাব" না দিয়ে একই প্রশ্নের উত্তর দিয়েছে।
বিনিময় হল একটি ইঙ্গিত যে AI ইচ্ছা এবং চাহিদা প্রকাশ করতে পারে যা সাধারণ মানুষের আবেগ।
কি কারণে এআই দুর্বৃত্ত হতে পারে?
একটি দুর্বৃত্ত AI হল একটি AI মডেল যা এমনভাবে আচরণ করে যা এটিকে কীভাবে প্রশিক্ষিত করা হয়েছিল তা থেকে বিচ্যুত হয়। যখন একটি AI সিস্টেম অপ্রত্যাশিতভাবে আচরণ করে, তখন এটি তার ব্যবহারকারীদের জন্য ঝুঁকি তৈরি করে এবং সম্ভাব্য ক্ষতির কারণ হতে পারে।
একটি এআই সিস্টেম অনিয়মিত আচরণ করতে পারে এমন বেশ কয়েকটি কারণ রয়েছে, বিশেষত যদি এটি একটি অপ্রত্যাশিত পরিস্থিতির মুখোমুখি হয়।
অপর্যাপ্ত প্রশিক্ষণ ডেটা, ত্রুটিপূর্ণ অ্যালগরিদম এবং পক্ষপাতদুষ্ট ডেটার ফলে একটি এআই সিস্টেম দুর্বৃত্ত হতে পারে।
একটি এআই সিস্টেম কীভাবে সিদ্ধান্ত নেয় তাতে স্বচ্ছতার অভাব এবং এর ক্রিয়া এবং সিদ্ধান্তের জন্য জবাবদিহিতার অনুপস্থিতি এমন কারণ যা এআই মডেলগুলিকে খারাপ আচরণ করতে পারে।
হুমকি অভিনেতা যারা সফলভাবে একটি AI সিস্টেম হ্যাক করে তারা এটিকে ম্যালওয়্যার ইনজেকশন বা প্রশিক্ষণের ডেটা বিষাক্ত করে একটি অনিচ্ছাকৃত উপায়ে আচরণ করতে পারে।
AI এর হুমকিমূলক আচরণের নৈতিক এবং আইনি প্রভাব
গুগল উদ্ধৃত করেছে "
যাইহোক, বিঘ্নিত ChatGPT-এর চাপের কারণে, Google Bard প্রকাশ করেছে যার প্রথম পাবলিক ডেমোতে ভুল প্রতিক্রিয়া দেওয়ার জন্য টেক জায়ান্ট $100 বিলিয়ন খরচ হয়েছে।
2022 সালে, মেটা প্রকাশ করেছে
2016 সালে, মাইক্রোসফ্ট তার AI চ্যাটবট, Tay, তার লঞ্চের এক সপ্তাহের মধ্যে প্রত্যাহার করেছিল কারণ এটি স্ফীউ করছিল
তবে, বিং চ্যাটের হুমকিমূলক আচরণ সত্ত্বেও, মাইক্রোসফ্ট উপেক্ষা করেছে
এআই সিস্টেমগুলি কীভাবে তৈরি এবং ব্যবহার করা হয় সে সম্পর্কে নৈতিক এবং আইনি উদ্বেগ রয়েছে।
যদিও কোকোর একটি চ্যাটবট ব্যবহার একটি নৈতিক প্রভাব ছিল, বৈষম্যমূলক অনুশীলন এবং মানবাধিকার লঙ্ঘনের মতো উদাহরণ রয়েছে যেখানে এআই-চালিত প্রযুক্তিগুলি মামলার কারণ হয়েছে।
যাইহোক, যখন AI দুর্বৃত্ত হয়ে যায় এবং ক্ষতির হুমকি দেয়, যেমন Bing চ্যাটের ক্ষেত্রে তা ভিন্ন। আইনি প্রভাব থাকতে হবে? আর যদি থাকে, তাহলে কার বিরুদ্ধে মামলা হচ্ছে? যখন কোনো এআই সিস্টেম ক্ষতি বা ক্ষতির কারণ হয় তখন দোষ, জবাবদিহিতা এবং দায় নির্ধারণ করা চ্যালেঞ্জিং।
কপিরাইট আছে
যদি AI ল্যাবরেটরি এবং কোম্পানিগুলির বিরুদ্ধে চলমান মামলাগুলিকে প্রাধান্য হিসাবে নেওয়া হয়, তবে এটি অনুমান করা নিরাপদ যে দুর্বৃত্ত AI এর বিকাশকারীরা তাদের AI সিস্টেমগুলি কীভাবে খারাপ আচরণ করে তার জন্য দায়বদ্ধ হতে পারে।
যে সংস্থাগুলি এখনও চিন্তা করছে যে তাদের AI প্রযুক্তি দুর্বৃত্ত হয়ে গেলে তাদের দায়বদ্ধ করা হবে কিনা, ইইউ এর কৃত্রিম বুদ্ধিমত্তা আইন রয়েছে
কীভাবে এআই-তে অনিয়মিত আচরণ প্রতিরোধ করবেন
AI সিস্টেমগুলি কীভাবে আচরণ করে তা নিশ্চিত করার দায়িত্ব ডেভেলপার এবং ব্যবসায়িকদের তাদের ক্রিয়াকলাপে ব্যবহার করে।
ডেটা সুরক্ষা নিশ্চিত করার মতো আরও, ব্যবসা এবং পরীক্ষাগারগুলিকে নিশ্চিত করতে হবে যে AI ডেটা এবং কোডগুলির অননুমোদিত ম্যানিপুলেশন প্রশমিত করার জন্য উপযুক্ত নিয়ন্ত্রণগুলি প্রয়োগ করা হয়েছে।
দুর্বৃত্ত এআই প্রতিরোধের জন্য প্রযুক্তিগত এবং অ-প্রযুক্তিগত ব্যবস্থার সমন্বয় প্রয়োজন। এর মধ্যে রয়েছে শক্তিশালী পরীক্ষা, স্বচ্ছতা, নৈতিক নকশা এবং শাসন।
এআই সিস্টেমে অননুমোদিত অ্যাক্সেস রোধ করা নিশ্চিত করতে পর্যাপ্ত সাইবার নিরাপত্তা ব্যবস্থা যেমন অ্যাক্সেস নিয়ন্ত্রণ, দুর্বলতা ব্যবস্থাপনা, নিয়মিত আপডেট, ডেটা সুরক্ষা এবং কার্যকর ডেটা ব্যবস্থাপনা অত্যন্ত গুরুত্বপূর্ণ।
মানব তদারকি এবং বিভিন্ন স্টেকহোল্ডার যেমন AI ডেভেলপার, গবেষক, নিরীক্ষক, আইনি অনুশীলনকারী এবং নীতিনির্ধারকদের সাথে সহযোগিতা নিশ্চিত করতে সাহায্য করতে পারে যে AI মডেলগুলি নির্ভরযোগ্য এবং দায়িত্বের সাথে বিকশিত হয়েছে।
দায়িত্বশীল এআই ফেভারস সোসাইটি
মাত্র তিন মাসে, ChatGPT আমাদের বিশ্বকে বদলে দিয়েছে। জেনারেটিভ কথোপকথনমূলক বট এবং অন্যান্য এআই সিস্টেমের জন্য ব্যবসায় বিঘ্নিত করতে, গ্রাহকের অভিজ্ঞতা বাড়াতে, সমাজকে রূপান্তরিত করতে এবং উদ্ভাবনী সুযোগ তৈরি করতে প্রচুর সম্ভাবনা রয়েছে।
যাইহোক, এআই সিস্টেমগুলি দুর্বৃত্ত হতে পারে যদি সেগুলিকে উন্নত এবং নিরাপদে এবং দায়িত্বশীলভাবে স্থাপন করা না হয়। দুর্বৃত্ত AI ব্যবহারকারী এবং সমাজের জন্য গুরুতর ঝুঁকি সৃষ্টি করতে পারে। AI ডেভেলপার এবং AI সিস্টেম ব্যবহারকারী ব্যবসা দায়বদ্ধ হতে পারে যদি তাদের AI সিস্টেম ক্ষতি বা ক্ষতি করে।
AI সিস্টেমগুলি উদ্দেশ্য অনুযায়ী আচরণ করে তা নিশ্চিত করা AI বিকাশকারী, ব্যবহারকারী এবং নীতিনির্ধারকদের সম্মিলিত দায়িত্ব জড়িত।
উপযুক্ত প্রযুক্তিগত, অ-প্রযুক্তিগত, এবং নিয়ন্ত্রক ব্যবস্থাগুলি অবশ্যই নিশ্চিত করতে হবে যে AI এমনভাবে বিকশিত এবং স্থাপন করা হয়েছে যা নিরাপদ, সুরক্ষিত এবং সমাজের জন্য উপকারী।
L O A D I N G
. . . comments & more!
. . . comments & more!
