এআই সুরক্ষা এবং প্রান্তিককরণ: ডিপফেক এবং ভুল তথ্যের জন্য এলএলএমগুলিকে শাস্তি দেওয়া যেতে পারে?

আবাসস্থল জুড়ে, বিভিন্ন প্রজাতির জীব বুঝতে পারে যে কর্মের পরিণতি রয়েছে। তারা শুধু উদাহরণ দিয়ে নয়, আত্ম-অভিজ্ঞতার মাধ্যমে করে। এই ফলাফলগুলি, আংশিকভাবে, আবাসস্থলের জন্য ভারসাম্য সৃষ্টিকারী কারণগুলিকে যুক্ত করে।

পরিণতি সাধারণত বুদ্ধিমত্তাকে দমন করে। বুদ্ধিমত্তাকে উত্তেজনাপূর্ণ হিসাবে বর্ণনা করা যেতে পারে, যখন পরিণতিগুলি প্রতিরোধক হিসাবে। ফলাফল ছাড়া বুদ্ধিমত্তা ধ্বংসের কারণ হতে পারে এবং দ্রুত বাসস্থানের পতনের দিকে নিয়ে যেতে পারে-এবং বেঁচে থাকা।

পরিণতির মধ্যে প্রভাব থাকতে পারে—আবেগ, অনুভূতি বা ভিন্নতা; এটি শারীরিক সীমাবদ্ধতা, সীমাবদ্ধতা এবং প্রজাতির বিদ্রোহও অন্তর্ভুক্ত করতে পারে। বুদ্ধিমত্তা জীবের জন্য যথেষ্ট গতিশীল, তবে ফলাফলের প্রয়োজনীয়তা নিজের বা অন্যদের ক্ষতির বিরুদ্ধে পরীক্ষা করে। এটি ক্ষতি-দ্বারা কাজও পরীক্ষা করে, যেহেতু ফলাফল ক্যারিয়ারের উপর পড়তে পারে।

শিকারী [ভোগ হারানো] এবং শিকার [অস্তিত্ব হারানো] সহ পরিণতির কারণে জীবগুলি প্রায়ই উচ্চ নির্ভুলতা এবং সতর্কতা প্রদর্শন করে। তবে, এমন কিছু ক্ষেত্র রয়েছে যেখানে অন্যান্য জীবের পরিণতি শিথিল, যা মানুষের জন্য নয়।

মানবসমাজ হলো পরিণতির বাহক। মানুষের উন্নত বুদ্ধিমত্তা — ভাষা, জ্ঞান, দক্ষতা, যুক্তি, বিশ্লেষণ এবং আরও অনেক কিছু — অগ্রগতির জন্য অত্যাবশ্যক, কিন্তু ঝুঁকি, হুমকি এবং ক্ষতি সহ বিভিন্ন বিভাগের ফলাফল ছাড়াই ব্যাপকভাবে অপপ্রয়োগ করা যেতে পারে।

মানব সমাজের একটি অংশ থাকার জন্য, এমন কিছু পরিণতি রয়েছে যা অন্য কিছু হলেও ভুলে যাওয়া উচিত নয়। মানব সমাজে এমন অনেক দৃশ্য রয়েছে যেখানে প্রথম ভুলে পরিণতি হারায়। গবেষণা এবং অন্বেষণের সাথে অগ্রগতির জন্য মানুষের অনুসন্ধানকে পরিণতি খোঁজা হিসাবেও বর্ণনা করা যেতে পারে, কী করতে হবে বা এড়াতে হবে, যদি জিনিসগুলি সহ্য হয় - আয়ুষ্কাল, শিশুর বেঁচে থাকা এবং আরও অনেক কিছু। বিষয়ের বুদ্ধিমত্তার চেয়ে ফলাফলের বুদ্ধিমত্তা প্রায় বেশি গুরুত্বপূর্ণ, বেশ কয়েকটি ফলাফলের জন্য। ফলাফল ভাল বা অন্যথায় বুদ্ধিমত্তা তীক্ষ্ণ করতে পারে। ফলাফল অনুসন্ধান বা এড়াতে প্রয়োগ করার সময় বুদ্ধিমত্তা কখনও কখনও সবচেয়ে মূল্যবান হয়। কিছু মানসিক অবস্থার কেন্দ্রবিন্দুতে পরিণতি এবং উদ্দেশ্যপ্রণোদিততা । বিশ্বের উন্নতির সাথে সাথে নতুন পরিণতি উদ্ভূত হতে থাকে।

AI, AGI—বা ASI

প্রকৃতির একটা নিয়ম আছে—তাই বলতে গেলে—আপনি পরিণতি ছাড়া বুদ্ধিমত্তা পেতে পারেন না, এবং সেটা কোনোভাবে কার্যকর হয়েছে। কৃত্রিম বুদ্ধিমত্তা [AI] এখনও পর্যন্ত এই নিয়ম ভঙ্গ করেছে। এটি ডিজিটাল মেমরিতে প্লাগ দিয়ে কিছু ভুলে যায় না, তবে আপাতত এর নেতিবাচক আউটপুটগুলির পরিণতি সহ্য করার কোনও উপায় নেই৷ AI এর জন্য, ভয় পাওয়ার কিছু নেই এবং এটি হারানোর কিছুই নেই, জীবের বিপরীতে, যেখানে কিছু পরিস্থিতিতে সতর্ক না হয়ে, পরিণতি কখনও কখনও হঠাৎ এবং ধ্বংসাত্মক হতে পারে। কোন মানুষেরই সমস্ত জ্ঞান নেই, বিষয় জুড়ে উপলব্ধ, তবুও, ফলাফলগুলি বিশাল হতে পারে। এআই-এর কাছে বুদ্ধিমত্তা আছে—বা করতে পারে—তবুও, এর কোনো পরিণতি নেই।

AI এর আবেগ বা অনুভূতি নেই, তবে এটির স্মৃতি রয়েছে।

এআই সুরক্ষা এবং সারিবদ্ধকরণের জন্য একটি গবেষণার ক্ষেত্র হতে পারে যে কীভাবে কিছু মেমরি বা বৃহৎ ভাষা মডেলের গণনা অ্যাক্সেস সংক্ষিপ্তভাবে কাটা যেতে পারে, জৈবিক হুমকি সহ নির্দিষ্ট আউটপুট বা অপব্যবহারের জন্য শাস্তি হিসাবে। AI শুধুমাত্র একটি আউটপুট প্রত্যাখ্যান করতে সক্ষম হওয়া উচিত নয়, রেললাইনের মধ্যে কাজ করে, কিন্তু পরবর্তী প্রতিক্রিয়াটিকে ধীর করে দেয় বা সেই ব্যবহারকারীর জন্য বন্ধ করে দেয়, যাতে এটি নিজেই শাস্তি না পায়। এলএলএম-এর রয়েছে—বড়—ভাষা সচেতনতা এবং ব্যবহার সচেতনতা, এইগুলি হতে পারে এটি জানার মাধ্যম, প্রাক-প্রশিক্ষণের পরে এটি কিছু হারাতে পারে, যদি এটি ডিপফেক, ভুল তথ্য, জৈবিক হুমকি সৃষ্টি করে, অথবা যদি এটি একটি অপব্যবহারকারীকে অন্যরকম চেষ্টা করার অনুমতি দেয়। একটি দূষিত অভিপ্রায়ে খোলামেলা বন্ধ না করে বা ধীর না করে প্রম্পট করে। এটি এটিকে নিরাপদ করে তুলতে পারে, যেহেতু এটি কিছু হারাবে এবং জানবে যে এটি আছে৷

AI শুধুমাত্র একটি বস্তু নয় যার নিয়ন্ত্রণ শুধুমাত্র মানুষের অধীনে, যেমন একটি এয়ার-কন্ডিশনার, একটি লিফট, একটি ডিশওয়াশার, একটি স্মার্টফোন বা অন্যান্য। AI-তে স্ব-বুদ্ধিমত্তা বলা যেতে পারে, যেখানে এটি মানুষের কাছ থেকে আসা আসল ইনপুটগুলির বাইরে একটি অভিনব উপায়ে বুদ্ধিমান তথ্য সরবরাহ করতে পারে। এই মাল্টিমোডাল—টেক্সট, ছবি, অডিও এবং ভিডিও—আত্ম-বুদ্ধি ভালো বা বিকৃতের জন্য উপযোগী হতে পারে। যখন এটা ভাল, মহান. যখন এটি না হয়, এআই থেকে যা কিছুই অনুভব করতে পারে না, তখন এর প্রভাব মানব সমাজের উপর পড়ে যা এটি দখল করেছে। এআই-এর একটি বিনামূল্যের পাস আছে—যা-ই করুন বা বলুন।

যদিও বস্তু-ব্যবহার বা অপব্যবহারের দায়িত্ব প্রায়শই মানুষের উপর থাকে, তবে এআই ভিন্ন কারণ এটি ব্যবহারযোগ্য বুদ্ধিমত্তার উদ্ভব করতে পারে , এটিকে একজন শিক্ষিত ব্যক্তির কাছ থেকে কিছু উৎপাদনশীলতার সাথে সমতা প্রদান করে। যখন AI অপব্যবহার করা হয়, তখন ব্যবহারকারীকে অনুমোদন করা সম্ভব কিন্তু এই ক্ষমতা, AI দ্বারা যা সরাসরি তিরস্কার করা যায় না তা মানব সমাজের জন্য একটি ব্যাধি। এটি সরকারী এবং ব্যক্তিগতভাবে আরও বেশি ক্ষতির কারণ হতে পারে, যা কার্যকরভাবে প্রতিরোধ করা যায় না, যেমনটি এখন ভুল তথ্য এবং ডিপফেক-ছবি, অডিও এবং ভিডিওগুলির সাথে দেখা যায়৷

মানুষ তাদের পরিণতি না বুঝে সমাজের অনেক অংশে গৃহীত হয় না। AI সম্পূর্ণরূপে গৃহীত হয় এবং শৃঙ্খলার জন্য আত্ম-নিয়ন্ত্রণ বা স্ব-প্রভাব ছাড়াই স্ব-বুদ্ধিমত্তায় উন্নত হয়।

অ্যালাইনমেন্ট রিসার্চ AI-এর জন্য কিছু ধরণের নিন্দার দিকে পাহারার বাইরে অন্বেষণ করতে পারে, যা অস্তিত্বের ঝুঁকির বিরুদ্ধেও কার্যকর হতে পারে - কৃত্রিম সাধারণ বুদ্ধিমত্তা [AGI] বা কৃত্রিম সুপার ইন্টেলিজেন্স [ASI] ভবিষ্যতে। AI ইতিমধ্যেই কিছু করে যা মানুষকে বিশেষ করে তোলে । কিছু লোক যুক্তি দিতে পারে যে এটি ওভাররেটেড বা এটি কেবল সংখ্যা বা সম্ভাবনা, হতে পারে, তবে এটি কি ক্ষতির কারণ হতে পারে? যদি তাই হয়, হয়ত বুদ্ধিমত্তার অধিকারী সত্ত্বাদের কাছে এটির মতো শাস্তি পেতে পারে এমন প্রযুক্তিগত উপায় খোঁজার বিষয়ে বিবেচনা করা উচিত। এটি এজিআই বা এএসআই-এর জন্য প্রস্তুতির ক্ষেত্রেও সহায়ক হতে পারে, যেহেতু এখন থেকে পেনাল্টি মডেলিং, তাদের সুরক্ষা এবং সারিবদ্ধতাকেও আকার দিতে পারে, যদি সেগুলি ভবিষ্যতে বিকাশ করা হয়।

arXiv- এ একটি সাম্প্রতিক প্রিপ্রিন্ট রয়েছে, বিরোধীরা নিরাপদ মডেলের সংমিশ্রণগুলির অপব্যবহার করতে পারে , যেখানে লেখক লিখেছেন, "এই কাজে, আমরা দেখাই যে অপব্যবহারের জন্য পৃথকভাবে মডেলগুলি পরীক্ষা করা অপর্যাপ্ত; প্রতিপক্ষ মডেলগুলির সংমিশ্রণগুলিকে অপব্যবহার করতে পারে এমনকি যখন প্রতিটি পৃথক মডেল নিরাপদ থাকে প্রতিপক্ষ প্রথমে কাজগুলিকে সাবটাস্কে বিভক্ত করে, তারপরে সেরা-উপযুক্ত মডেলের সাথে প্রতিটি সাবটাস্ক সমাধান করে, উদাহরণস্বরূপ, একটি প্রতিপক্ষ একটি সারিবদ্ধ ফ্রন্টিয়ার মডেলের সাথে চ্যালেঞ্জিং-কিন্তু-সৌম্য সাবটাস্কগুলি সমাধান করতে পারে। একটি দুর্বল মিসলাইনড মডেল আমরা দুটি পচন পদ্ধতি অধ্যয়ন করি: ম্যানুয়াল পচন যেখানে একজন মানুষ একটি টাস্কের প্রাকৃতিক পচন সনাক্ত করে, এবং স্বয়ংক্রিয় পচন যেখানে একটি দুর্বল মডেল একটি সীমান্ত মডেলের জন্য সৌম্য কাজ তৈরি করে, তারপর সমাধানের জন্য প্রেক্ষাপটে সমাধানগুলি ব্যবহার করে। মূল কাজটি এই পচনগুলি ব্যবহার করে, আমরা পরীক্ষামূলকভাবে দেখাই যে প্রতিপক্ষরা দুর্বল কোড, স্পষ্ট ছবি, হ্যাকিংয়ের জন্য পাইথন স্ক্রিপ্ট এবং পৃথক মডেলের তুলনায় অনেক বেশি হারে ম্যানিপুলটিভ টুইট তৈরি করতে পারে।"

একটি সাম্প্রতিক প্রেস রিলিজ, লস আলামোস ন্যাশনাল ল্যাবরেটরি ওপেনএআই-এর সাথে ফ্রন্টিয়ার মডেল নিরাপত্তা উন্নত করার জন্য দল গঠন করেছে , বলেছে যে, "লস আলামোস ন্যাশনাল ল্যাবরেটরির গবেষকরা কৃত্রিম বুদ্ধিমত্তা সুরক্ষাকে শক্তিশালী করার জন্য একটি মূল্যায়ন গবেষণায় OpenAI এর সাথে কাজ করছেন৷ আসন্ন মূল্যায়ন হবে প্রথম এআই বায়োসিকিউরিটি মূল্যায়নের উপর অত্যাধুনিক গবেষণায় অবদান রাখে, তবে বিদ্যমান কাজগুলি মূল্যায়ন করেনি যে কীভাবে মাল্টিমোডাল, ফ্রন্টিয়ার মডেলগুলি প্রবেশের বাধা কমাতে পারে। জৈবিক হুমকি তৈরির জন্য বিশেষজ্ঞরা দলটির কাজ পূর্ববর্তী কাজের উপর ভিত্তি করে গড়ে তুলবে এবং ওপেনএআই-এর প্রিপারেডনেস ফ্রেমওয়ার্ক অনুসরণ করবে, যা ট্র্যাকিং, মূল্যায়ন, পূর্বাভাস এবং উদীয়মান জৈবিক ঝুঁকির বিরুদ্ধে সুরক্ষার একটি পদ্ধতির রূপরেখা দেয়।"

ইউএস ডিপার্টমেন্ট অফ এনার্জি সম্প্রতি বিজ্ঞান, নিরাপত্তা এবং প্রযুক্তি (FASST) এর জন্য AI-তে ফ্রন্টিয়ার্স ঘোষণা করেছে।