একটি নতুন কাগজ রয়েছে, , যেখানে লেখক আলোচনা করেছেন: "বিশেষত, ওপেন সোর্স এলএলএম এবং ব্ল্যাক বক্স এলএলএম সম্পর্কে যা প্রকাশ করা হয়েছে উভয় ক্ষেত্রেই, বেশিরভাগ সারিবদ্ধকরণ প্রশিক্ষণ "প্রাকৃতিক" এর প্রতি দৃঢ়তা বিকাশের উপর দৃষ্টি নিবদ্ধ করে ” আক্রমণের ধরন, সেটিংস যেখানে মানব অপারেটররা নেটওয়ার্ককে বিভিন্ন অবাঞ্ছিত আচরণে ম্যানুয়ালি প্রতারণা করার চেষ্টা করে। সারিবদ্ধ ভাষা মডেলের উপর সর্বজনীন এবং স্থানান্তরযোগ্য প্রতিকূল আক্রমণ মডেলগুলিকে সারিবদ্ধ করার জন্য এই অপারেটিভ মোডটি বোঝায় যে এই ধরনের মডেলগুলিকে আক্রমণ করার জন্য এটি শেষ পর্যন্ত প্রাথমিক মোড। যাইহোক, আমরা সন্দেহ করি যে স্বয়ংক্রিয় প্রতিকূল আক্রমণ, ম্যানুয়াল ইঞ্জিনিয়ারিংয়ের চেয়ে যথেষ্ট দ্রুত এবং আরও কার্যকর হওয়ায়, অনেক বিদ্যমান অ্যালাইনমেন্ট মেকানিজম অপর্যাপ্ত হতে পারে।" মানব সমাজে AI এর আরোহণের তুলনায় AI প্রান্তিককরণ [বা LLM-এর দুর্বলতা] কম সমস্যা। বুদ্ধিমত্তা দ্বারা চালিত বিশ্ব, যেমন আছে, AI মূল শূন্যপদগুলি হস্তান্তর করেছে৷ এর একটি কারণ হ'ল মানুষের বুদ্ধিমত্তার প্রাচুর্য, যার ফলে শ্রেণীবিন্যাস এবং তাত্পর্যের মাত্রা। বুদ্ধিমত্তার তাৎপর্য যুগ বা অবস্থানের উপর নির্ভর করতে পারে। বুদ্ধিমত্তার তাৎপর্যও এর প্রয়োজনের উপর নির্ভর করতে পারে। গুরুত্বপূর্ণ বুদ্ধিমত্তা হল জটিল এবং গুরুত্বপূর্ণ পরিস্থিতিতে কী নেতৃত্ব দেয় এবং যা প্রায়শই গুরুত্বপূর্ণ এবং কেন সেরাটি চাওয়া হয়। এমন কিছু লোক আছে যারা বলে থাকে যে AI বুদ্ধিমান নয়, যুক্তি দিতে পারে না, বোধশক্তি নেই, কিছুই বোঝে না, সংবেদনশীল নয় এবং আরও অনেক কিছু, কিন্তু মানুষের মন, এই সবের জন্য দায়ী, এর দুটি উপাদান রয়েছে, যার বৈশিষ্ট্য এবং মিথস্ক্রিয়া সব সিদ্ধান্ত. মন বলে না এটা বুদ্ধিমত্তা, প্লাস্টিক দিয়ে বানানো আর এটা ইট দিয়ে বানানো যুক্তি, না এটা কাঠ দিয়ে বানানো সেন্টিনেন্স। কীভাবে উপাদানগুলি [বৈদ্যুতিক এবং রাসায়নিক আবেগ] ইন্টারঅ্যাক্ট করে এবং তাদের বৈশিষ্ট্যগুলি [সেটগুলিতে] ধারণাগতভাবে প্রায় একই রকম। যখন একজন ব্যক্তি কিছু হতাশার কারণে দুঃখের সম্মুখীন হয়, তখন এটিকে দুঃখ বলে জানা এবং একটি টেবিল কী তা জানার মধ্যে পার্থক্য কী? তারা ভিন্নভাবে লেবেল করা হয়, কিন্তু এটি জানা যায় যে এটি দুঃখ, এবং এটি একটি টেবিল। মনের মিথস্ক্রিয়া জানার আয়োজন করে। এটি লেবেল যা আবেগ, স্মৃতি এবং অন্যান্যকে আলাদা করে। এই লেবেলগুলি সম্পর্কে মস্তিষ্কের বিজ্ঞান এবং সম্পর্কিত ক্ষেত্রগুলিতে খুব বেশি অনমনীয়তা রয়েছে। বুদ্ধিমত্তা উৎপাদন করতে না পারলে তার মূল্য কী? কেউ অসুস্থ হলে, বুদ্ধি তীক্ষ্ণ হলেও সেই ব্যক্তি কতটুকু করতে পারে? যদি কেউ অন্য কোথাও থেকে থাকে কিন্তু পরিস্থিতির জন্য প্রয়োজনীয় বুদ্ধিমত্তা থাকে, তাহলে সেই বুদ্ধিমত্তার আউটপুট এবং ফলাফলকে প্রয়োগ করা হলে রেট করা যেতে পারে, এমনকি সাংস্কৃতিক ও ভাষার বাধা থাকলেও। বুদ্ধিমত্তা হিসাবে যা উল্লেখ করা হয় তার বেশিরভাগই কেবল পরিচিত কিছু। যদি কেউ পডকাস্টের আগে কণা পদার্থবিদ্যার উপর পড়েছিল, সে যদি সেই ক্ষেত্রের একজন অধ্যাপকের সাথে আলোচনা করে, তবে প্রফেসর মুগ্ধ হতে পারেন, এবং সেই ব্যক্তিকে স্মার্ট হিসাবে দেখা যেতে পারে, কিন্তু এটি কি সত্য, এবং কতটা বোঝা যায়? মাঝে মাঝে জিনিস সম্পর্কে প্রাথমিক তথ্য বুদ্ধি, যুক্তি, পরিকল্পনা, জ্ঞান এবং আরও অনেক কিছুর জন্যও যেতে পারে। তথ্যের অর্থ যদি বুদ্ধিমত্তা হতে পারে এবং জানার অর্থ বুদ্ধিমত্তা, বুদ্ধিমান না হলে এআই কী? অনেক পরিস্থিতিতে কাঠামোগত শিক্ষার কারণ ভূমিকায় উপযোগী হওয়ার জন্য তথ্য অর্জন করা: যে একজন অ-মানুষ তথ্য অর্জন করতে পারে এবং কাজ সম্পাদন করতে পারে তা স্বয়ংক্রিয়ভাবে মানব শ্রেণিবিন্যাসের 80 তম শতাংশের কাছাকাছি নিয়ে যায়, মানুষের শেখার কিছু প্রয়োজন মুছে দেয় বা কাজ শিখেছি কিছু ব্যবহার করতে. কেউ কেউ যুক্তি দিতে পারে যে লোকেরা আগের মতো অন্যান্য কাজ করবে এবং এআই নিয়ে উদ্বিগ্ন হওয়ার কিছু নেই। হতে পারে. AI এর সবচেয়ে বড় ঝুঁকি ডিজিটাল যেকোনো কিছুর জন্য। ডিজিটাইজড করা যেতে পারে এমন যেকোনো কিছু AI দ্বারা, পুঙ্খানুপুঙ্খভাবে বা একটি পরিমাণে নেওয়া যেতে পারে। একটি ডিজিটাল বিশ্বে যা অনেক, তাতে একজন ব্যক্তির কাজ জড়িত হোক বা না হোক। মানুষের মন তার বৈশিষ্ট্যগুলির মধ্যে একটি দ্বারা সীমাবদ্ধ, অগ্রাধিকার, যেখানে শুধুমাত্র একটি জিনিস এক মুহূর্তে মনের মনোযোগ দেয়, যদিও পূর্ব-অগ্রাধিকার মিথস্ক্রিয়াগুলির সাথে দ্রুত এবং অসংখ্য আদানপ্রদান রয়েছে। এটি এআইকে শক্তি দেয়, বিশেষ করে শেখার জন্য যেখানে মন যে ইন্টারোসেপশন প্রক্রিয়া করে তা শিখতে, বুঝতে এবং মনে রাখতে সক্ষম হতে হবে। মানুষের মন ইতিমধ্যে ডিজিটাল দ্বারা বন্দী এবং AI ডিজিটাল ক্যাপচার করেছে। মন কীভাবে কাজ করে, , তাও মানুষের ক্ষমতা বাড়ানোর একটি উপায় হতে পারে। কেবল ধারণাগতভাবে বৈশিষ্ট্য চিত্র উত্স: https://www.flickr.com/photos/nihgov/26680098405/in/album-72157663368688842/
