দূষিত কৃত্রিম বুদ্ধিমত্তা ডিপফেক অপহরণ কেলেঙ্কারী সক্ষম করে৷

এই নিবন্ধটির প্রধান চিত্রটি হ্যাকারনুনেরএআই ইমেজ জেনারেটর দ্বারা প্রম্পট "দুষ্ট রোবট" এর মাধ্যমে তৈরি করা হয়েছে।

এই বছরের শুরুর দিকে, স্কটসডেল, অ্যারিজোনার মা জেনিফার ডি স্টেফানো এমন এক আতঙ্কের সম্মুখীন হয়েছিলেন যে কোনও মাকে কখনই মুখোমুখি হতে হবে না — তার মেয়ের কান্নার আওয়াজ যে তাকে অপহরণ করা হয়েছে।

কিন্তু ফোনে তার মেয়ে ছিল না। এটি একটি AI ডিপফেক ছিল এতটাই নিশ্চিত যে DeStefano $50K স্ক্যামারদের কাছে হস্তান্তর করতে প্রস্তুত ছিল, যারা তাকে বলেছিল যে সে যদি টাকা না দেয় তাহলে তারা তার মেয়েকে হত্যা করবে।

আজ, ডি স্টাফানো মার্কিন সেনেটের সামনে একটি হৃদয়গ্রাহী সাক্ষ্য দিয়েছেন যা মানবাধিকার ও আইন বিষয়ক বিচার বিভাগীয় উপকমিটির কাছে তার বেদনাদায়ক এবং ভয়ঙ্কর গল্পটি তুলে ধরেছে।

“সন্ত্রাসের এই রূপটি যতদিন শাস্তির অযোগ্য থাকবে, এটি ততই ভয়াবহ হয়ে উঠবে। মন্দ এআই সক্ষম করতে পারে তার গভীরতার কোন সীমা নেই"

" কৃত্রিম বুদ্ধিমত্তাকে শুধুমাত্র আমেরিকান জনসাধারণের মধ্যে ভয় এবং আতঙ্কের উদ্রেক করার জন্য নয়, বরং বিশ্ব সম্প্রদায়ের মধ্যে বৃহত্তরভাবে এটিকে পুঁজি করে, এবং আমরা যা পরিচিত হিসাবে পরিচিত, তা পুনরায় সংজ্ঞায়িত করার জন্য অস্ত্র তৈরি করা হচ্ছে," বলেছেন ডি স্টেফানো৷

"এআই বিপ্লব ঘটাচ্ছে এবং আমাদের সামাজিক কাঠামোর মূল ভিত্তিকে উন্মোচন করছে সন্দেহ এবং ভয় তৈরি করে যা কখনো প্রশ্নবিদ্ধ হয়নি - প্রিয়জনের কণ্ঠের শব্দ," তিনি যোগ করেছেন।

এপ্রিল মাসে AZ ফ্যামিলিকে তিনি যে অপহরণ ও চাঁদাবাজি স্ক্যামার দিয়েছিলেন তার ভয়ঙ্কর অভিজ্ঞতার গল্প বলার পরে, অ্যারিজোনার মা ব্যাখ্যা করেছিলেন যে ডিপফেক ভয়েস ক্লোনটি কতটা বাস্তব বলে মনে হয়েছিল:

" এটা আমার মেয়ের কন্ঠ ছিল। এটা তার কান্না ছিল; এটা তার sobs ছিল. এটা তার কথা বলার উপায় ছিল. আমি কখনই সেই কণ্ঠকে কাঁপতে পারব না এবং আমার মন থেকে সাহায্যের জন্য মরিয়া কান্নাকাটি করে ।"

"আমরা আর বিশ্বাস করতে পারি না 'দেখাই বিশ্বাস করা' বা 'আমি নিজের কানে শুনেছি' বা এমনকি আপনার নিজের সন্তানের কণ্ঠস্বরও "

ঘৃণ্য উদ্দেশ্যে ব্যবহৃত জেনারেটিভ এআই-এর ভবিষ্যত সম্পর্কে মতামত প্রকাশ করে, ডি স্টেফানো সতর্ক করে দিয়েছিলেন, “ এই ধরনের সন্ত্রাস যতই শাস্তির অযোগ্য থাকবে, এটি তত বেশি ভয়ঙ্কর হয়ে উঠবে। মন্দ AI সক্ষম করতে পারে তার গভীরতার কোন সীমা নেই ।"

তিনি আরও বলেন, “আমাদের পৃথিবী যখন বিদ্যুত-দ্রুত গতিতে চলে, তখন পরিচিতির মানবিক উপাদান যা আমাদের সামাজিক কাঠামোর ভিত্তি স্থাপন করে যা জানা যায় এবং কী সত্য তা এআই-এর মাধ্যমে বিপ্লব ঘটছে — কিছু ভালো এবং কিছুর জন্য মন্দ

"আমরা আর বিশ্বাস করতে পারি না 'দেখাই বিশ্বাস করা' বা 'আমি নিজের কানে শুনেছি', এমনকি আপনার নিজের সন্তানের কণ্ঠের শব্দও।"

ডি স্টেফানো যখন জানতে পারলেন যে তার মেয়েকে অপহরণ করা হয়নি, তখন সে পুলিশকে ফোন করেছিল, কিন্তু তারা তাকে বলেছিল যে তারা খুব কমই করতে পারে কারণ এটি কেবল একটি প্র্যাঙ্ক কল ছিল এবং প্রকৃতপক্ষে কোন অপহরণ বা অর্থ বিনিময় হয়নি।

" এটা কি আমাদের নতুন স্বাভাবিক ?" সে প্রশ্ন করল।

" এই ভবিষ্যত কি আমরা কৃত্রিম বুদ্ধিমত্তার অপব্যবহারকে পরিণতি ছাড়াই এবং নিয়ন্ত্রণ ছাড়াই তৈরি করছি ?"

" যদি অনিয়ন্ত্রিত, অনিয়ন্ত্রিত ছেড়ে দেওয়া হয়, এবং আমরা পরিণতি ছাড়াই অরক্ষিত থাকি, তবে এটি সত্য কী এবং কী নয় সে সম্পর্কে আমাদের উপলব্ধি এবং উপলব্ধি পুনরায় লিখবে। "

তার সূচনা বক্তব্যের পর, শুনানির একেবারে শেষ না হওয়া পর্যন্ত ডি স্টেফানোকে জিজ্ঞাসাবাদের জন্য ডাকা হবে না যেখানে তিনি পুনর্ব্যক্ত করেছেন যে "সমস্ত AI মন্দ নয়" এবং সেখানে প্রচুর "আশাজনক অগ্রগতি" রয়েছে যা মানুষের জীবনকে উন্নত করতে পারে।

যদিও DeStefano স্পষ্টভাবে AI ব্যবহার করে ভয়ঙ্কর উপায়ে খারাপ অভিনেতাদের থেকে উদ্ভূত অর্থপূর্ণ ক্ষতির রূপরেখা দিয়েছেন, মাইক্রোসফ্ট প্রধান অর্থনীতিবিদ মাইকেল শোয়ার্জ মে মাসে ওয়ার্ল্ড ইকোনমিক ফোরাম (WEF) কে বলেছিলেন যে অর্থপূর্ণ ক্ষতি না হওয়া পর্যন্ত AI নিয়ন্ত্রণ করা উচিত নয় ।

"আমাদের এআই নিয়ন্ত্রণ করা উচিত নয় যতক্ষণ না আমরা কিছু অর্থপূর্ণ ক্ষতি দেখতে পাচ্ছি যা বাস্তবে ঘটছে - কাল্পনিক পরিস্থিতি নয়"

WEF গ্রোথ সামিট 2023-এ মাইক্রোসফটের প্রধান অর্থনীতিবিদ মাইকেল শোয়ার্জ

WEF গ্রোথ সামিট 2023-এ “ গ্রোথ হটস্পট: জেনারেটিভ এআই রেভল্যুশনের ব্যবহার ” এর একটি প্যানেলে বক্তৃতা দিতে গিয়ে মাইক্রোসফটের মাইকেল শোয়ার্জ যুক্তি দিয়েছিলেন যে যখন এআই-এর কথা আসে, তখন খারাপ কিছু না হওয়া পর্যন্ত এটিকে নিয়ন্ত্রণ না করাই উত্তম হবে। সম্ভাব্য বৃহত্তর সুবিধা দমন করুন।

“ আমি যথেষ্ট আত্মবিশ্বাসী যে হ্যাঁ, AI খারাপ অভিনেতারা ব্যবহার করবে; এবং হ্যাঁ, এটি প্রকৃত ক্ষতির কারণ হবে; এবং হ্যাঁ, আমাদের খুব সতর্ক থাকতে হবে এবং খুব সতর্ক থাকতে হবে ,” শোয়ার্জ WEF প্যানেলকে বলেছেন।

জেনারেটিভ এআই নিয়ন্ত্রণ সম্পর্কে জিজ্ঞাসা করা হলে, মাইক্রোসফ্টের প্রধান অর্থনীতিবিদ ব্যাখ্যা করেছিলেন:

“এআই নিয়ন্ত্রণ করার বিষয়ে আমাদের দর্শন কী হওয়া উচিত? স্পষ্টতই, আমাদের এটি নিয়ন্ত্রণ করতে হবে, এবং আমি মনে করি সেখানে আমার দর্শন খুবই সহজ।

“ আমাদের AI এমনভাবে নিয়ন্ত্রিত করা উচিত যেখানে আমরা শিশুকে গোসলের পানি দিয়ে ফেলে দিই না ।

“সুতরাং, আমি মনে করি যে নিয়ন্ত্রণ বিমূর্ত নীতির উপর ভিত্তি করে নয়।

"একজন অর্থনীতিবিদ হিসাবে, আমি দক্ষতা পছন্দ করি, তাই প্রথমত, আমাদের AI নিয়ন্ত্রণ করা উচিত নয় যতক্ষণ না আমরা কিছু অর্থপূর্ণ ক্ষতি দেখতে পাচ্ছি যা বাস্তবে ঘটছে - কাল্পনিক পরিস্থিতি নয় ," তিনি যোগ করেছেন।

23 জানুয়ারী, 2023-এ, ব্লুমবার্গের মতে, মাইক্রোসফ্ট OpenAI-এর সাথে তার অংশীদারিত্ব প্রসারিত করেছে - ChatGPT-এর নির্মাতারা - "2019 সালে ওপেনএআই-এ $1 বিলিয়ন মাইক্রোসফ্ট ঢেলে এবং 2021 সালে আরেকটি রাউন্ডের উপরে অতিরিক্ত $10 বিলিয়ন বিনিয়োগ করে ," ব্লুমবার্গের মতে।