2,442 পড়া

75% কোম্পানি ChatGPT ব্যবহার নিষিদ্ধ করছে: কি হয়েছে?

দ্বারা George Drennan4m2023/09/25

অতিদীর্ঘ; পড়তে

চ্যাটজিপিটি গত বছর মুক্তির পর থেকে বিশ্বে ঝড় তুলেছে। কিন্তু একটি সাম্প্রতিক সমীক্ষায় দেখা গেছে যে 75% ব্যবসা তাদের কর্মক্ষেত্রে ChatGPT এবং অন্যান্য জেনারেটিভ এআই অ্যাপ্লিকেশনের উপর নিষেধাজ্ঞা প্রয়োগ করেছে বা বিবেচনা করছে। কোম্পানিগুলো সম্ভাব্য সাইবার নিরাপত্তা ঝুঁকি নিয়ে চিন্তিত। প্রথম বড় চ্যাটজি পিটি ডেটা ফাঁস এই বছরের শুরুতে ঘটেছিল এবং টেক জায়ান্ট স্যামসাং জড়িত ছিল।

featured image - 75% কোম্পানি ChatGPT ব্যবহার নিষিদ্ধ করছে: কি হয়েছে?

ChatGPT হানিমুন পিরিয়ড কি শেষ?

চ্যাটজিপিটি গত বছর মুক্তির পর থেকে বিশ্বে ঝড় তুলেছে। তবে সাম্প্রতিক এক জরিপে এমনটাই দেখা গেছে 75% ব্যবসা তাদের কর্মক্ষেত্রে ChatGPT এবং অন্যান্য জেনারেটিভ এআই অ্যাপ্লিকেশনের উপর নিষেধাজ্ঞা কার্যকর করেছে বা বিবেচনা করছে।

চ্যাটজিপিটি সম্পর্কে কোম্পানিগুলি কেন ঠান্ডা পায়?

এটা এমন নয় যে তারা এর ক্ষমতা নিয়ে সন্দেহ করে। পরিবর্তে, তারা সম্ভাব্য সাইবার নিরাপত্তা ঝুঁকি নিয়ে চিন্তিত।

একটি ক্রমবর্ধমান উদ্বেগ: ডেটা ফাঁস এবং চ্যাটজিপিটি

জেনারেটিভ এআই সরঞ্জামগুলি প্রতিটি মিথস্ক্রিয়া থেকে শেখার জন্য ডিজাইন করা হয়েছে। আপনি তাদের যত বেশি ডেটা খাওয়াবেন, তারা তত বেশি স্মার্ট হয়ে উঠবে। চমৎকার শোনাচ্ছে, তাই না?

কিন্তু ডেটা কোথায় যায়, কে তা দেখে এবং কীভাবে এটি ব্যবহার করা হয় সেই বিষয়ে একটি ধূসর এলাকা রয়েছে।

এই গোপনীয়তা উদ্বেগ ইতালীয় ডেটা-সুরক্ষা কর্তৃপক্ষের দিকে পরিচালিত করে সাময়িকভাবে ChatGPT নিষিদ্ধ করা হচ্ছে এপ্রিলে.

ব্যবসার জন্য, উদ্বেগের বিষয় হল ChatGPT ব্যবহারকারীর জমা দেওয়া তথ্য নিতে পারে, এটি থেকে শিখতে পারে এবং অন্যান্য ব্যবহারকারীদের সাথে ভবিষ্যতের মিথস্ক্রিয়ায় এটিকে সম্ভাব্যভাবে পিছলে যেতে দেয়।

ChatGPT-এর জন্য OpenAI-এর নির্দেশিকা নির্দেশ করে যে ব্যবহারকারীর ডেটা পর্যালোচনা করা যেতে পারে এবং সিস্টেমটিকে পরিমার্জিত করতে ব্যবহার করা যেতে পারে। কিন্তু ডেটা গোপনীয়তার জন্য এর অর্থ কী?

উত্তরটি পরিষ্কার নয়, এবং এটিই উদ্বেগের কারণ।

ডেটা ফাঁসের উদ্বেগ: আসল ঝুঁকি কী?

সাইবারহেভেনের একটি সমীক্ষায় দেখা গেছে যে 1 জুনের মধ্যে, 10.8% কর্মী কর্মক্ষেত্রে ChatGPT ব্যবহার করেছেন, 8.6% কোম্পানির তথ্য ইনপুট করেছেন৷ উদ্বেগজনক পরিসংখ্যান হল যে 4.7% কর্মী ChatGPT-এ গোপন তথ্য প্রবেশ করেছে।

এবং ChatGPT যেভাবে কাজ করে তার কারণে ঐতিহ্যগত নিরাপত্তা ব্যবস্থার অভাব রয়েছে। বেশিরভাগ সুরক্ষা পণ্যগুলি ফাইলগুলিকে ভাগ করা বা আপলোড করা থেকে রক্ষা করার জন্য ডিজাইন করা হয়েছে৷ কিন্তু ChatGPT ব্যবহারকারীরা তাদের ব্রাউজারে কন্টেন্ট কপি করে পেস্ট করে।

এখন, OpenAI একটি অপ্ট-আউট বিকল্প যোগ করেছে। ব্যবহারকারীরা তাদের ডেটা আরও প্রশিক্ষণের জন্য ব্যবহার না করার অনুরোধ করতে পারেন।

কিন্তু অপ্ট-আউট ডিফল্ট সেটিং নয়। সুতরাং, ব্যবহারকারীরা সচেতন না হলে এবং সক্রিয় পদক্ষেপ না নিলে, তাদের মিথস্ক্রিয়া AI প্রশিক্ষণের জন্য ব্যবহার করা যেতে পারে।

উদ্বেগ সেখানে থামে না।

এমনকি আপনি অপ্ট আউট করলেও, আপনার ডেটা এখনও সিস্টেমের মধ্য দিয়ে যায়৷ এবং যখন OpenAI ব্যবহারকারীদের আশ্বস্ত করে যে ডেটা দায়িত্বের সাথে পরিচালিত হয়, ChatGPT ব্ল্যাক বক্স হিসেবে কাজ করে . একবার এটি প্রবেশ করানো হলে সিস্টেমের মধ্যে কীভাবে ডেটা প্রবাহিত হয় তা পরিষ্কার নয়।

কিছু ভুল হওয়ার ঝুঁকিও রয়েছে।

21শে মার্চ, 2023-এ, ওপেনএআই ChatGPT বন্ধ করে দেয় একটি ত্রুটির কারণে যা বিভিন্ন ব্যবহারকারীর নামের সাথে চ্যাটের ইতিহাসকে ভুলভাবে শিরোনাম করে। যদি এই শিরোনামগুলিতে ব্যক্তিগত বা সংবেদনশীল বিবরণ থাকে, তবে অন্যান্য ChatGPT ব্যবহারকারীরা সেগুলি দেখে থাকতে পারে। বাগটি কিছু ChatGPT প্লাস গ্রাহকদের ব্যক্তিগত ডেটাও প্রকাশ করেছে।

স্যামসাং ঘটনা

প্রথম বড় চ্যাটজিপিটি ডেটা ফাঁস এই বছরের শুরুতে ঘটেছিল এবং টেক জায়ান্ট স্যামসাং জড়িত ছিল। ব্লুমবার্গের মতে, সংবেদনশীল অভ্যন্তরীণ সোর্স কোড ছিল ঘটনাক্রমে ফাঁস একজন ইঞ্জিনিয়ার এটি ChatGPT এ আপলোড করার পর।

এই ধরনের একটি ফাঁস গুরুতর প্রভাব থাকতে পারে.

এবং এটি শুধু স্যামসাং ছিল না। প্রযুক্তি শিল্পের আরেকটি টাইটান অ্যামাজনের নিজস্ব উদ্বেগ ছিল। কোম্পানি চিহ্নিত উদাহরণ যেখানে চ্যাটজিপিটির প্রতিক্রিয়াগুলি আমাজনের অভ্যন্তরীণ ডেটার সাথে সাদৃশ্যপূর্ণ।

যদি ChatGPT-এর কাছে Amazon-এর মালিকানাধীন ডেটা থাকে, তাহলে এটাকে অসাবধানতাবশত প্রতিযোগীদের কাছে ছড়িয়ে দেওয়া থেকে কী বাধা দিচ্ছে?

সুস্পষ্ট প্রবিধানের অভাব

জেনারেটিভ এআই টুলগুলির দ্রুত বিবর্তন এবং গ্রহণের ফলে নিয়ন্ত্রক সংস্থাগুলিকে বাদ দেওয়া হয়েছে। দায়িত্বশীল ব্যবহার সম্পর্কে সীমিত নির্দেশিকা রয়েছে।

সুতরাং, যদি AI এর কারণে ডেটা লঙ্ঘন হয়, তাহলে কে দায়ী - টুলটি ব্যবহারকারী সংস্থা, কর্মচারীরা, নাকি AI প্রদানকারী?

OpenAI এর মধ্যে ব্যবহারের শর্তাবলী , দায়িত্ব ব্যবহারকারীর সাথে থাকে:

এটি কোম্পানিগুলির উপর ঝুঁকি রাখে। সুস্পষ্ট বিধিবিধান ছাড়া, তারা সর্বোত্তম পদক্ষেপের বিষয়ে সিদ্ধান্ত নিতে বাকি থাকে। এ কারণে অনেকেই এখন দ্বিধাগ্রস্ত হয়ে পড়ছেন।

টেক লিডারদের থেকে পরস্পরবিরোধী মতামত

যখন নতুন প্রযুক্তি স্থাপনের কথা আসে, ব্যবসাগুলি প্রায়শই প্রযুক্তি নেতাদের দিকে তাকায়। যদি একটি টেক জায়ান্ট একটি নতুন উদ্ভাবন গ্রহণ করে, তবে এটি প্রায়শই অন্যান্য কোম্পানিগুলির জন্য একটি সবুজ আলো হিসাবে দেখা হয় যাতে এটি অনুসরণ করা যায়।

সুতরাং, যখন মাইক্রোসফ্টের মতো প্রভাবশালী একটি কোম্পানি একটি প্রযুক্তির বিষয়ে মিশ্র সংকেত অফার করে, তখন শিল্প জুড়ে অনুভূত হয়।

একদিকে, মাইক্রোসফ্ট জেনারেটিভ এআই সরঞ্জামগুলির ব্যবহার সম্পর্কে সংবেদন প্রকাশ করেছে। জানুয়ারিতে, মাইক্রোসফ্ট কর্মীদের ChatGPT-এর সাথে 'সংবেদনশীল ডেটা' শেয়ার না করার জন্য সতর্ক করেছিল।

কিন্তু মাইক্রোসফ্ট প্রযুক্তির নিজস্ব সংস্করণ, Azure ChatGPT-কেও চ্যাম্পিয়ন করেছে। এই পুনরাবৃত্তি কর্পোরেট ব্যবহারকারীদের জন্য একটি নিরাপদ এবং আরো নিয়ন্ত্রিত পরিবেশের প্রতিশ্রুতি দেয়।

এই পদক্ষেপটি প্রশ্ন উত্থাপন করে: বৃহত্তর জেনারেটিভ এআই ল্যান্ডস্কেপে মাইক্রোসফ্ট যে ঝুঁকিগুলি নির্দেশ করেছে, Azure ChatGPT কি সত্যিকার অর্থে প্রতিরোধী? অথবা এটি কি একটি কৌশলগত কৌশল যাতে ব্যবসাগুলি মাইক্রোসফ্টের ইকোসিস্টেমের মধ্যে থাকে?