নৈতিক এআই এবং স্বায়ত্তশাসিত যানবাহন: স্ব-ড্রাইভিং গাড়ির যুগে নৈতিক নীতিগুলিকে চ্যাম্পিয়ন করা

স্বায়ত্তশাসিত যানবাহন (AVs) এর ধারণাটি রাস্তার উপর স্থানান্তরিত সিদ্ধান্ত গ্রহণের স্বায়ত্তশাসনের নৈতিকতা সম্পর্কে দীর্ঘদিন ধরে বিতর্কের জন্ম দিয়েছে। সোসাইটি অফ অটোমোটিভ ইঞ্জিনিয়ার্স 6টি স্বায়ত্তশাসনের স্তর নির্ধারণ করে যা সরকারীভাবে শিল্প জুড়ে AV ক্ষমতার পার্থক্য করতে ব্যবহৃত হয়।

লেভেল 0-2 AV ইতিমধ্যেই বাণিজ্যিক বাজারে বিদ্যমান। লেভেল 3 হল ক্ষমতার প্রথম উল্লেখযোগ্য লাফ। এটি এমন যানবাহন বর্ণনা করে যা স্বল্প সময়ের জন্য স্ব-চালনা করতে পারে, তবে সিস্টেমটি অনুরোধ করলে একজন মানব চালককে হস্তক্ষেপ করার জন্য প্রস্তুত থাকতে হবে। স্তর 4-5 তারপর পরিবেশগত সনাক্তকরণের বাইরে যান। এগুলি অত্যাধুনিক প্রযুক্তিগুলিকে অন্তর্ভুক্ত করে যা সম্পূর্ণরূপে মানুষের ওভাররাইডকে এড়িয়ে যায়। লেভেল 4 AVs নির্দিষ্ট পরিস্থিতিতে মানুষের হস্তক্ষেপ ছাড়াই একটি সম্পূর্ণ যাত্রা সম্পন্ন করতে পারে। লেভেল 5 যেকোনো পরিস্থিতিতে সম্পূর্ণ যাত্রা সম্পূর্ণ করতে পারে। লেভেল 5 এমন যানবাহনের সাথে যুক্ত হবে যার এমনকি স্টিয়ারিং হুইল বা প্যাডেলের প্রয়োজন নেই, উদাহরণস্বরূপ।

স্বায়ত্তশাসনের এই দুটি উচ্চ স্তরের চারপাশে যে নৈতিক ও নৈতিক দ্বিধাগুলি উদ্ভূত হয় তা প্রায় সমস্ত সরাসরি সিদ্ধান্ত গ্রহণের ক্ষমতা হারানোর ফলে উদ্ভূত হয়। মূল প্রযুক্তির সঠিক কার্যকারিতা, মানুষের জীবন ও নীতিকে মূল্য দেওয়ার ক্ষমতা, বাণিজ্য-অফ এবং জবাবদিহিতা সবই নৈতিক এবং আইনি কাঠামোর অধীনে সমস্যা হয়ে দাঁড়ায়।

কুখ্যাত ট্রলি সমস্যা থেকে শুরু করে আমরা এগুলো অন্বেষণ করব।

ট্রলি সমস্যা

ট্রলি সমস্যা হল একটি চিন্তার পরীক্ষা যা দর্শনের শাখার মধ্যে তৈরি করা হয়েছে যাকে বলা হয় গুণী নীতিশাস্ত্র এবং আলোচনা করে যে কীভাবে নৈতিক স্তরে অভিপ্রেত পরিণতির সাথে পূর্বাভাসযোগ্য পরিণতিগুলি তুলনা করে। ব্রিটিশ দার্শনিক ফিলিপা ফুট (1967) দ্বারা উদ্ভাবিত প্রধান প্রকরণটি নিম্নরূপ:

একটি ট্রলি ট্র্যাকের একটি সেট বরাবর চলছে, নিয়ন্ত্রণের বাইরে এবং ভাঙতে অক্ষম। যদিও 5 জন লোক এই ট্র্যাকের সাথে বাঁধা, এবং ট্রলি দ্রুত তাদের কাছে আসছে। আপনি একটি লিভারের পাশের ট্র্যাকগুলি থেকে দূরে দাঁড়িয়ে আছেন, যা যদি টানা হয় তবে ট্রলির গতিপথকে ভিন্ন ট্র্যাকের দিকে নিয়ে যাবে। এই বিকল্প ট্র্যাকটিতে শুধুমাত্র একজন ব্যক্তি বাঁধা আছে, তাই ট্রলিটি বর্তমানে 5 জনকে হত্যা করবে, কিন্তু আপনি যদি কাজ করেন তবে এটি শুধুমাত্র একজনে কমে যেতে পারে। আপনি কি লিভার টানবেন?

সিদ্ধান্ত গ্রহণে নৈতিক কাঠামো

ট্রলি সমস্যাটি অনেক নৈতিক কাঠামোর অধীনে দেখা যেতে পারে।

• ফলাফলবাদীরা যুক্তি দেবেন যে কোনও প্রয়োজনীয় উপায়ে ফলাফলের সামগ্রিক ক্ষতি হ্রাস করা ভাল।
• ডিওন্টোলজিস্টরা যুক্তি দেবেন যে লিভারটি টেনে নেওয়া এবং সক্রিয়ভাবে একজনকে হত্যা করার কাজটি ট্রলিটিকে তার সঠিক গতিতে চলতে দেওয়ার চেয়ে নৈতিকভাবে আরও বেশি ভুল।
• উপযোগবাদীরা যুক্তি দেখান যে সবচেয়ে নৈতিক পছন্দ সর্বাধিক সংখ্যক মানুষের জন্য সর্বাধিক পরিমাণে ভাল তৈরি করে।
• রাউলিয়ানরা যুক্তি দেবে যে সমস্ত জীবন সমান, এবং ন্যায়বিচার অর্জন করতে এবং সবচেয়ে ন্যায্যভাবে কাজ করতে হলে অবশ্যই আরও বেশি ক্ষতি প্রতিরোধ করতে হবে।
• অধিকার-ভিত্তিক নীতিশাস্ত্র যুক্তি দেয় যে জীবনের অধিকার পরম এবং লঙ্ঘন করা উচিত নয় বা কোনো বাণিজ্য বন্ধের জন্য বলিদান করা উচিত নয়।

যে মতাদর্শই হোক না কেন, অন্যের ক্ষতি কমানোর জন্য আমাদের দায়িত্ব নৈতিকভাবে সঠিক পদক্ষেপ বেছে নেওয়ার আমাদের দায়িত্বের সাথে সরাসরি সাংঘর্ষিক। এটি এই ধরনের সিদ্ধান্ত এবং ট্রেড-অফকে মূল্য দেওয়ার ক্ষমতা যা স্বায়ত্তশাসিত যানবাহনে অনেকেই প্রশ্ন করে। উদাহরণস্বরূপ, যদি একটি AV ক্র্যাশ হতে থাকে, তাহলে কি পথচারী/অন্যান্য যানবাহনের চেয়ে গাড়ির যাত্রীদের অগ্রাধিকার দেওয়া উচিত?

এটি শুধুমাত্র কঠিন সিদ্ধান্ত নেওয়ার ক্ষমতা নয় যা স্বায়ত্তশাসিত যানবাহনের নীতিশাস্ত্রে বিবেচনা করা উচিত। যখন মানুষ নিজেরাই একমত হতে পারে না যে কোন নৈতিক কাঠামোটি ট্রলি সমস্যার সর্বোত্তম উত্তর দেবে, তখন আমরা কীভাবে স্ব-চালিত গাড়িগুলিকে একটি মতাদর্শের অধীনে এইগুলির মতো ট্রেড-অফগুলি ওজন করার জন্য প্রোগ্রাম করতে চাই?

কোন মৌলিক মূল্যবোধ এবং নীতিগুলি আমাদের AI-তে প্রোগ্রামিং করা উচিত?

আমরা কি ইতিবাচক কর্তব্যকে অগ্রাধিকার দিতে চাই: প্রাণ বাঁচানোর সংখ্যা, বা নেতিবাচক কর্তব্য: সক্রিয় ক্ষতি কমিয়ে আনা?

কেস স্টাডি

2018 সালে, Uber অ্যারিজোনায় লেভেল 3 AV পরীক্ষা করেছে, যার ফলে পথচারীর মর্মান্তিক মৃত্যু হয়েছে – এটি AV এর কারণে প্রথম। লেভেল 3 হওয়ায়, গাড়িতে একজন ব্যাকআপ ড্রাইভার উপস্থিত ছিল, কিন্তু তা যথেষ্ট ছিল না। পরিবেশগত শনাক্তকরণ ব্যবস্থা সঠিকভাবে বাধা শনাক্ত করতে সংগ্রাম করছে – এখানে একটি বাইক সহ একজন পথচারী, ক্ষতির সম্ভাবনা গাড়ির সতর্কতা ব্যবস্থা যথেষ্ট দ্রুততার সাথে স্বীকৃত হয়নি। ব্যাকআপ ড্রাইভারকে অবশেষে নিয়ন্ত্রণ নেওয়ার জন্য সতর্ক করা হয়েছিল, গাড়িটি ইতিমধ্যেই 0.2 সেকেন্ডে প্রভাব ফেলেছিল এবং 39mph বেগে ভ্রমণ করেছিল।

এই উদাহরণটি অগত্যা গাড়ির বাইরের পথচারী বনাম AV যাত্রীদের সরাসরি ক্ষতির ট্রেড-অফ নিয়ে আলোচনা করে না, কারণ ব্যাকআপ চালক কখনই নিজের ক্ষতির ঝুঁকিতে ছিলেন না। যাইহোক, এটি আমাদের নিজেদের উপর AI সংবেদনশীল সনাক্তকরণের উপর নির্ভর করতে পারে এবং করা উচিত কিনা এবং এই ধরনের উচ্চ-চাপ, স্বল্প সময়ের পরিস্থিতিতে ম্যানুয়াল ওভাররাইড একটি সম্ভাব্য ব্যাকআপ কিনা তা আলোকিত করে।

এটি হত্যার জন্য দায়ী নৈতিক এজেন্টের অভাবের মাধ্যমে এমনকি অস্থায়ীভাবে একটি AV-তে স্বায়ত্তশাসন স্থানান্তর করার বিষয়টিও তুলে ধরে। এই ক্ষেত্রে, Uber 90টিরও বেশি অন্যান্য লেভেল 3 AVs প্রত্যাহার করে যা এটি অ্যারিজোনায় পরীক্ষা করছিল এবং শিকারের পরিবারের সাথে মীমাংসা করেছে। অপরদিকে ব্যাকআপ চালকের বিরুদ্ধে অবহেলাজনিত হত্যার অভিযোগ আনা হয়েছে। দোষ কি সঠিকভাবে তার উপর চাপানো হয়েছিল বা এটি গাড়ির হওয়া উচিত ছিল - পরবর্তীটি কি সম্ভব?

নৈতিক এআই

ইউনেস্কো রূপরেখা দেয় যে AI নৈতিক কাঠামোর ক্ষতি এড়ানো এবং মানবাধিকারকে সম্মান করা উচিত। নিরাপত্তা এবং অ-বৈষম্য মেশিন লার্নিং নীতির উপর ভিত্তি করে করা উচিত। মানব তত্ত্বাবধান, নিয়ন্ত্রণ এবং জবাবদিহিতাকেও দায়ী এআই-এর পাশাপাশি অপরিহার্য বিবেচনা করা উচিত।

ন্যায্যতার অতিরিক্ত ধারণা এবং 'বৃহত্তর ভালোর জন্য' পরামর্শ দেয় যে আমরা চাই যে AI সিদ্ধান্ত গ্রহণের জন্য একটি উপযোগবাদী আদর্শ ব্যবহার করুক। অন্যদিকে, 'মানবাধিকারকে সম্মান করা' নিজেরাই ক্রিয়াকলাপের নৈতিক ন্যায্যতা, অর্থাৎ ডিওন্টোলজিতে ভূমিকা রাখে।

AVs দ্বারা সিদ্ধান্তগুলি কীভাবে গণনা করা হয় তা বোঝার ক্ষেত্রেও স্বচ্ছতা অবশ্যই গুরুত্বপূর্ণ হবে। একটি AV দুর্ঘটনার ক্ষেত্রে সৃষ্ট বা প্রতিরোধ করা ক্ষতির মূল্যায়ন করার জন্য, আমাদের বুঝতে হবে কিভাবে এবং কেন অন্তর্নিহিত AI প্রযুক্তি একটি নির্দিষ্ট সিদ্ধান্তে পৌঁছায়। AVs-এ জনসাধারণের আস্থার জন্য জবাবদিহিতা বোঝার প্রয়োজন হবে এবং সঠিক কাঠামো মেনে চলা হচ্ছে তা নিশ্চিত করা।

নৈতিক স্বয়ংক্রিয় সিদ্ধান্ত গ্রহণ

ইউরোপীয় পার্লামেন্টারি রিসার্চ সার্ভিস নৈতিক, আইনি এবং অর্থনৈতিক উদ্বেগগুলিকে স্বীকৃতি দেয় যা স্বয়ংক্রিয় সিদ্ধান্ত গ্রহণকারী AI বিকাশ এবং স্থাপনের ক্ষেত্রে অবশ্যই সমাধান করা উচিত। এর মধ্যে অন্তর্নিহিত অ্যালগরিদমগুলিতে নৈতিক নীতিগুলি কীভাবে বিকাশ করা যায় এবং কীভাবে এআই উদ্ভাবনের সূচকীয় হারের সাথে বৈশ্বিক নীতি ও প্রবিধানগুলিকে গতিতে আনা যায় সে সম্পর্কে গবেষণা অন্তর্ভুক্ত রয়েছে।

মানবাধিকারের পরিপ্রেক্ষিতে, মানবাধিকার সংস্থাকেও অগ্রাধিকার দেওয়া হচ্ছে, গবেষণা সংস্থাগুলি 'স্বয়ংক্রিয় প্রক্রিয়াকরণের উপর ভিত্তি করে কোনও সিদ্ধান্তের অধীন না হওয়া শেষ ব্যবহারকারীদের অধিকার' রক্ষা করতে চায়। প্রযুক্তির দিক থেকে, নিরাপদ এবং নির্ভরযোগ্য সিস্টেম নিশ্চিত করতে সাইবার নিরাপত্তা মান আরও গুরুত্বপূর্ণ হয়ে উঠবে। নৈতিক AI এর জন্য বিশ্বস্ত সফ্টওয়্যার প্রয়োজন।

উপসংহার

যদিও বর্তমানে আমাদের কাছে UK-তে রাস্তায় লেভেল 3+ AVs ব্যবহার করে সাধারণ জনগণ নেই, বা এখনও দেশীয় বাজারে এই জাতীয় কোনও যানবাহন উপলব্ধ নেই, তবে BMW, Tesla এবং Mercedes এর মতো শিল্পের প্রধান খেলোয়াড়রা 2025 সালের মধ্যে প্রযুক্তি ব্যবহার করে এগুলি চালু করার লক্ষ্য রাখে ট্রাফিক জ্যাম পাইলটের মত তা করতে।

যদি AVs সিদ্ধান্ত নেওয়ার নৈতিকতা সঠিকভাবে পায়, তাহলে দেখা যাবে দারুণ সুবিধা। কিছু অনুমান রাস্তায় তাদের সাথে ট্রাফিক-সম্পর্কিত দুর্ঘটনা 90% হ্রাসের পূর্বাভাস দেয়। তারপরও, এটা স্পষ্ট যে আমাদের কাছে এখনও পরিমাপযোগ্য নৈতিক এবং আইনি কাঠামো নেই যা রুপরেখা দেয় যে কীভাবে সিদ্ধান্ত নেওয়া উচিত এবং যখন AVs-কে আন্ডারপিন করে এমন প্রযুক্তির ক্ষেত্রে ট্রেড-অফগুলিকে অগ্রাধিকার দেওয়া হয়।

AV খেলোয়াড়দের তাই 'ক্ষতি কমানোর' অর্থ কী এবং কোন নৈতিক মতাদর্শের সিদ্ধান্ত নেওয়ার নির্দেশ দেওয়া উচিত তা আরও রূপরেখা দিতে হবে। আমরা 2018 সালে উবারের দুর্ঘটনার সাথে যেমন দেখেছি, জবাবদিহিতা এবং সংস্থাকেও স্পষ্ট করতে হবে। এই সমস্ত, কীভাবে সেগুলি পরিচালনা করা হয় এবং আমরা কোন দিকে অগ্রসর হই, সমাজের জন্য দীর্ঘমেয়াদী নৈতিক প্রভাব ফেলবে।

তথ্যসূত্র

• স্বায়ত্তশাসিত যানবাহনে নৈতিক সিদ্ধান্ত গ্রহণ: এভি এথিক্স প্রকল্প | বিজ্ঞান এবং প্রকৌশল নীতিশাস্ত্র (springer.com)
• স্বায়ত্তশাসিত গাড়িতে খেলার বর্তমান অবস্থা | হ্যাকাডে
• স্বায়ত্তশাসিত যানবাহনের ভবিষ্যত (AV) | ম্যাককিনসে
• বৈদ্যুতিক এবং স্বায়ত্তশাসিত যানবাহন: ভবিষ্যত এখন | বেইন অ্যান্ড কোম্পানি
• এআই এথিক্যাল ফ্রেমওয়ার্ক (rootstrap.com)
• স্বায়ত্তশাসিত যানবাহনে নৈতিক দ্বিধাগুলি নেভিগেট করা: একটি কেস স্টাডি | হেলেনজয় দ্বারা | মধ্যম
• কখন এআই এথিক্স বিপথে যায়: স্বায়ত্তশাসিত যানবাহনের একটি কেস স্টাডি (sagepub.com)
• 'আমি অপারেটর': একটি স্ব-ড্রাইভিং ট্র্যাজেডির পরের ঘটনা | তারযুক্ত
• স্বায়ত্তশাসিত যানবাহনের স্তরগুলি নেভিগেট করা: ভাসকুয়েজ কেস এবং লেভেল 3 এবং লেভেল 4 স্বায়ত্তশাসনের মধ্যে বিতর্ক - অ্যারিজোনা স্টেট ল জার্নাল
• উবার এভি সড়কে প্রাণহানি প্রশ্ন তুলেছে | খবর | ইন্স্যুরেন্স টাইমস
• ট্রলি সমস্যা - উৎপত্তি. ট্রলি সমস্যা একটি চিন্তা ... | সারা বিজারোর দ্বারা | মধ্যম
• কৃত্রিম বুদ্ধিমত্তায় নৈতিকতার উপর EU নির্দেশিকা: প্রসঙ্গ এবং বাস্তবায়ন (europa.eu)