नैतिक एआई और स्वायत्त वाहन: सेल्फ-ड्राइविंग कारों के युग में नैतिक सिद्धांतों का समर्थन

स्वायत्त वाहनों (एवी) की अवधारणा ने सड़कों पर स्थानांतरित निर्णय लेने की स्वायत्तता की नैतिकता के बारे में लंबे समय से बहस छेड़ दी है। ऑटोमोटिव इंजीनियर्स सोसायटी ने एवी क्षमता को अलग करने के लिए पूरे उद्योग में आधिकारिक तौर पर उपयोग की जाने वाली स्वायत्तता के 6 स्तर निर्धारित किए हैं।

व्यावसायिक बाज़ारों में स्तर 0-2 AV पहले से ही मौजूद हैं। स्तर 3 क्षमता में पहली महत्वपूर्ण छलांग है। यह उन वाहनों का वर्णन करता है जो थोड़े समय के लिए स्वयं चल सकते हैं, लेकिन यदि सिस्टम अनुरोध करता है तो हस्तक्षेप करने के लिए एक मानव चालक को तैयार रहने की आवश्यकता होती है। स्तर 4-5 तब पर्यावरण का पता लगाने से परे चला जाता है। इनमें अत्याधुनिक प्रौद्योगिकियाँ शामिल हैं जो मानव ओवरराइड को पूरी तरह से रोकती हैं। लेवल 4 एवी विशिष्ट परिस्थितियों में मानवीय हस्तक्षेप के बिना पूरी यात्रा पूरी कर सकते हैं। लेवल 5 किसी भी परिस्थिति में पूरी यात्रा पूरी कर सकता है। उदाहरण के लिए, लेवल 5 उन वाहनों से जुड़ा होगा जिन्हें स्टीयरिंग व्हील या पैडल की भी आवश्यकता नहीं है।

स्वायत्तता के इन दो उच्च स्तरों को लेकर जो नैतिक और नैतिक दुविधाएँ उभरती हैं, वे लगभग सभी प्रत्यक्ष निर्णय लेने की शक्ति के नुकसान से उत्पन्न होती हैं। मुख्य प्रौद्योगिकियों का सही कामकाज, मानव जीवन और सिद्धांतों को महत्व देने की क्षमता, व्यापार-बंद और जवाबदेही सभी नैतिक और कानूनी ढांचे के तहत मुद्दे बन जाते हैं।

हम कुख्यात ट्रॉली समस्या से शुरुआत करते हुए इनका पता लगाएंगे।

ट्रॉली समस्या

ट्रॉली समस्या एक विचार प्रयोग है जो दर्शनशास्त्र की शाखा के भीतर बनाया गया है जिसे पुण्य नैतिकता कहा जाता है और चर्चा करता है कि नैतिक स्तर पर अपेक्षित परिणामों की तुलना कैसे की जाती है। ब्रिटिश दार्शनिक फ़िलिपा फ़ुट (1967) द्वारा तैयार की गई मुख्य विविधता इस प्रकार है:

एक ट्रॉली पटरियों के एक सेट के साथ चल रही है, नियंत्रण से बाहर है और टूटने में असमर्थ है। हालाँकि इन पटरियों पर 5 लोग बंधे हुए हैं और ट्रॉली तेज़ी से उनकी ओर आ रही है। आपको एक लीवर के बगल में पटरियों से दूर खड़ा किया जाता है, जिसे खींचने पर ट्रॉली के प्रक्षेप पथ को पटरियों के एक अलग सेट की ओर मोड़ दिया जाएगा। इस वैकल्पिक ट्रैक पर केवल एक व्यक्ति बंधा हुआ है, इसलिए ट्रॉली फिलहाल 5 लोगों को मारेगी, लेकिन यदि आप कार्रवाई करते हैं तो इसे घटाकर केवल एक ही किया जा सकता है। क्या आप लीवर खींचते हैं?

निर्णय लेने में नैतिक ढाँचे

ट्रॉली समस्या को कई नैतिक ढाँचों के अंतर्गत देखा जा सकता है।

• परिणामवादी तर्क देंगे कि किसी भी आवश्यक तरीके से परिणाम में समग्र नुकसान को कम करना बेहतर है।
• डिओन्टोलॉजिस्ट यह तर्क देंगे कि लीवर को खींचने और सक्रिय रूप से एक व्यक्ति को मारने का कार्य ट्रॉली को उसके उचित मार्ग पर चलने देने की तुलना में अधिक नैतिक रूप से गलत है।
• उपयोगितावादी तर्क देंगे कि सबसे नैतिक विकल्प सबसे बड़ी संख्या में लोगों के लिए सबसे बड़ी मात्रा में अच्छाई पैदा करता है।
• रॉल्सियन यह तर्क देंगे कि सभी जीवन समान हैं, और न्याय प्राप्त करने और सबसे निष्पक्ष कार्य करने के लिए बड़े नुकसान को रोकना होगा।
• अधिकार-आधारित नैतिकता यह तर्क देगी कि जीवन का अधिकार पूर्ण है और इसका उल्लंघन नहीं किया जाना चाहिए या किसी भी व्यापार-बंद के लिए बलिदान नहीं किया जाना चाहिए।

विचारधारा कोई भी हो, दूसरों को नुकसान कम करने का हमारा कर्तव्य नैतिक रूप से सही कार्रवाई चुनने के हमारे कर्तव्य से सीधे तौर पर टकराता है। यह इस तरह के निर्णयों और व्यापार-बंदों को महत्व देने की क्षमता है जिस पर स्वायत्त वाहनों में कई लोग सवाल उठाते हैं। उदाहरण के लिए, यदि कोई एवी दुर्घटनाग्रस्त होने वाली थी, तो क्या वाहन के यात्रियों को पैदल यात्रियों/अन्य वाहनों की तुलना में प्राथमिकता दी जानी चाहिए?

हालाँकि, यह केवल कठिन निर्णय लेने की क्षमता नहीं है जिसे स्वायत्त वाहनों की नैतिकता में माना जाना चाहिए। जब मनुष्य स्वयं इस बात पर सहमत नहीं हो सकते कि कौन सा नैतिक ढाँचा ट्रॉली समस्या का सबसे अच्छा उत्तर देगा, तो हम एक विचारधारा के तहत इस तरह के व्यापार-बंदों को तौलने के लिए सेल्फ-ड्राइविंग कारों को कैसे प्रोग्राम कर सकते हैं?

हमें एआई में कौन से बुनियादी मूल्य और सिद्धांत प्रोग्रामिंग करने चाहिए?

क्या हम चाहते हैं कि यह सकारात्मक कर्तव्यों को प्राथमिकता दे: बचाए गए जीवन की संख्या, या नकारात्मक कर्तव्य: सक्रिय नुकसान को कम करना?

मामले का अध्ययन

2018 में, उबर ने एरिजोना में लेवल 3 एवी का परीक्षण किया, जिसके परिणामस्वरूप एक दुखद पैदल यात्री की मृत्यु हुई - एवी के कारण यह अब तक की पहली घटना थी। लेवल 3 होने के कारण, वाहन में एक बैकअप ड्राइवर मौजूद था, लेकिन वह पर्याप्त नहीं था। पर्यावरण पहचान प्रणाली बाधा को सही ढंग से पहचानने के लिए संघर्ष कर रही है - यहां एक बाइक के साथ एक पैदल यात्री, कार के अलर्ट सिस्टम द्वारा नुकसान की संभावना को तेजी से पहचाना नहीं गया था। जब तक बैकअप ड्राइवर को नियंत्रण लेने के लिए सचेत किया गया, तब तक वाहन को टक्कर मारने में 0.2 सेकंड का समय लग चुका था और वह 39 मील प्रति घंटे की रफ्तार से यात्रा कर रहा था।

यह उदाहरण आवश्यक रूप से एवी यात्रियों बनाम वाहन के बाहर पैदल चलने वालों को सीधे नुकसान के व्यापार-बंद पर चर्चा नहीं करता है, क्योंकि बैकअप ड्राइवर को कभी भी खुद को नुकसान पहुंचाने का जोखिम नहीं था। हालाँकि, यह प्रकाश में लाता है कि क्या हम अपने आप पर एआई संवेदी पहचान पर भरोसा कर सकते हैं और करना चाहिए और क्या ऐसे उच्च दबाव, कम समय के परिदृश्यों में मैन्युअल ओवरराइड एक व्यवहार्य बैकअप है।

यह हत्या के लिए दोषी नैतिक एजेंट की कमी के माध्यम से, एवी को अस्थायी रूप से स्वायत्तता हस्तांतरित करने के मुद्दे पर भी प्रकाश डालता है। इस मामले में, उबर ने एरिजोना में परीक्षण कर रहे 90 से अधिक अन्य लेवल 3 एवी को वापस ले लिया और पीड़ित परिवार के साथ समझौता कर लिया। दूसरी ओर बैकअप ड्राइवर पर लापरवाही से हत्या का आरोप लगाया गया। क्या दोष उस पर सही ढंग से लगाया गया था या उसे वाहन होना चाहिए था - क्या बाद वाला भी संभव है?

नैतिक ए.आई

यूनेस्को की रूपरेखा है कि एआई नैतिक ढांचे को नुकसान से बचने और मानवाधिकारों का सम्मान करने को प्राथमिकता देनी चाहिए। सुरक्षा और गैर-भेदभाव को मशीन लर्निंग सिद्धांतों पर आधारित होना चाहिए। जिम्मेदार एआई के साथ-साथ मानवीय निरीक्षण, नियंत्रण और जवाबदेही को भी आवश्यक माना जाना चाहिए।

निष्पक्षता और 'अधिक अच्छे के लिए' की अतिरिक्त अवधारणाएं सुझाव देती हैं कि हम चाहते हैं कि एआई निर्णय लेने के लिए उपयोगितावादी विचारधारा का उपयोग करे। दूसरी ओर, 'मानवाधिकारों का सम्मान' स्वयं कार्यों की नैतिक शुद्धता में खेलता है, अर्थात धर्मशास्त्र।

एवी द्वारा निर्णयों की गणना कैसे की जाती है, इसे समझने में पारदर्शिता निश्चित रूप से सर्वोपरि होगी। एवी दुर्घटना के मामले में होने वाले नुकसान या रोकथाम के मूल्यांकन के लिए, हमें यह समझने की आवश्यकता होगी कि अंतर्निहित एआई तकनीक एक निश्चित निष्कर्ष पर कैसे और क्यों पहुंचती है। एवी में सार्वजनिक विश्वास के लिए जवाबदेही को समझने और यह सुनिश्चित करने की आवश्यकता होगी कि सही ढांचे का पालन किया जा रहा है।

नैतिक स्वचालित निर्णय लेना

यूरोपीय संसदीय अनुसंधान सेवा नैतिक, कानूनी और आर्थिक चिंताओं को पहचानती है जिन्हें स्वचालित निर्णय लेने वाली एआई को विकसित करने और तैनात करने में संबोधित किया जाना चाहिए। इसमें अंतर्निहित एल्गोरिदम में नैतिक सिद्धांतों को कैसे विकसित किया जाए, और एआई नवाचार की घातीय दर के साथ वैश्विक नीति और नियमों को कैसे गति दी जाए, इस पर शोध शामिल है।

मानवाधिकारों के संदर्भ में, मानव एजेंसी को भी प्राथमिकता दी जा रही है, अनुसंधान निकाय 'अंतिम उपयोगकर्ताओं के अधिकार को पूरी तरह से स्वचालित प्रसंस्करण पर आधारित निर्णय के अधीन नहीं होने' की रक्षा करना चाहते हैं। प्रौद्योगिकी पक्ष पर, सुरक्षित और विश्वसनीय सिस्टम सुनिश्चित करने के लिए साइबर सुरक्षा मानक अधिक महत्वपूर्ण हो जाएंगे। एथिकल एआई के लिए भरोसेमंद सॉफ्टवेयर की आवश्यकता होती है।

निष्कर्ष

जबकि वर्तमान में हमारे पास यूके में सड़कों पर लेवल 3+ एवी का उपयोग करने वाली आम जनता नहीं है, या घरेलू बाजारों में अभी तक ऐसे कोई वाहन उपलब्ध नहीं हैं, बीएमडब्ल्यू, टेस्ला और मर्सिडीज जैसे उद्योग के प्रमुख खिलाड़ियों का लक्ष्य प्रौद्योगिकियों का उपयोग करके 2025 तक इन्हें लॉन्च करना है। ऐसा करने के लिए ट्रैफिक जाम पायलट की तरह।

यदि एवी को निर्णय लेने की नैतिकता सही मिले, तो बड़े लाभ देखने को मिलेंगे। कुछ अनुमानों के अनुसार सड़कों पर यातायात संबंधी दुर्घटनाओं में 90% की कमी आएगी। फिर भी, यह स्पष्ट है कि हमारे पास अभी तक मात्रात्मक नैतिक और कानूनी ढाँचे नहीं हैं जो यह बताते हों कि जब एवी को रेखांकित करने वाली प्रौद्योगिकियों की बात आती है तो निर्णय कैसे लिए जाने चाहिए और व्यापार-बंद को प्राथमिकता दी जानी चाहिए।

इसलिए एवी खिलाड़ियों को यह रेखांकित करने की आवश्यकता होगी कि 'नुकसान को कम करने' का क्या मतलब है, और किस नैतिक विचारधारा को निर्णय लेने का निर्देश देना चाहिए। जैसा कि हमने 2018 में उबर की दुर्घटना के साथ देखा, जवाबदेही और एजेंसी को भी स्पष्ट करना होगा। ये सब, इन्हें कैसे संभाला जाता है और हम किस दिशा में आगे बढ़ते हैं, इसका समाज पर दीर्घकालिक नैतिक प्रभाव पड़ेगा।

संदर्भ

• स्वायत्त वाहनों में नैतिक निर्णय लेना: एवी एथिक्स प्रोजेक्ट | विज्ञान और इंजीनियरिंग नीतिशास्त्र (स्प्रिंगर.कॉम)
• स्वायत्त कारों में खेल की वर्तमान स्थिति | हैकाडे
• स्वायत्त वाहनों (एवी) का भविष्य | मैकिन्से
• इलेक्ट्रिक और स्वायत्त वाहन: भविष्य अब है | बेन एंड कंपनी
• एआई एथिकल फ्रेमवर्क (rootstrap.com)
• स्वायत्त वाहनों में नैतिक दुविधाओं को दूर करना: एक केस स्टडी | हेलेनजॉय द्वारा | मध्यम
• जब एआई नैतिकता भटक जाती है: स्वायत्त वाहनों का एक केस स्टडी (sagepub.com)
• 'मैं संचालक हूं': एक सेल्फ-ड्राइविंग त्रासदी का परिणाम | वायर्ड
• स्वायत्त वाहन स्तरों को नेविगेट करना: वास्केज़ केस और स्तर 3 और स्तर 4 स्वायत्तता के बीच बहस - एरिज़ोना स्टेट लॉ जर्नल
• उबर एवी सड़क पर हुई मौतों पर सवाल खड़े हो गए हैं | समाचार | बीमा टाइम्स
• ट्रॉली समस्या - उत्पत्ति। ट्रॉली समस्या एक विचार है... | सारा बिज़ारो द्वारा | मध्यम
• कृत्रिम बुद्धिमत्ता में नैतिकता पर यूरोपीय संघ के दिशानिर्देश: संदर्भ और कार्यान्वयन (europa.eu)