paint-brush
सत्यापन योग्य निष्पक्षता: गोपनीयता-संरक्षण एमएल सिस्टम के लिए निष्पक्षता की गणना: निष्कर्षद्वारा@escholar
154 रीडिंग

सत्यापन योग्य निष्पक्षता: गोपनीयता-संरक्षण एमएल सिस्टम के लिए निष्पक्षता की गणना: निष्कर्ष

बहुत लंबा; पढ़ने के लिए

एक सेवा के रूप में निष्पक्षता (FaaS) मूल डेटासेट या मॉडल विशिष्टताओं तक पहुंच के बिना गोपनीयता को संरक्षित करके एल्गोरिथम निष्पक्षता ऑडिट में क्रांति लाती है। यह पेपर FaaS को एन्क्रिप्टेड क्रिप्टोग्राम और जीरो नॉलेज प्रूफ़ को नियोजित करने वाले एक भरोसेमंद ढांचे के रूप में प्रस्तुत करता है। सुरक्षा गारंटी, अवधारणा का प्रमाण कार्यान्वयन, और प्रदर्शन प्रयोग एआई एल्गोरिदम में निष्पक्षता की गणना और सत्यापन करने, गोपनीयता, विश्वास और प्रदर्शन में चुनौतियों का समाधान करने के लिए FaaS को एक आशाजनक अवसर के रूप में प्रदर्शित करते हैं।
featured image - सत्यापन योग्य निष्पक्षता: गोपनीयता-संरक्षण एमएल सिस्टम के लिए निष्पक्षता की गणना: निष्कर्ष
EScholar: Electronic Academic Papers for Scholars HackerNoon profile picture

यह पेपर CC BY 4.0 DEED लाइसेंस के तहत arxiv पर उपलब्ध है।

लेखक:

(1) एहसान तोरेनी, सरे विश्वविद्यालय, यूके;

(2) मरियम मेहरनेज़ाद, रॉयल होलोवे यूनिवर्सिटी ऑफ़ लंदन;

(3) एड वान मूरसेल, बर्मिंघम विश्वविद्यालय।

लिंक की तालिका

सार एवं परिचय

पृष्ठभूमि और संबंधित कार्य

FaaS वास्तुकला

कार्यान्वयन और प्रदर्शन विश्लेषण

निष्कर्ष

पावती और संदर्भ

5। उपसंहार

यह पेपर एक सेवा के रूप में निष्पक्षता (FaaS), एक भरोसेमंद सेवा वास्तुकला और एल्गोरिथम निष्पक्षता की गणना के लिए सुरक्षित प्रोटोकॉल का प्रस्ताव करता है। FaaS को एक ऐसी सेवा के रूप में डिज़ाइन किया गया है जो एमएल सिस्टम से मूल डेटासेट या मॉडल जानकारी साझा करने के लिए कहे बिना निष्पक्षता की गणना करती है। इसके बजाय, इसे क्रिप्टोग्राम के आकार में एमएल सिस्टम द्वारा वितरित डेटा सुविधाओं के मूल्यों के एन्क्रिप्टेड प्रतिनिधित्व की आवश्यकता होती है। हमने यह सुनिश्चित करने के लिए क्रिप्टोग्राम के भीतर गैर-इंटरैक्टिव जीरो नॉलेज प्रूफ़ का उपयोग किया कि प्रोटोकॉल उसी तरह निष्पादित हो जैसा उसे होना चाहिए। एमएल प्रणाली की निष्पक्षता के लिए गणना की शुद्धता का निरीक्षण करने के लिए इन क्रिप्टोग्रामों को सार्वजनिक निष्पक्षता बोर्ड पर पोस्ट किया जाता है। यह निष्पक्षता की गोपनीयता-संरक्षण गणना में एक नया दृष्टिकोण है क्योंकि फ़ेडरेटेड शिक्षण दृष्टिकोण का उपयोग करने वाले अन्य समान प्रस्तावों के विपरीत, हमारा FaaS आर्किटेक्चर अपने संचालन के लिए एक विशिष्ट मशीन लर्निंग मॉडल या निष्पक्षता मीट्रिक परिभाषा पर निर्भर नहीं करता है। इसके बजाय, किसी को अपने इच्छित मॉडल और पसंद की निष्पक्षता मीट्रिक को तैनात करने की स्वतंत्रता है।


इस पेपर में हमने साबित किया कि सुरक्षा प्रोटोकॉल डेटा की गोपनीयता की गारंटी देता है और किसी भी मॉडल की जानकारी लीक नहीं करता है। पहले के डिज़ाइनों की तुलना में, हमारे डिज़ाइन में भरोसा एमएल सिस्टम द्वारा क्रिप्टोग्राम के सही निर्माण में है। यकीनन, एमएल सिस्टम की कई कानूनी, व्यावसायिक और नैतिक आवश्यकताओं को ध्यान में रखते हुए, विश्वसनीय तीसरे पक्ष को डेटा तक पूर्ण पहुंच प्रदान करने की तुलना में यह एक समाधान के रूप में अधिक यथार्थवादी है। साथ ही, यह एमएल प्रणाली में विश्वास बढ़ाने में एक नई चुनौती प्रदान करता है। प्रस्तुत प्रोटोकॉल के बाद क्रिप्टोग्राम के निर्माण में विश्वास बढ़ाना एक दिलचस्प शोध चुनौती बनी हुई है।


हमने FaaS की प्रूफ़-ऑफ़-अवधारणा लागू की और कमोडिटी हार्डवेयर पर प्रदर्शन प्रयोग किए। प्रोटोकॉल को प्रति डेटा बिंदु पूरा होने में कुछ सेकंड लगते हैं, इस प्रकार यदि डेटा बिंदुओं की संख्या बड़ी (हजारों में) है तो प्रदर्शन चुनौतियों में प्रदर्शित होता है। प्रदर्शन चुनौती को कम करने के लिए, सुरक्षा प्रोटोकॉल का मंचन इस प्रकार किया जाता है कि क्रिप्टोग्राम का निर्माण ऑफ़लाइन किया जा सके। क्रिप्टोग्राम से निष्पक्षता की गणना का प्रदर्शन भविष्य के काम में संबोधित करने के लिए एक चुनौती है। कुल मिलाकर, हम मानते हैं कि FaaS और प्रस्तुत अंतर्निहित सुरक्षा प्रोटोकॉल AI एल्गोरिदम की निष्पक्षता की गणना और सत्यापन के लिए एक नया और आशाजनक दृष्टिकोण प्रदान करते हैं।