
 
 
 
 
 
 
 المؤلفين : (1) Avi Schwarzschild ، جامعة ماريلاند ، كوليدج بارك ، ماريلاند ، الولايات المتحدة الأمريكية و العمل المقرر أثناء العمل في Arthur (avi1umd.edu) ؛ (2) ماكس Cembalest ، آرتور ، مدينة نيويورك ، نيويورك ، الولايات المتحدة الأمريكية ؛ (3) Karthik Rao ، Arthur ، مدينة نيويورك ، نيويورك ، الولايات المتحدة الأمريكية ؛ (4) Keegan Hines, Arthur, مدينة نيويورك, نيويورك, الولايات المتحدة الأمريكية. (5) John Dickerson†، آرتور، نيويورك، نيويورك، الولايات المتحدة الأمريكية (john@arthur.ai). Authors: (1) Avi Schwarzschild ، جامعة ماريلاند ، كوليدج بارك ، ماريلاند ، الولايات المتحدة الأمريكية و العمل المقرر أثناء العمل في Arthur (avi1umd.edu) ؛ (2) ماكس Cembalest ، آرتور ، مدينة نيويورك ، نيويورك ، الولايات المتحدة الأمريكية ؛ (3) Karthik Rao ، Arthur ، مدينة نيويورك ، نيويورك ، الولايات المتحدة الأمريكية ؛ (4) Keegan Hines, Arthur, مدينة نيويورك, نيويورك, الولايات المتحدة الأمريكية. (5) John Dickerson†، آرتور، نيويورك، نيويورك، الولايات المتحدة الأمريكية (john@arthur.ai). طاولة اليسار استثناءات و 1 - إدراج 1.1 تفسير Post Hoc 1.2 مسألة النزاع 1.3 تشجيع التفاهم المشترك 
 
 
 
 
 
 
 Related Work 
 
 Pear: Post HOC Explainer Agreement Regularizer 
 
 
 
 
 
 
 
 The Efficacy of Consensus Training 4.1 Agreement Metrics 4.2 Improving Consensus Metrics 4.3 Consistency At What Cost? 4.4 Are the Explanations Still Valuable? 4.5 Consensus and Linearity 4.6 Two Loss Terms 
 
 
 
 Discussion 5.1 Future Work 5.2 Conclusion, Acknowledgements, and References المرفق abstract في حين أن الشبكات العصبية تعمل بشكل متزايد على اتخاذ القرارات الأساسية في إعدادات الائتمان العالية، فإن مراقبة وتفسير سلوكها بطريقة مفيدة وموثوقة هو ضرورة. نوع واحد من التفسير المشترك هو توضيح الخصائص بعد حالة الطوارئ، وهي مجموعة من الأساليب لتقديم كل خصائص في إدخال تقييم يتوافق مع تأثيرها على النتائج من النماذج. إن حدة كبيرة من هذه الأساليب في الممارسة هي أنهم يمكنهم التفاوض حول ما هي خصائص أهم من غيرها. نشاهد في هذه المقالة طريقة لتدريب النماذج مع هذه المشكلة في ذهننا. نحن نفعل ذلك من خلال إدخال بيانات توضيح الخصائص بعد حالة الطوارئ (PEAR) 1 إدراج وبما أن التعلم الآلي أصبح لا يتجزأ من القطاعات الاجتماعية الرئيسية مثل الرعاية الصحية والمالية، فإن زيادة الشفافية في كيفية الوصول إلى النماذج المعقدة إلى اتخاذ القرارات أصبحت حاسمة.في هذه العملية، نرى وظيفتًا مشتركًا في دعم الشفافية النماذج التي تأتي مع تطوير النماذج الرمضانية المعقدة في إعدادات الإنتاج: تفسير ما هي خصائص الدخول الأكثر تأثيرًا في إنتاج النماذج.هذه الممارسة تسمح للعلماء البيانات والممارسين في التعلم الآلي بتصنيف خصائص حسب أهمية - تعتبر خصائص تؤثر بشكل كبير على إنتاج النماذج أقل تأثيرًا على إنتاج النماذج أقل أهمية. 1.1 تفسير Post Hoc أساليب تفسير النماذج المعروفة في هذه المقالة هي أساليب تخصيص الخصائص المحلية بعد الوضع.المجتمع من الذكاء الاصطناعي المعروف (XAI) يتطور بسرعة إلى أساليب مختلفة من هذا كل من هذه الأساليب لديها صيغة مختلفة قليلا وتفسير النتائج المعدلة، ولكن بشكل عام يعمل كل منهما على الوظيفة نفسها من تخصيص سلوك نموذج إلى خصائص إدخالها. وتستخدم العلماء البيانات المتعلقة بتفسير البريد الإلكتروني في معدل متزايد من النتائج - تم إرسال أكثر من 350 ألف و 6 ملايين تطبيقات من بطاقات Python الخاصة بها خلال 30 يوماً الماضية، على سبيل المثال. 1.2 مسألة النزاع يؤدي انفجار طرق التفسير المختلفة إلى Krishna et al. [15] إلى التأكيد على أن عندما يتم تدريب الشبكات العصبية بشكل طبيعي ، أي من أجل الدقة وحدها ، غالبًا ما لا يتفق التفسيرون المستقبليون حول مدى تأثير الخصائص المختلفة على نتائج نموذج. هناك بحث مهم حول التفصيلات المحلية والقدرة الحقيقية لها في تحقيق هدف مشترك من النظرة النظيفة والتفصيلية [انظر، على سبيل المثال، 7, 18, 29]؛ في الواقع، هناك نقاشات مستمرة حول فعالية أساليب التفصيل الحالي في مجالات محددة [لخدمة الرعاية الصحية، على سبيل المثال، 8]. في هذه المقالة، نحن لا نقوم بتصحيح المعايير فيما يتعلق بهذا النقاش، بل نرى "الإيجازات" كإشارات تستخدم جنبا إلى جنب مع اتجاهات إعادة التقييم والتقييم والتحقق الأخرى في عملية التعلم الآلي (MLOps) قناة. 1.3 تشجيع التفاهم المشترك لا تتطلب الاتفاقية بين اثنين من التفسيرين أن يتصدر التفسيرون نفس الأرقام الحقيقية لكل ميزة. بدلاً من ذلك، فإن الاتفاقية بين التفسيرين يعني أن أي تناقض يظهر يمكن أن يتم تسوية. يقول العلماء البيانات والممارسين في دراسة أن التفسيرات في الاتفاقية الأساسية إذا كانوا يتوافقون مع المعايير الاتفاقية التي تتوافق مع التفكير البشري، والتي توفر طريقة كمية لتقييم مدى تحقيق الاتفاقية [15]. عند مواجهة التناقضات بين التفسيرين، يجب أن يتم اتخاذ قرار بشأن ما يجب القيام به التالي - إذا تم تجنب مثل هذه اللحظات المتناقضة من خلال التدريب على النماذج المتخصصة، ونحن نعتقد أنه سيكون إضافة قيمة نحن نقدم، كدعمنا الرئيسي، تدريبات تدريبية لمساعدة على تخفيف التحدي الذي يرتبط بتناقضات التفكير المفاجئ. إن تحقيق اتفاق أفضل بين التفكيرين لا يمنح المزيد من التفكيرية إلى نموذجًا. ولكن، قد يمنح المزيد من الثقة في التفكير إذا كانت الطرق المختلفة للتفكير تتفق أكثر في الأحيان على ما هي الخصائص ذات الصلة. هذا يوفر التفاوض الفائدة العملية من شأنها أن تتمثل في التحقق من العقلية - إذا كان التفكير يتبعًا، فإن اختيار التفكير الذي يستخدمه الممارس هو أقل تأثيرات على المستثمرين في النهاية، مما يجعل التفكيرين أقل انت 2 الأعمال ذات الصلة وتستند هذه العملية إلى أدوات التفكير المستمر. بعض التفكير المستمر، مثل LIME [24] و SHAP [21]، هي نموذجات بروكس تدريبية على أساس نموذج التعلم الآلي مع الهدف الوحيد من "تفسير" هذا نموذج الأساسي. هذه التفكير المستمر لا تستخدم فقط نموذج بروكس لتحديد ميزات الخصائص المرتبطة بها. التفكير الآخر، مثل Gradients Vanilla (Grad) [32]، Gradient Times Input (Grad*Input) [30]، Integrated Gradients (IntGrad) [37] و SmoothGrad [34]، لا تستخدم نموذج بروكس ولكن تستخدم نموذجات النموذج مع ميزات الخصائص نحن نعتمد مباشرة على العمل السنوي الذي يحدد ويستكشف مشكلة التناقض [15]. التناقض هنا ينطبق على الفرق في أرقام أهمية الخصائص بين طرق تخصيص الخصائص، ولكن يمكن كميات عدة طرق مختلفة كما يتم وصفها من قبل الأرقام Krishna et al. [15] تحديد وتستخدم. يرتبط الطريقة التي نقدمها في هذه المقالة بالعمل السنوي الذي يتدرب على النماذج مع الحد الأدنى من التفسيرات من خلال العقوبات على التناقض بين أرقام تخصيص الخصائص و أرقام الحقيقة الأساسية المعمول بها [26, 27, 41]. بالإضافة إلى ذلك، تم العمل على استغلال التناقض بين التفسيرات المختلفة بعدم التفسيرات لتصنيع أرقام تخصيص الخصائص الجديدة التي تحسن التقييمات مثل الاستقرار والتفاوض على الجانب [2, 16, 25]. 
 
 هذه الوثيقة متوفرة في archiv تحت رخصة CC BY 4.0 DEED. هذه الرسالة هي تحت تصريح CC BY 4.0 DEED. متوفرة في Archive متوفرة في Archive

Part of HackerNoon's growing list of open-source research papers, promoting free access to academic material.

Read My Stories

No technological innovation comes without sacrifice. The pendulum will swing back to the people! Wanna' be 501c3.

Reckoning's Blog

تم إنتاج هذا الصوت باللغة الأصلية للقصة!

طويل جدا؛ ليقرأ

Make resilience your competitive advantage

دراسة جديدة حول الذكاء الاصطناعي تتعامل مع مشكلة النقاش في النماذج السوداء

About Author

تعليقات

شنق العلامات

تم تقديم هذه المقالة في

Related Stories

Cappasity -Turning dreams into Augmented reality

I2ShowSpeed With My HackerNoon Articles on Bitcoin

Top Web Development Companies in 2018

Top 10 Software Consulting Company based on Clutch & Goodfirms Reviews

Cappasity -Turning dreams into Augmented reality

I2ShowSpeed With My HackerNoon Articles on Bitcoin

Top Web Development Companies in 2018

Top 10 Software Consulting Company based on Clutch & Goodfirms Reviews

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps