
 
 
 
 
 
 
 ලේඛකයෝ : (1) Avi Schwarzschild, Maryland විශ්ව විද්යාලය, College Park, Maryland, එක්සත් ජනපදයේ සහ Arthur හි වැඩ කරන විට අවසන් කරන ලද වැඩ (avi1umd.edu); (2) Max Cembalest, Arthur, නිව්යෝර්ක් නගරය, නිව්යෝර්ක්, එක්සත් ජනපදය; (3) Karthik Rao, Arthur, නිව්යෝර්ක් නගරය, නිව්යෝර්ක්, එක්සත් ජනපදය; (4) Keegan Hines, Arthur, නිව්යෝර්ක් නගරය, නිව්යෝර්ක්, එක්සත් ජනපදය; (5) John Dickerson†, Arthur, නිව්යෝර්ක් නගරය, නිව්යෝර්ක්, එක්සත් ජනපදය (john@arthur.ai). Authors: (1) Avi Schwarzschild, Maryland විශ්ව විද්යාලය, College Park, Maryland, එක්සත් ජනපදයේ සහ Arthur හි වැඩ කරන විට අවසන් කරන ලද වැඩ (avi1umd.edu); (2) Max Cembalest, Arthur, නිව්යෝර්ක් නගරය, නිව්යෝර්ක්, එක්සත් ජනපදය; (3) Karthik Rao, Arthur, නිව්යෝර්ක් නගරය, නිව්යෝර්ක්, එක්සත් ජනපදය; (4) Keegan Hines, Arthur, නිව්යෝර්ක් නගරය, නිව්යෝර්ක්, එක්සත් ජනපදය; (5) John Dickerson†, Arthur, නිව්යෝර්ක් නගරය, නිව්යෝර්ක්, එක්සත් ජනපදය (john@arthur.ai). මේසය Links Abstract සහ 1 - Introduction 1.1 Post Hoc පැහැදිලි කිරීම 1.2 එකඟතාවයේ ප් රශ්නය 1.3 පැහැදිලි කිරීම සඳහා එකඟතාවය සහාය කිරීම 
 
 
 
 
 
 
 Related Work 
 
 Pear: Post HOC Explainer Agreement Regularizer 
 
 
 
 
 
 
 
 The Efficacy of Consensus Training 4.1 Agreement Metrics 4.2 Improving Consensus Metrics 4.3 Consistency At What Cost? 4.4 Are the Explanations Still Valuable? 4.5 Consensus and Linearity 4.6 Two Loss Terms 
 
 
 
 Discussion 5.1 Future Work 5.2 Conclusion, Acknowledgements, and References උපාංගය අමුද් රව් ය හෘද ජාලය ඉහළ ඔට්ටු සැකසීම්වලදී වඩාත් ප්රධාන තීරණ ගන්නවා නම්, ඔවුන්ගේ හැසිරීම තේරුම් ගත හැකි හා විශ්වාසදායක ආකාරයෙන් නිරීක්ෂණය කිරීම සහ පැහැදිලි කිරීම අවශ් යතාවයක් වේ. සාමාන්යයෙන් භාවිතා කරන ආකාරය වන්නේ post-hoc feature attribution වන අතර, ඇතුළත් කිරීමේ සෑම ලක්ෂණයක්ම එහි ආකෘතියට බලපාන බලපෑම අනුව සාපේක්ෂව සාපේක්ෂව සාපේක්ෂව සාපේක්ෂව සාපේක්ෂව සාපේක්ෂව සාපේක්ෂව සාපේක්ෂව සාපේක්ෂව සාපේක්ෂව සාපේක්ෂව සාපේක්ෂව සාපේක්ෂව සාපේක්ෂව සාපේක්ෂව සාපේක්ෂව සාපේක්ෂව සාපේක්ෂව සාපේක්ෂව සාපේක්ෂව සාපේ 1 ඇතුළත් කිරීම සෞඛ්ය සහ මූල්ය වැනි වැදගත් සමාජ ක්ෂේත්ර වලින් යන්ත්ර ඉගෙනීම අතුරුදහන් වන අතර, සංකීර්ණ ආකෘති ඔවුන්ගේ තීරණයට පැමිණෙන ආකාරය පිළිබඳ ප්රවේශය වැඩි කිරීම ප්රධාන ප්රශ්නයක් බවට පත් වේ. මෙම කාර්යය තුළ, අපි නිෂ්පාදන සැකසුම් තුළ සංකීර්ණ කළු පෙට්ටිය ආකෘති ස්ථාපනය කිරීමෙන් ඇති වන ආකෘති විවෘතත්වය සහාය කිරීම සඳහා පොදු කාර්යයක් පරීක්ෂා කරමු: ආකෘති ආදායමයේ විශේෂාංග මොනවාද වඩාත් බලපාන බව පැහැදිලි කිරීම. මෙම ක්රියාවලිය දත්ත විද්යාඥයින්ට සහ යන්ත්ර ඉගෙනුම් ක්ෂේත් රයේ විශේෂාංග වැදගත්කම අනුව වර්ගීකරණය කිරීමට ඉඩ සලසයි – ආකෘති ආකෘති ප්රතිඵලයට 1.1 Post Hoc පැහැදිලි කිරීම මෙම ලිපිය තුළ සාකච්ඡා කරන ලද ආකෘති පැහැදිලි කිරීමේ ක්රම post-hoc දේශීය ප්රතිශත ප්රතිශත ප්රතිශත වේ. උදාහරණයක් ලෙස, 21, 24, 30, 32, 37). මෙම ක්රමයේ සෑම ආකාරයකම එහි අමුද් රව් ය ප්රතිඵලයක් හා ප්රතිඵල ප්රවේශය ටිකක් වෙනස්, නමුත් සාමාන්යයෙන් ඔවුන් සියලුම ඔවුන්ගේ ප්රතිඵල ප්රතිඵල ප්රතිඵල ප්රතිඵල ප්රතිඵල ප්රතිඵල ප්රතිඵල ප්රතිඵල ප්රතිඵල ප්රතිඵල ප්රතිඵල ප්රතිඵල. දත්ත විද්යාඥයන් post-hoc පැහැදිලි කිරීම් භාවිතා කරන අතර, LIME සහ SHAP වැනි ජනප්රිය ක්රමයන් පසුගිය 30 දින තුළ ඔවුන්ගේ Python පැකේජයන්ගෙන් මිලියන 350 කට වඩා බාගත කර ඇත [23]. 1.2 එකඟතාවයේ ප් රශ්නය විවිධ පැහැදිලි කිරීම් ක්රමයේ පිපිරීම ක්රිස්නා et al. [15] ස්වාභාවිකව ස්වභාවික ජාල පුහුණු කරන විට, එනම් නිවැරදිත්වය සඳහා පමණක්, බොහෝ විට post hoc පැහැදිලිකරුවන් මොනතරම් විවිධ අංගයක් ආකෘති ප්රතිඵලයට බලපෑවේද පිළිබඳ එකඟ නොවන්නේ බව නිරීක්ෂණය කරයි. ප්රදේශීය පැහැදිලි කිරීම් සහ ඔවුන්ගේ සැබෑ වටිනාකම පිළිබඳ වැදගත් සාකච්ඡාවක් ඇත [උදාහරණයක් ලෙස, 7, 18, 29 බලන්න]; සැබවින්ම, සැබවින්ම, සැබවින්ම, සැබෑ ක්ෂේත්රවල සැබෑ පැහැදිලි කිරීම් ක්රමයේ ඵලදායීත්වය පිළිබඳ සාකච්ඡා සිදු වේ [උදාහරණයක් ලෙස, 8 බලන්න, සෞඛ්ය සඳහා]. විශේෂාංග වැදගත්කම ගණනය කිරීම වඩාත් විවේචනය කරන ලද ආකෘතිය ඉතා සංකීර්ණ වන විට වඩාත් විවේචනය කළ හැකි විය හැක. මෙම වාර්තාවේදී, අපි මෙම සාකච්ඡාව සම්බන්ධයෙන් නීත්යානුකූල විනිශ්චයන් නොකරමු, ඒ වෙනුවට අපි යන්ත්ර ඉගෙනුම් මෙහෙයුම් (MLOps) මාර්ගයේ අනෙකුත් ඩබ්ගින්, විනිශ්චය සහ විනිශ්චය ප්රවේශයන් සමඟ භාවිතා කළ හැකි සංඥා ලෙස "විවේචන" ලෙස සලකා බලමු. 1.3 පැහැදිලි කිරීම සඳහා එකඟතාවය සහාය කිරීම ප්රකාශකයින් දෙදෙනා අතර එකඟතාවය අවශ් ය නොවේ. ඊට වඩා, ප්රකාශකයින් දෙදෙනා අතර එකඟතාවය අදහස් කරන්නේ, ඔවුන් පෙන්වා දෙන්නේ කුමක් වුවත් එකඟතාවය සකස් කළ හැකි බවයි. දත්ත විද්යාඥයන් සහ යන්ත්ර ඉගෙනුම් ක්ෂේත් රකරුවන් පර්යේෂණයකදී ප්රකාශයන් මූලික එකඟතාවයක් ඇති බව පවසනවා නම්, ඔවුන් මිනිස් ආකල්පය සමඟ සකස් වන එකඟතාවයක් ප්රමාණයන් සපුරාලන අතර, එය ප්රකාශකයින් අතර එකඟතාවය සපුරාලන ප්රමාණය අගය කිරීම සඳහා ප්රමාණවත් ක්රමයක් සපයයි [15]. ප්රකාශකයින් අතර එකඟතාවය ඇති විට, ඊළඟට කළ යුතු දේ ගැන තෝරා ගැනීම සිදු කළ යුතුය - එවැනි අසාධාරණ මාර්ග අපගේ ප්රධාන ප්රතිපාදන ලෙස, post-hoc පැහැදිලි කිරීම් ප්රතිසංස්කරණ ප්රතිසංස්කරණ ප්රතිසංස්කරණ ප්රශ්නය සීමා කිරීමට උපකාර කිරීම සඳහා පුහුණු පුහුණු වැඩසටහන ඉදිරිපත් කරමු. පැහැදිලි කිරීම් අතර වඩා හොඳ එකඟතාවයක් සාර්ථක කිරීම ස්වභාවිකව ආකර්ෂණය කිරීම සඳහා වඩාත් පරිවර්තනය කළ නොහැක. කෙසේ වෙතත්, එය පැහැදිලි කිරීම් සඳහා වඩාත් විශ්වාසභංගයක් ලබා ගත හැකි අතර, ප්රතිපත්තිය පිළිබඳ විවිධ ප්රවේශයන් බොහෝ විට එකඟ වන අතර, එය වැදගත් වේ. මෙම එකඟතාවය සෞඛ්ය පරීක්ෂණයක් ලෙස ක්රියාත්මක කිරීම සඳහා ප්රායෝගික ප්රතිලාභ ලබා දෙයි - එකඟතාවය නිරීක්ෂණය කළහොත්, පුහුණුකරු විසින් භාවිතා කරන පැහැදිලි කිරීම් 2 සම්බන්ධ වැඩ LIME [24] සහ SHAP [21] වැනි සමහර post-hoc පැහැදිලි කිරීම් මෙවලම් මත අවධානය යොමු කර ඇත. සමහර post-hoc පැහැදිලි කිරීම් මෙවලම්, ප්රධාන යන්ත්ර ඉගෙනුම් ආකෘතිය මත පුහුණු ප්රොක්සි ආකෘති, මෙම පැහැදිලි කිරීම් ඒ පදනම ආකෘතිය "සංස්කරණය" පමණක් අරමුණ. මෙම පැහැදිලි කිරීම් පමණක් ප්රොක්සි ආකෘති සහ ප්රොක්සි ආකෘති හඳුනා ගැනීම සඳහා මත පදනම් වේ. අනෙකුත් පැහැදිලි කිරීම්, වැනි Vanilla Gradients (Grad) [32], Gradient Times Input (Grad*Input) [30], Integrated Gradients (IntGrad) [37] සහ SmoothGrad [34], ප්රොක්සි ආකෘති හඳුනා ගැනීම සඳහා ආකෘති අප සෘජුවම පෙර වැඩ මත පදනම් වන අතර එම ප්රශ්නය සකස් කිරීම සහ පර්යේෂණ [15]. නොසැලකිලිමත් වීම මෙහි ප්රතිඵල ප්රතිඵල ප්රමාණය ප්රතිඵල දෙක අතර වෙනස සලකයි, නමුත් ක්රියාකාරීත්වය ක්රියාකාරීත්වය ක්රියාකාරීත්වය ක්රියාකාරීත්වය ක්රියාකාරීත්වය ක්රියාකාරීත්වය ක්රියාකාරීත්වය ක්රියාකාරීත්වය ක්රියාකාරීත්වය ක්රියාකාරීත්වය ක්රියාකාරීත්වය ක්රියාකාරීත්වය ක්රියාකාරීත්වය ක්රියාකාරීත්වය ක්රියාකාරීත්වය ක්රියාකාරීත්වය ක්රියාකාරීත්වය ක්රියාකාරීත්වය ක්රියාකාරීත්වය ක්රියාකාරීත්වය ක්රියාකාරීත්වය ක්රියාකාරී මෙම ලිපියේදී අපි යෝජනා කරන ක්රමයේ ප ් රතිපත්තිය ප ් රතිපත්තිය ප්රතිපත්තිය ප්රතිපත්තිය ප්රතිපත්තිය ප්රතිපත්තිය ප්රතිපත්තිය ප්රතිපත්තිය ප්රතිපත්තිය ප්රතිපත්තිය ප්රතිපත්තිය ප්රතිපත්තිය ප්රතිපත්තිය ප්රතිපත්තිය ප්රතිපත්තිය ප්රතිපත්තිය ප්රතිපත්තිය ප්රතිපත්තිය ප්රතිපත්තිය ප්රතිපත්තිය ප්රතිපත්තිය ප්රතිපත්තිය ප්රතිපත්තිය ප්රතිපත්තිය ප්රතිපත්තිය ප්රතිපත්තිය ප්රතිපත්තිය ප්රතිපත්තිය ප්රතිපත්තිය ප්රතිපත්තිය ප්රතිපත්ත 
 
 මෙම ලිපිනය CC BY 4.0 DEED බලපත් ර යටතේ archiv මත ලබා ගත හැකිය. මෙම ලිපිනය CC BY 4.0 DEED බලපත් ර යටතේ archiv මත ලබා ගත හැකිය. ලියාපදිංචි

Part of HackerNoon's growing list of open-source research papers, promoting free access to academic material.

Read My Stories

No technological innovation comes without sacrifice. The pendulum will swing back to the people! Wanna' be 501c3.

Reckoning's Blog

මෙම ශ්‍රව්‍යය කතාවේ මුල් භාෂාවෙන් නිෂ්පාදනය කර ඇත!

දිග වැඩියි; කියවීමට

Make resilience your competitive advantage

නව AI අධ්යයනය Black-Box ආකෘතිවල විවෘතතාව ප්රශ්නය විසඳයි

About Author

අදහස්

ටැග් එල්ලන්න

මෙම ලිපිය ඉදිරිපත් කරන ලදී

Related Stories

10 Reasons Why Publishing on HackerNoon Will Skyrocket Your Reach and Impact

Seamless Sign-ups on the Move: Unlock Access as You Take Action!

Meet PennyFly Entertainment, Startups of the Year Winner (Malibu, CA)

The #crypto-api Writing Contest by CoinGecko and HackerNoon: Results Announcement 🎉

10 Reasons Why Publishing on HackerNoon Will Skyrocket Your Reach and Impact

Seamless Sign-ups on the Move: Unlock Access as You Take Action!

Meet PennyFly Entertainment, Startups of the Year Winner (Malibu, CA)

The #crypto-api Writing Contest by CoinGecko and HackerNoon: Results Announcement 🎉

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps