Why Your AI Doesn’t Need the Cloud to Run Faster Anymore

```html لیکوالان: توماس فیلتین لیو مارکو خوان-انتونیو کورډیرو-فویرتس فرانک بروکNERS توماس H. کلاسین خلاصه: د سټریمینګ ډیټا باندې د ژورې عصبي شبکې (DNN) استنباط د استنباطي تروپوت اړتیاوې پوره کولو لپاره د کمپیوټري سرچینو ته اړتیا لري. په هرصورت، د ځنډ او محرمیت حساس ژور زده کړې غوښتنلیکونه نشي کولی د لیږد لګښت او دریم اړخ کلاوډ چمتو کونکو ته د باور نشتوالي له امله computation په لیرې کلاوډونو ته آفلوډ کړي. د کمپیوټیشن په محدود چاپیریال کې ساتلو پرمهال د فعالیت زیاتولو لپاره د حلونو په مینځ کې، هارډویر سرعت کیدای شي ستونزمن وي، او د موډل اصلاح کولو ته د ډیزاین پراخې هڅې ته اړتیا وي پداسې حال کې چې دقت زیانمن کړي. د DNN تقسیم دریم بشپړونکی چلند دی، او د څو شته څنډو وسیلو باندې د استنباطي کاري بار توزیع کولو څخه جوړ دی، د څنډې شبکې ملکیتونه او د DNN جوړښت په پام کې نیولو سره، د هدف سره د استنباطي تروپوت اعظمي کول (په ثانیه کې د استنباطونو شمیر). دا مقاله د څو تارونو توزیع شوي DNN تاسیساتو لپاره د استنباط او لیږد ځنډ وړاندوینې لپاره یوه میتود معرفي کوي، او د استنباطي تروپوت اعظمي کولو لپاره د اصلاح پروسه تعریفوي. بیا یو برانچ او بانډ حل کونکی وړاندې کیږي او د لاسته راوړلو فعالیت او پیچلتیا د کمولو لپاره تحلیل کیږي. دې تحلیل د سرعت ساحې تعریف ته لاره هواره کړې، کوم چې د DNN او شبکې ملکیتونو په اړه قطعي شرایط تشریح کوي چې لاندې DNN تقسیم ګټور دی. په نهایت کې، د تجربې پایلې د simulations تاییدوي او د نمونې څنډو تاسیساتو کې د استنباطي تروپوت پرمختګونه ښیې. د څنډې په څنډه کې د DNN تقسیم د استنباطي تروپوت سرعت فعالوي پداسې حال کې چې د بینډ ویت کارول او د مرکزي سرورونو ته ځنډ کموي، د بیلګې په توګه، په کلاوډ کې. مقدمه په 2020 کال کې د نښل شوي وسیلو لخوا په ورځ کې 2.5 کوینټیلیون بایټ معلومات تولید شوي. په دې شرایطو کې، مصنوعي استخبارات (AI) یو له هغو ټیکنالوژیو څخه دی چې د تل زیاتیدونکي تولید شوي معلوماتو سره په غوره توګه مقابله کولی شي، د ساحو په پراخه لړۍ کې لکه د کمپیوټر لید کې د شیانو کشف، د مخ پیژندنه، د وینا پیژندنه، د طبیعي ژبې پروسس کول، یا خودمختاره موټر چلول. AI، او په ځانګړې توګه ژور زده کړه (DL)، د لوی مقدار معلوماتو سربیره، د پروسس کولو ځواک او حافظې کې د پام وړ وړتیاوې لري، چې د کلاوډ کمپیوټینګ د AI کاري بارونو لپاره د "de facto" کوربه توب حل جوړوي. په پایله کې، په 2019 کې، 96٪ د AI دندې په کلاوډ کې ترسره شوي. 1 2 د AI غوښتنلیکونه ممکن قوي د ځنډ محدودیتونه ولري، د بیلګې په توګه، په خودمختاره موټر چلولو، د تولید نظارت، یا د ریښتیني وخت استنباط کې د ریښتینې نړۍ سره تعامل شامل وي. د مثال په توګه، په خودمختاره موټر چلولو کې د منځني ځواب وختونه د 100 ملی ثانیو څخه کم ته اړتیا لري ، د کلاوډ ته د سفر وختونه د داسې غوښتنلیکونو لپاره خورا اوږدوي. په ورته ډول، ځینې غوښتنلیکونه ممکن په شبکه کې د پام وړ لینک کارول معرفي کړي، د بیلګې په توګه، د کمپیوټر لید کې د لوړ کیفیت ویډیو پروسس کولو په قضیه کې، کوم چې دوی د کلاوډ کې له چلولو څخه منع کوي. د معلوماتو محرمیت پالیسۍ یا د معلوماتو محافظت مقررات ممکن د معلوماتو له ځانګړو چاپیریالونو څخه د وتلو مخه هم ونیسي. دا د څنډې کمپیوټینګ کې د AI تاسیساتو هڅوي، کوم چې د ډیټا مرکزونو څخه کمپیوټري دندې د څنډې وسیلو ته نږدې لیږدولو څخه جوړ دی، د بیلګې په توګه، د ډیټا سرچینو ته نږدې. [[1]](javascript:void()) د عامه کلاوډونو په پرتله، څنډه یوه سرچینه محدوده چاپیریال دی چې مهم محدودیتونه لري ، او له همدې امله د څنډې لپاره د AI پراختیا په ذاتي ډول له کلاوډ لپاره د AI پراختیا څخه توپیر لري. د ډیټا سرچینې ته نږدې د معلوماتو تحلیل کول ممکن د ټیټ وسیلو ظرفیتونو، د شته سرچینو انعطاف نه منلو، او د څنډې شبکو د ناانډولۍ له امله ننګونکي وي. د کمپیوټینګ ظرفیت کمول پدې معنی دي چې د لاسرسي وړ استنباطي تروپوت کم شوی، د کلاوډ څخه څنډې ته د درنو کاري بارونو لیږدول نور هم پیچلي کوي. په ځینو غوښتنلیکونو کې، استنباطي تروپوت، د بیلګې په توګه، په ثانیه کې د DNN استنباطاتو لاسرسي وړ شمیر، د DNN دقت سره تړاو لرلی شي، د بیلګې په توګه، د ویډیو سټریمونو کې د شیانو تعقیب سره، چیرې چې د استنباط نرخ له 15 څخه تر 5 استنباطونو څخه په ثانیه کې کمول د F1 سکور__3__ د شیانو کشف کونکي لخوا 10٪ کم شوی دی . په بل عبارت، د ټیټ استنباطي تروپوت سره تاسیسات ممکن د مهم معلوماتو ضایع کیدو لامل شي، د بیلګې په توګه، د ویډیو نظارت غوښتنلیکونو کې د کشف ضایع کیدل. [[2]](javascript:void()) [[3]](javascript:void()) د محدود څنډې شبکو باندې د فعالیت اړتیاو پوره کولو لپاره دوه اصلي شته میتودونه شتون لري: د موډل کمپریشن یا هارډویر سرعت. د موډل کمپریشن په عصبي شبکو باندې تمرکز کوي چې لږ وزن لرونکي، ډیری وختونه لږ فعالیت کونکي، د موډل نسخه ته کموي او اصلاح کوي. معیاري موډل کمپریشن میتودونه شامل دي pruning ، د بیلګې په توګه، په موډل کې غیر ضروري پیرامیټونه لرې کول، quantization ، د بیلګې په توګه، د موډل ذخیره کولو لپاره تخصیص شوي حافظې کمول، او د پوهې تقطیر ، د بیلګې په توګه، د لوی څخه استخراج شوي پوهې سره یو کوچنی عصبي شبکه روزل. د موډل اصلاح کولو ته د ډیزاین پراخې هڅې ته اړتیا لري او د موډل دقت لپاره خنډ کیدی شي. هارډویر سرعت په څنډو وسیلو باندې داسې هارډویر موندل شامل دي چې دواړه د بریښنا اغیزمن او لږ وزن لرونکي کیدی شي، پداسې حال کې چې لاهم د کافي فعالیت سره استنباط پرمخ وړلو توان لري. د څنډې په سرعت کې د متنوع مؤثریت او ځانګړتیاوې لري، مګر معیاري پروسس کولو واحدونه تمې پوره کولو کې پاتې راغلي او ځانګړي هارډویر لکه ASICs غیر عملي او ګران موندل شوي . [[4]](javascript:void()) [[5]](javascript:void()) [[6]](javascript:void()) [[7]](javascript:void()) د DNN تقسیم د استنباط سرعت کولو لپاره یوه بشپړونکی میتود دی د موجودو وسیلو د multiplicity په ګټه اخیستنې سره په څنډو شبکو باندې د استنباطي کمپیوټیشن توزیع کولو سره - کوم چې یوازې، یا د نورو دوو میتودونو سره په ګډه کارول کیدی شي. د DNN تقسیم یوه عصبي شبکه د پایپ لاین په توګه په برخو ویشلو او دغه برخو په څنډو وسیلو باندې توزیع کولو ته په پام سره جوړ دی. د دې برخو موقعیت د DNN او لاندې شبکې ځانګړتیاو دواړو پراساس دی. د DNN تقسیم په ویشلو نقطو پیژندلو باندې تکیه کوي، کوم چې په موډل ګراف کې هغه نقطې دي چیرې چې موډل په برخو ویشل کیږي. د چلولو وخت په جریان کې، برخې په پرله پسې توګه پرمخ ځي، هر یو د راتلونکي برخې ته منځګړی استنباط پایلې لیږي. دا اجازه ورکوي چې هر برخه د نورو وسیلو لخوا د بار شوي یوه پروسس کولو پرمهال بل ان پټ ډیټا محاسبه پیل کړي، پدې توګه د استنباطي تروپوت ښه کول، لکه څنګه چې په شکل 1 کې ښودل شوي. په دې مقاله کې، د DNN تقسیم د ویډیو سټریمونو باندې د ریښتیني وخت استنباط په مثال سره تشریح شوی. A. اړوند کار د DNN تقسیم لپاره میتودونه، د ګرځنده څنډې-کلاوډ آفلوډینګ څخه اخیستل شوي، د مختلفو فعالیت شاخصونو، لکه د کمپیوټیشن ځنډ، د انرژي مصرف، د سرچینو کارول، لګښت، یا تروپوت، د اصلاح کولو په لټه کې دي. د DNN تقسیم د یو یا څو دغو میتریکونو تړون باندې تکیه کوي ترڅو د اصلاح هدف تعریف کړي، او یوه میتود چې دا میتریک د تقسیم سکیمونو موندلو لپاره کاروي. د مثال په توګه، Neurosurgeon یوازې یو ویش نقطې په لټه کې دی، لومړۍ برخه په څنډه کې ساتل او دویمه برخه کلاوډ ته آفلوډ کول، ترڅو ځنډ او د انرژي مصرف کم کړي. د IoT غوښتنلیکونو هم د څو DNNs مشترک تقسیم او آفلوډ کولو ته په پام کې نیولي ترڅو انرژي، ځنډ، او/یا لګښت، د مختلف حل کونکو په کارولو سره لکه SPSO-GA د ذراتو تحرکاتو (PSO) او جینیټکس الګوریتم (GA) ترکیب کولو سره، یا DDPQN کوم چې د ژور تقویې زده کړې کاروي ترڅو د تقسیم سکیمونه ومومي. نور مثالونه شامل دي DINA ، کوم چې د انټیجر غیر خطي پروګرامینګ (INLP) ستونزه تعریفوي، او د فاکس شبکو کې د ځنډ او سرچینو کارولو د اصلاح کولو لپاره د میچینګ تیوري پر بنسټ حل کونکی کاروي. د استنباطي تروپوت اصلاح کولو میتودونه شامل دي DNN جراحي ، کوم چې د منځګړیو DNN طبقو دوتنې د کم اندازې څخه کار اخلي ترڅو څنډې او کلاوډ ترمنځ استنباطي کمپیوټیشن تقسیم کړي. دواړه الګوریتمونه دوه برخې رامینځته کوي، یوه په څنډه کې او بله په کلاوډ کې. په ګرځنده څنډه-کلاوډ کې نور مطالعات هم په کلاوډ کې د ملټي-تھریډډ کمپیوټیشن شامل دي ترڅو د ټول استنباطي تروپوت نور هم سرعت کړي. د دویمې برخې استنباطي کمپیوټیشن لپاره په کلاوډ تکیه کول د ښه شبکې اتصال فرض کوي، کوم چې د ځینو جلا څنډو تاسیساتو د ضعیف اتصال سره ناڅرګند کیدی شي. Edgent مخکینۍ میتودولوژي ګرځنده وسیلو او شته څنډو سرورونو ته تطبیقوي، د کلاوډ ته د آفلوډ کولو محدودیت آراموي. دا طریقه د ځانګړي روزنې او موډل جوړښت سره تړاو لري، او لاهم د تقسیم محدودیت دوه برخو ته لري. نور میتودونه څو ویش نقطې په پام کې نیولي دي، د بیلګې په توګه، IONN ، کوم چې د ځنډ او د انرژي مصرف کمولو لپاره د تقسیم ستونزه تشریح کوي، د څنډو سرورونو ته د موډلونو اپلوډ کولو وخت هم په پام کې نیسي. [[8]](javascript:void()) [[9]](javascript:void()) [[10]](javascript:void()) [[11]](javascript:void()) [[12]](javascript:void()) [[13]](javascript:void()) [[14]](javascript:void()) [[15]](javascript:void()) دا میتودونه یا د لرې کلاوډونو سره تعامل کوي، یا د تقسیم په طبیعت کې محدود دي، د بیلګې په توګه، په دقیقا دوه برخو ویشلو ته اړتیا لري، د ملټي-تھریډینګ سره یا پرته. ذکر شوي هیڅ DNN تقسیم مطالعات څو ویش نقطې او ملټي-تھریډینګ دواړه په پام کې نه نیسي. B. ونډې دا مقاله د سټریمینګ ډیټا باندې د ریښتیني وخت DNN کمپیوټیشن د استنباطي تروپوت اعظمي کولو لپاره د توزیع شوي استنباط چوکاټ وړاندې کوي، د څو ویش نقطو او ملټي-تھریډډ تقسیم سره. د دې مقالې ونډې لاندې دي: د توزیع شوي DNN د کمپیوټیشن او لیږد ځنډونو محاسبه کولو لپاره یوه موډل، د کوم له لارې چې د ورکړل شوي تقسیم سکیم تمه شوي استنباطي تروپوت اټکل کیدی شي. د DNN تقسیم لپاره د اصلاح ستونزې جوړول، د دې ستونزې لپاره د برانچ او بانډ حل کونکي پلي کول، او د دې پیچلتیا ارزونه. د مختلفو شبکو او DNN ملکیتونو سره د ممکنه فعالیت پرمختګونو موندلو لپاره simulations. د شبکې او DNN ملکیتونو کې د قطعي ساحو پیژندنه چې د پخوانیو تقسیمونو شتون ته لاره هواروي او د داسې حلونو محاسبه کولو لګښت، د بیلګې په توګه، هغه شرایط چې لاندې DNN تقسیم ګټور دی. د تجربې پایلې چې په simulations کې تعریف شوي ساحې روښانه کوي، او همدارنګه د وړاندوینې دقت او وروستی استنباطي تروپوت سرعت د همجنسي او غیر همجنسي چاپیریالونو لپاره. د دې مقالې د پاتې برخې لپاره، د خنډ څخه مخنیوی لپاره، تقسیم شوي ژور عصبي شبکه به د DNN په توګه حواله شي، او د 'شبکې' اصطلاح به لاندې فزیکي مخابراتي شبکې ته اشاره وکړي. C. د مقالې لنډیز د دې مقالې پاتې برخه په لاندې ډول تنظیم شوې ده. د ژورې زده کړې شالید وړاندې کوي او څنګه DNNs پدې مطالعه کې نمایش کیږي. د استنباط او لیږد د ځنډ وړاندوینې میتودونه تشریح کوي چې د لپاره اړین دي کوم چې د اصلاح ستونزه تعریفوي، او همدارنګه د برانچ او بانډ الګوریتم د تقسیم پریکړې کولو لپاره. د simulations پایلې وړاندې کوي ترڅو د برانچ او بانډ الګوریتم فعالیت او پیچلتیا اندازه کړي، او همدارنګه هغه شرایط چې د استنباطي تروپوت ښه کولو تقسیم شتون ته لاره هواروي په یوه همجنسي شبکه کې. د تجربې پایلې وړاندې کوي چې د simulations تاییدوي، او په یوه غیر همجنسي تجربوي ترتیب کې د استنباطي تروپوت پرمختګونه ښیې. په نهایت کې، پایلو ته ګوري او د دې میتود پراخه تطبیق ته پراختیا ورکوي. بخش II بخش III بخش IV بخش V بخش VI بخش V بخش VII بخش II. شالید: ژوره زده کړه د ماشین زده کړې په ساحه کې، ژوره زده کړه (DL) میتودونو ته اشاره کوي چې د DNNs، د بیلګې په توګه، مصنوعي عصبي شبکو (یا اړوند ماشین زده کړې میتودونو) په کارولو باندې تکیه کوي چې له یو څخه ډیر پټ پرتونه لري. د ژورې زده کړې معماریو لومړنۍ حوالې په 1967 کې خپره شوه ، مګر دا یوازې په 2010 لسیزه کې نه وه چې DL پاملرنه یې ترلاسه کړه، لومړی په وینا پیژندنه کې، بیا په عکسونو کې د شیانو کشف کې، د لوړ ابعادي معلوماتو کې پیچلي اړیکې د نیولو وړتیا لپاره. ژوره زده کړه د 2022 په AI غوښتنلیکونو کې ډیری برخه لري، له 75٪ څخه ډیر سازمانونه د DNNs کاروي د غوښتنلیکونو لپاره چې کلاسیک میتودونه کارولی شي. د DL میتودونه د "اړتیاوو په توګه تعریف شوي دي چې د هایپوتزس پیچلي الجبري سرکیټونه جوړوي چې د ټون وړ ارتباطي قوتونو سره" . دا الجبري سرکیټونه معمولا په طبقو ویشل کیږي، کوم چې په محاسبه کې مرحلې جوړوي. 'ژور' اصطلاح هغه الګوریتمونو ته اشاره کوي چې له یو څخه ډیر پرت لري. [[16]](javascript:void()) 4 [[17]](javascript:void()) دوې اصلي DNN جوړښتونه شتون لري: فیډ-فارورډ عصبي شبکې او تکراري عصبي شبکې. دواړه د DNNs ډولونه د کمپیوټیشن ګراف په توګه نمایش کیدی شي، د اصلي توپیر سره چې فیډ-فارورډ شبکې د مستقیم غیر دوراني ګرافونو (DAGs) په توګه نمایش کیدی شي، پداسې حال کې چې تکراري عصبي شبکې ممکن دورې ولري. تکراري عصبي شبکې د ډیټا سلسلو لپاره جوړ شوي، چیرې چې هر معلوماتي نقطه ممکن د سلسلې په مخکیني معلوماتو سره تړاو ولري، پداسې حال کې چې فیډ-فارورډ عصبي شبکې د ډیټا سلسلې دننه تعاملات نه په پام کې نیسي. د دې مقالې پاتې برخه به د فیډ-فارورډ DNNs قضیه په پام کې ونیسي. 5 بخش III. د توزیع شوي استنباط ماډل کول دا برخه د DNN او شبکې ملکیتونو د نمایش لپاره یوه موډل وړاندې کوي ترڅو د کمپیوټیشن ځنډ، لیږد ځنډ، او د ورکړل شوي تقسیم حل د وروستي استنباطي تروپوت وړاندوینې لپاره. A. DNN او د شبکې نمایش د N پرتونو یو فیډ-فارورډ DNN د DAG GA=(L,E) په توګه ماډل شوی د L=(L1,…,LL) سره د DNN پرتونه. د E ∈ (Li,Lj) څنډې د پرتونو Li او Lj ترمنځ اړیکې دي. هر پرت Li د compute مصرف ci سره تړاو لري، په فلټینګ-پوائنټ عملیاتو شمیر کې اندازه کیږي چې د پرت له لارې مخکیني پاس لپاره اړین دي. د E ∈ (Li,Lj) څنډو ته د si,j وزن ورکړل شوی چې د پرتونو Li او Lj ترمنځ لیږدول شوي معلوماتو اندازه په بایټونو کې استازیتوب کوي. فزیکي شبکه د یو بشپړ متصل ګراف G=(N,V) په توګه ماډل شوې چیرې چې N=(N1,…,NN) د کمپیوټ نوډونو سیټ دی او V د نوډونو ترمنځ لینکونو سیټ دی. فرض کیږي چې د کمپیوټ نوډونه N1,…,NN په ترتیب سره د η1,…,ηN پروسس کولو نرخونه لري، چې په فلټینګ-پوائنټ عملیاتو په ثانیه کې اندازه کیږي. په نهایت کې، د دوه اړخیزو نوډونو Na او Nb ترمنځ د لینک تروپوت θa,b سره په بایټونو فی ثانیه کې ښودل شوی. هر نوډ Ni د لامحدود تروپوت سره خپل ځان سره وصل دی ترڅو د لوپ بیک لینک استازیتوب وکړي، او لینکونه همغږي فرض کیږي، د بیلګې په توګه، θa,b=θb,a. تقسیمات د نقشې P:L→N تعریف شوي دي، د بیلګې په توګه، یوه ویش نوډ شمیره هر پرت ته په DNN کې تخصیصوي. یو ویش د (N×L) ابعاد د P په میټریکس سره تشریح کیدی شي، N د شبکې کې د نوډونو شمیر دی او L د DNN پرتونو شمیر دی، او Pa,i=1 که چیرې پرت Li په نوډ Na کې موقعیت لري، 0 که نه. د شکل 2 په مثال سره، L=7 پرتونه او N=2 کمپیوټ نوډونه، ښودل شوی ویش د پرتونو {L1,L2,L3,L6,L7} سره په نوډ N1 کې، او پرتونه {L4,L5} په نوډ N2 کې، داسې نمایش کیږي: د دې نوټیشنونو سره، دا برخه به د استنباطي تروپوت بند څرګندونې څخه استخراج کړي چې د ورکړل شوي تقسیم لخوا ترلاسه کیږي، د استنباطي (section III-B) او لیږد (section III-C) ځنډونو د فعالیت په توګه. B. د استنباط ځنډ وړاندوینه د ورکړل شوي تقسیم سره، دا برخه په یوه جلا نوډ کې د استنباطي ځنډ په پام کې نیسي. د پرت Li د کمپیوټیشن لخوا رامینځته شوی ځنډ د ci سره، په نوډ Na کې محاسبه کیږي، د ηa نرخ سره، د Tci(Na)=ci/ηa په توګه بیان کیږي. د پرتونو یوه سیټ L′⊂L سره چې په نوډ Na کې د ηa پروسس کولو نرخ سره په ټولو تارونو کې پرمخ ځي، د استنباطي ځنډ څرګند کیدی شي: دا څرګندونه د کمپیوټ فلپ کولو (FLOPs) شمیر پراساس د استنباطي ځنډ اټکل لومړی درجې تخمین دی، د بیلګې په توګه، په موډل کې د ضرب-اضافه عملیاتو شمیر. د څنډو وسیلو باندې د استنباطي ځنډ اټکل د چلولو وخت اصلاحاتو لخوا پیچلی کیږي. موجود حلونه لکه nn-Meter د FLOPs پر بنسټ استنباطي ځنډ وړاندوینه کوي. نور حلونه د مخکې محاسبه شوي استنباط وختونو سره د لټون جدول باندې تکیه کوي د ځنډ وړاندوینې لپاره. د مثال په توګه، BRP-NAS د استنباطي ځنډونو وړاندوینې لپاره د مخکې روزل شوي ګراف کانوولوشن شبکې کاروي، پداسې حال کې چې د چلولو وخت موډل اصلاحاتو ته پام کوي. [[18]](javascript:void()) [[19]](javascript:void()) په ، دا نور هم فرض کیږي چې پروسیسرونه خپل بشپړ ظرفیت کاروي، پدې معنی چې ملټي-کور پروسیسرونه د واحد-کور پروسیسرونو په توګه ماډل شوي د پروسس کولو نرخ سره چې د دوی د کور پروسس کولو نرخونو مجموعه سره مساوي وي. دا هم فرض کیږي چې د کمپیوټري سرچینې په مساوي توګه د تارونو ترمینځ ویشل کیږي، د بیلګې په توګه، یو پروسیسر خپل وخت مساوي تناسب هر تار ته تخصیصوي. معادله 1 په ټولو نوډونو کې، لوړ ځنډ لرونکی تار د توزیع شوي DNN لپاره د استنباطي تروپوت ټاکي. د لیږد ځنډونو له پامه غورځولو سره، دا پدې معنی دی چې یوځل چې دا محدود تار د ډیټا چوکاټ پروسس پای ته ورسوي، دا په مستقیم ډول راتلونکی پیل کوي. نور تارونه به د راتلونکي ډیټا چوکاټ پروسس کولو دمخه بې کاره وخت ولري ځکه چې د دوی استنباطي ځنډ له دې اعظمي ځنډ څخه کم دی، لکه څنګه چې په کې ښودل شوي. شکل 1 د ورکړل شوي تقسیم میټریکس P سره، د استنباطي ځنډونه د Tc یو واحد ویکٹر په توګه څرګند کیدی شي چې د N اندازه لري، چیرې چې a-م لیتےم د نوډ Na په څنډه کې ترټولو لوی تار استنباطي ځنډ دی، د بیلګې په توګه، Tca=Tc(Na): چیرې چې H د معکوس نوډ پروسس کولو نرخونو H = diag(η−11,…,η−1N) ډیګونال میټریکس دی او c د انفرادي پرت مصرفونو c = (c1,…,cL) کالم ویکٹر دی. C. د لیږد ځنډ وړاندوینه د لیږد ځنډ داسې وړاندوینه کیدی شي: هغه وخت چې د معلوماتو مقدار si,j د پرتونو Li او Lj ترمنځ په څنډه (Na,Nb) باندې لیږدول کیږي د θa,b تروپوت سره، Tti,j(Na,Nb)=si,j/θa,b دی. د E′⊂E د معلوماتو لیږدونو ترلاسه کولو وخت د θa,b له لارې: د استنباطي ځنډ وړاندوینې په ورته ډول، دا پدې معنی دی چې لینکونه د Na څخه Nb ته د معلوماتو لیږدونو ترمنځ په مساوي توګه ویشل شوي. د لیږد د ځنډ وړاندوینې د نوډونو ترمنځ د لینک تروپوت په اټکل باندې تکیه کوي، په ځانګړې توګه "ګودپوت"، د بیلګې په توګه، په ثانیه کې لیږدول شوي ګټور معلوماتو مقدار. د استنباطي ځنډ اټکل په ورته ډول، دا یوه لومړۍ درجې تخمین دی، کوم چې په اغیزمنه توګه ښه وړاندوینې پایلې وړاندې کوي، لکه څنګه چې په c کې ښودل شوي، د 0.9998 ارتباطي ضمیمه سره. د دې میتود نیمګړتیا د تروپوت اټکل ترلاسه کولو لپاره د لینکونو سنتر کولو اړتیا ده. شکل 3 د ورکړل شوي تقسیم میټریکس P سره، د لیږد ځنډ میټریکس Tt د L اندازې مربع میټریکس په توګه تعریف کیدی شي، د Tta,b=Tt(Na,Nb) سره: چیر