Kwa Nini AI Yako Haileti Tena Ili Kuendesha Haraka Zaidi

Waandishi: Thomas Feltin Léo Marchó Juan-Antonio Cordero-Fuertes Frank Brockners Thomas H. Clausen Muhtasari: Uendeshaji wa akili bandia ya kina (DNN) kwenye data zinazotiririka unahitaji rasilimali za kompyuta ili kukidhi mahitaji ya utendaji wa uendeshaji. Hata hivyo, maombi ya akili bandia ya kina ambayo huathiriwa na muda wa kusubiri na faraghawezi kumudu kuhamisha kompyuta hadi kwenye kompyuta za mbali kwa sababu ya gharama ya uhamishaji na ukosefu wa imani kwa watoa huduma za kompyuta za mbali. Miongoni mwa suluhu za kuongeza utendaji huku zikiweka kompyuta katika mazingira yenye vizuizi, uharakishaji wa maunzi unaweza kuwa mzigo, na uboreshaji wa modeli unahitaji juhudi kubwa za kubuni huku ukizuia usahihi. Kugawanywa kwa DNN ni njia ya tatu inayosaidiana, na inahusisha kusambaza mzigo wa kazi wa uendeshaji kwa vifaa kadhaa vya kingo vinavyopatikana, ikizingatiwa sifa za mtandao wa kingo na muundo wa DNN, kwa lengo la kuongeza utendaji wa uendeshaji (idadi ya uendeshaji kwa sekunde). Karatasi hii inatoa njia ya kutabiri muda wa kusubiri wa uendeshaji na uhamishaji kwa matumizi ya DNN yaliyosambazwa kwa nyuzi nyingi, na inafafanua mchakato wa uboreshaji ili kuongeza utendaji wa uendeshaji. Kisha mtaalamu wa matawi na mipaka (branch and bound solver) huwasilishwa na kuchambuliwa ili kuhesabu utendaji uliopatikana na ugumu wake. Uchanganuzi huu umepelekea kufafanuliwa kwa eneo la uharakishaji, ambalo linaelezea masharti ya uhakika kuhusu sifa za DNN na mtandao ambazo mgawanyiko wa DNN unafaidika nazo. Hatimaye, matokeo ya majaribio yanathibitisha mahesabu na kuonyesha maboresho ya utendaji wa uendeshaji katika matumizi ya kingo. Mgawanyiko wa DNN kwenye kingo huwezesha kuongeza kasi ya utendaji wa uendeshaji huku ukipunguza matumizi ya kipimo data na muda wa kusubiri kwa seva kuu, mfano, kwenye kompyuta. Utangulizi Vifaa vilivyounganishwa vilizalisha takriban baiti trilioni 2.5 kila siku mwaka 2020. Katika muktadha huu, Akili Bandia (AI) ni mojawapo ya teknolojia zinazoweza kukabiliana vyema na kiasi kinachoongezeka cha data zinazozalishwa, katika nyanja mbalimbali kama vile utambuzi wa vitu katika maono ya kompyuta, utambuzi wa uso, utambuzi wa sauti, usindikaji wa lugha asilia, au uendeshaji wa magari yanayojiendesha. AI, na hasa Akili Bandia ya Kina (DL), inahitaji, pamoja na kiasi kikubwa cha data, uwezo mkubwa katika nguvu ya kompyuta na kumbukumbu, ambayo hufanya kompyuta za mbali kuwa suluhisho la kawaida la kuendesha kazi za AI. Kwa hiyo, mwaka 2019, 96% ya kazi za AI ziliendeshwa kwenye kompyuta za mbali. 1 2 Matumizi ya AI yanaweza kuwa na vikwazo vikali vya muda wa kusubiri, mfano, katika uendeshaji wa magari yanayojiendesha, ufuatiliaji wa utengenezaji, au uendeshaji wowote wa wakati halisi unaohusisha mwingiliano na ulimwengu halisi. Kwa mfano, muda wa wastani wa majibu katika uendeshaji wa magari yanayojiendesha unahitajika kuwa chini ya milisekunde 100 , na kufanya muda wa safari ya kwenda na kurudi kwenye kompyuta kuwa mrefu sana kwa matumizi kama hayo. Vile vile, baadhi ya matumizi yanaweza kusababisha matumizi makubwa ya kiungo kwenye mtandao, mfano, katika kesi ya usindikaji wa video ya ubora wa juu katika maono ya kompyuta, ambayo inazuia kuyatumia kwenye kompyuta. Sera za faragha ya data au kanuni za ulinzi wa data pia zinaweza kupiga marufuku data kutoka nje ya mazingira maalum. Hii inahamasisha matumizi ya AI katika kompyuta za kingo, ambayo inahusisha kuhamisha kazi za kompyuta kutoka vituo vya data karibu na vifaa vya kingo, yaani, karibu na vyanzo vya data. [](javascript:void()) Ikilinganishwa na kompyuta za mbali, kingo ni mazingira yenye rasilimali chache na vikwazo muhimu , na kuendeleza AI kwa ajili ya kingo ni tofauti na kuendeleza AI kwa ajili ya kompyuta. Kuchambua data karibu na chanzo chake kunaweza kuwa changamoto kwa sababu ya uwezo mdogo wa kifaa, kutokuwa na nguvu kwa rasilimali zinazopatikana, na utofauti wa mitandao ya kingo. Kupunguza uwezo wa kompyuta kunamaanisha kupunguza utendaji wa uendeshaji unaopatikana, na kuongeza ugumu wa kuhamisha kazi nzito kutoka kompyuta hadi kingo. Katika baadhi ya matumizi, utendaji wa uendeshaji, yaani, idadi ya uendeshaji unaopatikana kwa sekunde ya DNN, inaweza kuhusishwa na usahihi wa DNN, mfano, kwa kufuatilia vitu katika mito ya video, ambapo kupunguza kiwango cha uendeshaji kutoka 15 hadi 5 uendeshaji kwa sekunde kumeonyesha kupunguza alama ya F1__3__ ya kipengele cha utambuzi kwa 10% . Kwa maneno mengine, matumizi yenye utendaji mdogo wa uendeshaji yanaweza kusababisha upotezaji mkubwa wa habari, mfano, upotezaji wa utambuzi katika matumizi ya ufuatiliaji wa video. [](javascript:void()) [](javascript:void()) Kuna mbinu kuu mbili zinazopatikana ili kukidhi mahitaji ya utendaji kwenye mitandao ya kingo yenye vikwazo: upunguzaji wa modeli au uharakishaji wa maunzi. *Upunguzaji wa modeli* unahusisha kupunguza na kuboresha mitandao ya neural kuwa toleo la hafifu, mara nyingi lenye utendaji duni, la modeli. Mbinu za kawaida za upunguzaji wa modeli ni pamoja na kukata , yaani, kuondoa vigezo visivyo vya lazima katika modeli, kuhifadhi nambari , yaani, kupunguza kumbukumbu iliyotengwa kuhifadhi modeli, na ufundishaji wa maarifa , yaani, kufundisha mtandao mdogo wa neural na maarifa yaliyochotwa kutoka kwa mfumo mkuu zaidi. Uboreshaji wa modeli unahitaji juhudi kubwa za kubuni na unaweza kuwa kikwazo kwa usahihi wa modeli. *Uharakishaji wa maunzi* kwenye vifaa vya kingo unahusisha kutafuta maunzi ambayo yanaweza kuwa na ufanisi wa nguvu na hafifu, huku bado yakimudu kuendesha uendeshaji kwa utendaji wa kutosha. Kuna aina kadhaa za maunzi yanayoweza kutumika kwa uharakishaji kwenye kingo, zinazotofautiana kwa ufanisi na maalum, lakini vitengo vya kawaida vya usindikaji havikidhi matarajio na maunzi maalum kama vile ASICs yameonekana kuwa hayafai na ghali . [](javascript:void()) [](javascript:void()) [](javascript:void()) [](javascript:void()) Mgawanyiko wa DNN ni njia inayosaidiana kwa ajili ya kuharakisha uendeshaji kwa kutumia wingi wa vifaa vilivyopo kwenye mitandao ya kingo ili kusambaza kompyuta ya uendeshaji – ambayo inaweza kutumika peke yake, au pamoja na mbinu mbili nyingine. Mgawanyiko wa DNN unahusisha kuona mtandao wa neural kama bomba la kugawanywa katika sehemu, na kusambaza sehemu hizi kwenye vifaa vya kingo. Uwekaji wa sehemu hizi unategemea sifa za DNN na tabia za mtandao wa msingi. Mgawanyiko wa DNN unategemea kutambua sehemu za kugawanya, ambazo ni mahali katika grafu ya modeli ambapo modeli imegawanywa katika sehemu. Wakati wa uendeshaji, sehemu huendeshwa kwa mpangilio, kila moja ikitumia matokeo ya kati ya uendeshaji kwa sehemu inayofuata. Hii inaruhusu kila sehemu kuanza kukokotoa data inayofuata huku vifaa vingine vikishughulikia kilicho nje, na hivyo kuboresha utendaji wa uendeshaji, kama inavyoonekana katika . Kwa mabaki ya karatasi hii, ili kuepusha kuchanganyikiwa, mgawanyiko wa kina wa neural network utarejelewa kama *DNN*, na neno *mtandao* litamaanisha mtandao wa mawasiliano wa kimwili wa msingi. takwimu 1 A. Kazi Zinazohusiana Mbinu za mgawanyiko wa DNN, zinazotokana na kuhamisha kutoka kwa simu hadi kingo hadi kompyuta, zinatafuta kuboresha viashiria mbalimbali vya utendaji, kama vile muda wa kusubiri wa kompyuta, matumizi ya nishati, matumizi ya rasilimali, gharama, au utendaji. Mgawanyiko wa DNN unategemea uhusiano wa vipimo hivi moja au kadhaa ili kufafanua lengo la uboreshaji, na njia inayotumia kipimo hiki kutafuta mipango ya mgawanyiko. Kwa mfano, Neurosurgeon inatafuta sehemu moja ya kugawanya, ikiweka sehemu ya kwanza kwenye kingo na kuhamisha sehemu ya pili kwenye kompyuta, ili kupunguza muda wa kusubiri na matumizi ya nishati. Matumizi katika IoT pia yamezingatia mgawanyiko wa pamoja na uhamishaji wa DNN kadhaa ili kuboresha nishati, ucheleweshaji, na/au gharama, kwa kutumia wataalamu mbalimbali kama vile SPSO-GA inayochanganya Optimization ya Particle Swarm (PSO) na Genetics Algorithm (GA), au DDPQN ambayo hutumia Akili ya Kina ya Kujifunza ili kutafuta mipango ya mgawanyiko. Mifano mingine ni pamoja na DINA , ambayo inafafanua tatizo la Integer Non Linear Programming (INLP), na hutumia mtaalamu anayezingatia nadharia ya mechi, ili kuboresha ucheleweshaji na matumizi ya rasilimali katika mitandao ya ukungu. Mbinu za kuboresha utendaji wa uendeshaji ni pamoja na upasuaji wa DNN , ambayo hutumia ukubwa mdogo wa matokeo ya tabaka za DNN za kati ili kugawanya kompyuta ya uendeshaji kati ya kingo na kompyuta. Algorithmi zote mbili huunda sehemu mbili, moja kwenye kingo na nyingine kwenye kompyuta. Utafiti mwingine katika uwanja wa kompyuta za simu za kingo pia unajumuisha kompyuta ya nyuzi nyingi kwenye kompyuta ili kuharakisha zaidi utendaji wa jumla wa uendeshaji. Kutegemea kompyuta kwa ajili ya kompyuta ya pili ya uendeshaji kunadhani muunganisho mzuri wa mtandao, ambao unaweza kuwa na shaka na muunganisho duni wa matumizi fulani ya kingo yaliyotengwa. Edgent inaratibu mbinu iliyotangulia kwa vifaa vya rununu na seva za kingo zinazopatikana, ikipunguza kikwazo cha kuhamisha hadi kwenye kompyuta. Njia hii inahusishwa na mafunzo maalum na usanifu wa modeli, na bado inazuia mgawanyiko kwa sehemu mbili. Njia zingine zimezingatia sehemu nyingi za kugawanya, mfano, IONN , ambayo inaelezea tatizo la mgawanyiko ili kupunguza ucheleweshaji na matumizi ya nishati, pia ikizingatia muda wa kupakia modeli kwenye seva za kingo. [](javascript:void()) [](javascript:void()) [](javascript:void()) [](javascript:void()) [](javascript:void()) [](javascript:void()) [](javascript:void()) [](javascript:void()) Njia hizi zinahusiana na kompyuta za mbali, au zimezuiwa katika asili ya mgawanyiko, mfano, zinahitajika kugawanyika katika sehemu mbili hasa, na au bila nyuzi nyingi. Hakuna kati ya tafiti za mgawanyiko wa DNN zilizoorodheshwa zinazozingatia sehemu nyingi za kugawanya na nyuzi nyingi. B. Michango Karatasi hii inatoa mfumo wa uendeshaji uliogawanywa ili kuongeza utendaji wa uendeshaji wa kompyuta ya DNN ya wakati halisi kwenye data zinazotiririka, na sehemu nyingi za kugawanya na mgawanyiko wa nyuzi nyingi. Michango ya karatasi hii ni kama ifuatavyo: Mfumo wa kuhesabu na uhamishaji wa muda wa kusubiri wa DNN iliyogawanywa, ambao kupitia hilo utendaji wa uendeshaji uliotarajiwa wa mpango wowote wa mgawanyiko unaweza kukadiriwa. Uundaji wa tatizo la uboreshaji kwa mgawanyiko wa DNN, utekelezaji wa mtaalamu wa matawi na mipaka kwa tatizo hili, na tathmini ya ugumu wake. Mahesabu ya kuchunguza maboresho yanayowezekana ya utendaji na sifa mbalimbali za mtandao na DNN. Utambuzi wa maeneo ya uhakika katika sifa za mtandao na DNN zinazopelekea kuwepo kwa mipango bora ya mgawanyiko na gharama ya kuhesabu suluhu kama hizo, yaani, masharti ambayo mgawanyiko wa DNN unafaidika nayo. Matokeo ya majaribio yanayoonyesha maeneo yaliyofafanuliwa katika mahesabu, pamoja na usahihi wa utabiri na uharakishaji wa mwisho wa utendaji wa uendeshaji kwa mazingira ya nyumbani na yasiyo ya nyumbani. Kwa mabaki ya karatasi hii, ili kuepusha kuchanganyikiwa, deep neural network iliyogawanywa itarejelewa kama *DNN*, na neno *mtandao* litamaanisha mtandao wa mawasiliano wa kimwili wa msingi. C. Muhtasari wa Karatasi Mabaki ya karatasi hii yamepangwa kama ifuatavyo. inawasilisha usuli wa Deep Learning na jinsi DNN zinavyowakilishwa katika utafiti huu. inaelezea mbinu za utabiri wa muda wa kusubiri wa uendeshaji na uhamishaji zinazohitajika kwa ajili ya ambayo inafafanua tatizo la uboreshaji, pamoja na algorithm ya matawi na mipaka ili kufanya maamuzi ya mgawanyiko. inawasilisha matokeo ya mahesabu ili kuhesabu utendaji na ugumu wa algorithm ya matawi na mipaka, pamoja na masharti yanayopelekea kuwepo kwa mgawanyiko unaoboresha utendaji wa uendeshaji katika mtandao wa nyumbani. inawasilisha matokeo ya majaribio yanayothibitisha mahesabu ya , na inaonyesha maboresho ya utendaji wa uendeshaji kwenye usanidi wa majaribio usio wa nyumbani. Hatimaye, inajadili matokeo na kupanuka kwa matumizi mapana ya mbinu hii. Sehemu ya II Sehemu ya III Sehemu ya IV Sehemu ya V Sehemu ya VI Sehemu ya V Sehemu ya VII SEHEMU YA II. Usuli: Deep Learning Ndani ya uwanja wa Machine Learning, Deep Learning (DL) inarejelea mbinu zinazotegemea matumizi ya DNN, yaani, mitandao ya neural bandia (au mbinu zinazofanana za kujifunza mashine) zinazo na tabaka zaidi ya moja ya siri. Mojawapo ya marejeleo ya awali ya miundo ya kina ya kujifunza ilichapishwa mwaka 1967 , lakini hadi miaka ya 2010 DL ilipata umaarufu, kwanza katika utambuzi wa sauti, kisha katika utambuzi wa vitu katika picha, kwa uwezo wa kunasa mahusiano tata katika data yenye vipimo vingi. DL inakadiriwa kuunda sehemu kubwa ya matumizi ya AI mwaka 2022, na zaidi ya 75% ya mashirika yanayotumia DNN kwa matumizi ambayo yanaweza kutumia mbinu za kawaida. Njia za DL zimefafanuliwa kama “*mbinu za kujifunza mashine ambapo dhana huchukua fomu ya nyaya tata za aljebra na nguvu za muunganisho zinazoweza kurekebishwa*” . Hizi nyaya za aljebra kwa kawaida huandaliwa katika tabaka, ambazo huunda hatua katika kompyuta. Neno *kina* linarejelea algorithms zinazo na tabaka zaidi ya moja. [](javascript:void()) 4 [](javascript:void()) Kuna miundo mikuu miwili ya DNN: mitandao ya neural ya kulisha mbele (feed-forward neural networks) na mitandao ya neural inayojirudia (recurrent neural networks). Aina zote mbili za DNN zinaweza kuwakilishwa kama grafu za kompyuta, na tofauti kuu ikiwa ni kwamba mitandao ya kulisha mbele inaweza kuwakilishwa kama grafu za moja kwa moja zisizo na mizunguko (DAGs), wakati mitandao ya neural inayojirudia inaweza kuwa na mizunguko. Mitandao ya neural inayojirudia imeundwa kwa ajili ya mifuatano ya data, ambapo kila kipengele cha data kina tegemezi na vipengele vya awali vya data katika mlolongo, wakati mitandao ya neural ya kulisha mbele haizingatii mwingiliano kati ya vipengele vya mlolongo wa data. Mabaki ya karatasi hii yatashughulikia kesi ya DNN za kulisha mbele. 5 SEHEMU YA III. Uundo wa Uendeshaji Uliogawanywa Sehemu hii inatoa mfumo wa kuwakilisha sifa za DNN na mtandao ili kutabiri muda wa kusubiri wa kompyuta, muda wa kusubiri wa uhamishaji, na utendaji wa mwisho wa uendeshaji wa suluhisho lolote la mgawanyiko. A. Uwakilishi wa DNN na Mtandao DNN ya kulisha mbele yenye tabaka N inaundwa kama DAG GA=(L,E) na L=(L1,…,LL) ni tabaka za DNN. Viungo (Li,Lj)∈E ni muunganisho kati ya tabaka Li na Lj. Kila tabaka Li ina matumizi ya kompyuta yanayohusiana ci , iliyopimwa kwa idadi ya shughuli za kumi na mbili-pointi zinazohitajika kukokotoa mpito wa mbele kupitia tabaka. Viungo (Li,Lj) hupewa uzito si,j inayolingana na ukubwa wa data inayosafiri kati ya tabaka Li na Lj kwa baiti. Mtandao wa kimwili umeundwa kama grafu iliyojaa kikamilifu G=(N,V) ambapo N=(N1,…,NN) ni seti ya nodi za kompyuta na V ni seti ya viungo kati ya nodi. Inadhaniwa kuwa nodi za kompyuta N1,…,NN zina viwango vya usindikaji η1,…,ηN , kwa mtiririko huo, vilivyopimwa kwa shughuli za kumi na mbili-pointi kwa sekunde. Mwishowe, utendaji wa kiungo kati ya nodi mbili za karibu Na na Nb unatajwa kama θa,b , uliopimwa kwa baiti kwa sekunde. Kila nodi Ni imeunganishwa na yenyewe na utendaji usio na kikomo ili kuwakilisha kiungo cha kurudi, na viungo vinadhaniwa kuwa vya ulinganifu, yaani, θa,b=θb,a . Mipango ya mgawanyiko inafafanuliwa kama ramani P:L→N , yaani, mgawanyiko unateua nambari ya nodi kwa kila tabaka katika DNN. Mgawanyiko unaweza kuelezewa kama matrix P ya vipimo (N×L) , N ikiwa ni idadi ya nodi kwenye mtandao na L ni idadi ya tabaka za DNN na, ikiwa na Pa,i=1 ikiwa tabaka Li imewekwa kwenye nodi Na , 0 vinginevyo. Kwa mfano uliotolewa katika , L=7 tabaka na N=2 nodi za kompyuta, mpango wa mgawanyiko ulioonyeshwa na tabaka {L1,L2,L3,L6,L7} kwenye nodi N1 , na tabaka {L4,L5} kwenye nodi N2 , unawakilishwa kama: takwimu 2 Kwa kuzingatia mpangilio, *nyuzi* inafafanuliwa kama kundi la tabaka mfululizo kati ya sehemu mbili za kugawanya, zilizofanywa kwa mpangilio kwenye nodi sawa. Katika mfano hapo juu, nodi N1 itaendesha nyuzi mbili, ya kwanza ikiwa na tabaka {L1,L2,L3} na ya pili ikiwa na {L6,L7} . Na noti hizi zikifafanuliwa, mabaki ya Sehemu hii yanatoa usemi wa kufungwa wa utendaji wa uendeshaji unaopatikana na mgawanyiko wowote, kama kazi ya muda wa kusubiri wa uendeshaji ( ) na uhamishaji ( ). sehemu ya III-B sehemu ya III-C B. Utabiri wa Muda wa Kusubiri wa Uendeshaji Kwa kuzingatia mpangilio, Sehemu hii inashughulikia utabiri wa muda wa kusubiri wa uendeshaji kwenye nodi iliyotengwa. Muda wa kusubiri unaosababishwa na kompyuta ya tabaka Li yenye matumizi ci , itakayokokotwa kwenye nodi Na , kwa kiwango cha usindikaji ηa ni kama vile Tci(Na)=ci/ηa . Kwa kuzingatia seti ya tabaka L′⊂L katika nyuzi zote zinazoendeshwa kwenye nodi Na yenye kiwango cha usindikaji ηa , muda wa kusubiri wa uendeshaji unaweza kuelezwa kama: Usemi huu ni makadirio ya agizo la kwanza ya makadirio ya muda wa kusubiri wa uendeshaji kulingana na idadi ya operesheni za kumi na mbili-pointi (FLOPs) zinazohitajika kusindika DNN, yaani, idadi ya operesheni za kuzidisha-kuongeza katika modeli. Makadirio ya muda wa kusubiri wa uendeshaji kwenye vifaa vya kingo huchanganyikiwa na uboreshaji wa wakati wa uendeshaji. Suluhu zilizopo kama vile nn-Meter hutabiri muda wa kusubiri wa uendeshaji kulingana na FLOPs. Suluhu zingine hutegemea jedwali la utafutaji na muda wa uendeshaji uliokokotwa mapema kwa ajili ya utabiri wa muda wa kusubiri. Kwa mfano, BRP-NAS hutumia mtandao wa picha uliofunzwa awali kutabiri muda wa kusubiri wa uendeshaji, huku ikizingatia uboreshaji wa modeli wa wakati wa uendeshaji. [](javascript:void()) [](javascript:void()) Katika , pia inadhaniwa kuwa wasindikaji hutumia uwezo wao kamili, ambao unamaanisha kuwa wasindikaji wa nyuzi nyingi huwakilishwa kama wasindikaji wa nyuzi moja na kiwango cha usindikaji sawa na jumla ya viwango vyao vya usindikaji wa nyuzi. Pia inadhaniwa kuwa rasilimali ya kompyuta imegawanywa sawasawa kati ya nyuzi, yaani, msindikaji hutenga sehemu sawa ya muda wake kwa kila nyuzi. usawa wa 1 Katika nodi zote, nyuzi yenye muda mrefu wa kusubiri huweka utendaji wa uendeshaji kwa DNN iliyogawanywa. Bila kujumuisha muda wa kusubiri wa uhamishaji, hii inamaanisha kuwa mara tu nyuzi hii ya kikwazo inapomaliza kukokotoa fremu ya data, huanza mara moja kusindika inayofuata. Nyuzi zingine zitakuwa na muda wa kusubiri kabla ya kusindika fremu ya data inayofuata kwa sababu muda wao wa kusubiri wa uendeshaji ni mdogo kuliko muda huu wa juu zaidi, kama inavyoonekana kwenye . takwimu 1 Kwa kuzingatia mpangilio P , muda wa kusubiri wa uendeshaji unaweza kuelezwa kama vekta moja Tc ya ukubwa N ambapo sehemu ya a ni muda mrefu zaidi wa kusubiri wa nyuzi kwenye nodi Na , yaani, Tca=Tc(Na) : ambapo H ni matrix ya diagonal ya viwango vya usindikaji wa nodi vilivyogeuzwa diag(η−11,…,η−1N) na c ni vekta ya nguzo ya matumizi ya tabaka binafsi (c1,…,cL) . C. Utabiri wa Muda wa Kusubiri wa Uhamishaji Muda wa kusubiri wa uhamishaji unaweza kutabiriwa kama ifuatavyo: muda unaochukua kutuma kiasi cha data si,j kati ya tabaka Li na Lj kwenye kiungo (Na,Nb) juu ya kiungo chenye utendaji uliopimwa θa,b ni Tti,j(Na,Nb)=si,j/θa,b . Muda wa kukamilisha uhamishaji wa data si,j∈E′⊂E juu ya kiungo (Na,Nb) ni: Sawa na utabiri wa muda wa kusubiri wa uendeshaji, hii inamaanisha kuwa viungo vimegawanywa sawasawa kati ya uhamishaji wa data kutoka Na hadi Nb . Utabiri wa muda wa kusubiri wa uhamishaji unategemea makadirio ya utendaji wa kiungo kati ya nodi, haswa *mzigo wa kazi*, yaani, kiasi cha data halisi inayohamishwa kwa sekunde. Sawa na makadirio ya muda wa kusubiri wa uendeshaji, hii ni makadirio ya agizo la kwanza, ambayo kwa ufanisi hutoa matokeo mazuri ya utabiri, kama inavyoonekana katika c, na mgawo wa uwiano wa R2=0.9998 . Ubaya wa njia hii ni hitaji lake la kujaa kwa viungo kupata makadirio ya utendaji. takwimu 3 Kwa kuzingatia mpangilio P , matrix ya muda wa kusubiri wa uhamishaji Tt inaweza kufafanuliwa kama matrix ya mraba ya ukubwa L ,