Kwa nini AI Yako Haikuhitaji Wingu Ili Kufanya Kazi Haraka Tena

```html Waandishi: Thomas Feltin Léo Marchó Juan-Antonio Cordero-Fuertes Frank Brockners Thomas H. Clausen Muhtasari: Utekelezaji wa mtandao wa kina wa neva (DNN) kwenye data zinazotiririka unahitaji rasilimali za kompyuta ili kutimiza mahitaji ya utendaji wa utekelezaji. Hata hivyo, programu za kina za kujifunza zinazoathiriwa na latency na faragha haziwezi kumudu kuhamisha kompyuta hadi kwenye mawingu ya mbali kwa sababu ya gharama ya maambukizi na ukosefu wa uaminifu kwa watoa huduma wa mawingu wa watu wengine. Miongoni mwa suluhu za kuongeza utendaji huku zikiweka kompyuta katika mazingira yenye vikwazo, kuongeza kasi kwa maunzi kunaweza kuwa mzigo, na uboreshaji wa modeli unahitaji juhudi kubwa za kubuni huku ukizuia usahihi. Ugawanyaji wa DNN ni mbinu ya tatu inayosaidia, na inajumuisha kusambaza mzigo wa kazi wa utekelezaji kwa vifaa kadhaa vya kingo vinavyopatikana, ikizingatiwa sifa za mtandao wa kingo na muundo wa DNN, kwa lengo la kuongeza utendaji wa utekelezaji (idadi ya utekelezaji kwa sekunde). Karatasi hii inaleta mbinu ya kutabiri utekelezaji na maambukizi ya latencies kwa ajili ya utekelezaji wa DNN uliosambazwa kwa nyuzi nyingi, na inafafanua mchakato wa uboreshaji ili kuongeza utendaji wa utekelezaji. Kisha mwasuluhishi wa matawi na mipaka huwasilishwa na kuchambuliwa ili kutathmini utendaji na utata uliofikiwa. Uchambuzi huu umeongoza kwa ufafanuzi wa eneo la kuongeza kasi, ambalo linaelezea masharti ya uhakika kuhusu sifa za DNN na mtandao ambazo ugawanyaji wa DNN unafaidika. Mwishowe, matokeo ya majaribio yanathibitisha simulizi na kuonyesha maboresho ya utendaji wa utekelezaji katika miundo ya kingo. Ugawanyaji wa DNN kwenye kingo huwezesha kuongeza kasi ya utendaji wa utekelezaji huku ukipunguza matumizi ya kipimo data na latency kwa seva kuu, kwa mfano, kwenye wingu. Utangulizi Vifaa vilivyounganishwa vilizalisha takriban baiti za data trilioni 2.5 kila siku mwaka 2020. Katika mazingira haya, Akili Bandia (AI) ni mojawapo ya teknolojia zinazoweza kukabiliana vyema na kiasi kinachokua cha data kinachozalishwa, katika nyanja mbalimbali kama vile ugunduzi wa vitu katika maono ya kompyuta, utambuzi wa uso, utambuzi wa sauti, usindikaji wa lugha asilia, au uendeshaji wa kiotomatiki. AI, na hasa Deep Learning (DL), inahitaji, pamoja na kiasi kikubwa cha data, uwezo mkubwa wa nguvu ya usindikaji na kumbukumbu, ambayo hufanya kompyuta ya mawingu kuwa suluhisho la kawaida la mwenyeji wa mizigo ya kazi ya AI. Kwa hiyo, mwaka 2019, 96% ya kazi za AI zilifanywa kwenye wingu. Programu za AI zinaweza kuwa na vizuizi vikali vya latency, kwa mfano, katika uendeshaji wa kiotomatiki, ufuatiliaji wa utengenezaji, au utekelezaji wowote wa wakati halisi unaohusisha mwingiliano wa ulimwengu halisi. Kwa mfano, wastani wa muda wa majibu katika uendeshaji wa kiotomatiki unahitajika kuwa chini ya milliseconds 100. Muda wa kurudi na kurudi kwenye wingu unaweza kuwa mrefu sana kwa programu kama hizo. Kadhalika, baadhi ya programu zinaweza kusababisha matumizi makubwa ya kiungo kwenye mtandao, kwa mfano, katika kesi ya usindikaji wa video ya ubora wa juu katika maono ya kompyuta, ambayo inazuia kuzifanya zifanye kazi kwenye wingu. Sera za faragha za data au kanuni za ulinzi wa data pia zinaweza kupiga marufuku data kuondoka kwenye mazingira maalum. Hii inahamasisha utekelezaji wa AI katika kompyuta ya kingo, ambayo inajumuisha kuhamisha kazi za kompyuta kutoka vituo vya data karibu na vifaa vya kingo, yaani, karibu na vyanzo vya data. Ikilinganishwa na mawingu ya umma, kingo ni mazingira yenye rasilimali chache na vikwazo muhimu. Kuendeleza AI kwa ajili ya kingo kwa hiyo ni tofauti na kuendeleza AI kwa ajili ya wingu. Kuchambua data karibu na chanzo chake kunaweza kuwa changamoto kwa sababu ya uwezo mdogo wa kifaa, ukosefu wa uvumilivu wa rasilimali zinazopatikana, na utofauti wa mitandao ya kingo. Kupunguza uwezo wa kompyuta kunamaanisha kupunguza utendaji wa utekelezaji unaoweza kufikiwa, na hivyo kurahisisha kuhamisha mizigo mizito kutoka wingu hadi kingo. Katika baadhi ya programu, utendaji wa utekelezaji, yaani, utekelezaji unaoweza kufikiwa kwa sekunde wa DNN, unaweza kuhusishwa na usahihi wa DNN, kwa mfano, kwa ufuatiliaji wa vitu katika mito ya video, ambapo kupunguza kiwango cha utekelezaji kutoka utekelezaji 5 hadi 15 kwa sekunde kumeonyesha kupunguza alama ya F1 ya mgunduzi wa kitu kwa 10%. Kwa maneno mengine, utekelezaji wenye utendaji wa chini wa utekelezaji unaweza kusababisha upotezaji muhimu wa habari, kwa mfano, upotezaji wa ugunduzi katika programu za ufuatiliaji wa video. Kuna mbinu mbili kuu zinazopatikana ili kutimiza mahitaji ya utendaji kwenye mitandao ya kingo yenye vikwazo: upunguzaji wa modeli au kuongeza kasi kwa maunzi. *Upunguzaji wa modeli* unajumuisha kupunguza na kuboresha mitandao ya neva kuwa toleo la mfumo wa mfumo wa mfumo, mara nyingi chini ya utendaji. Mbinu za kawaida za upunguzaji wa modeli zinajumuisha kupogoa, yaani, kuondoa vigezo visivyo vya lazima katika mfumo, kunukuu, yaani, kupunguza kumbukumbu iliyotengwa ili kuhifadhi mfumo, na uhamishaji wa maarifa yaani, kufundisha mtandao mdogo wa neva na maarifa yaliyochukuliwa kutoka kwa mfumo mkubwa zaidi. Uboreshaji wa modeli unahitaji juhudi kubwa za kubuni na unaweza kuwa kikwazo kwa usahihi wa modeli. *Kuongeza kasi kwa maunzi* kwenye vifaa vya kingo kunajumuisha kutafuta maunzi ambayo yanaweza kuwa na ufanisi wa nguvu na uzani mwepesi, huku bado yana uwezo wa kutekeleza utekelezaji kwa utendaji wa kutosha. Kuna aina kadhaa za maunzi yanayowaniaa kwa ajili ya kuongeza kasi kwenye kingo, zinazotofautiana kwa ufanisi na utaalamu, lakini vitengo vya kawaida vya usindikaji vinashindwa kutimiza matarajio na maunzi maalum kama vile ASICs yameonekana kuwa hayafai na ghali. Ugawanyaji wa DNN ni mbinu inayosaidia kwa kuongeza kasi ya utekelezaji kwa kutumia wingi wa vifaa vilivyopo kwenye mitandao ya kingo kusambaza kompyuta ya utekelezaji - ambayo inaweza kutumika peke yake, au kwa kushirikiana na mbinu zingine mbili. Ugawanyaji wa DNN unajumuisha kuzingatia mtandao wa neva kama bomba la kugawanywa katika sehemu, na kusambaza sehemu hizi kwenye vifaa vya kingo. Uwekaji wa sehemu hizi unatokana na sifa za DNN na mtandao wa msingi. Ugawanyaji wa DNN unategemea utambulisho wa sehemu za kugawanya, ambazo ni sehemu katika grafu ya mfumo ambapo mfumo hugawanywa katika sehemu. Wakati wa utendaji, sehemu hufanywa kwa mlolongo, kila moja ikituma matokeo ya utekelezaji wa kati kwa sehemu inayofuata. Hii inaruhusu kila sehemu kuanza kuchakata data mpya huku vifaa vingine vikikamilisha usindikaji wa iliyoondolewa, hivyo kuongeza utendaji wa utekelezaji, kama inavyoonekana kwenye takwimu 1. Katika mabaki ya karatasi hii, ugawanyaji wa DNN utaonyeshwa kupitia mfano wa utekelezaji wa wakati halisi kwenye mito ya video. A. Kazi Zinazohusiana Mbinu za ugawanyaji wa DNN, zilizotokana na kuhamishwa kutoka kwa simu hadi kingo hadi wingu, zinatafuta kuboresha viashiria mbalimbali vya utendaji, kama vile latency ya kompyuta, matumizi ya nishati, matumizi ya rasilimali, gharama, au utendaji. Ugawanyaji wa DNN unategemea ushirikiano wa moja au kadhaa ya metriki hizi kufafanua lengo la uboreshaji, na mbinu inayochukua fursa ya metriki hii kupata mipango ya ugawanyaji. Kwa mfano, Neurosurgeon inatafuta sehemu moja ya kugawanya, ikiweka sehemu ya kwanza kwenye kingo na kuhamisha sehemu ya pili kwenye wingu, ili kupunguza latency na matumizi ya nishati. Programu katika IoT pia zimezingatia ugawanyaji wa pamoja na uhamishaji wa DNN kadhaa ili kuboresha nishati, kucheleweshwa, na/au gharama, kwa kutumia watafutaji mbalimbali kama SPSO-GA ikichanganya Optimization ya Particle Swarm (PSO) na Genetics Algorithm (GA), au DDPQN ambayo hutumia Deep Reinforcement Learning kupata mipango ya ugawanyaji. Mifano mingine ni pamoja na DINA, ambayo inafafanua tatizo la Integer Non Linear Programming (INLP), na hutumia mtafutaji anayetegemea nadharia ya mechi, ili kuboresha latency na matumizi ya rasilimali katika mitandao ya ukungu. Mbinu za kuboresha utendaji wa utekelezaji zinajumuisha upasuaji wa DNN, ambayo hutumia ukubwa mdogo wa matokeo ya tabaka za DNN za kati kugawanya kompyuta ya utekelezaji kati ya kingo na wingu. Algorithimu zote huunda sehemu mbili, moja kwenye kingo na nyingine kwenye wingu. Utafiti mwingine katika uwanja wa kompyuta ya kingo hadi wingu pia unajumuisha kompyuta ya nyuzi nyingi kwenye wingu ili kuongeza kasi zaidi ya utendaji wa jumla wa utekelezaji. Kutegemea wingu kwa kompyuta ya pili ya utekelezaji wa sehemu kunadhani muunganisho mzuri wa mtandao, ambao unaweza kuwa na uhakika na muunganisho duni wa baadhi ya utekelezaji wa kingo uliotengwa. Edgent inabadilisha mbinu iliyotangulia kwenye vifaa vya rununu na seva za kingo zinazopatikana, ikipunguza kikwazo cha kuhamisha hadi wingu. Mbinu hii imeunganishwa na mafunzo maalum na usanifu wa mfumo, na bado inazuia ugawanyaji kwa sehemu mbili. Mbinu zingine zimezingatia sehemu nyingi za kugawanya, kwa mfano, IONN, ambayo inaelezea tatizo la ugawanyaji ili kupunguza latency na matumizi ya nishati, pia ikizingatia muda wa kupakia mifumo kwenye seva za kingo. Mbinu hizi ama zinaingiliana na mawingu ya mbali, au zimezuiwa kwa asili ya ugawanyaji, kwa mfano, inahitajika kugawanyika kwa sehemu mbili haswa, na au bila nyuzi nyingi. Hakuna hata moja ya masomo ya ugawanyaji wa DNN yaliyoorodheshwa yanayozingatia sehemu nyingi za kugawanya na nyuzi nyingi. B. Michango Karatasi hii inawasilisha mfumo wa utekelezaji uliosambazwa ili kuongeza utendaji wa utekelezaji wa kompyuta ya DNN ya wakati halisi kwenye data zinazotiririka, na sehemu nyingi za kugawanya na ugawanyaji wa nyuzi nyingi. Michango ya karatasi hii ni kama ifuatavyo: Mfumo wa kuhesabu na maambukizi ya latensi za DNN iliyosambazwa, ambapo utendaji wa utekelezaji unaotarajiwa wa mpango maalum wa ugawanyaji unaweza kutathminiwa. Uundaji wa tatizo la uboreshaji kwa ugawanyaji wa DNN, utekelezaji wa mwasuluhishi wa matawi na mipaka kwa tatizo hili, na tathmini ya utata wake. Simulizi za kuchunguza maboresho yanayowezekana ya utendaji na sifa mbalimbali za mtandao na DNN. Utambulisho wa maeneo ya uhakika katika sifa za mtandao na DNN zinazopelekea kuwepo kwa ugawanyaji bora na gharama ya kuhesabu suluhu hizo, yaani, masharti ambayo ugawanyaji wa DNN unafaidika. Matokeo ya majaribio yanayoonyesha maeneo yaliyofafanuliwa katika simulizi, pamoja na usahihi wa utabiri na kasi ya mwisho ya utekelezaji kwa mazingira ya nyumbani na yasiyo ya nyumbani. Kwa mabaki ya karatasi hii, ili kuepusha mkanganyiko, mtandao wa neva wa kina uliogawanywa utarejelewa kama DNN, na neno mtandao litamaanisha mtandao wa mawasiliano wa msingi. C. Muhtasari wa Karatasi Mabaki ya karatasi hii yamepangwa kama ifuatavyo. Sehemu ya II inawasilisha usuli wa Deep Learning na jinsi DNN zinavyowakilishwa katika utafiti huu. Sehemu ya III inafafanua mbinu za utabiri wa latency ya utekelezaji na maambukizi zinazohitajika kwa Sehemu ya IV ambayo inafafanua tatizo la uboreshaji, pamoja na algorithm ya matawi na mipaka kuchukua maamuzi ya ugawanyaji. Sehemu ya V inawasilisha matokeo ya simulizi ili kutathmini utendaji na utata wa algorithm ya matawi na mipaka, pamoja na masharti yanayoongoza kuwepo kwa ugawanyaji unaoboresha utendaji wa utekelezaji katika mtandao wa nyumbani. Sehemu ya VI inawasilisha matokeo ya majaribio yanayothibitisha simulizi za Sehemu ya V, na inaonyesha maboresho ya utendaji wa utekelezaji kwenye usanidi wa majaribio usio wa nyumbani. Mwishowe, Sehemu ya VII inajadili matokeo na inapanuka juu ya matumizi pana ya mbinu hii. SEHEMU YA II. Usuli: Deep Learning Ndani ya uwanja wa Machine Learning, Deep Learning (DL) inarejelea mbinu zinazotegemea matumizi ya DNN, yaani, mitandao ya neva bandia (au mbinu zinazohusiana za kujifunza mashine) zenye zaidi ya tabaka moja iliyofichwa. Moja ya marejeleo ya awali kwa miundo ya kina ya kujifunza ilichapishwa mwaka 1967, lakini haikuwa hadi miaka ya 2010 ambapo DL ilipata mvuto, kwanza katika utambuzi wa sauti, kisha katika ugunduzi wa vitu katika picha, kwa uwezo wa kunasa mahusiano magumu katika data yenye vipimo vingi. Deep Learning inakadiriwa kuwakilisha sehemu kubwa ya programu za AI mwaka 2022, na zaidi ya 75% ya mashirika yanayotumia DNN kwa programu ambazo zinaweza kutumia mbinu za kawaida. Mbinu za DL zimefafanuliwa kama "mbinu za kujifunza mashine ambapo nadharia huchukua fomu ya nyaya tata za aljebra na nguvu za muunganisho zinazoweza kurekebishwa." Nyaya hizi za aljebra kawaida huandaliwa katika tabaka, ambazo huunda hatua katika kompyuta. Neno *kina* linarejelea algorimu zinazojumuisha zaidi ya tabaka moja. Kuna miundo miwili mikuu ya DNN: mitandao ya neva ya kulisha mbele na mitandao ya neva ya kurudia. Aina zote mbili za DNN zinaweza kuwakilishwa kama grafu za kompyuta, na tofauti kuu ikiwa ni kwamba mitandao ya kulisha mbele inaweza kuwakilishwa kama grafu za moja kwa moja zisizo na mzunguko (DAGs), wakati mitandao ya neva ya kurudia inaweza kuwa na mzunguko. Mitandao ya neva ya kurudia hujengwa kwa ajili ya mlolongo wa data, ambapo kila kipengele cha data kinaweza kuwa na tegemezi kwa vipengele vya awali vya data katika mlolongo, wakati mitandao ya kulisha mbele haizingatii mwingiliano kati ya vipengele katika mlolongo wa data. Mabaki ya karatasi hii yatazingatia kesi ya mitandao ya neva ya kulisha mbele. SEHEMU YA III. Uundaji wa Utekelezaji Uliosambazwa Sehemu hii inawasilisha mfumo wa kuwakilisha sifa za DNN na mtandao ili kutabiri latensi za kompyuta, latensi za maambukizi, na utendaji wa mwisho wa utekelezaji wa suluhisho maalum la ugawanyaji. A. Uwakilishi wa DNN na Mtandao DNN ya kulisha mbele yenye N tabaka inawakilishwa kama DAG GA=(L,E) yenye L=(L1,…,LL) ni tabaka za DNN. Miunganisho (Li,Lj)∈E ni miunganisho kati ya tabaka Li na Lj. Kila tabaka Li ina matumizi ya kompyuta yanayohusiana ci, yanayopimwa kwa idadi ya shughuli za floating-point zinazohitajika ili kuchakata pasi ya mbele kupitia tabaka. Miunganisho (Li,Lj) hupewa uzito si,j unaolingana na saizi ya data inayopita kati ya tabaka Li na Lj kwa baiti. Mtandao halisi unawakilishwa kama grafu kamili G=(N,V) ambapo N=(N1,…,NN) ni seti ya nodi za kompyuta na V ni seti ya miunganisho kati ya nodi. Inadhaniwa kuwa nodi za kompyuta N1,…,NN zina viwango vya usindikaji η1,…,ηN, kwa mtiririko huo, vinavyopimwa kwa shughuli za floating-point kwa sekunde. Mwishowe, utendaji wa kiungo kati ya nodi mbili zinazopakana Na na Nb unamaanishwa na θa,b, unaopimwa kwa baiti kwa sekunde. Kila nodi Ni imeunganishwa na yenyewe ikiwa na utendaji usio na kikomo ili kuwakilisha kiungo cha kurudi nyuma, na miunganisho inadhaniwa kuwa ya ulinganifu, yaani, θa,b=θb,a. Ugawanyaji hufafanuliwa kama ramani P:L→N, yaani, ugawanyaji huweka nambari ya nodi kwa kila tabaka katika DNN. Ugawanyaji unaweza kuelezewa kama matrix P ya mwelekeo (N×L), N ikiwa ni idadi ya nodi kwenye mtandao na L ni idadi ya tabaka za DNN na, na Pa,i=1 ikiwa tabaka Li imewekwa kwenye nodi Na, 0 vinginevyo. Pamoja na mfano uliotolewa katika takwimu 2, L=7 tabaka na N=2 nodi za kompyuta, ugawanyaji ulioonyeshwa na tabaka {L1,L2,L3,L6,L7} kwenye nodi N1, na tabaka {L4,L5} kwenye nodi N2, unawakilishwa kama: Kwa kuzingatia ugawanyaji, *nyuzi* hufafanuliwa kama kundi la tabaka zinazofuatana kati ya sehemu mbili za kugawanya, zinazofanya kazi kwa mlolongo kwenye nodi sawa. Katika mfano hapo juu, nodi N1 itafanya nyuzi mbili, ya kwanza ikiwa na tabaka {L1,L2,L3} na ya pili ikiwa na {L6,L7}. Pamoja na notasyonu hizi zilizofafanuliwa, mabaki ya Sehemu hii yanatoa usemi uliofungwa wa utendaji wa utekelezaji unaofikiwa na ugawanyaji maalum, kama kazi ya latensi za utekelezaji (sehemu ya III-B) na maambukizi (sehemu ya III-C). B. Utabiri wa Latency ya Utekelezaji Kwa kuzingatia ugawanyaji, Sehemu hii inatazama utabiri wa latency ya utekelezaji kwenye nodi iliyotengwa. Latency iliyoletwa na kompyuta ya tabaka Li yenye matumizi ci, itakayofanywa kwenye nodi Na, kwa kiwango cha usindikaji ηa inatolewa kama Tci(Na)=ci/ηa. Kwa kuzingatia seti ya tabaka L′⊂L katika nyuzi zote zinazofanya kazi kwenye nodi Na yenye kiwango cha usindikaji ηa, latency ya utekelezaji inaweza kutolewa kama: Usemi huu ni makadirio ya mpangilio wa kwanza ya makadirio ya latency ya utekelezaji kulingana na idadi ya shughuli za floating-point (FLOPs) zinazohitajika kuchakata DNN, yaani, idadi ya shughuli za kuzidisha-kuongeza katika mfumo. Makadirio ya latency ya utekelezaji kwenye vifaa vya kingo huchezeshwa na uboreshaji wa utendaji. Suluhu zilizopo kama vile nn-Meter hutabiri latency ya utekelezaji kulingana na FLOPs. Suluhu zingine zinategemea meza ya kutafuta na nyakati za utekelezaji zilizokokotwa awali kwa ajili ya utabiri wa latency. Kwa mfano, BRP-NAS hutumia mtandao wa mtandao wa convolution uliofunzwa awali kutabiri latensi za utekelezaji, huku ukizingatia uboreshaji wa mfumo wa utendaji. Katika , inadhaniwa zaidi kuwa wasindikaji hutumia uwezo wao kamili, ambao unamaanisha kuwa wasindikaji wa nyuzi nyingi huwakilishwa kama wasindikaji wa nyuzi moja na kiwango cha usindikaji sawa na jumla ya viwango vyao vya usindikaji wa nyuzi. Pia inadhaniwa kuwa rasilimali ya kompyuta imeshirikiwa sawasawa kati ya nyuzi, yaani, msindikaji hutenga sehemu sawa ya muda wake kwa kila nyuzi. equation 1 Katika nodi zote, nyuzi yenye latency kubwa huweka utendaji wa utekelezaji kwa DNN iliyosambazwa. Kwa kuacha latensi za maambukizi, hii inamaanisha kuwa mara tu nyuzi hii ya kikomo imekamilisha kompyuta ya fremu ya data, inaanza tena kusindika inayofuata. Nyuzi zingine zitakuwa na muda wa kusubiri kabla ya kuchakata fremu ya data inayofuata kwa sababu latency yao ya utekelezaji ni ya chini kuliko latency hii ya juu, kama inavyoonekana kwenye takwimu 1. Kwa kuzingatia matrix ya ugawanyaji P, latensi za utekelezaji zinaweza kutolewa kama vekta moja Tc ya ukubwa N ambapo kiungo cha a ni latency ya juu zaidi ya nyuzi ya utekelezaji kwenye nodi Na, yaani, Tca=Tc(Na): ambapo H ni matrix ya diagonal ya viwango vya usindikaji wa nodi vilivyogeuzwa diag(η−11,…,η−1N) na c ni vekta ya safu ya matumizi ya tabaka ya kibinafsi (c1,…,cL). C. Utabiri wa Latency ya Maambukizi Latency ya maambukizi inaweza kutabiriwa kama ifuatavyo: muda unaochukua kutuma kiasi cha data si,j kati ya tabaka Li na Lj kwenye kiungo (Na,Nb) kupitia kiungo chenye utendaji kipimo θa,b ni Tti,j(Na,Nb)=si,j/θa,b. Muda wa kufikia uhamishaji wa data si,j∈E′⊂E juu ya kiungo (Na,Nb) ni: Kama ilivyo kwa utabiri wa latency ya utekelezaji, hii inamaanisha kuwa miunganisho imeshirikiwa sawasawa kati ya uhamishaji wa data kutoka Na hadi Nb. Makadirio ya latency ya maambukizi yanategemea makadirio ya utendaji wa kiungo kati ya nodi, haswa *goodput*, yaani, kiasi cha data muhimu inayotumwa kwa sekunde. Kama ilivyo kwa makadirio ya latency ya utekelezaji, hii ni makadirio ya mpangilio wa kwanza, ambayo kwa ufanisi hutoa matokeo mazuri ya utabiri, kama inavyoonekana kwenye takwimu 3 c, na mgawo wa uwiano wa R2=0.9998. Ubaya wa mbinu hii ni mahitaji yake ya kujaa kwa miunganisho ili kupata makadirio ya utendaji. Kwa kuzingatia matrix ya ugawanyaji P, matrix ya latency ya maambukizi Tt inaweza kufafanuliwa kama matrix ya mraba ya ukubwa L, na Tta,b=Tt(Na,Nb): ambapo ° ni bidhaa ya pande zote, au bidhaa ya Hadamard, Θ ni matrix ya inverse ya utendaji, yaani, matrix ya mraba ya ukubwa N yenye Θa,b=θ−1a,b na S ni matrix ya ukubwa wa maambukizi, yaani, matrix ya mraba ya ukubwa L yenye Si,j=si,j ikiwa Li inatuma data kwa Lj, 0 vinginevyo. SEHEMU YA IV. Ugawanyaji wa DNN Lengo la ugawanyaji wa DNN katika utafiti huu ni kuongeza utendaji wa utekelezaji, ulioonyeshwa na C, ambao unalingana na inverse ya latency ya juu zaidi kati ya latensi zote za kompyuta na maambukizi. Kwa kuzingatia ugawanyaji P, utendaji wa utekelezaji unafafanuliwa kama: Kuongeza utendaji wa utekelezaji kunamaanisha kutafuta min-max ya pamoja kati ya vipengele vyote vya Tc na Tt. Hii inaweza kufafanuliwa kama tatizo la uboreshaji wa kipekee: na Ji,j ikiwa ni matrix ya yote-moja ya ukubwa i×j, masharti (6) na