Ku Hlamusela Hi vuntshwa Switshuxo swa Netiweke swa Khomphyuta ya le Matlhelo: Xivono xa Ishan Bhatt xa Mindzhwalo ya Ntirho ya AI na ML

Edge computing yi humelerile tani hi matimba yo cinca eka ndzhawu ya thekinoloji ya namuntlha, ngopfu ngopfu eka swiyenge swa vutlhari byo endliwa (AI) na dyondzo ya muchini (ML). Hi ku endla leswaku ku lulamisiwa ka datha ku humelela ekusuhi na xihlovo xa yona, endlelo leri ri hunguta ku titshega hi tisenthara ta datha leti nga exikarhi. Vuyelo bya kona i rivilo ro hatlisa ra ku lulamisa, ku hunguteka ka ku hlwela, na vuhlayiseki lebyi antswisiweke—timfanelo leti nga lavekiki eka AI na ML, laha nxopaxopo wa datha ya nkarhi wa xiviri na nhlamulo swi nga swa nkoka swinene.

Emahlweni ka nhluvukiso lowu i Ishan Bhatt, loyi ntirho wa yena wa vutumbuluxi na Google Distributed Cloud Connected wu langutanaka na mintlhontlho yo tika ya ku tirhisa khomphyuta ya le tlhelo eka ndzhwalo wa ntirho wa AI na ML. Switshuxo swa Ishan swi tisa vuhlanganisi bya le hansi, bya matirhelo ya le henhla bya nkoka eka switirhisiwa swo fana na mimovha leyi tiyimeleke na thekinoloji ya nhlayiso wa rihanyo ya xiyimo xa le henhla.

Hi ku kongomisa eka ku antswisa matirhelo ya netiweke na ku fikelela ku hlanganisiwa ka mapapa loku nga na swiphiqo, Ishan yi hlamusela hi vuntshwa swipimelo swa vukorhokeri na vutumbuluxi eka domain leyi ya matimba na ku ya emahlweni hi xihatla.

Ku pandzeka khodi ya low-latency

Ku tumbuluxa swintshuxo swa netiweke swa nkarhi wa le hansi, swa matirhelo ya le henhla eka ku tirhisiwa ka le tlhelo swi ta na mintlhontlho leyikulu, tanihilaha Ishan a hlamuselaka hakona. Xin’wana xa swihinga leswikulu xi le ka switirhisiwa leswi nga nyawuriki swa xibalo ni swa eneji leswi nga emakumu. Ku lulamisa leswi, Ishan u xiya, “I swa nkoka ku antswisa software na tiphrothokholi ku hunguta ku tirhisiwa ka switirhisiwa loko hi ri karhi hi tlhela hi tirhisa swihatlisisi swa hardware swa xiyimo xa le henhla swo fana na GPU na FPGA ku rhurhisa mintirho hi ndlela leyinene.” Ku engetela kwalaho, u tirhisa tithekiniki ta vulawuri bya gezi lebyi cinca-cincaka ku hlayisa ku ringanisela exikarhi ka ku tirhisiwa ka eneji na matirhelo ya sisiteme.

Ntlhontlho wun’wana wa nkoka i ku fikelela ultra-low latency leyi lavekaka eka switirhisiwa swa le tlhelo. Ishan u kandziyisa nkoka wa tindlela to fana na ku hlayisa makumu na ku teka datha ka ha ri emahlweni, leswi hungutaka xilaveko xa ku vuyisa datha ya le kule, na tialgorithm ta ndlela ya xiyimo xa le henhla ku tiyisisa ku hundziseriwa ka datha hi tindlela to koma swinene. Ku lawula ndzhwalo wa ntirho lowu nga languteriwangiki na ku hlayisa ku ringaniseriwa eka tinodi leti hangalasiweke, Ishan u kombisa xilaveko xa tisisiteme ta vulawuri bya thrafikhi leti pfumelelanaka leti avela bandwidth hi ndlela ya matimba leyi simekiweke eka xilaveko xa nkarhi wa xiviri na ku tirhisiwa loku sekeriweke eka microservice eka ku ringanisa loku cinca-cincaka. Maendlelo lawa ya hlanganisiweke hi vukheta ya kombisa ku tinyiketela ka yena ku lulamisa swilaveko swo hlawuleka swa vuhlanganisi bya le tlhelo hi vukheta na vutumbuluxi.

Ku endla netiweke ya edge AI

Ku seketela ndzhwalo wa ntirho wa AI na ML emakumu swi lava sete yo hlawuleka ya swilaveko swa netiweke ku khoma ku rharhangana ka swona ka le henhla na swilaveko swa switirhisiwa. Ishan u kombisa xilaveko xa vuhlanganisi bya bandwidth ya le henhla ku khoma vholumo hi ndlela leyinene, ngopfungopfu loko ku tirhisiwa tidathaseti letikulu to fana na swihambukelo swa vhidiyo kumbe telemetry ya nkarhi wa xiviri. Ku hambana na tinetiweki ta ndhavuko, leti rhangisaka emahlweni ku hundziseriwa ka datha ya xikongomelo xo angarhela, swintshuxo swa edge AI swi lava vuhumelerisi byo tiya ku sivela swiphiqo eka phayiphi ya vukorhokeri.

Ultra-low latency i nchumu wun’wana wa nkoka, tanihileswi mintirho yo tala ya AI, ku katsa na ku kuma swilo hi nkarhi wa xiviri na ku endla swiboho hi ku tiyimela, yi titshegeke hi tinhlamulo ta xihatla. Ishan u hlamusela, "Tisisiteme ta Edge AI ti fanele ku hunguta ku hlwela ku seketela matirhelo lawa ya nga na nkarhi," kasi tinetiweki ta ndhavuko ti nga tiyisela ku hlwela loku tolovelekeke ka mintirho ya vukorhokeri bya ntlawa.Ku engetela kwalaho, AI eka edge yi vuyeriwa eka ti-architecture leti hangalasiweke leti hangalasaka vukorhokeri, leswi endlaka leswaku ku va na ku khomiwa ka datha ya laha kaya na nhlanganiso exikarhi ka ti node leti hangalakeke hi tlhelo ra ntivo-misava Ishan yi hambanisa leswi na maendlelo ya ndhavuko, lawa hi ntolovelo ku hlanganisa vufambisi eka tisenthara ta datha, ku endla leswaku ti nga fanelanga ngopfu eka ntumbuluko lowu hangalasiweke wa AI ya le tlhelo Ku lulamisa tinetiweki eka swilaveko leswi swo hlawuleka i swa nkoka ku pfula vuswikoti lebyi heleleke bya AI na ML emakumu.

Ku hatlisisa matirhelo eka khomphyuta ya le tlhelo

Ku fikelela matirhelo ya nkarhi wa le hansi eka ku tirhisiwa ka le tlhelo swi lava ku hlanganisiwa ka tindlela ta xiyimo xa le henhla na thekinoloji ya vutumbuluxi, tanihilaha swi hlamuseriweke hakona hi Ishan. Endlelo ra nkoka ri katsa ku tisa xibalo ekusuhi na swihlovo swa datha. Ishan u hlamusela, "Tirhisa switirhisiwa swa xibalo eka tlhelo ra netiweke ku khoma mintirho leyi nga na nkarhi eka laha kaya," ku hunguta mpfhuka lowu datha yi faneleke ku famba ha wona na ku hunguta ku titshega hi tisevha leti nga exikarhi hi ku tirhisa ku hlayisa ka laha kaya. Ku ya emahlweni ku antswisa rivilo, u ringanyeta ku endla tiphrothokholi ta vuhlanganisi ta manguva lawa, ku fana na ku siva TCP ya ndhavuko hi swin’wana swo fana na QUIC kumbe RDMA, leswi hungutaka ku tirhisiwa ka le henhla na ku antswisa vukorhokeri eka swiyimo swo karhi swa matirhiselo.

Vulawuri bya vutleketli lebyi cinca-cincaka na byona byi hoxa xandla swinene. Ishan yi tirhisa networking leyi hlamuseriweke hi software (SDN) ku "dynamically optimize traffic routing na resource avelocation," ku tiyisisa leswaku mintirho leyi nga na vuxiyaxiya bya latency yi kuma nkoka. Hilaha ku fanaka, ku endliwa ka ntirho wa netiweke (NFV) ku siva switirhisiwa swa netiweke leswi simekiweke eka hardware hi mintirho ya xiviri, leswi tisaka maendlelo ya nkoka ekusuhi na le tlhelo na ku hunguta ku hlwela. Hardware ya xiyimo xa le henhla, yo fana na swihatlisisi swa FPGA na ASIC, leswi hlanganisiweke na tialgorithm to tlhariha ta ku fambisa na tindlela ta vulawuri bya ku hlangana ka vanhu hi nkarhi wa xiviri, swi tiyisisa ku khuluka ka datha hi tindlela leti tirhaka kahle swinene. Tithekiniki leti, leti hlanganisiweke na ku langutisisa loku yaka emahlweni ka ku hlwela na ti-heybrid edge-cloud architectures, ti endla leswaku tinetiweki ti kota ku fikelela swilaveko swo tika swa AI, IoT, na switirhisiwa swin’wana swa nkarhi wa xiviri.

Vutlhari bya le tlhelo ra xikalo

Ku ringaniseriwa eka tinetiweki ta le tlhelo, ngopfungopfu eka switirhisiwa swa AI na ML, swi lava dizayini ya vutumbuluxi na vulawuri bya switirhisiwa swa maqhinga. Ishan u kandziyisa nkoka wa ti-architecture ta modular, a vula leswaku, “Ti pfumelela ku engeteriwa loku nga na swiphiqo ka ti-edge node kumbe swiphemu loko xilaveko xi ri karhi xi kula. " Endlelo leri ri titshege hi ti-microservices eka mintirho yo karhi ya netiweke, switirhisiwa swa le makumu leswi hangalasiweke ku hunguta swiphiqo, na ti-edge tiers ta xiyimo xa le henhla ku ringanisela ndzhwalo wa ntirho hi ndlela leyinene ku tsemakanya swiphemu.

Ku averiwa ka switirhisiwa loku cinca-cincaka na kona ku tlanga xiave xa nkoka eka ku ringanisa hi ndlela leyinene. Ishan u kombisa nkoka wa ku tirhisa tindhawu leti nga na tikhontheyina to fana na Kubernetes, leti nga dynamically orchestrate workloads eka ti edge nodes na ku tirhisa auto-scaling ku lulamisa switirhisiwa hi nkarhi wa xiviri. Ku engetela kwalaho, tindlela to karhi ta AI to fana na swivumbeko swa dyondzo leswi hlanganisiweke swi endla leswaku ku va na phurosese leyi hangalasiweke eka tinodi ta le makumu, ku hunguta ku titshega hi ndzetelo wa le xikarhi. Hi ku hlanganisa thekinoloji ya xiyimo xa le henhla yo fana na Time-Sensitive Networking (TSN) na ku tirhisa tihardware ta matirhelo ya le henhla to fana na ti-TPU na ti-FPGA, Ishan yi tiyisisa ku ringaniseriwa handle ko kavanyeta matirhelo, ku cinca-cinca, kumbe ku tshembheka ka tinetiweki ta le tlhelo leti endleriweke ku fikelela swilaveko leswi andzaka swa ndzhwalo wa ntirho wa AI na ML .

Ku tirhisa michini hi ku tirhisa michini

Ku tirhisa michini i ribye ra xisekelo ra ku tirhisiwa ka netiweke ya le tlhelo hi ndlela leyinene, tanihilaha ntokoto wa Ishan eka Google Distributed Cloud Connected wu kombisaka hakona. Hi ku tirhisa gcloud API leyi tirhisiwaka ngopfu, Ishan yi tiyisisa leswaku swivumbeko swa switirhisiwa swa le tlhelo swi endliwa hi xiothomethi ku hlayisa ku ringanana eka ku tirhisiwa lokukulu. “Yi hunguta swihoxo swa mavoko naswona yi hatlisisa ku vekiwa ka swilo ku suka eka masiku ku ya eka tiawara,” ku hlamusela Ishan, a kandziyisa ku antswisiwa loku vonakaka ka rivilo ni ku pakanisa. Endlelo leri ri tlhela ri tekela vuxokoxoko bya xithekiniki lebyi rharhanganeke, leswi endlaka leswaku endlelo ro tirhisa ri olova ku tirhisa na ku olovisiwa.

Ishan u vona otomatiki yi ya emahlweni yi hluvuka tanihileswi yi hlanganisaka na thekinoloji ya xiyimo xa le henhla na mikhuva. “AI na ML swi ndlandlamuxa vulawuri bya netiweke hi ku vhumbha swivumbeko swa thrafikhi, ku endla leswaku ku kumiwa swihoxo hi ku tirhisa michini, na ku antswisa ku averiwa ka switirhisiwa,” wa xiya, a kandziyisa ntirho wa otomatiki leyi fambiwaka hi AI eku vumbeni ka tinetiweki ta xitukulwana lexi landzelaka. Switirhisiwa swo fana na mawele ya xidijitali, leswi tekelelaka na ku antswisa matirhelo ya netiweke, na ku kumiwa ka swihoxo leswi fambiwaka hi AI swi vekiwile ku tiyisisa vuhlayiseki na vukorhokeri bya matirhelo eka tindhawu leti yaka ti rharhangana.

Mikhuva leyi humelelaka yo fana na dyondzo ya federated na quantum networking na yona yi ta vuyeriwa eka otomatiki. Ishan u kombisa xilaveko xo dizayina tinetiweki leti fambisaka dyondzo leyi hlanganisiweke eka phurosese ya AI leyi hangalasiweke loko yi ri karhi yi hlanganisa netiweke ya quantum eka vuhlayiseki na rivilo leri nga ringanisiwiki na nchumu. Nhluvukiso lowu, lowu hlanganisiweke na otomatiki, wu ta endla leswaku tinetiweki ti kota ku khoma swilaveko leswi kulaka swa AI na ndzhwalo wa ntirho wa le tlhelo loko ti ri karhi ti hlayisa ku ringaniseriwa na ku cincacinca.

Ku hlanganisiwa loku ku langutaka emahlweni ka otomatiki na vutumbuluxi eka tihardware na ku kondletela swi kombisa ku tinyiketela ka Ishan ku fambisa nhluvukiso lowu nga na nkucetelo. Ku tirhisa tialgorithm to hlayisa eneji na ku antswisiwa ka tihardware eka ndzhwalo wa ntirho wa AI i nhlokomhaka ya nkoka, ku ringanisa vukorhokeri bya matirhelo na vutihlamuleri bya mbango. Xivono xa Ishan xi tiyisisa leswaku tinetiweki ta le makumu ti tshama ti ri na vutshila, ti sirhelelekile, naswona ti lunghekele swilaveko swa nkarhi lowu taka.

Ku khumbeka ka misava ya xiviri

Ku hlanganisiwa ka AI na ML emakumu ku hundzula matirhiselo ya misava ya xiviri hi ku endla leswaku ku va na ku hatlisa, ku sirheleleka, na ku lulamisiwa lokunene ka datha. Ishan u hlamusela leswaku tisisiteme ta edge AI ti herisa xilaveko xo rhumela data eka xigwitsirisi, leswi hungutaka swinene ku hlwela. "Switirhisiwa swa nhlayiso wa rihanyo leswi fambiwaka hi AI eswibedlhele swi kuma ku cinca-cinca ka mbilu loku nga tshamisekangiki naswona swi lemukisa madokodela ku nga si hela timilisekondi, leswi nga ha ponisa vutomi," Ishan u kandziyisa, a kombisa vuswikoti byo ponisa vutomi bya ku teka swiboho swa laha kaya. Ku engetela kwalaho, endlelo leri ri ndlandlamuxa vuhlayiseki bya xihundla na vuhlayiseki hi ku hunguta ku hundziseriwa ka datha ya nkoka, tanihilaha swi voniwaka hakona eka tisisiteme to lemuka xikandza eswihambukelweni swa swihahampfhuka leti tirhaka swifaniso laha tikweni loko ti ri karhi ti hlayisa ku landzelerisa milawu ya vuhlayiseki bya xihundla.

Dizayini ya netiweke leyi tirhaka kahle yi seketela nhluvukiso lowu hi ku tiyisisa vuhlanganisi bya nkarhi wo hlwela wa le hansi na avelo ra switirhisiwa leri cinca-cincaka. Ishan u kombisa, "Tinetwork leti nga na xikalo xa switirhisiwa hi xiothomethi ti tiyisisa ku khomiwa hi ndlela leyinene ka ndzhwalo wa ntirho wa AI/ML lowu cinca-cincaka," leswi nga swa nkoka swinene hi minkarhi ya xilaveko xa le henhla, ku fana na le ka e-commerce eka tisisiteme ta switsundzuxo leti fambiwaka hi AI. Ku tlula kwalaho, ti-architecture leti hangalasiweke ti antswisa ku tiyisela, leswi endlaka leswaku tisisiteme to fana na IoT ya tiindasitiri ti hlayisa matirhelo hambi ku ri hi nkarhi wa ku kavanyeteka. Ishan u kandziyisa nkucetelo wo anama wa tipulani leti, a vula leswaku tinetiweki leti antswisiweke ti hunguta ku tirhisiwa ka eneji na ku durha ka matirhelo, leswi endlaka leswaku Edge AI yi tshamiseka swinene. Vumaki lebyi a byi ndlandlamuxi ntsena switirhisiwa swa sweswi kambe byi tlhela byi veka xiteji xa vutumbuluxi lebyi yaka emahlweni eka tiindasitiri hinkwato.

Loko swintshuxo swa vuhlanganisi swi ya emahlweni swi ya emahlweni, vurhangeri bya Ishan byi tirha tanihi rivoni leri kongomisaka. Maendlelo ya yena yo ehleketa emahlweni ya tshama ya ri ya nkoka loko hi ri karhi hi tilulamisela ku hlanganisiwa loku yaka emahlweni ka AI na ML eka tisekithara to hambana. Ku hlangana ka thekinoloji ya xitukulwana lexi landzelaka, ku fana na 5G na AI automation, eka tinetiweki ta le tlhelo swi ta tlakusa ntsena nkucetelo wa ntirho wa yena. Ku tinyiketela ka Ishan eka vutumbuluxi na vutshila swi tiyisisa leswaku u tshama a ri murhangeri, a kongomisa nhluvukiso lowu hi xivono lexi langutelaka na ku fikelela swilaveko swa nkarhi lowu taka. "Xitukulwana lexi landzelaka xa swintshuxo swa netiweke swa ndzhwalo wa ntirho wa le tlhelo na AI xi ta vumbiwa hi nhluvukiso eka hardware, software, na tiparadigm ta vumaki," Ishan wa xiya, leswi kombisaka ku twisisa ka yena ka vutivi bya ndhawu ya thekinoloji.