Open-Source: Goza leri landzelaka eka Nkutsulo wa AI

Anakanya hi vumundzuku laha AI yi nga pfaleriwanga ekule eka ti vault ta mabindzu, kambe yi akiwile erivaleni, xitina hi xitina, hi ntlawa wa misava hinkwayo wa vasunguri. Laha ntirhisano, ku nga ri mphikizano, wu hlohlotelaka nhluvuko, na ku tekeriwa enhlokweni ka mahanyelo swi khomaka ntikelo lowu ringanaka na matirhelo yo ka ya nga swekiwanga. Leswi a hi ntsheketo wa sayense, i nhluvuko wa xihlovo lexi pfulekeke lowu pfurhaka exikarhi ka nhluvukiso wa AI. Kambe Big Tech yi na ajenda ya yona, yi fihla timodeli leti siveleriweke tanihi xihlovo lexi pfulekeke loko yi ri karhi yi ringeta ku tshovela mimbuyelo ya vaaki lava pfulekeke hakunene.

A hi tlheriseleni endzhaku ti layers ta code hi paluxa ntiyiso endzhaku ka matshalatshala lawa. Ku lavisisa loku ka vumundzuku bya AI ya xihlovo lexi pfulekeke ku ta tsema “vaendli va onge” na ku lwela “lava va xiviri” eka nhluvukiso wa AI ku paluxa njhini ya vutumbuluxi leyi nga software ya xihlovo lexi pfulekeke leyi rhurhumelaka ehansi ka hinkwaswo. Mhaka ya nkoka hileswaku AI ya xihlovo lexi pfulekeke yi ta tswala xithaki xa data xa xihlovo lexi pfulekeke.

Xilaveko

Xihloko xa sweswinyana lexi tsariweke hi Matteo Wong eka The Atlantic, ’ . A Ku Nga Ri Na Nchumu Wo Fana Na ‘Open’ AI ' yi hlamusela mukhuva lowu kulaka eka swa tidyondzo na vaaki va software ya AI ya xihlovo lexi pfulekeke hakunene. “Miehleketo i ku tumbuluxa swikombiso leswi nga erivaleni swinene leswi vaaki va nga swi tirhisaka hi ku olova ni hi ku chipa, va swi dyondza ni ku swi humesa, hi ringeta ku endla leswaku thekinoloji leyi hlanganisiweke swinene yi va ya xidemokirasi leyi nga ha vaka ni vuswikoti byo hundzula ntirho, maphorisa, vuhungasi hambi ku ri vukhongeri.” Atlantic yoleyo yin’we yi ringanyeta leswaku tikhamphani ta Big Tech to fana na Meta ti ringeta ku tatisa xilaveko lexi emakete hi ku ‘hlamba hi ku pfuleka’ switirhisiwa swa tona. Va teka timfanelo na ndhuma leyinene ya vaaki va swihlovo leswi pfulekeke handle ko pfula xihlovo hakunene xa xiendliwa xa vona. Kambe, a ku na lexi nga ta siva nchumu wa xiviri. Leswi swi vangiwa hikuva sofwere ya ntiyiso ya xihlovo lexi pfulekeke yi fambisa vutumbuluxi na ntirhisano: timfanelo timbirhi leti lavekaka swinene ku ya emahlweni na AI hi vutihlamuleri.

Vaendli va Onge

LLaMA 2, i modele wa ririmi lowukulu lowu tumbuluxiweke hi Meta lowu ntshunxekeke ku wu tirhisa eka ndzavisiso na matirhiselo ya mabindzu. Ku yisa van’wana ku ringanyeta leswaku LLaMA 2 i xihlovo lexi pfulekeke. Hambiswiritano, Meta yi tirhisile swipimelo swin’wana swo tika eka ku tirhisiwa ka modele wa vona. Xikombiso, LLaMA 2 a yi nge tirhisiwi ku antswisa modele wun’wana wa ririmi lerikulu. Xiyimo lexi lwisanaka na ndhavuko modele wa vutumbuluxi bya nhlengeletano ya phurayivhete ya software leyi pfulekeke leyi tlakusaka ku paluxiwa ka mahala na loku pfulekeke ka vutumbuluxi ku vuyerisa un’wana na un’wana eka vaaki va software.

Meta yi tlhele yi lema ku tirhisiwa ka modele wa vona hi ku ka yi nga pfumeleli ku hlanganisiwa ka LLaMA 2 na swikumiwa leswi nga na 700 wa timiliyoni ta vatirhisi va n’hweti na n’hweti na hi ku ka va nga paluxi leswaku i datha yihi leyi modele wa vona yi leteriweke eka yona kumbe khodi leyi va yi tirhiseke ku yi aka. Hi ku ka yi nga paluxi, Meta yi tivula eka swivutiso swa ku va na xihlawuhlawu xa ntumbuluko na xihlawuhlawu xa xihoxo. Modele lowu leteriweke eka datha ya xihlawuhlawu wu ta tirhela tinhlamulo ta xihlawuhlawu . Handle ka loko vaaki va software hi ku angarhela va kota ku languta kumbe khodi leyi tirhisiweke ku aka modele ku vona loko ku ri na swisirhelelo leswi akiweke endzeni kumbe data leyi tirhisiweke ku yi letela, hi sala emunyameni eka swivutiso leswi swa mahanyelo. Hi nkarhi lowu ndzavisiso lowu kandziyisiweke eka AI yi khathala ngopfu hi matirhelo ku tlula vululami na ku xixima ku pfilunganyeka loku ku karhata ngopfu.

Lava Va Xiviri

Mistral AI ya xirhendzevutani yi kumile ku xiximiwa hi timodeli ta yona ta tindzimi letikulu ta xihlovo lexi pfulekeke, ngopfungopfu Mistral 7B na Mixtral 8x7B. Khamphani yi lwela ku tiyisisa mfikelelo wo anama eka timodeli ta yona ta AI, ku khutaza ku kamberiwa, ku cinca, na ku tirhisiwa nakambe hi vaaki va sofwere leyi pfulekeke.

vLLM yi yimela "vectorized low-latency model serving" naswona i layiburari ya xihlovo lexi pfulekeke leyi endleriweke hi ku kongoma ku hatlisisa na ku antswisa timodeli letikulu ta ririmi (LLMs). I xitirhisiwa xa matimba lexi nga antswisaka swinene matirhelo na ku tirhiseka ka ti-LLM. Leswi swi endla leswaku yi va rifuwo ra nkoka eka vatumbuluxi lava tirhaka eka switirhisiwa swo hambana swa AI, ku suka eka ti-chatbot na vapfuni va xiviri ku ya eka ku tumbuluxa swilo na ku tumbuluxiwa ka khodi. Ku fikela laha, Mistral yi ringanyeta ku tirhisa vLLM tanihi sevha ya inference eka timodeli ta 7B na 8x7B.

EleutherAI i lab ya ndzavisiso wa AI leyi nga tirheliki ku endla mali leyi kuleke ku suka eka sevha ya Discord yo burisana hi GPT-3 ku ya eka nhlangano wa ndzavisiso lowu nga tirheliki ku endla mali lowu rhangelaka. Ntlawa lowu wu tiveka hi ntirho wa wona eka ndzetelo na ku tlakusa mimpimanyeto ya sayense leyi pfulekeke eka Vukorhokeri bya Ririmi ra Ntumbuluko. Va humesile timodeli to hambana ta tindzimi letikulu ta xihlovo lexi pfulekeke naswona va nghenelela eka tiphurojeke ta ndzavisiso leti fambelanaka na ku ringanisiwa ka AI na ku hlamuseriwa. Swa lavaya LM-Harness ya xirhendzevutani phurojeke kumbexana i xitirhisiwa xo kambela xa xihlovo lexi pfulekeke lexi rhangelaka eka timodeli ta ririmi.

Phi-2 i LLM ya Microsoft leyi punch ehenhla ka ntiko wa yona. Leswi yi leteriweke eka ku hlangana ka matsalwa ya xivumbeko na tiwebsite leti sefiweke, modele lowu wutsongo, kambe wa matimba wu humelela eka mintirho yo fana na ku hlamula swivutiso, ku katsakanya na ku hundzuluxela. Lexi xi hambanisaka Phi-2 hakunene i ku kongomisa ka yona eka ku anakanya na ku twisisa ririmi, leswi yisaka eka matirhelo yo hlamarisa hambi ku ri handle ka tithekiniki ta xiyimo xa le henhla to ringanisa.

Timodelo to tala ta ku nghenisa ta xihlovo lexi pfulekeke leti nga na vuswikoti ti tiyisisa ndhawu ya AI yo tumbuluxa ya xihlovo lexi pfulekeke hi ku angarhela. Leswi i swa sweswi swa xiyimo xa le henhla swa xihlovo lexi pfulekeke naswona swi katsa UAE-Leyikulu-V1 na tindzimi to tala-e5-largel .

Ku ni swin’wana swo tala ensin’wini leyi leyi tshamaka yi ri karhi yi kula. Nxaxamelo lowu lowu nga nyawuriki i masungulo ntsena.

Xihlovo Lexi Pfulekeke Xi Fambisa Vumaki

Hi ku amukela filosofi ya vutumbuluxi lebyi pfulekeke swinene, tikhamphani leti nghenelaka hakunene eka nhluvukiso wa sofwere ya xihlovo lexi pfulekeke ti tlhontlha miehleketo ya ndhavuko ya ku vuyeriwa hi mphikizano hi ku amukela sweswo a hi khodi hinkwayo leyinene kumbe mianakanyo leyikulu leyi tshamaka endzeni ka nhlengeletano ya vona . Ku cinca loku ku seketela... phikizana leswaku vutumbuluxi lebyi avelaniwa endzeni ka ikhosisteme ya xihlovo lexi pfulekeke byi yisa eka ku kula ka makete hi ku hatlisa, ku nyika hambi ku ri tifemeni letitsongo ta software mali ya R&D leyi nga nyawuriki swinene the nkarhi wo vuyeriwa ku suka eka ku hangalaka ka R&D loku nga kona eka software ya xihlovo lexi pfulekeke. Leswi swi vangiwa hikuva, ku hambana na ku tirhisiwa ka vatirhi va le handle ka ndhavuko, vutumbuluxi lebyi pfulekeke ku ndlandlamuxa switirhisiwa swa le ndzeni hi ku tirhisa vutlhari bya nhlengeletano bya vaaki, handle ko hunguta matshalatshala ya le ndzeni ya R&D. Leswi vulaka leswaku tikhamphani ta software leti pfulekeke a ti fanelanga ku nyikela hi mipimanyeto ya tona ku landzelela vurhangeri bya miehleketo na khodi ehandle ka nhlangano wa tona.

Ku engetela kwalaho, tikhamphani ta software ta xihlovo lexi pfulekeke hi maqhinga ti fambisa vutumbuluxi hi ku humesa khodi ka ha ri na nkarhi naswona nkarhi na nkarhi , ku lemuka muxaka wa nhlengeleto wa phurosese ya vutumbuluxi eka vaaki va software. Hinkwaswo leswi ku vula nchumu lowu vo tala se va wu lemukaka: Open Source Software yi fambisa vutumbuluxi.

Xihlovo Lexi Pfulekeke Xi Kurisa Ntirhisano

Hileka ku endla vuxaka bya le ka Internet eka vaaki va sofwere ya xihlovo lexi pfulekeke, van’wamabindzu va kota ku hetisisa swikongomelo swa nkarhi wo koma na swa nkarhi wo leha. Tipakani ta vuvekisi bya nkarhi wo koma ti aka tikhamphani naswona tipakani ta vuvekisi bya nkarhi wo leha ti ti hlayisa. Hi nkarhi lowu fanaka, matshalatshala lawa ya vuhlanganisi ya ti yisa emahlweni netiweke hi yoxe - ku yi kurisa eka n’wamabindzu loyi a landzelaka. Swi tiveka kahle leswaku tipulatifomo ta xihlovo lexi pfulekeke ti nyika mfikelelo eka khodi ya xihlovo, leswi endlaka leswaku vatumbuluxi va kota ku tumbuluxa ku ndlandlamuxiwa, ti-plug-in na swiphemu swin’wana swa software na ku swi tirhisa ku ya hi swilaveko swa vona. Muxaka lowu wo hlawuleka wa ntirhisano wu vile na ku tlakuka hi ku amukeriwa hi ku anama ka Kubernetes hi vaaki va software hi ku anama. Sweswi ku tlula rini na rini, thekinoloji ya manguva lawa yi tirha swin’we hi ku hlangana kutsongo swinene naswona yi nga va swin’we hi timinete kwalomu ka kun’wana ni kun’wana.

Tikhamphani ta Big Tech ti amukela ntirhisano lowu wo enta lowu nga kona eka vaaki va xihlovo lexi pfulekeke loko ti humesa hi ku ntshunxeka swivumbeko, tilayiburari, na tindzimi leti ti ti tumbuluxeke ku hlayisa na ku hluvukisa switirhisiwa swa le ndzeni. Ku endla tano swi dzikisa xidziva xa vatumbuluxi lava kotaka ku tirha eka swikumiwa swa vona naswona swi sungula ku veka mpimanyeto wa ndlela leyi thekinoloji leyi fanaka yi faneleke ku tirha ha yona. Xihloko xexo lexi fanaka xa Atlantic xi tshaha musunguri wa Meta Mark Zuckerberg a vula leswaku “swi vile swa nkoka swinene eka hina ku nyika sweswo hikuva sweswi hinkwavo va vatumbuluxi lavanene eka indasitiri hinkwayo va tirhisa switirhisiwa leswi na hina hi swi tirhisaka endzeni”.

Xihlovo Lexi Pfulekeke Xi Veka Xihlovo Lexi Pfulekeke

Leswi i swilo leswi endlaka leswaku ha yini hi tala ngopfu ku vona ku tirhisana exikarhi ka tikhamphani ta xihlovo lexi pfulekeke. Tikhamphani ta xihlovo lexi pfulekeke ta AI na ML hi ntumbuluko ti ta tumbuluxa swintshuxo na swikumiwa swin’wana swa xihlovo lexi pfulekeke ku suka eka swikumiwa swa masungulo swo fana na vuhlayiselo bya swilo ku ya eka hinkwaswo ku ya ehenhla ka xithaki ku ya eka switirhisiwa swa ku vona. Loko khampani yin’we leyi pfulekeke yi ya emahlweni, hinkwerhu ha endla tano. Endlelo leri ro hlanganela na leri pfanganisiweke kumbexana i ndlela ya hina leyinene yo tumbuluxa AI leyi tekaka endlelo leri kongomisiweke eka vanhu. Matimba lawa ya ntumbuluko lama nga kona eka makete xilaveko xa xihlovo lexi pfulekeke xa AI lama hlanganisiweke na timfanelo ta sofwere ya xihlovo lexi pfulekeke ya vutumbuluxi na ntirhisano swi ta fambisa xihlovo lexi pfulekeke xa xithaki xa datha xa AI.

Hi kombela u joyina no hoxa xandla eka mbulavurisano lowu na vaaki va hina hi ku hi rhumela email eka [email protected] kumbe ku hi rhumela rungula eka xitichi xa hina xa Slack .