Why Your AI Doesn’t Need the Cloud to Run Faster Anymore

Mpanoratra: Thomas Feltin Léo Marchó Juan-Antonio Cordero-Fuertes Frank Brockners Thomas H. Clausen Famintsoana: Ny inference amin'ny tambajotra neural lalina (DNN) amin'ny angona streaming dia mitaky loharano informatika mba hanomezana fahafaham-po ny fepetra takiana amin'ny inference throughput. Na izany aza, ny fampiharana fianarana lalina izay saro-pady amin'ny latency sy ny fiainana manokana dia tsy afaka mampiditra ny kajy amin'ny rahona lavitra noho ny vidin'ny fifindrana sy ny tsy fisian'ny fahatokisana ny mpamatsy rahona antoko fahatelo. Anisan'ny vahaolana hampitomboana ny fahombiazana raha mitazona ny kajy amin'ny tontolo voafetra, ny fanamafisam-peo amin'ny hardware dia mety ho sarotra, ary ny fanatsarana ny maodely dia mitaky ezaka famolavolana be dia be nefa manimba ny fahatsapana. Ny fizarazarana DNN dia fomba fahatelo mifameno, ary ahitana ny fizarana ny asa inference amin'ny fitaovana sisintany maro azo, ka raisina ny toetran'ny tambajotra sisintany sy ny firafitry ny DNN, miaraka amin'ny tanjona hampitomboana ny inference throughput (isa ny inferences isaky ny segondra). Ity lahatsoratra ity dia mampiditra fomba iray handrefesana ny latency inference sy ny fifindrana ho an'ny fametrahana DNN an-tserasera marobe, ary mamaritra dingana fanatsarana hanatsarana ny inference throughput. Ny mpanara-maso ny tsimoka sy ny fefy dia aseho sy araraotina mba handrefesana ny fahombiazana sy ny fahasarotana azo. Io famakafakana io dia nitarika ho amin'ny famaritana ny faritra fanamafisam-peo, izay manazava ny fepetra voafaritra momba ny toetran'ny DNN sy ny tambajotra izay mahasoa ny fizarazarana DNN. Farany, ny vokatra andrana dia manamafy ny simulation ary mampiseho ny fanatsarana ny inference throughput amin'ny ohatra fametrahana sisintany. Ny fizarazarana DNN amin'ny sisintany dia manome fahafahana ny fanamafisana ny inference throughput raha mampihena ny fampiasana bandwidth sy ny latency amin'ny mpamatsy foibe, ohatra, ao anaty rahona. Fampidirana Ny fitaovana mifandray dia namorona tombana 2,5 quintillion bytes isan'andro tamin'ny taona 2020. Amin'ity toe-javatra ity, ny Artificial Intelligence (AI) dia iray amin'ireo teknolojia afaka miatrika tsara ny habetsahan'ny angona aterina hatrany, amin'ny sehatra maro toy ny famantarana zavatra amin'ny fahitana solosaina, famantarana tarehy, famantarana feo, fanodinana fiteny voajanahary, na fiara tsy mitondra tena. Ny AI, ary indrindra ny Deep Learning (DL), dia mitaky, ankoatra ny habetsahan'ny angona, ny fahaizana mitantana hery fanodinana sy fahatsiarovana, izay mahatonga ny informatika rahona ho vahaolana fampiantranoana fampiasa ho an'ny asa AI. Vokatr'izany, tamin'ny taona 2019, 96% ny asa AI natao tao anaty rahona. Ny fampiharana AI dia mety manana fepetra henjana amin'ny latency, ohatra, amin'ny fiara tsy mitondra tena, fanaraha-maso ny famokarana, na inference amin'ny fotoana tena izy rehetra izay mampiditra fifandraisana amin'ny tontolo tena izy. Ohatra, ny elanelana fanodinana salantsalany amin'ny fiara tsy mitondra tena dia takiana ho latsaky ny 100 milisegonda. mahatonga ny fotoana fiverenana amin'ny rahona ho lava loatra ho an'ireo fampiharana ireo. Toy izany koa, ny fampiharana sasany dia mety mampiditra fampiasana rohy lehibe eo amin'ny tambajotra, ohatra, amin'ny trangan'ny fanodinana horonantsary avo lenta amin'ny fahitana solosaina, izay manakana azy ireo tsy handeha anaty rahona. Ny fepetra momba ny fiainana manokana momba ny angona na ny fitsipika momba ny fiarovana ny angona dia mety mandràra ny angona tsy hiala amin'ny tontolo manokana. Izany dia manohana ny fametrahana AI amin'ny informatika sisintany, izay ahitana ny famindrana asa fanodinana avy amin'ny foibe data ho akaiky kokoa ny fitaovana sisintany, izany hoe, akaiky ny loharanon'ny angona. Raha ampitahaina amin'ny rahona ampahibemaso, ny sisintany dia tontolo voafetra amin'ny loharano manana fetrany manan-danja. Ny famakafakana angona akaiky ny loharanon'izy ireo dia mety ho sarotra noho ny fahafahan'ny fitaovana ambany kokoa, ny tsy fahampian'ny loharano azo, ary ny tsy fitoviana eo amin'ny tambajotra sisintany. Ny fampihenana ny fahafahan'ny kajy dia midika ny fampihenana ny inference throughput azo, ka vao mainka manasarotra ny famindrana asa mavesatra avy amin'ny rahona mankany amin'ny sisintany. Amin'ny fampiharana sasany, ny inference throughput, izany hoe, ny inferences azo isaky ny segondra amin'ny DNN, dia mety mifandray amin'ny fahatsapana ny DNN, ohatra, amin'ny fanaraha-maso zavatra amin'ny horonantsary streaming, izay nampisehoana fa ny fampihenana ny tahan'ny inference avy amin'ny 15 ka hatramin'ny 5 inferences isaky ny segondra dia nampihena ny isa F1 an'ny mpanazava zavatra tamin'ny 10%. Amin'ny teny hafa, ny fametrahana manana inference throughput ambany dia mety miteraka fahaverezan'ny fampahalalana manan-danja, ohatra, fahaverezan'ny fahitana amin'ny fampiharana fanaraha-maso horonantsary. Misy fomba roa lehibe azo hanomezana fahafaham-po ny fepetra takiana amin'ny fahombiazana eo amin'ny tambajotra sisintany voafetra: ny fanerena ny maodely na ny fanamafisam-peo amin'ny hardware. *Fanerena ny maodely* dia ahitana ny fampihenana sy fanatsarana ny tambajotra neural ho dika miteny maivana, matetika tsy mahomby, amin'ny maodely. Ny fomba fanerena maodely mahazatra dia ahitana ny fanesorana, izany hoe, ny fanesorana ny mari-pamantarana tsy ilaina amin'ny maodely, ny fampifangaroana, izany hoe, ny fampihenana ny fahatsiarovana nomena mba hitahirizana ny maodely, ary ny fampidirana fahalalana, izany hoe, ny fanofanana tambajotra neural kely kokoa miaraka amin'ny fahalalana azo avy amin'ny iray lehibe kokoa. Ny fanatsarana ny maodely dia mitaky ezaka famolavolana be dia be ary mety ho sakana amin'ny fahatsapana ny maodely. *Fanamafisam-peo amin'ny hardware* amin'ny fitaovana sisintany dia midika ny fitadiavana hardware izay mety ho mahomby amin'ny herinaratra sy maivana, nefa mbola afaka mandeha amin'ny inference miaraka amin'ny fahombiazana ampy. Misy karazana hardware maromaro azo ampiasaina amin'ny fanamafisam-peo amin'ny sisintany, miovaova ny fahombiazana sy ny manokana, nefa ny singa fanodinana mahazatra dia tsy mahafeno ny fanantenana ary ny hardware manokana toy ny ASIC dia hita fa tsy azo ampiharina sy lafo. Ny fizarazarana DNN dia fomba iray mifameno amin'ny fanamafisana ny inference amin'ny alalan'ny fanararaotana ny fitaovana maro efa misy eo amin'ny tambajotra sisintany mba hizarana ny kajy inference - izay azo ampiasaina irery, na miaraka amin'ireo fomba roa hafa. Ny fizarazarana DNN dia ahitana ny fiheverana ny tambajotra neural ho toy ny fantsona iray hotsinjaraina ho fizarazaran-javatra, ary hizara ireo fizarazaran-javatra ireo amin'ny fitaovana sisintany. Ny fametrahana ireo fizarazaran-javatra ireo dia mifototra amin'ny toetran'ny DNN sy ny tambajotra fototra. Ny fizarazarana DNN dia miankina amin'ny famantarana ireo teboka fizarazarana, izay teboka eo amin'ny graph an'ny maodely izay ijanonan'ny maodely ho fizarazaran-javatra. Mandritra ny famoahana, ny fizarazaran-javatra dia mandeha tsikelikely, ny tsirairay mandefa vokatra inference eo anelanelan'ny mankany amin'ny fizarazaran-javatra manaraka. Izany dia ahafahan'ny fizarazaran-javatra tsirairay manomboka manodina ny angona fidirana manaraka raha ny fitaovana hafa kosa manohy manodina ny iray naloany, ka mampitombo ny inference throughput, araka ny aseho ao amin'ny . Amin'ny ambiny amin'ity lahatsoratra ity, ny fizarazarana DNN dia aseho amin'ny alalan'ny ohatra momba ny inference amin'ny fotoana tena izy amin'ny horonantsary streaming. sary 1 A. Asa mifandraika Ny fomba fizarazarana DNN, avy amin'ny fampidinana rahona edge finday, dia mikatsaka ny hanatsarana ireo mari-pahaizana momba ny fahombiazana samihafa, toy ny latency kajy, fampiasana angovo, fampiasana loharano, vidiny, na throughput. Ny fizarazarana DNN dia miankina amin'ny fampifandraisana ny iray na maromaro amin'ireo mari-pamantarana ireo mba hamaritana tanjona fanatsarana, sy fomba iray manararaotra ity mari-pamantarana ity mba hahitana drafitra fizarazarana. Ohatra, ny Neurosurgeon dia mikatsaka teboka fizarazaran-javatra tokana, mitazona ny fizarazaran-javatra voalohany eo amin'ny sisintany ary mampiditra ny fizarazaran-javatra faharoa amin'ny rahona, mba hampihenana ny latency sy ny fampiasana angovo. Ny fampiharana amin'ny IoT dia nandray ihany koa ny fizarazarana sy ny fampidinana ny DNN marobe mba hanatsarana ny angovo, ny fahatarana, sy/na ny vidiny, amin'ny alalan'ny mpanara-maso samihafa toy ny SPSO-GA mampifandray ny Particle Swarm Optimization (PSO) sy ny Genetics Algorithm (GA), na ny DDPQN izay mampiasa Deep Reinforcement Learning mba hahitana drafitra fizarazarana. Ny ohatra hafa dia ahitana ny DINA, izay mamaritra olana Integer Non Linear Programming (INLP), ary mampiasa mpanara-maso mifototra amin'ny teoria fampifanarahana, mba hanatsarana ny fahatarana sy ny fampiasana loharano amin'ny tambajotra voro-pefy. Ny fomba fanatsarana ny inference throughput dia ahitana ny DNN surgery, izay mampiasa ny haben'ny vokatra layer DNN eo anelanelan'ny sisintany sy ny rahona. Samy mamorona fizarazaran-javatra roa ireo algorithm, ny iray eo amin'ny sisintany ary ny iray hafa ao anaty rahona. Ny fandalinana hafa eo amin'ny sehatry ny rahona edge finday dia ahitana ihany koa ny kajy marobe ao anaty rahona mba hanatsarana ny inference throughput ankapobeny. Ny fialana amin'ny rahona ho an'ny kajy inference fizarazaran-javatra faharoa dia mihevitra ny fifandraisana tambajotra tsara, izay mety tsy azo antoka amin'ny fifandraisana mahantra amin'ny fametrahana sisintany tafasaraka. Ny Edgent dia manova ny fomba teo aloha ho an'ny fitaovana finday sy ny mpamatsy sisintany azo, manalefaka ny fetrany amin'ny fampidina amin'ny rahona. Ity fomba ity dia mifandray amin'ny fanofanana sy ny firafitry ny maodely manokana, ary mbola mametra ny fizarazarana ho fizarazaran-javatra roa. Ny fomba hafa dia nandray teboka fizarazaran-javatra maromaro, ohatra, IONN, izay manazava ny olana momba ny fizarazarana mba hampihenana ny latency sy ny fampiasana angovo, ary mandray ihany koa ny fotoana handefasana ny maodely amin'ny mpamatsy sisintany. Ireo fomba ireo dia mifandray amin'ny rahona lavitra, na voafetra amin'ny karazana fizarazarana, ohatra, takiana hizarazara ho roa fotsiny, miaraka na tsy misy multi-threading. Tsy misy amin'ireo fandalinana fizarazarana DNN voalaza no mandray anjara amin'ny teboka fizarazaran-javatra maromaro sy multi-threading. B. Fifanampiana Ity lahatsoratra ity dia mampiseho rafitra inference an-tserasera mba hanatsarana ny inference throughput amin'ny kajy DNN amin'ny fotoana tena izy amin'ny angona streaming, miaraka amin'ny teboka fizarazaran-javatra maromaro sy fizarazarana marobe. Modely iray handrefesana ny latency kajy sy fifindrana amin'ny DNN an-tserasera, izay ahafahana manombana ny inference throughput andrandraina amin'ny drafitra fizarazarana nomena. Famoronana ny olana fanatsarana ho an'ny fizarazarana DNN, ny fampiharana mpanara-maso ny tsimoka sy ny fefy ho an'ity olana ity, ary ny fanombanana ny fahasarotany. Simulations mba hijerena ireo fanatsarana fahombiazana azo atao miaraka amin'ny fan properties tambajotra sy DNN miovaova. Ny famaritana ireo faritra voafaritra tsara amin'ny toetran'ny tambajotra sy DNN izay mitondra ho amin'ny fisian'ny fizarazarana tsara indrindra sy ny vidiny handefasana vahaolana toy izany, izany hoe, ny fepetra izay mahasoa ny fizarazarana DNN. Ny vokatra andrana mampiseho ireo faritra voafaritra ao amin'ny simulations, ary koa ny fahamarinan'ny famindrana sy ny fanamafisam-peo inference farany ho an'ny tontolo mitovy sy tsy mitovy. Ho an'ny ambiny amin'ity lahatsoratra ity, mba hisorohana ny fisavoritahana, ny tambajotra neural lalina voasaratsarahana dia hatao hoe *DNN*, ary ny teny hoe *tambajotra* dia hanondro ny tambajotra fifandraisana ara-batana fototra. C. Fandaharam-potoanan'ny lahatsoratra Ny ambiny amin'ity lahatsoratra ity dia voalamina toy izao. Ny Fizarana II dia mampiseho ny fototry ny Deep Learning sy ny fomba fanehoana ny DNN amin'ity fandalinana ity. Ny Fizarana III dia manazava ny fomba famindrana latency inference sy fifindrana takiana ho an'ny Fizarana IV izay mamaritra ny olana fanatsarana, ary koa ny algorithm ny tsimoka sy ny fefy mba hanaovana fanapahan-kevitra momba ny fizarazarana. Ny Fizarana V dia mampiseho ny vokatra simulation mba handrefesana ny fahombiazana sy ny fahasarotan'ny algorithm ny tsimoka sy ny fefy, ary koa ny fepetra mitondra ho amin'ny fisian'ny fizarazarana izay manatsara ny inference throughput amin'ny tambajotra mitovy. Ny Fizarana VI dia mampiseho ny vokatra andrana manamafy ny simulation ny Fizarana V, ary mampiseho ny fanatsarana ny inference throughput amin'ny fametrahana andrana tsy mitovy. Farany, ny Fizarana VII dia miresaka momba ny vokatra ary miitatra amin'ny fampiharana malalaka kokoa an'ity fomba ity. FIZARANA II. Fototra: Deep Learning Ao anatin'ny sehatry ny Fahalalana milina, ny Deep Learning (DL) dia manondro ny fomba miantehitra amin'ny fampiasana ny DNN, izany hoe, tambajotra neural artifisialy (na fomba fahalalana milina mifandraika) ahitana lafin-tady maromaro. Ny iray amin'ireo references voalohany momba ny firafitra lalina dia navoaka tamin'ny 1967, nefa tsy tamin'ny taona 2010 vao nahazo vahana ny DL, voalohany indrindra amin'ny famantarana feo, avy eo amin'ny famantarana zavatra amin'ny sary, noho ny fahaizana hisambotra fifandraisana sarotra amin'ny angona avo lenta. Ny Deep Learning dia tombanana ho anjara ny ankamaroan'ny fampiharana AI amin'ny taona 2022, miaraka amin'ny 75% maherin'ny fikambanana mampiasa DNN ho an'ny fampiharana izay mety hampiasa fomba mahazatra. Ny fomba DL dia nofaritana ho "fomba fahalalana milina izay ny hypotheses dia manana endrika tsingerina algebraly sarotra miaraka amin'ny tanjaka fifandraisana azo ovana". Ireo tsingerina algebraly ireo dia matetika voalamina ho lafin-tady, izay mamorona dingana amin'ny kajy. Ny teny hoe *lalina* dia manondro algorithm ahitana lafin-tady maromaro. Misy firafitra DNN lehibe roa: tambajotra neural mifanaraka mifanaraka amin'ny fampidirana ary tambajotra neural mifanaraka mifanaraka. Ireo karazana DNN roa ireo dia azo aseho ho tsingerina fanodinana, ny fahasamihafana lehibe indrindra dia ny tambajotra neural mifanaraka mifanaraka amin'ny fampidirana dia azo aseho ho tsingerina mivantana tsy misy tsingerina (DAGs), raha ny tambajotra neural mifanaraka mifanaraka kosa dia mety ahitana tsingerina. Ny tambajotra neural mifanaraka mifanaraka dia namboarina ho an'ny tsingerin'ny angona, izay ny hevitra tsirairay dia mety manana fiankinana amin'ny hevitra teo aloha teo amin'ny tsingerina, raha ny tambajotra neural mifanaraka mifanaraka kosa dia tsy mandray anjara amin'ny fifandraisana eo amin'ny hevitra ao anaty tsingerina angona. Ny ambiny amin'ity lahatsoratra ity dia handinika ny trangan'ny tambajotra neural mifanaraka mifanaraka amin'ny fampidirana. FIZARANA III. Famoizana ny Inference an-tserasera Ity Fizarana ity dia mampiseho modely iray handefasana ny toetran'ny DNN sy ny tambajotra mba handrefesana ny latency kajy, ny latency fifindrana, ary ny inference throughput farany amin'ny vahaolana fizarazarana nomena. A. Fanehoana DNN sy Tambajotra Ny DNN mifanaraka mifanaraka amin'ny fampidirana manana lafin-tady N dia modely ho DAG GA=(L,E) miaraka amin'ny L=(L1,...,LL) ireo lafin-tady DNN. Ny tsingerina (Li,Lj)∈E dia ireo fifandraisana eo amin'ny lafin-tady Li sy Lj. Ny lafin-tady tsirairay Li dia manana fandaniana kajy mifandraika ci, refesina amin'ny isan'ny fandidiana f float mba handrefesana ny fampidirana mandroso amin'ny lafin-tady. Ny tsingerina (Li,Lj) dia omena lanja si,j mifanaraka amin'ny haben'ny angona mandalo eo anelanelan'ny lafin-tady Li sy Lj amin'ny bytes. Ny tambajotra ara-batana dia modely ho tsingerina mifandray tanteraka G=(N,V) izay ny N=(N1,...,NN) dia ny andiany ny node kajy ary ny V dia ny andiany ny rohy eo amin'ny node. Izay atao hoe ny node kajy N1,...,NN dia manana tahan'ny fanodinana η1,...,ηN, tsirairay avy, refesina amin'ny fandidiana f float isaky ny segondra. Farany, ny throughput rohy eo amin'ny node roa mifandray Na sy Nb dia voalaza hoe θa,b, refesina amin'ny bytes isaky ny segondra. Ny node tsirairay Ni dia mifandray amin'ny tenany miaraka amin'ny throughput tsy manam-petra mba hampisehoana ny rohy loopback, ary ny rohy dia heverina ho symmetrical, izany hoe, θa,b=θb,a. Ny fizarazarana dia faritana ho sarintany P:L→N, izany hoe, ny fizarazarana dia manendry isa node amin'ny lafin-tady tsirairay ao amin'ny DNN. Ny fizarazarana dia azo aseho ho matrix P manana refy (N×L), N dia ny isan'ny node eo amin'ny tambajotra ary L ny isan'ny lafin-tady DNN ary, miaraka amin'ny ohatra nomena ao amin'ny , L=7 lafin-tady ary N=2 node kajy, ny fizarazarana aseho miaraka amin'ny lafin-tady {L1,L2,L3,L6,L7} eo amin'ny node N1, ary ny lafin-tady {L4,L5} eo amin'ny node N2, dia aseho toy izao: sary 2 Omena ny fizarazarana, ny *thread* dia faritana ho vondron'ny lafin-tady misesy eo anelanelan'ny teboka fizarazaran-javatra roa, mandeha tsikelikely eo amin'ny node mitovy. Ao amin'ny ohatra etsy ambony, ny node N1 dia handeha hanao tsingerina roa, ny voalohany ahitana ny lafin-tady {L1,L2,L3} ary ny faharoa ahitana ny {L6,L7}. Miaraka amin'ireo fanehoana ireo, ny ambiny amin'ity Fizarana ity dia mandray formula voafetra ho an'ny inference throughput azo amin'ny fizarazarana nomena, ho fiasan'ny latency inference ( ) sy fifindrana ( ). fizarana III-B fizarana III-C B. Famoizana ny Latency Inference Omena ny fizarazarana, ity Fizarana ity dia mijery ny famindrana latency inference eo amin'ny node iray. Ny latency vokatry ny kajy ny lafin-tady Li miaraka amin'ny fandaniana ci, hatao eo amin'ny node Na, miaraka amin'ny tahan'ny fanodinana ηa dia aseho hoe Tci(Na)=ci/ηa. Omena ny andiany ny lafin-tady L′⊂L amin'ny tsingerina rehetra mandeha amin'ny node Na miaraka amin'ny tahan'ny fanodinana ηa, ny latency inference dia azo aseho hoe: Ity fampisehoana ity dia fanombanana dingana voalohany momba ny fanombanana latency inference mifototra amin'ny isan'ny fandidiana f float (FLOPs) ilaina mba handefasana ny DNN, izany hoe, ny isan'ny fandidiana fampitomboana-fampidirana ao amin'ny maodely. Ny fanombanana ny latency inference eo amin'ny fitaovana sisintany dia sarotra amin'ny fanatsarana fanodinana. Ny vahaolana efa misy toy ny nn-Meter dia mandrefy ny latency inference mifototra amin'ny FLOPs. Ny vahaolana hafa dia miankina amin'ny latabatra fijerena miaraka amin'ny fotoana inference efa voalohany ho an'ny famindrana latency. Ohatra, ny BRP-NAS dia mampiasa tambajotra graph convolutional efa voaofana mba handrefesana ny latency inference, raha mandray anjara amin'ny fanatsarana fanodinana fanodinana. Ao amin'ny , dia mihevitra ihany koa izany fa ny mpanodinana dia mampiasa ny fahafahany feno, izay midika fa ny mpanodinana maro-core dia modely ho mpanodinana tokana miaraka amin'ny tahan'ny fanodinana mitovy amin'ny totalin'ny tahan'ny fanodinana ny core-ny. Mihevitra ihany koa izany fa ny loharano kajy dia zaraina mitovy eo amin'ny tsingerina, izany hoe, ny mpanodinana dia manome ampahany mitovy amin'ny fotoany amin'ny tsingerina tsirairay. equation 1 Manerana ny node rehetra, ny tsingerina manana latency ambony indrindra no mametra ny inference throughput ho an'ny DNN an-tserasera. Raha tsy raisina ny latency fifindrana, izany dia midika fa rehefa vita ny kajy ny tsingerina voafetra ity, dia manomboka mihazakazaka ny manaraka izao izy, ny tsingerina hafa kosa dia hanana fotoana tsy miasa alohan'ny handefasana ny endrika data manaraka satria ambany kokoa ny latency inference-ny noho io latency ambony indrindra io, araka ny aseho amin'ny . sary 1 Omena ny matrix fizarazarana P, ny latency inference dia azo aseho ho vector tokana Tc manana habe N izay ny singa faha-a dia ny latency tsingerina ambony indrindra eo amin'ny node Na, izany hoe, Tca=Tc(Na): izay ny H dia ny matrix diagonal ny tahan'ny fanodinana node misy inverse (η−11,...,η−1N) ary ny c dia ny vector andry ny fandaniana lafin-tady tsirairay (c1,...,cL). C. Famoizana ny Latency Fifindrana Ny latency fifindrana dia azo refesina toy izao: ny fotoana ilaina handefasana ny habetsahan'ny angona si,j eo anelanelan'ny lafin-tady Li sy Lj eo amin'ny sisintany (Na,Nb) amin