Ny mpanoratra: Nicola Rieke Jonny Hancox Wenqi Li Fausto Milletarì Holger R. Roth Shadi Albarqouni Spyridon Bakas Mathieu N. Galtier Bennett A. Landman Klaus Maier-Hein Sébastien Ourselin Micah Sheller Ronald M. Summers Andrew Trask Daguang Xu Maximilian Baust M. Jorge Cardoso Ny mpanoratra: Ny renivohiny Izy dia Jonny Hancox. Ny Tompo Fausto Milletarì dia mpilalao Ny vadiny dia Holger R. Roth. Ao anaty fitafiana vita amin'ny lamba. Ny vavahadin'ny Mpanoratra anarana: Mathieu N. Galtier Ny vadiny dia Bennett A. Landman. Ny Tompo Maier-Hein Ny Tompo dia Ourselin. Ny renivohiny dia Sheller Mpanoratra anarana avy amin'i Ronald M. Summers. Ny renivohiny dia Izany dia Mahatalanjona ny Ny vadiny dia Jorge Cardoso. Ny Abstract Ny fianarana amin'ny fitaovana amin'ny angon-drakitra (ML) dia nanjary toy ny fomba fikasana mahatalanjona amin'ny famoronana modely antontan-taratasy marina sy mahery vaika avy amin'ny angon-drakitra ara-pahasalamana, izay voaangona amin'ny habetsaky ny rafitra ara-pahasalamana maoderina. Ny angon-drakitra ara-pahasalamana efa misy dia tsy ampiasaina tanteraka amin'ny ML indrindra satria mipetraka ao amin'ny silo angon-drakitra sy ny fiarovana ny fiainana manokana dia manakana ny fidirana amin'ireo angon-drakitra ireo. Na izany aza, raha tsy misy ny fidirana amin'ny angon-drakitra ampy, dia hisorina ny fanamby sy ny Ny fampidirana Ny fikarohana momba ny fahalalana voajanahary (AI), ary indrindra ny fandrosoana ao amin'ny Machine Learning (ML) sy ny Deep Learning (DL) Ny modely DL amin'izao fotoana izao dia manana mpamily an-tapitrisany izay tsy maintsy hianatra avy amin'ny angon-drakitra lehibe ampy mba hahatratrarana ny marina amin'ny ambaratonga klinika, raha mbola azo antoka, ara-drariny, ara-drariny ary manavaka tsara amin'ny angon-drakitra tsy hita. , , , . 1 2 3 4 5 Ohatra, ny fampiofanana ny detector tumor mifototra amin'ny AI dia mitaky angon-drakitra lehibe izay ahitana ny sehatra feno ny anatomian'ny mety, ny aretina, ary ny karazana angon-drakitra fidirana. Na dia ny fanamafisana ny angon-drakitra aza dia mety handositra ireo fetra ireo, dia fantatra amin'izao fotoana izao fa ny fanesorana ny metadata toy ny anaran'ny marary na ny daty nahaterahan'ny marary matetika dia tsy ampy mba hitazonana ny fiainana manokana. Ohatra, azo atao ny manamboatra ny tarehin'ny marary avy amin'ny tomografian'ny solosaina (CT) na ny magnetic resonance imaging (MRI) angona Ny antony iray hafa mahatonga ny famoahana ny angon-drakitra dia tsy ara-potoana amin'ny fahasalamana dia ny fanangonana, ny fanaraha-maso ary ny fitazonana angon-drakitra avo lenta dia mitaky fotoana, ezaka, ary vola be. Noho izany, angon-drakitra toy izany dia mety manana lanjany ara-barotra goavana, izay mahatonga azy io ho tsy mety ny hizara malalaka. 6 7 8 Ny fampianarana federaly (FL) , , dia paradigma fianarana mitady ny fanatanterahana ny olana momba ny fitantanana ny angon-drakitra sy ny fiainana manokana amin'ny alalan'ny fampiofanana algorithms miara-miasa tsy manova ny angon-drakitra ihany. , vao haingana dia nahazo fitiavana ho an'ny fampiharana ara-pahasalamana , , , , , , , FL dia ahafahana mahazo fahalalana miaraka amin'ny fiaraha-miasa, ohatra, amin'ny endriky ny modely fifanarahana, raha tsy mandehandeha ny angon-drakitra momba ny marary etsy ambonin'ny rindrankajy misy azy ireo. Fa ny dingana ML dia mitranga eo an-toerana ao amin'ny fikambanana rehetra mandray anjara ary ny endri-javatra ihany (ohatra, parameters, gradients) dia alefa araka ny voafaritra ao amin'ny sary. Ny fikarohana vao haingana dia nanaporofo fa ny modely nampiofan'ny FL dia afaka mahatratra ambaratonga fampisehoana mitovy amin'ireo nampiofana amin'ny angon-drakitra mifandraika amin'ny foibe ary mihoatra noho ny modely izay mahita angon-drakitra tokana mono-institutionaly ihany. , . 9 10 11 12 13 14 15 16 17 18 19 20 1 16 17 FL aggregation server - ny fiaraha-miasa FL mahazatra izay federation ny fampiofanana nodes mahazo ny ankapobeny modely, manolotra ny ampahatelon'ny fampiofanana modely ho any amin'ny serivisy foibe tsy tapaka ho an'ny aggregation ary avy eo manohy ny fampiofanana momba ny fifanarahana modely fa ny server miverina. FL peer-to-peer—fampiroboroboana hafa amin'ny FL amin'ny alalan'ny fampiofanana tsirairay dia manova ny modely voafaritra amin'ny sasany na ny rehetra amin'ny mpiara-miasa aminy ary ny tsirairay dia manao ny fametrahana azy manokana. Ny fampiofanana foiben'ny fampiofanana dia ny dingana amin'ny fampiofanana ankapobeny izay tsy misy FL izay manome ny angon-drakitra amin'ny tranonkala izay manome ny angon-drakitra ho any amin'ny toeram-pitsaboana iray izay afaka manangona angon-drakitra ho an'ny fampiofanana ao an-toerana sy tsy miankina izy ireo sy ny hafa. a b c Ny fampiharana soa aman-tsara ny FL dia mety hanana fahafahana goavana amin'ny fampiasana ny fitsaboana marina amin'ny ankapobeny, izay mitarika amin'ny modely izay mahatonga ny fanapahan-kevitra tsy miankina, mamaritra tsara ny fisiolojia ny olona, ary mahatsiravina amin'ny aretina mahazatra raha mitandrema ny olana momba ny fitantanana sy ny tsiambaratelo. Mihevitra ny hoavin'ny fiaraha-monina ho an'ny fahasalamana nomerika isika ary amin'ity lahatsoratra ity dia mizara ny hevitry ny fiaraha-monina isika amin'ny tanjona ny manome ny fifandraisana sy ny antsipirihany ho an'ny fiaraha-monina momba ny tombontsoa sy ny fiantraikany amin'ny FL ho an'ny fampiasana ara-pitsaboana (ny fizarana "Ny fitsaboana mifototra amin'ny angon-drakitra dia mitaky ezaka federated"), ary koa ny fanentanana fototra sy ny fanamby amin'ny fametrahana FL ho an'ny fahasalamana nomerika (ny fizarana "Fahaizana ara-teknika"). Ny fitsaboana mifototra amin'ny angona dia mitaky ezaka federaly Na izany aza, sarotra ny mahazo angon-drakitra ara-pitsaboana (subsection “The Dependency on Data”). FL dia manatanteraka ity olana ity amin'ny alàlan'ny fampiharana fiaraha-miasa amin'ny fiaraha-miasa tsy misy ny angon-drakitra (subsection “The Promise of Federated Efforts”) ary efa nahita ny lalany ho an'ny fampiharana ara-pitsaboana nomerika (subsection “Current FL efforts for digital health”). Miankina amin'ny angona Ny fomba fiasa mifototra amin'ny angon-drakitra dia miankina amin'ny angon-drakitra izay tena maneho ny fandaharan'ny angon-drakitra fototra amin'ny olana. Na izany aza izany dia fepetra fantatra, ny algorithm amin'izao fotoana izao dia matetika no voamarina amin'ny angon-drakitra voamarina tsara, matetika avy amin'ny loharanom-baovao vitsivitsy ihany. Izany dia mety hampiseho fiantraikany amin'ny demografia (ohatra, lahy, taona) na tsy fitoviana ara-teknika (ohatra, fifanakalozan-kevitra, mpamokatra fitaovana) mampihena ny faminaniana ary manimba ny fahamarinana ho an'ny vondrona na toerana sasantsasany. Na izany aza, mba hahazoana fifandraisana Ny ilaina amin'ny tahiry lehibe ho an'ny fampiofanana AI dia niteraka hetsika maro izay mikasa ny hanangona angon-drakitra avy amin'ny fikambanana maro. Ireo angon-drakitra ireo matetika dia voasokafana ho amin'ny antsoina hoe Data Lakes. Ireo dia naorina amin'ny tanjona ny fampiasana ny lanjan'ny angon-drakitra, ohatra, ny IBM Merge Healthcare fidirana. , na ho toy ny loharano ho an'ny fitomboana ara-toekarena sy ny fandrosoana ara-tsiansa, ohatra, NHS Scotland ny National Safe Haven Fampahalalana momba ny Fahasalamana ao amin'ny French Health Data Hub Ny fikarohana momba ny fahasalamana UK . 21 22 23 24 Ny hetsika lehibe, na dia kely aza, dia ahitana ny Human Connectome. Ny UK Biobank dia Sary avy amin'ny Cancer Imaging Archive (TCIA) Ny CXR8 dia Amin'ny alalan'ny DeepLesion Ao amin'ny Atlas Genome Cancer (TCGA) Ny fikarohana momba ny aretina Alzheimer Neuroimaging Initiative (ADNI) Na dia eo aza ny fanamby ara-pitsaboana lehibe Toy ny fanamby Camelyon Ny fanamby iraisam-pirenena multimodal Brain Tumor Segmentation (BraTS) , , Ny fampiasana ny Medical Segmentation Decathlon Ny angon-drakitra ara-pahasalamana dia matetika manokana amin'ny asa na aretina ary matetika navoaka amin'ny ambaratonga samihafa amin'ny famerana fahazoan-dalana, indraindray mametra ny fampiasana azy. 25 26 27 28 29 30 31 32 33 34 35 36 37 Na izany aza, ny fametrahana ny angon-drakitra dia miteraka fanamby ara-dalàna, ara-dalàna sy ara-dalàna, mifandraika amin'ny fiainana manokana sy ny fiarovana ny angon-drakitra, fa koa ara-teknika. Ny fametrahana anarana, ny fanaraha-maso ny fidirana sy ny famindrana azo antoka ny angon-drakitra momba ny fahasalamana dia asa tsy mahazatra, ary indraindray tsy azo atao. Ny angon-drakitra anarana avy amin'ny rakitra ara-pahasalamana elektronika dia mety ho tsy misy fiantraikany ary mifanaraka amin'ny GDPR / PHI, fa ny antsipirian'ny angon-drakitra vitsivitsy ihany no afaka mamela ny famantarana indray ny marary Toy izany ihany koa amin'ny angon-drakitra sy ny sary ara-pitsaboana izay mahatonga azy ireo ho tokana toy ny soratra. Noho izany, raha tsy manimba ny fahamarinan'ny angon-drakitra ny dingana fanamarihana, mety ho tsy ilaina, dia tsy azo esorina ny famantarana indray ny marary na ny fidirana amin'ny fampahalalana. Ny fidirana amin'ny vavahadin-tserasera ho an'ny mpampiasa nahazo alalana dia matetika voatendry ho vahaolana ho an'ity olana ity. Na izany aza, ankoatra ny famerana ny fidirana amin'ny angon-drakitra, dia tsy azo atao afa-tsy amin'ny toe-javatra izay tsy misy fepetra ny fanekena nomena ny tompon'ny angon-drakitra, satria tsy azo ampiharina ny famerenana ny angon-drakitra avy amin'ireo izay mety nahazo ny angon-drakitra. 7 38 Ny fampanantenana ny ezaka federaly Ny fampanantenan'ny FL dia tsotra – hanatanterahana ny olana momba ny fiainana manokana sy ny fitantanana ny angon-drakitra amin'ny alàlan'ny fametrahana ML avy amin'ny angon-drakitra tsy miara-miasa. Amin'ny fametrahana FL, ny mpitantana angon-drakitra tsirairay dia tsy mamaritra ny dingana fitantanana azy manokana sy ny politika momba ny fiainana manokana mifandraika, fa koa mifehy ny fidirana amin'ny angon-drakitra ary manana fahafahana hanafoana azy. Ity dia ahitana ny fampiofanana sy ny fanamarinana dingana. Amin'ity fomba ity, FL dia afaka mamorona fahafahana vaovao, ohatra, amin'ny alàlan'ny fametrahana fanamarinana lehibe, ao amin'ny Araka ny voalaza ao amin'ny Fig. , ny FL workflow dia azo atao amin'ny topologies samihafa sy ny drafitry ny solosaina. Ny roa mahazatra indrindra ho an'ny fampiharana ara-pahasalamana dia amin'ny alàlan'ny serivisy fanangonana , , Mifandray amin'ny peer to peer , Amin'ny toe-javatra rehetra, ny FL dia manolotra fiarovana manokana, satria ireo mpandray anjara FL dia tsy afaka miditra mivantana amin'ny angon-drakitra avy amin'ny fikambanana hafa ary tsy mahazo parametra modely afa-tsy izay ahitana mpandray anjara maromaro. Ao amin'ny workflow FL miaraka amin'ny serivisy ahitana, ny fikambanana mandray anjara dia mety mbola tsy fantatra amin'ny hafa. , , , Noho izany, ny rafitra toy ny fiarovana ny fiainana manokana dia , Na ny fianarana avy amin'ny angon-drakitra voasoratra dia voatendry mba hanatsarana bebe kokoa ny tsiambaratelo ao amin'ny sehatry ny FL (ohatra ny fizarana "Fampianarana ara-teknika"). ary ny teknika FL dia sehatra mitombo amin'ny fikarohana , . 2 16 17 18 15 39 40 41 42 43 44 45 46 12 20 FL topologies — fifandraisana rafitra ny federation. Centralized: ny serivisy fanangonana dia mifehy ny fampiofanana iterations ary manangona, manangona ary manome ny modely ho sy avy amin'ny Training Nodes (Hub & Spoke). Decentralized: Ny dingana fampiofanana tsirairay dia mifandray amin'ny iray na maromaro mpiara-miasa ary ny fanangonana dia mitranga amin'ny dingana tsirairay amin'ny ankapobeny. Ny rafitra federaly dia azo ampidirina amin'ny tambajotra federaly maromaro, izay azo ampidirina avy amin'ny fifandraisana amin'ny peer-to-peer sy amin'ny serivisy federaly ( FL compute plans—trajectory ny modely eo amin'ny mpiara-miasa maromaro. Ny fampiofanana sy ny fampiofanana sy ny fampiofanana cyclic. Ny serivisy fampidirana, Ny peer dia ny peer. a b c d e f g Ny hetsika amin'izao fotoana izao FL ho an'ny fahasalamana nomerika Satria ny FL dia paradigma fampianarana ankapobeny izay manala ny fepetra momba ny fanangonana tahirin-kevitra ho an'ny fampandrosoana modely AI, ny fampiasana ny FL dia ahitana ny AI manontolo ho an'ny fikarakarana ara-pahasalamana. Amin'ny manome fahafahana handraisana ny fahasamihafana lehibe kokoa amin'ny angon-drakitra sy ny fanadihadiana ny marary ao amin'ny demographics samihafa, ny FL dia afaka mamela fanavaozana mampihetsi-po ho an'ny hoavy, fa koa amin'izao fotoana izao. Ao anatin'ny sehatry ny tahirin-kevitra ara-pahasalamana elektronika (EHR), ohatra, ny FL dia manampy amin'ny fampisehoana sy ny fikarohana ny marary mitovy amin'izany. , , ary koa ny fandinihana ny fitsaboana noho ny toe-javatra ara-pahasalamana Ny fahafatesana sy ny ICU dia mandritra ny fotoana Ny fampiharana sy ny tombontsoa amin'ny FL dia efa hita ihany koa ao amin'ny sehatry ny fikarohana ara-pitsaboana, ho an'ny fametrahana ny atidoha manontolo amin'ny MRI. , ary koa ny fametrahana ny tumor amin'ny atidoha , Vao haingana, ny teknika dia nampiasaina ho an'ny fMRI famaritana mba hahita azo antoka arakaraka ny aretina biomarkers ary nasehony ho fomba fikasana eo amin'ny sehatry ny COVID-19 . 13 47 14 19 15 16 17 18 48 Zava-dehibe ny milaza fa ny ezaka ataon'ny FL dia mitaky fifanarahana mba hamaritra ny sehatra, ny tanjona ary ny teknolojia ampiasaina izay, satria mbola vaovao, dia mety ho sarotra ny mamaritra. Anisan'izany ireo fikambanana izay mikendry ny hanatsarana ny Ny fanadihadiana momba ny angon-drakitra Federated Trustworthy Data Analytics (TFDA) ary ny sehatra fampisehoana miaraka amin'ny German Cancer Consortium , izay ahafahan'ny fikarohana tsy miankina amin'ny ankapobeny ao amin'ny toeram-pitsaboana fikarohana ara-pitsaboana alemana. Ohatra iray hafa dia ny fiaraha-miasa iraisam-pirenena izay mampiasa FL amin'ny fampandrosoana modely AI ho an'ny fanombanana ny mammogram Ny fikarohana dia nampiseho fa ny modely nateraky FL dia mihoatra noho ireo nianatra tamin'ny angon-drakitra avy amin'ny oniversite iray ary dia mahazatra kokoa, ka mbola mahomby amin'ny angon-drakitra avy amin'ny oniversite hafa. Ny akademika 49 50 51 Amin'ny alalan'ny fifandraisana ny toeram-pitsaboana ara-pahasalamana, tsy voafetra amin'ny toeram-pitsaboana fikarohana, ny FL dia afaka manana mivantana Ny fiantraikany. ny tetikasa HealthChain amin'izao fotoana izao , ohatra, ny tanjona dia ny hanatsarana sy ny fandefasana rafitra FL ao amin'ny hopitaly efatra any Frantsa. Ity vahaolana ity dia mamorona modely mahazatra izay afaka mandinika ny valin'ny fitsaboana ho an'ny marary sy ny marary amin'ny melanoma. Manampy ny oncologists hamantatra ny fitsaboana mahomby indrindra ho an'ny marary tsirairay avy amin'ny histology slides na ny dermoscopy sary. , izay federasiona iraisam-pirenena amin'ny trano fandraharahana ara-pahasalamana 30 mandray anjara mampiasa rafitra FL misokatra amin'ny interface grafika. Ny tanjona dia ny hanatsarana ny fanadihadiana ny sisin'ny tumor, anisan'izany ny glioma, ny tumors amin'ny ratra, ny tumors amin'ny fo ary ny aretina avy amin'ny marary marary marary marary maro. Ny klinika 52 53 Ny sehatry ny fiantraikany dia ao anatin'ny ny fikarohana sy ny fandikan-teny. FL dia mamela ny fikarohana miara-miasa ho an'ny orinasa, na dia miara-miasa aza. Ao amin'ity toe-javatra ity, iray amin'ireo fanentanana lehibe indrindra dia ny tetikasa Melloddy Ity tetikasa ity dia mikendry ny hametrahana FL multi-task amin'ny angon-drakitra 10 orinasa fanafody. Amin'ny alalan'ny fampiofanana modely fanehoan-kevitra ankapobeny, izay manambara ny fomba mifandray amin'ny proteinina ny singa simika, ny mpiara-miasa dia maniry ny hanatsarana ny dingana fikarohana zava-mahadomelina raha tsy manambara ny angon-drakitra manan-danja. Ny orinasa 54 Ny fiantraikany amin'ny mpandray anjara FL dia ahitana fiovan'ny paradigma avy amin'ny toeram-pivarotana angon-drakitra ary zava-dehibe ny mahatakatra ny fiantraikany amin'ny mpandray anjara isan-karazany ao amin'ny tontolo iainana FL. Ny klinika Amin'ny ankapobeny, ny mpitsabo dia matetika miatrika vondrona ampahany amin'ny mponina mifototra amin'ny toerana sy ny toetr'andro, izay mety hiteraka fanapahan-kevitry ny mety ho an'ny aretina sasany na ny fifandraisana amin'izy ireo. Amin'ny fampiasana ny rafitra mifototra amin'ny ML, ohatra, toy ny mpamaky faharoa, dia afaka mampitombo ny fahaiza-manaon'izy ireo amin'ny fahaiza-manao avy amin'ny fikambanana hafa, manome antoka fa tsy azo atao amin'izao fotoana izao ny fitsapana. Na izany aza, raha toa ka mitranga amin'ny rafitra mifototra amin'ny ML amin'ny ankapobeny, ny rafitra nianarana amin'ny fomba federated dia mety hiteraka fanapahan-kevitra Ny marary Amin'ny ankapobeny, ireo marary dia matetika dia ara-pahasalamana any an-toerana. Ny fametrahana ny FL amin'ny habetsahan'izao tontolo izao dia afaka manome antoka ny kalitao avo lenta amin'ny fanapahan-kevitra ara-pitsaboana, na inona na inona toerana fitsaboana. Amin'ny ankapobeny, ny marary mitaky fitsaboana any amin'ny faritra lavitra dia mety hahazo tombony amin'ny fanamarinana ML avo lenta mitovy amin'izany izay azo jerena ao amin'ny hopitaly miaraka amin'ny tranga maro. Ny mitovy dia azo atao amin'ny aretina mahazatra, na ara-jeografika tsy mahazatra, izay mety hanana fiantraikany haingana kokoa raha azo atao ny fanamarinana haingana sy marina kokoa. Ny FL dia Ny hopitaly sy ny fampiharana Ny hopitaly sy ny fampiharana dia afaka mitoetra amin'ny fanaraha-maso tanteraka sy ny fananana ny angon-drakitra momba ny marary miaraka amin'ny famaritana tanteraka ny fidirana amin'ny angon-drakitra, izay hampihena ny loza amin'ny fampiasana ratsy avy amin'ny antoko fahatelo. Na izany aza, izany dia mitaky fampiasam-bola amin'ny sehatry ny solosaina ao an-toerana na ny fanomezana tolotra an-tserasera amin'ny rahona ary ny fitsipika amin'ny endrika angon-drakitra sy synoptic mba hahafahan'ny modely ML hampiofanana sy handrefesana tanteraka. Ny habetsaky ny fahaiza-manaon'ny solosaina ilaina dia miankina, mazava ho azy, amin' Researchers and AI developers Ny mpikaroka sy ny mpanamboatra AI dia afaka mahazo tombontsoa amin'ny fidirana amin'ny angon-drakitra lehibe azo avy amin'izao tontolo izao izao, izay mety hisy fiantraikany amin'ny laboratoara fikarohana madinika sy ny start-up. Noho izany, ny fitaovana dia azo alefa amin'ny fanatanterahana ny fepetra ara-pitsaboana sy ny olana ara-teknika mifandraika amin'izany, fa tsy miankina amin'ny fivarotana voafetra ny angon-drakitra. , , Ny fampandrosoana mifototra amin'ny FL dia midika ihany koa fa ny mpikaroka na ny mpandraharaha amin'ny AI dia tsy afaka manadihady na mahita ny angon-drakitra rehetra izay nampiofana ny modely, ohatra, tsy azo jerena amin'ny tranga tsy fahombiazana tsirairay mba hahatakatra ny antony mahatonga ny modely amin'izao fotoana izao tsy mahomby amin'izany. 11 12 20 Ny mpamatsy ny fahasalamana Ny mpamatsy ny fahasalamana ao amin'ny firenena maro dia voakasika amin'ny fiovan'ny paradigma tsy tapaka avy amin'ny habetsaky ny habetsaky ny tolotra, izany hoe, mifototra amin'ny saram-pandraharahana, amin'ny fahasalamana mifototra amin'ny lanjany, izay mifandray mafy amin'ny famoronana mahomby ny fitsaboana. Tsy momba ny fampiroboroboana fitsaboana sarobidy kokoa, fa ny hahatratra vokatra tsara kokoa haingana kokoa amin'ny alalan'ny fitsaboana mifantoka kokoa, ka hampihenana ny vidiny. Ny mpanamboatra Ireo mpamokatra rindrambaiko sy fitaovana ara-pahasalamana dia afaka mahazo tombontsoa avy amin'ny FL koa, satria ny fampidirana ny fianarana avy amin'ny fitaovana sy ny fampiharana maro, raha tsy manambara fampahalalana manokana momba ny marary, dia afaka manampy amin'ny fanamarinana na fanatsarana tsy tapaka ny rafitra mifototra amin'ny ML. Fanontaniana ara-teknika Ny FL dia fantatra indrindra amin'ny asa nataon'i Konečnỳ et al. Na izany aza, maro ireo famaritana hafa no hita ao amin'ny literatiora. , , , Ny fivoaran'ny asa (Fig. ) dia azo atao amin'ny alalan'ny topolojia samihafa sy ny drafitry ny solosaina (Fig. Amin'ity fizarana ity dia hiresaka amin'ny antsipirihany bebe kokoa momba ny FL, ary koa ny fanentanana ny fanamby fototra sy ny fanontaniana ara-teknika izay mitranga rehefa mampiasa FL amin'ny fahasalamana nomerika. 55 9 11 12 20 1 2 Federated fampianarana famaritana FL dia paradigma fampiofanana izay ahitana antoko maro miara-miasa amin'ny fampiofanana tsy ilaina ny fifanakalozan-kevitra na ny fametrahana ny angon-drakitra. Ny famaritana ankapobeny ny FL dia mamaky toy izao manaraka izao: Asehoy ny fiantraikany amin'ny fahaverezana ankapobeny azo avy amin'ny alalan'ny fampielezan-kevitra ny fahaverezan'ny toerana, mifototra amin'ny angon-drakitra manokana , izay mitoetra ao amin'ny antoko manokana mifandraika ary tsy mizara eo amin'izy ireo: K Ny XK Aiza > 0 dia manondro ny habetsaky ny lanjany. Ny Amin'ny ankapobeny, ny mpandray anjara tsirairay dia mahazo sy manatsara modely fifanarahana maneran-tany amin'ny alàlan'ny fanatanterahana dingana vitsivitsy amin'ny fanatsarana eo an-toerana ary alohan'ny famoahana fanavaozana vaovao, na mivantana na amin'ny alàlan'ny serivisy parameter. ) , Ny dingana ara-toekarena amin'ny fametrahana parametra dia miankina amin'ny topolojia amin'ny tambajotra, satria ny nodes dia mety ho voafetra ho amin'ny tambajotra ampahany noho ny fepetra ara-toekarena na ara-dalàna (jereo sary. Ohatra iray dia ny peer-to-peer FL, izay misy fifandraisana eo amin'ny mpandray anjara rehetra na subset, ary ny modely fanavaozana dia mizara fotsiny eo amin'ny toerana mifandray mivantana. , Ny algorithm 1 dia manome ohatra amin'ny fampielezan-kevitra momba ny fampielezan-kevitra momba ny fampielezan-kevitra momba ny fampielezan-kevitra momba ny modely feno; Ny mpanjifa dia afaka misafidy ny mizara fotsiny ny ampahany amin'ny parameter modely mba hampihenana ny fifandraisana amin'ny ankapobeny, manome antoka ny fiarovana tsara kokoa amin'ny fiainana manokana. na ny famokarana algorithms multi-task fampiofanana izay ny sasany amin'ireo parameters mianatra amin'ny fomba federated. 1 9 12 2 15 56 10 Ny rafitra mampifandray izay mamela fandaharam-pampianarana samihafa dia afaka manaisotra ny loharanom-pahalalana (data sy servers) avy amin'ny rafitra. Araka ny voalaza ao amin'ny Fig. Ny farany dia mamaritra ny lalana ny modely eo amin'ny mpiara-miasa maro, ho fianarana sy ny fanombanana amin'ny angon-drakitra manokana. Ny fandaharam-potoana 2 Ny fanamby sy ny fanontaniana Na dia eo aza ny tombontsoan'ny FL aza, dia tsy mamaha ny olana rehetra mifandraika amin'ny fianarana momba ny angon-drakitra ara-pitsaboana izany. Ny fampiofanana ny modely mahomby dia mbola miankina amin'ny antony toy ny kalitaon'ny angon-drakitra, ny fahasamihafana ary ny fanamafisana Ireo olana ireo dia tsy maintsy vahaolana ho an'ny asa fampianarana federated sy tsy federated amin'ny alalan'ny fepetra ara-drariny, toy ny fikarohana ara-pampianarana, protocols ankapobeny ho an'ny fanangonana angon-drakitra, ny tatitra voajanahary sy ny fomba fanao mahomby ho an'ny fikarohana ny tsiambaratelo sy ny fametrahana voafetra. Amin'ny manaraka, dia manintona ireo lafiny fototra amin'ny FL izay tena manan-danja rehefa ampiharina amin'ny fahasalamana nomerika ary mila heverina amin'ny fametrahana FL. Ho an'ny antsipiriany ara-teknika sy ny fifampiraharahana amin'ny antsipirihany, dia mampifandray ny mpamaky amin'ny , , . 2 11 12 20 Heterogeneity ny angon-drakitra Ny angon-drakitra ara-pitsaboana dia tena isan-karazany - tsy noho ny isan-karazany ny fomba, ny dimensionality sy ny endri-javatra amin'ny ankapobeny, fa na dia ao anatin'ny protocol manokana noho ny antony toy ny fahasamihafana amin'ny fividianana, ny marika ny fitaovana ara-pitsaboana na ny mponina ao an-toerana. FL dia afaka manampy amin'ny fanitsiana loharanom-baovao sasantsasany amin'ny alalan'ny angon-drakitra manan-danja kokoa, fa ny fampidirana ny angon-drakitra tsy mitovy dia mampidi-doza ho an'ny algorithms sy ny sehatra FL, satria maro no mihevitra ny angon-drakitra IID tsy miankina sy mitovy amin'ny mpandray anjara Ny tsy fahombiazana amin'ny toe-javatra ireo , , Na izany aza, ny vokatra farany dia mampiseho fa mbola azo atao ny fampiofanana FL. na dia tsy misy tahirin-kevitra ara-pitsaboana mitovy amin'ny fikambanana , Na dia ahitana bias eo an-toerana Ny fikarohana momba ity olana ity dia ahitana, ohatra, , part-data-sharing strategy ary FL miaraka amin'ny fanitsiana ny sehatra Ny fanamby iray hafa dia ny fahasamihafana ny angon-drakitra dia mety hitarika amin'ny toe-javatra izay mety tsy ho tsara indrindra ny vahaolana maneran-tany ho an'ny mpandray anjara an-toerana tsirairay. Ny fahatongavana 9 9 57 58 59 16 17 51 FedProx 57 58 18 Ny fiainana manokana sy ny fiarovana Healthcare data is highly sensitive and must be protected accordingly, following appropriate confidentiality procedures. Therefore, some of the key considerations are the trade-offs, strategies and remaining risks regarding the privacy-preserving potential of FL. Privacy vs. performance: Zava-dehibe ny manamarika fa ny FL dia tsy mamaha ny olana rehetra mety ho an'ny fiainana manokana ary – mitovy amin'ny algorithm ML amin'ny ankapobeny – dia mitondra fiantraikany. Na izany aza, misy fifanarahana amin'ny fampisehoana ary ireo teknika ireo dia mety hisy fiantraikany, ohatra, amin'ny fahamarinana ny modely farany. Ankoatra izany, ny teknolojia amin'ny hoavy sy / na ny angon-drakitra fanampiny dia mety ho ampiasaina hanimba ny modely izay heverina ho ambany loza teo aloha. 12 10 Tahaka ny fitokisana: Amin'ny ankapobeny, ny mpandray anjara dia afaka miditra amin'ny karazana fiaraha-miasa amin'ny FL roa: —for FL consortia in which all parties are considered trustworthy and are bound by an enforceable collaboration agreement, we can eliminate many of the more nefarious motivations, such as deliberate attempts to extract sensitive information or to intentionally corrupt the model. This reduces the need for sophisticated counter-measures, falling back to the principles of standard collaborative research. Ny finoana Ao amin'ny rafitra FL izay miasa amin'ny habetsahan'ny, mety tsy mahomby ny fametrahana fifanarahana fiaraha-miasa azo ekena. Ny mpanjifa sasany dia mety manandrana manimba ny fahombiazan'ny rafitra, mampihena ny rafitra na mandray fampahalalana avy amin'ny antoko hafa. Noho izany, dia ilaina ny fitsipika fiarovana mba hampihenana ireo loza ireo, toy ny fanamafisana avo lenta amin'ny famoahana modely, fiarovana azo antoka amin'ny antoko rehetra, ny famantarana ny hetsika, ny fiarovana fahasamihafana, ny rafitra fanamarinana, ny fahamarinana ny fampiharana, ny tsiambaratelo ary ny fiarovana amin'ny fanafihana mpanohitra. Non-trusted Ny fampahalalam-baovao: Amin'ny famaritana, ny rafitra FL dia manakana ny famoahana angon-drakitra momba ny fahasalamana eo amin'ny fikambanana mandray anjara. Na izany aza, ny fampahalalam-baovao dia mety mbola mampiseho ny angon-drakitra manokana ampiasaina amin'ny fampiofanana eo an-toerana, ohatra, amin'ny alàlan'ny modely invertion. ny modely fanavaozana, ny gradients ny tenany Na ny fanafihana mpanohitra , FL dia tsy mitovy amin'ny fampiofanana nentim-paharazana satria ny dingana fampiofanana dia voakasika amin'ny antoko maro, ka izany dia mampitombo ny loza amin'ny fidirana amin'ny alalan'ny reverse-engineering raha ny mpanohitra dia afaka mijery fiovana modely amin'ny fotoana, mijery fanavaozana modely manokana (ohatra, fanavaozana ny fikambanana iray) na manitsakitsaka ny modely (ohatra, mampiroborobo fametrahana fanampiny amin'ny hafa amin'ny alalan'ny gradient-ascent-style fanafihana). , Ny fiarovana ny fiainana manokana mifanaraka amin'ny fiarovana Mety ho ilaina ary mbola sehatra matanjaka ny fikarohana. . 60 61 62 63 16 18 44 12 Ny famantarana sy ny fandraisana andraikitra Toy ny amin'ny fampiharana rehetra manan-danja amin'ny fiarovana, ny famerenana ny rafitra dia zava-dehibe ho an'ny FL amin'ny fahasalamana. Tsy toy ny fampiofanana foibe, ny FL dia mitaky solosaina maro ao amin'ny tontolo iainana izay mampiseho fahasamihafana goavana eo amin'ny fitaovana, rindrambaiko sy tambajotra. Ny famerenana ny fitaovana rehetra ao amin'ny rafitra, anisan'izany ny tantara ny fidirana amin'ny angon-drakitra, ny famolavolana, ary ny fametrahana hyperparameter ao amin'ny dingana fampiofanana dia tsy maintsy. Indrindra fa ao amin'ny federasiona tsy azo antoka, ny famerenana sy ny fiantohana ny dingana dia mitaky fahasamihafana. Re Ny iray amin'ireo fiantraikany amin'ny FL dia ny hoe ireo mpikaroka dia tsy afaka manadihady ny angon-drakitra izay mampiofanana ny modely mba hahatakatra ny vokatra tsy ampoizina. Ankoatra izany, ny fanapahan-kevitra momba ny angon-drakitra momba ny fampiofanana toy ny ampahany amin'ny dingana fampandrosoana ny modely dia tsy maintsy manaiky ny mpiara-miasa ho toy ny tsy manitsakitsaka ny fiainana manokana. Na dia manana fidirana amin'ny tranonkala tsirairay amin'ny angon-drakitra manokana aza, ny federasiona dia afaka manapa-kevitra ny hanomezana karazana fitaovana azo antoka ao anatin'ny nodes mba hanatanterahana izany ilaina izany na mety hanome fomba hafa mba hampitomboana 64 Ny rafitra fanorenana Tsy mitovy amin'ny fandefasana FL lehibe eo amin'ny fitaovana mpanjifa toy ny McMahan et al. Ny mpandray anjara ao amin'ny sehatra ara-pahasalamana dia manana loharanom-pahalalana mahery vaika sy tambajotra azo antoka avo lenta izay mamela ny fampiofanana modely lehibe kokoa miaraka amin'ny dingana fampiofanana any an-toerana bebe kokoa, ary mizara vaovao modely bebe kokoa eo amin'ny nodes. Ireo endri-javatra tokana ireo amin'ny FL ao amin'ny sehatra ara-pahasalamana koa dia mitondra fanamby toy ny fiantohana ny fahamarinana ny angon-drakitra rehefa mifandray amin'ny fampiasana ny nodes redundant, famolavolana fomba fiarovana azo antoka mba hisorohana ny angon-drakitra, na ny famolavolana ny fandaharam-potoan'ny nodes tsara indrindra mba hampiasa ny fitaovana 9 Ny fitantanana ny federasiona toy izany dia azo atao amin'ny fomba samihafa. Amin'ny toe-javatra izay mitaky ny fiarovana ny angon-drakitra mahery vaika indrindra eo amin'ny antoko, ny fampiofanana dia mety miasa amin'ny alalan'ny karazana rafitra "trano filokana" izay misy antoko fahatelo azo itokisana sy manatsara ny fidirana amin'ny angon-drakitra. Ity fametrahana ity dia mitaky fikambanana tsy miankina mifehy ny rafitra manontolo, izay mety tsy foana ilaina, satria mety miteraka vola fanampiny sy viscosity ara-pitsarana. Na izany aza, dia manana tombontsoa fa ny rafitra anatiny marina dia mety ho voafehin'ny mpanjifa, mahatonga ny rafitra ho mora Ny famaranana ML, ary indrindra ny DL, dia niteraka fanavaozana maro ao amin'ny sehatra ara-pahasalamana nomerika. Satria ny fomba ML rehetra dia mahazo tombony be amin'ny fahafahana miditra amin'ny angon-drakitra izay mihoatra ny famoahana ankapobeny, FL dia fomba fikasana mahatalanjona mba hahazoana modely mahery vaika, marina, azo antoka, azo antoka, matanjaka ary tsy miankina. Amin'ny fanomezana fahafahana ny antoko maro hiara-miasa amin'ny fiaraha-miasa tsy ilaina amin'ny fifanakalozan-kevitra na ny fametrahana angon-drakitra, ny FL dia mandray anjara amin'ny olana mifandraika amin'ny fivoaran'ny angon-drakitra ara-pahasalam Na izany aza, tena mino isika fa ny fiantraikany mety eo amin'ny fanafody marina sy ny fanatsarana ny fitsaboana ara-pitsaboana amin'ny farany dia tena manantena. 12 Ny famoahana ny tatitra Ny fampahalalana fanampiny momba ny fikarohana dia azo jerena ao amin'ny mifandray amin'ity lahatsoratra ity. Fampahalalana momba ny fikarohana momba ny natiora Ny References LeCun, Y., Bengio, Y. & Hinton, G. Deep learning. , 436 (2015). Nature 521 Wang, F., Casalino, L. P. & Khullar, D. Deep learning in medicine—promise, progress, and challenges. , 293–294 (2019). JAMA Intern. Med. 179 Chartrand, G. et al. Deep learning: a primer for radiologists. , 2113–2131 (2017). Radiographics 37 De Fauw, J. et al. Clinically applicable deep learning for diagnosis and referral in retinal disease. , 1342 (2018). Nat. Med. 24 Sun, C., Shrivastava, A., Singh, S. & Gupta, A. Revisiting unreasonable effectiveness of data in deep learning era. In , 843–852 ( , 2017). Proceedings of the IEEE international conference on computer vision IEEE Van Panhuis, W. G. et al. A systematic review of barriers to data sharing in public health. , 1144 (2014). BMC Public Health 14 Rocher, L., Hendrickx, J. M. & De Montjoye, Y.-A. Estimating the success of re-identifications in incomplete datasets using generative models. , 1–9 (2019). Nat. Commun. 10 Schwarz, C. G. et al. Identification of anonymous mri research participants with face-recognition software. , 1684–1686 (2019). N. Engl. J. Med. 381 McMahan, B., Moore, E., Ramage, D., Hampson, S. & y Arcas, B. A. Communication-efficient learning of deep networks from decentralized data. In , 1273–1282. (2017). Artificial Intelligence and Statistics https://scholar.google.de/scholar?hl=de&as_sdt=0%2C5&q=Communicationefficient+learning+of+deep+networks+from+decentralized+data&btnG= Li, T., Sahu, A. K., Talwalkar, A. & Smith, V. Federated learning: Challenges, methods, and future directions. , 50–60 (IEEE, 2020). IEEE Signal Processing Magazine 37 Yang, Q., Liu, Y., Chen, T. & Tong, Y. Federated machine learning: concept and applications. , 12 (2019). ACM Trans. Intell. Syst. Technol. (TIST) 10 Kairouz, P. et al. Advances and open problems in federated learning. (2019). arXiv preprint arXiv:1912.04977 Lee, J. et al. Privacy-preserving patient similarity learning in a federated environment: development and analysis. , e20 (2018). JMIR Med. Inform. 6 Brisimi, T. S. et al. Federated learning of predictive models from federated electronic health records. , 59–67 (2018). Int. J. Med. Inform. 112 Roy, A. G., Siddiqui, S., Pölsterl, S., Navab, N. & Wachinger, C. Braintorrent: a peer-to-peer environment for decentralized federated learning. (2019). arXiv preprint arXiv:1905.06731 Li, W. et al. Privacy-preserving federated brain tumour segmentation. In , 133–141 (Springer, 2019). International Workshop on Machine Learning in Medical Imaging Sheller, M. J., Reina, G. A., Edwards, B., Martin, J. & Bakas, S. Multi-institutional deep learning modeling without sharing patient data: a feasibility study on brain tumor segmentation. In , 92–104 (Springer, 2018). International MICCAI Brainlesion Workshop Li, X. et al. Multi-site fmri analysis using privacy-preserving federated learning and domain adaptation: abide results. (2020). arXiv preprint arXiv:2001.05647 Huang, L. et al. Patient clustering improves efficiency of federated machine learning to predict mortality and hospital stay time using distributed electronic medical records. , 103291 (2019). J. Biomed. Inform. 99 Xu, J. & Wang, F. Federated learning for healthcare informatics. (2019). arXiv preprint arXiv:1911.06270 Roy, A. & Banerjee, A. Ibm’s merge healthcare acquisitio . (2015) (Accessed 10 February 2020). n https://www.reuters.com/article/us-merge-healthcare-m-a-ibm/ibm-to-buy-merge-healthcare-in-1-billion-deal-idUSKCN0QB1ML20150806 Nhs scotland’s national safe haven. (2015) (Accessed 10 February 2020). https://www.gov.scot/publications/charter-safe-havens-scotland-handling-unconsented-data-national-health-service-patient-records-support-research-statistics/pages/4/ Cuggia, M. & Combes, S. The french health data hub and the german medical informatics initiatives: Two national projects to promote data sharing in healthcare. , 195–202 (2019). Yearbook Med. Informat. 28 Health Data Research UK. (Health Data Research UK, 2020) (Accessed 10 Feb 2020). https://www.hdruk.ac.uk/ Sporns, O., Tononi, G. & Kötter, R. The human connectome: a structural description of the human brain. . , e42, (2005). PLoS Comput. Biol 1 https://doi.org/10.1371/journal.pcbi.0010042 Sudlow, C. et al. Uk biobank: an open access resource for identifying the causes of a wide range of complex diseases of middle and old age. . , e1001779. (2015). PLoS Med 12 https://doi.org/10.1371/journal.pmed.1001779 Clark, K. et al. The cancer imaging archive (tcia): maintaining and operating a public information repository. , 1045–1057 (2013). J. Digit. Imaging. 26 Wang, X. et al. Chestx-ray8: Hospital-scale chest X-ray database and benchmarks on weakly-supervised classification and localization of common thorax diseases. In , 2097–2106 ( , 2017). Proceedings of the IEEE conference on computer vision and pattern recognition IEEE Yan, K., Wang, X., Lu, L. & Summers, R. M. Deeplesion: automated mining of large-scale lesion annotations and universal lesion detection with deep learning. , 036501 (2018). J Med. Imaging. 5 Tomczak, K., Czerwińska, P. & Wiznerowicz, M. The cancer genome atlas (tcga): an immeasurable source of knowledge. , A68 (2015). Contemp. Oncol. 19 Jack Jr., C. R. et al. The alzheimer’s disease neuroimaging initiative (adni): Mri methods. , 685–691 (2008). J. Magn. Reson. Imaging 27 . (2020) (Accessed 24 July 2020). Grand Challenge-a Platform for End-to-end Development of Machine Learning Solutions in Biomedical Imaging https://grand-challenge.org/ Litjens, G. et al. 1399 h&e-stained sentinel lymph node sections of breast cancer patients: the camelyon dataset. , giy065 (2018). GigaScience 7 Menze, B. H. et al. The multimodal brain tumor image segmentation benchmark (brats). , 1993–2024 (2014). IEEE Trans. Med. Imaging 34 Bakas, S. et al. Identifying the best machine learning algorithms for brain tumor segmentation, progression assessment, and overall survival prediction in the brats challenge. (2018). arXiv preprint arXiv:1811.02629 Bakas, S. et al. Advancing the cancer genome atlas glioma MRI collections with expert segmentation labels and radiomic features. , 170117 (2017). Sci. Data 4 Simpson, A. L. et al. A large annotated medical image dataset for the development and evaluation of segmentation algorithms. (2019). arXiv preprint arXiv:1902.09063 Yeh, F.-C. et al. Quantifying differences and similarities in whole-brain white matter architecture using local connectome fingerprints. , e1005203 (2016). PLoS Comput. Biol. 12 Chang, K. et al. Distributed deep learning networks among institutions for medical imaging. , 945–954 (2018). J. Am. Med. Inform. Assoc. 25 Shokri, R., Stronati, M., Song, C. & Shmatikov, V. Membership inference attacks against machine learning models. In , 3-18 (IEEE, 2017). 2017 IEEE Symposium on Security and Privacy (SP) Sablayrolles, A., Douze, M., Ollivier, Y., Schmid, C. & Jégou, H. White-box vs black-box: Bayes optimal strategies for membership inference. In Chaudhuri, K. & Salakhutdinov, R. (eds) , 5558–5567. (PMLR, 2019). Proceedings of the 36th International Conference on Machine Learning, {ICML} 97 http://proceedings.mlr.press/v97/sablayrolles19a.html Zhang, C., Bengio, S., Hardt, M., Recht, B. & Vinyals, O. Understanding deep learning requires rethinking generalization. In , (OpenReview.net, 2017). 5th International Conference on Learning Representations, {ICLR}. https://openreview.net/forum?id=Sy8gdB9xx Carlini, N., Liu, C., Erlingsson, Ú., Kos, J. & Song, D. The secret sharer: evaluating and testing unintended memorization in neural networks. In Heninger, N. & Traynor, P. (eds) { } ({ } , 267–284. ({USENIX} Association, Santa Clara, CA, USA, 2019). 28th USENIX Security Symposium USENIX Security 19 https://www.usenix.org/conference/usenixsecurity19/presentation/carlini Abadi, M. et al. Deep learning with differential privacy. In , 308–318 (ACM, 2016). Proceedings of the 2016 ACM SIGSAC Conference on Computer and Communications Security Shokri, R. & Shmatikov, V. Privacy-preserving deep learning. In , 1310–1321 (ACM, 2015). Proceedings of the 22nd ACM SIGSAC conference on computer and communications security Langlotz, C. P. et al. A roadmap for foundational research on artificial intelligence in medical imaging: from the 2018 nih/rsna/acr/the academy workshop. , 781–791 (2019). Radiology 291 Kim, Y., Sun, J., Yu, H. & Jiang, X. Federated Tensor Factorization for Computational Phenotyping. In . 887–895. (ACM, Halifax, NS, Canada, 2017). Proceedings of the 23rd {ACM} {SIGKDD} International Conference on Knowledge Discoveryand Data Mining https://doi.org/10.1145/3097983.3098118 He, C., Annavaram, M. & Avestimehr, S. Fednas: Federated deep learning via neural architecture search. (2020). https://sites.google.com/view/cvpr20-nas/ Trustworthy federated data analytics (tfda). (2020) (Accessed 28 May 2020). https://tfda.hmsp.center/ Joint Imaging Platform (Jip). (2020) (Accessed 28 May 2020). https://jip.dktk.dkfz.de/jiphomepage/ Medical institutions collaborate to improve mammogram assessment ai. (2020) (Accessed 28 May 2020). https://blogs.nvidia.com/blog/2020/04/15/federated-learning-mammogram-assessment/ Healthchain consortium. (2020) (Accessed 28 May 2020). https://www.substra.ai/en/healthchain-project The federated tumor segmentation (fets) initiative. (2020) (Accessed 28 May 2020). https://www.fets.ai Machine learning ledger orchestration for drug discovery. (2020). Accessed 28 May 2020. https://cordis.europa.eu/project/id/831472 Konečny`, J., McMahan, H. B., Ramage, D. & Richtárik, P. Federated optimization: Distributed machine learning for on-device intelligence. (2016). arXiv preprint arXiv:1610.02527 Lalitha, A., Kilinc, O. C., Javidi, T. & Koushanfar, F. Peer-to-peer federated learning on graphs. (2019). arXiv preprint arXiv:1901.11173 Li, T., Sahu, A. K., Zaheer, M., Sanjabi, M., Talwalkar, A. & Smith, V. Federated optimization in heterogeneous networks. (2018). arXiv preprint arXiv:1812.06127 Zhao, Y. et al. Federated learning with non-iid data. (2018). arxivabs/1806.00582 Li, X., Huang, K., Yang, W., Wang, S. & Zhang, Z. On the convergence of fedavg on non-IID data. (2020). https://openreview.net/forum?id=HJxNAnVtDS Wu, B. et al. P3sgd: patient privacy preserving SGD for regularizing deep CNNs in pathological image classification. In (pp. 2099–2108) (2019). Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition Zhu, L., Liu, Z. & Han, S. Deep leakage from gradients. In Wallach, H. M. et al. (eds) , 14747–14756. (2019). Advances in Neural Information Processing Systems 32: Annual Conference on Neural Information Processing Systems http://papers.nips.cc/paper/9617-deep-leakage-from-gradients Wang, Z. et al. Beyond inferring class representatives: user-level privacy leakage from federated learning. In 2512–2520. (IEEE, Paris, France, 2019). 2019 {IEEE} Conferenceon Computer Communications, {INFOCOM} https://doi.org/10.1109/INFOCOM.2019.8737416 Hitaj, B., Ateniese, G. & Perez-Cruz, F. Deep models under the gan: information leakage from collaborative deep learning. In , CCS’17, 603–618 (Association for Computing Machinery, New York, NY, USA, 2017). Proceedings of the 2017 ACM SIGSAC Conference on Computer and Communications Security Ghorbani, A. & Zou, J. Data shapley: Equitable valuation of data for machine learning. In (pp. 2242-2251) (2019). International Conference on Machine Learning Ny fankatoavana Ity asa ity dia nanampy ny UK Research and Innovation London Medical Imaging & Artificial Intelligence Centre for Value-Based Healthcare, ny Wellcome / EPSRC Center for Medical Engineering (WT203148/Z/16/Z), ny Wellcome Flag Programme (WT213038/Z/18/Z), ny Intramural Research Programme ny National Institutes of Health (NIH) Clinical Center, ny National Cancer Institute ny NIH amin'ny nomeraon'ny U01CA242871, ny National Institute of Neurological Disorders and Stroke ny NIH amin'ny nomeraon'ny R01NS042645, ary koa ny Helmholtz Initiative sy Networking Fund (Project “Trustworthy Federated Data Analytics”) sy ny PRIME fandaharana ny German Academic Exchange Service (DAAD) amin'ny vola avy amin This paper is under CC by 4.0 Deed (Attribution 4.0 International) license. available on nature Ity lahatsoratra ity dia Miaraka amin'ny fahazoan-dalana CC by 4.0 Deed (Attribution 4.0 International). Azo atao amin'ny natiora