Tabell över länkar   Abstrakt och introduktion   Relaterat arbete  Metoder   3.1 Positiv summa rättvisa   3.2 Tillämpning   Experiment   4.1 Inledande resultat   4.2 Positiv summa rättvisa   Slutsats och referenser  3.2 Tillämpning  För att omsätta denna rättviseuppfattning i praktiken och visa skillnaden mot traditionell grupprättvisa jämför vi tre modeller som använder känsliga attribut med en baslinjemodell. Det sätt på vilket känsliga attribut används av modellen är känt för att ha en inverkan på modellens rättvisa och prestanda [3,39,41,11]. Därför använder vi modeller som uttryckligen inkluderar känsliga attribut, eller omvänt tar vi bort all demografisk kodning från indata.  De fyra modellerna är tränade på ett multi-label klassificeringsproblem av fynd i chest radiography (CXR). I alla inställningar används en Densenet-121 [13] ryggrad, som var empiriskt fastställd för att ge bästa prestanda för detta problem. De exakta modellarkitekturerna visas i figur 2 och beskrivs nedan:  –   : en baslinjeklassificerare som använder bilderna som indata och tränas för att förutsäga de riktade CXR-fynd som är kopplade till vår datauppsättning. Modellen består av en ryggrad för att extrahera bildegenskaperna och en fyndgren bestående av ett helt sammankopplat lager och en binär korsentropiförlust för varje fynd. M1  –   : en klassificerare som använder både bilderna och rasfunktionerna som indata. Rasinformationen kommer i form av en kategorisk variabel, som vi konverterar till en envarm vektor och matar till ett helt sammankopplat lager. Vi sammanfogar funktionerna från det helt anslutna lagret och bildfunktionerna innan vi vidarebefordrar till att hitta gren. Modellen tränas från början till slut. M2  –   : en klassificerare som endast använder bilderna som indata, men tränad att förutsäga bildfynd såväl som rasgruppen (dvs. denna modell syftar till att utnyttja raskodningarna som finns i bilderna). För denna modell modifierar vi det sista lagret av baslinjeklassificeraren genom att anpassa förlustfunktionen för att optimera de två uppgifterna: CXR-fynd och rasgrupp. Vi omvandlar också rasinformation till en-hot-kodad vektor för att tillämpa multi-klass förlust. Rasklassificeringsgrenen är gjord av ett helt sammankopplat lager och en korsentropiförlustfunktion. Den slutliga förlusten beräknas genom att lägga till fyndförlust och rasförlusten med en förlustvikt λ. M3  –   : en klassificerare som använder bilderna som indata, tränad att förutsäga bildfynd, samtidigt som man minimerar användningen av rasinformation kodad i bilden. För denna modell implementerar vi den gradientvändningsteknik som beskrivs i [28]. Vi applicerar gradientomkastningsskiktet före rasgrenen.  M4   Författare:  (1) Samia Belhadj∗, Lunit Inc., Seoul, Republiken Korea (samia.belhadj@lunit.io);  (2) Sanguk Park [0009 −0005 −0538 −5522]*, Lunit Inc., Seoul, Republiken Korea (tony.superb@lunit.io);  (3) Ambika Seth, Lunit Inc., Seoul, Republiken Korea (ambika.seth@lunit.io);  (4) Hesham Dar [0009 −0003 −6458 −2097], Lunit Inc., Seoul, Republiken Korea (heshamdar@lunit.io);  (5) Thijs Kooi [0009 −0003 −6458 −2097], Kooi, Lunit Inc., Seoul, Republiken Korea (tkooi@lunit.io).  Detta dokument är   under CC BY-NC-SA 4.0-licens. tillgängligt på arxiv

Part of HackerNoon's growing list of open-source research papers, promoting free access to academic material.

Read My Stories

Snapshot of society, a statistical portrait of people, age, gender, understanding populations, and their diverse stories

Hur känsliga data påverkar rättvisa och noggrannhet i medicinska AI-modeller

About Author

KOMMENTARER

HÄNG TAGGAR

DENNA ARTIKEL PRESENTERAS I

Related Stories

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps