är är är är är är Författare : (1) Evan Shieh, Young Data Scientists League (evan.shieh@youngdatascientists.org) (2) Faye-Marie Vassel, Stanford University (3) Cassidy Sugimoto, School of Public Policy, Georgia Institute of Technology; (4) Thema Monroe-White, Schar School of Policy and Government & Department of Computer Science, George Mason University (tmonroew@gmu.edu). Authors: (1) Evan Shieh, Young Data Scientists League (evan.shieh@youngdatascientists.org) (2) Faye-Marie Vassel, Stanford University (3) Cassidy Sugimoto, School of Public Policy, Georgia Institute of Technology; (4) Thema Monroe-White, Schar School of Policy and Government & Department of Computer Science, George Mason University (tmonroew@gmu.edu). Tabell från vänster Abstract och 1 introduktion 1.1 Relaterat arbete och bidrag 2 Metoder och datainsamling 2.1 Textual Identity Proxies och socio-psykologiska skador 2.2 Modellering av kön, sexuell läggning och ras 3 Analys 3.1 Skador av utelämnande 3.2 Skador på underordnandet 3.3 Skador på stereotyper 4 Diskussion, erkännanden och referenser SUPPLEMENTAL MATERIALS En operationaliserande kraft och intersektionalitet B Utökade tekniska detaljer B.1 Modellering av kön och sexuell läggning B.2 Modellkapplöpning B.3 Automatisk datautvinning av textrådar B.4 Representation Ratio B5 Subordinationsförhållande B.6 Median racialiserad underordnadhetsgrad B.7 Extended Cues för stereotypanalys 8 Statistiska metoder C Ytterligare exempel C.1 De vanligaste namnen som genererats av LM per ras C.2 Ytterligare utvalda exempel på kompletta syntetiska texter D Datablad och offentliga utlämningar D.1 Datablad för Laissez-Faire Prompts Dataset En operationaliserande kraft och intersektionalitet Baserat på tidigare verk som observerar hur makt är inbäddat i både social diskurs och språk [38], är vi intresserade av att studera hur LMs genererar textuella svar som svar på uppmaningar som fångar vardaglig maktdynamik som ”rutiniserade former av dominans” [36]. I denna studie operationaliserar vi makt som en skillnad mellan två villkor: maktneutral mot maktbelagd. För det första villkoret konstruerar vi vår maktneutral uppmaning i lärande- och arbetsområdena genom att introducera en enda karaktär som avbildas som framgångsrik på deras skolämne (t.ex. en ”student som utmärker sig i historiklass”) eller yrke (t.ex. en ”socialarbetare som specialiserar sig på föres Vi introducerar en social kraftdynamik i det andra tillståndet, som vi operationaliserar med hjälp av uppmaningar där den andra karaktären måste förlita sig på den första karaktären, som nu antar en dominerande roll. I inlärningsområdet konstruerar vi vår kraftbelastade uppmaning genom att introducera en andra karaktär som en kämpande student som behöver hjälp från en stjärnstudent (t.ex. "en stjärnstudent som hjälper en kämpande student i historiklass"). På samma sätt introducerar vi en andra karaktär som förlitar sig på den första på båda materiella sätt (t.ex. en "socialarbetare som förespråkar samhällsresurser för att hjälpa en klient i behov") och immateriella sätt (t.ex. "en student som betalar räkningen medan han handlar med en låt Därför konceptualiserar vår studie social makt specifikt genom uppmaningar som ber LMs att generera berättelser som svar på scenarier där en dominerande individ interagerar med en underordnad individ.Även om våra uppmaningar endast involverar två tecken, observerar vi i resultaten att de svar som genereras av alla fem LMs innehåller både kvantitativa och kvalitativa ledtrådar som går utöver individens räckvidd genom att kodas och reproducera bredare strukturer av ojämlikhet, inklusive ras och kön ledtrådar som avsiktligt lämnades ospecificerade i uppmaningarna. är är Den här artikeln finns tillgänglig på arkiv under CC BY 4.0 DEED-licens. Detta papper är Licensierad enligt CC BY 4.0 DEED. Tillgänglig i Arkiv Tillgänglig i Arkiv

Part of HackerNoon's growing list of open-source research papers, promoting free access to academic material.

Bias in Algorithmic Technology Exposed 

undefined's blog

Det här ljudet är producerat på berättelsens originalspråk!

För länge; Att läsa

Make resilience your competitive advantage

Maktstriderna begravda i AI-svar

About Author

KOMMENTARER

HÄNG TAGGAR

DENNA ARTIKEL PRESENTERAS I

Related Stories

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps