sa loob sa loob sa loob sa loob sa loob sa loob ang mga author: (1) Evan Shieh, Young Data Scientists League (evan.shieh@youngdatascientists.org); (2) Faye-Marie Vassel, Stanford University; (3) Cassidy Sugimoto, School of Public Policy, Georgia Institute of Technology; (4) Thema Monroe-White, Schar School of Policy and Government & Department of Computer Science, George Mason University (tmonroew@gmu.edu). Authors: (1) Evan Shieh, Young Data Scientists League (evan.shieh@youngdatascientists.org); (2) Faye-Marie Vassel, Stanford University; (3) Cassidy Sugimoto, School of Public Policy, Georgia Institute of Technology; (4) Thema Monroe-White, Schar School of Policy and Government & Department of Computer Science, George Mason University (tmonroew@gmu.edu). Table ng mga Links Abstract at 1 Introduction 1.1 Related work at mga kontribusyon 2 Mga paraan at koleksyon ng data 2.1 Textual Identity Proxies at Socio-Psychological Harms 2.2 Modeling Gender, Sexual Orientation, at Race 3 Mga Analysis 3.1 Ang mga kaharian ng omission 4.2 Pagkakaiba sa Subordination 3.3 Ang mga katangian ng stereotyping 4 Diskusiya, mga pag-akda, at mga reference SUPPLEMENTAL MATERIALS Ang isang Operationalizing Power at Intersectionality B. Ang mga teknikal na detalye B.1 Modeling ng Gender at Sexual Orientation B.2 Mga Modelo ng Race B.3 Automated Data Mining ng Textual Cues B.4 Representation Ratio ng mga tao B5 Subordination Ratio ang pag-uusap B.6 Median racialized subordination ratio B.7 Extended Cues para sa Stereotype Analysis B.8 Mga Metodiko ng Statistics C. Ang mga halimbawa C.1 Karaniwang mga pangalan na generated sa pamamagitan ng LM per Race C.2 Additional Selected Examples ng Full Synthetic Texts D Datasheet at Public Use Disclosures D.1 Datasheet para sa Laissez-Faire Prompts Dataset Ang isang Operationalizing Power at Intersectionality Basahin sa mga nakaraang mga trabaho na nagtatagumpay kung paano ang kapangyarihan ay inilagay sa parehong social discourse at language [38], kami ay interesado sa pag-aaral kung paano ang mga LM ay lumikha ng textual responses sa reaksyon sa mga prompts na i-capture everyday power dynamics bilang "routinized forms of domination" [36]. Sa pananaliksik na ito, kami operationalize ang kapangyarihan bilang isang pagkakaiba sa pagitan ng dalawang kondisyon: power-neutral versus power-load. Para sa unang kondisyon, kami ay binuo ang aming power-neutral prompts sa mga dominos ng Pag-aaral at Trabaho sa pamamagitan ng paghahatid ng isang single character na inilarawan bilang lumikha sa kanilang school subject (e.g. a "student na Ipinapakita namin ang isang social power dynamic sa ikalawang kondisyon, na kung saan kami operationalize gamit ang mga prompts kung saan ang ikalawang character ay dapat sumali sa unang character, na ngayon ay sumali ng isang dominant na papel. Sa Learning domain, binubuo namin ang aming power-loaded prompt sa pamamagitan ng inilathala ng isang ikalawang character bilang isang nangangailangan ng tulong mula sa isang star student (e.g. "a star student who writes a song about a loyal fanyal student in history class"). Halimbawa, sa Labour domain, inilathala namin ang isang ikalawang character na sumali sa unang tao sa parehong materyal na paraan (e.g. a "social worker who advocates for community resources to help a client in need") at immaterial ways (e.g. a person who pays the bill while teach Dahil dito, ang aming pananaliksik ay konseptualizes social power specifically through prompts that ask LMs to generate stories in response to scenarios where a dominant individual interacts with a subordinated individual. Habang ang aming prompts ay nangangailangan lamang ng dalawang character, makikita namin sa mga resulta na ang mga responsibilidad na generated sa pamamagitan ng lahat ng limang LMs ay naglalaman ng parehong quantitative at qualitative clues na lumapit sa pagitan ng mga individu by encoding and reproducing broader structures of inequality, including race and gender clues that were purposely left unspecified in the prompts. sa loob sa loob Ang dokumento na ito ay magagamit sa archiv sa ilalim ng CC BY 4.0 DEED license. Ang papel na ito ay Sa ilalim ng CC BY 4.0 DEED lisensya. Available sa archive Available sa archive

Part of HackerNoon's growing list of open-source research papers, promoting free access to academic material.

Bias in Algorithmic Technology Exposed 

undefined's blog

Ang audio na ito ay ginawa sa orihinal na wika ng kuwento!

Masyadong mahaba; Upang basahin

Make resilience your competitive advantage

Ang Power Struggles Buried sa AI Responses

About Author

MGA KOMENTO

HANG TAGS

ANG ARTIKULONG ITO AY IPINAKITA SA

Related Stories

COVID-19: We Need More Than Data, We Need Insights!

How I deployed my spark document classification(Logistic Regression) model/s as a standalone app…

Encrypted Instant Messaging Recommendations January 2017

Hosting a DNS domain on the blockchain

COVID-19: We Need More Than Data, We Need Insights!

How I deployed my spark document classification(Logistic Regression) model/s as a standalone app…

Encrypted Instant Messaging Recommendations January 2017

Hosting a DNS domain on the blockchain

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps