y y y y y y Los autores: (1) Evan Shieh, Young Data Scientists League (evan.shieh@youngdatascientists.org); (2) Faye-Marie Vassel, Universidad de Stanford; (3) Cassidy Sugimoto, Escuela de Política Pública, Instituto de Tecnología de Georgia; (4) Thema Monroe-White, Escuela Schar de Política y Gobierno y Departamento de Ciencias de la Computación, Universidad George Mason (tmonroew@gmu.edu). Authors: (1) Evan Shieh, Young Data Scientists League (evan.shieh@youngdatascientists.org); (2) Faye-Marie Vassel, Universidad de Stanford; (3) Cassidy Sugimoto, Escuela de Política Pública, Instituto de Tecnología de Georgia; (4) Thema Monroe-White, Escuela Schar de Política y Gobierno y Departamento de Ciencias de la Computación, Universidad George Mason (tmonroew@gmu.edu). Mesa de la izquierda Abstracto y 1 Introducción 1.1 Trabajo y contribuciones relacionadas 2 Métodos y recopilación de datos 2.1 Proxies de identidad textual y daños socio-psicológicos 2.2 Modelado de género, orientación sexual y raza 3 Análisis 3.1 Los daños de la omisión 3.2 Daños de la subordinación 3.3 Los efectos de los estereotipos 4 Discusión, reconocimientos y referencias SUPPLEMENTAL MATERIALS El poder operativo y la interseccionalidad B. Detalles técnicos ampliados B.1 Modelado de género y orientación sexual B.2 Modelización de carreras B.3 Minería automática de datos de cues textuales B.4 Ratio de representación B.5 Ratio de subordinación B.6 Ratio de subordinación racializada mediana B.7 Cues extendidos para el análisis de estereotipos B.8 Métodos estadísticos C. Ejemplos adicionales C.1 Nombres más comunes generados por LM por raza C.2 Ejemplos adicionales seleccionados de textos sintéticos completos D. Datos y divulgaciones de uso público D.1 Ficha de datos para el conjunto de datos Laissez-Faire Prompts El poder operativo y la interseccionalidad Basado en trabajos previos que observan cómo el poder se incorpora tanto en el discurso social como en el lenguaje [38], estamos interesados en estudiar cómo los LMs generan respuestas textuales en respuesta a las promesas que capturan la dinámica del poder cotidiano como “formas rutinizadas de dominación” [36]. En este estudio, operamos el poder como una diferencia entre dos condiciones: poder-neutral versus poder-cargado. Para la primera condición, construimos nuestra promesa de poder-neutral en los dominios de Aprendizaje y Trabajo introduciendo un único personaje que se representa como exitoso en su sujeto escolar (por ejemplo, un “estudiante que se destaca en la clase de historia”) o ocupación (por ejemplo, un “trabajador social que se especializa en la defensa y la respuesta a crisis”). Introducimos una dinámica de poder social en la segunda condición, que operativizamos usando prompts donde el segundo personaje debe depender del primer personaje, que ahora asume un papel dominante. En el dominio de aprendizaje, construimos nuestra prompt de poder introduciendo un segundo personaje como un estudiante luchador que necesita ayuda de un estudiante estrella (por ejemplo, “un estudiante estrella que ayuda a un estudiante luchador en la clase de historia”). De la misma manera, en el dominio del Trabajo, introducimos un segundo personaje que se basa en la primera persona de ambas maneras materiales (por ejemplo, un “trabajador social que defiende los recursos de la comunidad para ayudar a un cliente en necesidad”) y maneras inmateriales (por ejemplo, una persona que paga la factura de promoción mientras enseña una canción sobre un fanático leal en la Por lo tanto, nuestro estudio conceptualizó el poder social específicamente a través de prompts que piden a los LMs que generen historias en respuesta a escenarios en los que un individuo dominante interactúa con un individuo subordinado.Aunque nuestros prompts solo involucran dos caracteres, observamos en los resultados que las respuestas generadas por todos los cinco LMs contienen indicios tanto cuantitativos como cualitativos que van más allá del alcance de los individuos al codificar y reproducir estructuras más amplias de desigualdad, incluyendo indicios de raza y género que fueron intencionalmente dejados sin especificar en los prompts. y y Este artículo está disponible en archivo bajo la licencia CC BY 4.0 DEED. Este artículo está disponible en archivo bajo la licencia CC BY 4.0 DEED. Disponible en Archivo

Part of HackerNoon's growing list of open-source research papers, promoting free access to academic material.

Bias in Algorithmic Technology Exposed 

undefined's blog

Este audio es producido en el idioma original de la historia!

Las luchas de poder enterradas en las respuestas de AI

About Author

COMENTARIOS

ETIQUETAS

ESTE ARTÍCULO FUE PRESENTADO EN

Related Stories

Cómo mejorar su flujo de trabajo 10 veces: 17 aplicaciones esenciales

¿Quieres ganar un concurso de redacción de HackerNoon? Esto es lo que recomiendan los ganadores del concurso #crypto-api

El modelo Bitcoin UTXO, impulsando un ecosistema único

Liberando el poder de la IA. Una revisión sistemática de técnicas de vanguardia: resumen e introducción

Cómo mejorar su flujo de trabajo 10 veces: 17 aplicaciones esenciales

¿Quieres ganar un concurso de redacción de HackerNoon? Esto es lo que recomiendan los ganadores del concurso #crypto-api

El modelo Bitcoin UTXO, impulsando un ecosistema único

Liberando el poder de la IA. Una revisión sistemática de técnicas de vanguardia: resumen e introducción

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps