Definición de diversidad e inclusión en la IA

Tabla de enlaces

Resumen, declaración de impacto e introducción

Definición de diversidad e inclusión en la IA

Motivación para la investigación

Metodología de investigación

Resultados

Discusión

Conclusión y trabajo futuro y referencias

II. DEFINICIÓN DE DIVERSIDAD E INCLUSIÓN EN IA

A pesar de la reconocida importancia de la diversidad y la inclusión, existe un vacío en la literatura sobre cómo estos principios pueden implementarse en la práctica en los sistemas de IA. FoschVillaronga y Poulsen [15] definen la D&I en IA como un concepto multifacético que aborda tanto los aspectos técnicos como los socioculturales de la IA. Destacan la diversidad como la representación de los individuos en relación con las diferencias de poder sociopolítico como el género y la raza. La inclusión, sugieren, es la representación de un usuario individual dentro de un conjunto de instancias, con una mejor alineación entre un usuario y las opciones relevantes para él, lo que indica una mayor inclusión. Este concepto se analiza más a fondo en tres niveles: el técnico, el de comunidad y el de usuario. El nivel técnico considera si los algoritmos tienen en cuenta todas las variables necesarias y si clasifican a los usuarios de manera discriminatoria. El nivel comunitario examina la diversidad y la inclusión en los equipos de desarrollo de IA, analizando la representación de género y la diversidad de orígenes. Finalmente, el nivel de usuario se centra en los usuarios previstos del sistema y cómo el proceso de investigación e implementación tiene en cuenta a las partes interesadas y sus comentarios, enfatizando los principios de Investigación e Innovación Responsables.

La escasez de una definición integral de D&I en IA dentro de la literatura existente nos ha motivado a proponer una definición normativa y un conjunto de directrices para garantizar que estos principios se incorporen en el proceso de desarrollo de la IA. Hemos buscado y recibido comentarios de forma iterativa sobre la definición y las directrices de expertos en IA responsable y D&I [16]. Nos centramos en una perspectiva sociotecnológica, reconociendo que abordar los prejuicios y la injusticia requiere un enfoque holístico que considere las dinámicas y normas culturales e involucre a los usuarios finales y otras partes interesadas. Definimos D&I en IA como: "inclusión" de humanos con atributos y perspectivas "diversos" en los datos, procesos, sistemas y gobernanza del ecosistema de IA. La diversidad se refiere a la representación de las diferencias en los atributos de los humanos en un grupo o sociedad. Los atributos son facetas conocidas de la diversidad, incluidos (pero no limitados a) los atributos protegidos en el artículo 26 del Pacto Internacional de Derechos Civiles y Políticos (PIDCP), así como la raza, el color, el sexo, el idioma, la religión y el origen nacional o social. , propiedad, nacimiento u otro estado, e intersecciones de estos atributos. La inclusión es el proceso de involucrar y representar proactivamente a los seres humanos más relevantes con diversos atributos; aquellos que se ven afectados y tienen un impacto en el contexto del ecosistema de IA.

Propusimos que la diversidad y la inclusión en la IA pueden estructurarse y conceptualizarse involucrando cinco pilares: humanos, datos, procesos, sistemas y gobernanza. El pilar humano se centra en la importancia de incluir personas con diversos atributos en todas las etapas del desarrollo de la IA. El pilar de datos destaca la necesidad de tener en cuenta los posibles sesgos en la recopilación y el uso de datos. El pilar del proceso enfatiza la necesidad de consideraciones de diversidad e inclusión durante el desarrollo, implementación y evolución de los sistemas de IA. El pilar del sistema reconoce la necesidad de que el sistema de IA sea probado y monitoreado para garantizar que no promueva comportamientos no inclusivos. El pilar de gobernanza subraya la importancia de estructuras y procesos que garanticen que el desarrollo de la IA cumpla con principios, leyes y regulaciones éticos. El ecosistema de IA se refiere a los cinco pilares (humanos, datos, procesos, sistemas y gobernanza), más el entorno (es decir, el dominio de la aplicación), dentro del cual se implementa y utiliza el sistema de IA.