Definindo Diversidade e Inclusão em IA

Tabela de links

Resumo, Declaração de Impacto e Introdução

Definindo Diversidade e Inclusão em IA

Motivação para Pesquisa

Metodologia de Pesquisa

Resultados

Discussão

Conclusão e trabalhos futuros e referências

II. DEFININDO DIVERSIDADE E INCLUSÃO NA IA

Apesar da reconhecida importância da diversidade e da inclusão, existe uma lacuna na literatura sobre como estes princípios podem ser implementados na prática em sistemas de IA. FoschVillaronga e Poulsen [15] definem D&I em IA como um conceito multifacetado que aborda tanto os aspectos técnicos quanto socioculturais da IA. Eles destacam a diversidade como a representação dos indivíduos em relação aos diferenciais de poder sociopolítico, como gênero e raça. Inclusão, sugerem eles, é a representação de um usuário individual dentro de um conjunto de instâncias, com melhor alinhamento entre um usuário e as opções relevantes para ele, indicando maior inclusão. Este conceito é posteriormente analisado em três níveis: o técnico, a comunidade e o usuário. O nível técnico considera se os algoritmos levam em conta todas as variáveis necessárias e se classificam os usuários de forma discriminatória. O nível comunitário examina a diversidade e a inclusão nas equipas de desenvolvimento de IA, analisando a representação de género e a diversidade de origens. Finalmente, o nível do utilizador centra-se nos utilizadores pretendidos do sistema e na forma como o processo de investigação e implementação tem em conta as partes interessadas e o seu feedback, enfatizando os princípios da Investigação e Inovação Responsáveis.

A escassez de uma definição abrangente para D&I em IA na literatura existente motivou-nos a propor uma definição normativa e um conjunto de diretrizes para garantir que estes princípios sejam incorporados no processo de desenvolvimento de IA. Buscamos e recebemos feedback iterativamente sobre a definição e as diretrizes de especialistas em IA responsável e D&I [16]. Concentrámo-nos numa perspectiva sociotecnológica, reconhecendo que abordar o preconceito e a injustiça requer uma abordagem holística que considere as dinâmicas e normas culturais e envolva os utilizadores finais e outras partes interessadas. Definimos D&I em IA como: “inclusão” de humanos com atributos e perspectivas “diversos” nos dados, processos, sistemas e governança do ecossistema de IA. Diversidade refere-se à representação das diferenças nos atributos dos humanos em um grupo ou sociedade. Atributos são facetas conhecidas da diversidade, incluindo (mas não limitados a) os atributos protegidos no Artigo 26 do Pacto Internacional sobre Direitos Civis e Políticos (PIDCP), bem como raça, cor, sexo, idioma, religião, origem nacional ou social , propriedade, nascimento ou outro status, e interseções desses atributos. Inclusão é o processo de envolver e representar proativamente os seres humanos mais relevantes com diversos atributos; aqueles que são impactados e têm impacto no contexto do ecossistema de IA.

Propusemos que a diversidade e a inclusão na IA podem ser estruturadas e conceituadas envolvendo cinco pilares: humanos, dados, processos, sistemas e governança. O pilar humano centra-se na importância de incluir indivíduos com atributos diversos em todas as fases do desenvolvimento da IA. O pilar de dados destaca a necessidade de estar atento a possíveis distorções na recolha e utilização de dados. O pilar do processo enfatiza a necessidade de considerações de diversidade e inclusão durante o desenvolvimento, implantação e evolução dos sistemas de IA. O pilar do sistema reconhece a necessidade de o sistema de IA ser testado e monitorizado para garantir que não promove comportamentos não inclusivos. O pilar da governação sublinha a importância de estruturas e processos que garantam que o desenvolvimento da IA esteja em conformidade com princípios éticos, leis e regulamentos. Ecossistema de IA refere-se aos 5 pilares (humanos, dados, processos, sistema e governança), mais o ambiente (ou seja, domínio de aplicação), dentro do qual o sistema de IA é implantado e usado.