Autores:  (1) Muneera Bano;  (2) Didar Zowghi;  (3) Vincenzo Gervasi;  (4) Rifat Shams.  Tabela de links   Resumo, Declaração de Impacto e Introdução   Definindo Diversidade e Inclusão em IA   Motivação para Pesquisa   Metodologia de Pesquisa   Resultados   Discussão   Conclusão e trabalhos futuros e referências  II. DEFININDO DIVERSIDADE E INCLUSÃO NA IA  Apesar da reconhecida importância da diversidade e da inclusão, existe uma lacuna na literatura sobre como estes princípios podem ser implementados na prática em sistemas de IA. FoschVillaronga e Poulsen [15] definem D&I em IA como um conceito multifacetado que aborda tanto os aspectos técnicos quanto socioculturais da IA. Eles destacam a diversidade como a representação dos indivíduos em relação aos diferenciais de poder sociopolítico, como gênero e raça. Inclusão, sugerem eles, é a representação de um usuário individual dentro de um conjunto de instâncias, com melhor alinhamento entre um usuário e as opções relevantes para ele, indicando maior inclusão. Este conceito é posteriormente analisado em três níveis: o técnico, a comunidade e o usuário. O nível técnico considera se os algoritmos levam em conta todas as variáveis necessárias e se classificam os usuários de forma discriminatória. O nível comunitário examina a diversidade e a inclusão nas equipas de desenvolvimento de IA, analisando a representação de género e a diversidade de origens. Finalmente, o nível do utilizador centra-se nos utilizadores pretendidos do sistema e na forma como o processo de investigação e implementação tem em conta as partes interessadas e o seu feedback, enfatizando os princípios da Investigação e Inovação Responsáveis.  A escassez de uma definição abrangente para D&I em IA na literatura existente motivou-nos a propor uma definição normativa e um conjunto de diretrizes para garantir que estes princípios sejam incorporados no processo de desenvolvimento de IA. Buscamos e recebemos feedback iterativamente sobre a definição e as diretrizes de especialistas em IA responsável e D&I [16]. Concentrámo-nos numa perspectiva sociotecnológica, reconhecendo que abordar o preconceito e a injustiça requer uma abordagem holística que considere as dinâmicas e normas culturais e envolva os utilizadores finais e outras partes interessadas. Definimos D&I em IA como: “inclusão” de humanos com atributos e perspectivas “diversos” nos dados, processos, sistemas e governança do ecossistema de IA. Diversidade refere-se à representação das diferenças nos atributos dos humanos em um grupo ou sociedade. Atributos são facetas conhecidas da diversidade, incluindo (mas não limitados a) os atributos protegidos no Artigo 26 do Pacto Internacional sobre Direitos Civis e Políticos (PIDCP), bem como raça, cor, sexo, idioma, religião, origem nacional ou social , propriedade, nascimento ou outro status, e interseções desses atributos. Inclusão é o processo de envolver e representar proativamente os seres humanos mais relevantes com diversos atributos; aqueles que são impactados e têm impacto no contexto do ecossistema de IA.  Propusemos que a diversidade e a inclusão na IA podem ser estruturadas e conceituadas envolvendo cinco pilares: humanos, dados, processos, sistemas e governança. O pilar humano centra-se na importância de incluir indivíduos com atributos diversos em todas as fases do desenvolvimento da IA. O pilar de dados destaca a necessidade de estar atento a possíveis distorções na recolha e utilização de dados. O pilar do processo enfatiza a necessidade de considerações de diversidade e inclusão durante o desenvolvimento, implantação e evolução dos sistemas de IA. O pilar do sistema reconhece a necessidade de o sistema de IA ser testado e monitorizado para garantir que não promove comportamentos não inclusivos. O pilar da governação sublinha a importância de estruturas e processos que garantam que o desenvolvimento da IA esteja em conformidade com princípios éticos, leis e regulamentos. Ecossistema de IA refere-se aos 5 pilares (humanos, dados, processos, sistema e governança), mais o ambiente (ou seja, domínio de aplicação), dentro do qual o sistema de IA é implantado e usado.  Este artigo está   sob licença CC 4.0. disponível no arxiv

Part of HackerNoon's growing list of open-source research papers, promoting free access to academic material.

Read My Stories

No technological innovation comes without sacrifice. The pendulum will swing back to the people! Wanna' be 501c3.

Definindo Diversidade e Inclusão em IA

About Author

COMENTARIOS

Rótulos

ESTE ARTIGO FOI APRESENTADO EM

Related Stories

Navegando pelas águas: desenvolvendo aplicações RAG de nível de produção com data lakes

Aumente sua produtividade com estas 18 ferramentas para desenvolvedores 🚀🔥

Vazamento do prompt do sistema Claude Sonnet 3.5: uma análise forense

Modelo Bitcoin UTXO, alimentando um ecossistema único

Navegando pelas águas: desenvolvendo aplicações RAG de nível de produção com data lakes

Aumente sua produtividade com estas 18 ferramentas para desenvolvedores 🚀🔥

Vazamento do prompt do sistema Claude Sonnet 3.5: uma análise forense

Modelo Bitcoin UTXO, alimentando um ecossistema único

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps