Définir la diversité et l'inclusion dans l'IA

Tableau des liens

Résumé, déclaration d'impact et introduction

Définir la diversité et l'inclusion dans l'IA

Motivation de la recherche

Méthodologie de recherche

Résultats

Discussion

Conclusion, travaux futurs et références

II. DÉFINIR LA DIVERSITÉ ET L'INCLUSION DANS L'IA

Malgré l’importance reconnue de la diversité et de l’inclusion, il existe une lacune dans la littérature quant à la manière dont ces principes peuvent être mis en pratique dans les systèmes d’IA. FoschVillaronga et Poulsen [15] définissent la D&I dans l'IA comme un concept à multiples facettes qui aborde à la fois les aspects techniques et socioculturels de l'IA. Ils mettent en avant la diversité en tant que représentation des individus concernant les différentiels de pouvoir sociopolitiques tels que le sexe et la race. L'inclusion, suggèrent-ils, est la représentation d'un utilisateur individuel au sein d'un ensemble d'instances, avec un meilleur alignement entre un utilisateur et les options qui le concernent, indiquant une plus grande inclusion. Ce concept est ensuite analysé à trois niveaux : le technique, la communauté et l'utilisateur. Le niveau technique examine si les algorithmes prennent en compte toutes les variables nécessaires et s'ils classent les utilisateurs de manière discriminatoire. Le niveau communautaire examine la diversité et l’inclusivité au sein des équipes de développement de l’IA, en examinant la représentation des genres et la diversité des origines. Enfin, le niveau utilisateur se concentre sur les utilisateurs prévus du système et sur la manière dont le processus de recherche et de mise en œuvre prend en compte les parties prenantes et leurs commentaires, en mettant l'accent sur les principes de recherche et d'innovation responsables.

Le manque d’une définition complète de la D&I en IA dans la littérature existante nous a motivé à proposer une définition normative et un ensemble de lignes directrices pour garantir que ces principes sont incorporés dans le processus de développement de l’IA. Nous avons recherché et reçu des commentaires de manière itérative sur la définition et les lignes directrices de la part d'experts en IA responsable et en D&I [16]. Nous nous sommes concentrés sur une perspective socio-technologique, reconnaissant que la lutte contre les préjugés et l'injustice nécessite une approche holistique qui prend en compte les dynamiques et les normes culturelles et implique les utilisateurs finaux et d'autres parties prenantes. Nous avons défini la D&I dans l'IA comme : « l'inclusion » d'humains avec des attributs et des perspectives « divers » dans les données, les processus, le système et la gouvernance de l'écosystème de l'IA. La diversité fait référence à la représentation des différences d'attributs des humains dans un groupe ou une société. Les attributs sont des facettes connues de la diversité, y compris (mais sans s'y limiter) les attributs protégés par l'article 26 du Pacte international relatif aux droits civils et politiques (PIDCP), ainsi que la race, la couleur, le sexe, la langue, la religion, l'origine nationale ou sociale. , la propriété, la naissance ou tout autre statut, et les intersections de ces attributs. L'inclusion est le processus d'implication et de représentation proactive des humains les plus pertinents dotés de divers attributs ; ceux qui sont touchés et ont un impact sur le contexte de l’écosystème de l’IA.

Nous avons proposé que la diversité et l'inclusion dans l'IA puissent être structurées et conceptualisées autour de cinq piliers : les humains, les données, les processus, le système et la gouvernance. Le pilier humain met l’accent sur l’importance d’inclure des individus dotés d’attributs divers à toutes les étapes du développement de l’IA. Le pilier des données souligne la nécessité d’être conscient des biais potentiels dans la collecte et l’utilisation des données. Le pilier processus met l’accent sur la nécessité de prendre en compte la diversité et l’inclusion lors du développement, du déploiement et de l’évolution des systèmes d’IA. Le pilier système reconnaît la nécessité de tester et de surveiller le système d’IA pour garantir qu’il ne favorise pas des comportements non inclusifs. Le pilier de gouvernance souligne l’importance des structures et des processus qui garantissent que le développement de l’IA est conforme aux principes éthiques, aux lois et aux réglementations. L'écosystème d'IA fait référence aux 5 piliers (humains, données, processus, système et gouvernance), ainsi qu'à l'environnement (c'est-à-dire le domaine d'application), au sein duquel le système d'IA est déployé et utilisé.