Auteurs:  (1) Munera Bano ;  (2) Didar Zowghi ;  (3) Vincenzo Gervasi;  (4) Couvre-lits Rifat.  Tableau des liens   Résumé, déclaration d'impact et introduction   Définir la diversité et l'inclusion dans l'IA   Motivation de la recherche   Méthodologie de recherche   Résultats   Discussion   Conclusion, travaux futurs et références  II. DÉFINIR LA DIVERSITÉ ET L'INCLUSION DANS L'IA  Malgré l’importance reconnue de la diversité et de l’inclusion, il existe une lacune dans la littérature quant à la manière dont ces principes peuvent être mis en pratique dans les systèmes d’IA. FoschVillaronga et Poulsen [15] définissent la D&I dans l'IA comme un concept à multiples facettes qui aborde à la fois les aspects techniques et socioculturels de l'IA. Ils mettent en avant la diversité en tant que représentation des individus concernant les différentiels de pouvoir sociopolitiques tels que le sexe et la race. L'inclusion, suggèrent-ils, est la représentation d'un utilisateur individuel au sein d'un ensemble d'instances, avec un meilleur alignement entre un utilisateur et les options qui le concernent, indiquant une plus grande inclusion. Ce concept est ensuite analysé à trois niveaux : le technique, la communauté et l'utilisateur. Le niveau technique examine si les algorithmes prennent en compte toutes les variables nécessaires et s'ils classent les utilisateurs de manière discriminatoire. Le niveau communautaire examine la diversité et l’inclusivité au sein des équipes de développement de l’IA, en examinant la représentation des genres et la diversité des origines. Enfin, le niveau utilisateur se concentre sur les utilisateurs prévus du système et sur la manière dont le processus de recherche et de mise en œuvre prend en compte les parties prenantes et leurs commentaires, en mettant l'accent sur les principes de recherche et d'innovation responsables.  Le manque d’une définition complète de la D&I en IA dans la littérature existante nous a motivé à proposer une définition normative et un ensemble de lignes directrices pour garantir que ces principes sont incorporés dans le processus de développement de l’IA. Nous avons recherché et reçu des commentaires de manière itérative sur la définition et les lignes directrices de la part d'experts en IA responsable et en D&I [16]. Nous nous sommes concentrés sur une perspective socio-technologique, reconnaissant que la lutte contre les préjugés et l'injustice nécessite une approche holistique qui prend en compte les dynamiques et les normes culturelles et implique les utilisateurs finaux et d'autres parties prenantes. Nous avons défini la D&I dans l'IA comme : « l'inclusion » d'humains avec des attributs et des perspectives « divers » dans les données, les processus, le système et la gouvernance de l'écosystème de l'IA. La diversité fait référence à la représentation des différences d'attributs des humains dans un groupe ou une société. Les attributs sont des facettes connues de la diversité, y compris (mais sans s'y limiter) les attributs protégés par l'article 26 du Pacte international relatif aux droits civils et politiques (PIDCP), ainsi que la race, la couleur, le sexe, la langue, la religion, l'origine nationale ou sociale. , la propriété, la naissance ou tout autre statut, et les intersections de ces attributs. L'inclusion est le processus d'implication et de représentation proactive des humains les plus pertinents dotés de divers attributs ; ceux qui sont touchés et ont un impact sur le contexte de l’écosystème de l’IA.  Nous avons proposé que la diversité et l'inclusion dans l'IA puissent être structurées et conceptualisées autour de cinq piliers : les humains, les données, les processus, le système et la gouvernance. Le pilier humain met l’accent sur l’importance d’inclure des individus dotés d’attributs divers à toutes les étapes du développement de l’IA. Le pilier des données souligne la nécessité d’être conscient des biais potentiels dans la collecte et l’utilisation des données. Le pilier processus met l’accent sur la nécessité de prendre en compte la diversité et l’inclusion lors du développement, du déploiement et de l’évolution des systèmes d’IA. Le pilier système reconnaît la nécessité de tester et de surveiller le système d’IA pour garantir qu’il ne favorise pas des comportements non inclusifs. Le pilier de gouvernance souligne l’importance des structures et des processus qui garantissent que le développement de l’IA est conforme aux principes éthiques, aux lois et aux réglementations. L'écosystème d'IA fait référence aux 5 piliers (humains, données, processus, système et gouvernance), ainsi qu'à l'environnement (c'est-à-dire le domaine d'application), au sein duquel le système d'IA est déployé et utilisé.  Cet article est   sous licence CC 4.0. disponible sur arxiv

Part of HackerNoon's growing list of open-source research papers, promoting free access to academic material.

Read My Stories

No technological innovation comes without sacrifice. The pendulum will swing back to the people! Wanna' be 501c3.

Reckoning's Blog

Cet audio est produit dans la langue originale de l'histoire !

Définir la diversité et l'inclusion dans l'IA

About Author

COMMENTAIRES

ÉTIQUETTES

CET ARTICLE A ÉTÉ PARU DANS

Related Stories

Valhalla de Floki se joint en tant que sponsor associé de la tournée indienne au Sri Lanka

Vous voulez gagner un concours d’écriture HackerNoon ? Voici ce que recommandent les gagnants du concours #crypto-api

Créer des produits cryptographiques centrés sur l'utilisateur : l'importance des retours clients

Les couches invisibles : pourquoi les entretiens avec les utilisateurs sont un atout irremplaçable

Valhalla de Floki se joint en tant que sponsor associé de la tournée indienne au Sri Lanka

Vous voulez gagner un concours d’écriture HackerNoon ? Voici ce que recommandent les gagnants du concours #crypto-api

Créer des produits cryptographiques centrés sur l'utilisateur : l'importance des retours clients

Les couches invisibles : pourquoi les entretiens avec les utilisateurs sont un atout irremplaçable

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps