Pourquoi une plus grande diversité dans les rôles compétitifs en IA nécessite la réinvention du pipeline de stages

Lutter contre les préjugés dans nos systèmes d'intelligence artificielle est l'un des défis les plus urgents de l'ère actuelle. Pourquoi? Parce que les conséquences des biais dans ces systèmes sont au mieux problématiques et au pire mortelles .

Après près de 2 décennies d'expérience en tant qu'ingénieur professionnel, je considère l'intelligence artificielle comme un miroir tendu à l'humanité. Après tout, les systèmes d'IA apprennent à partir des données générées par les décisions humaines, ils nous renvoient donc simplement les préjugés de notre propre société encodés et amplifiés dans notre technologie.

Dans un exemple tristement célèbre de 2015 , un ingénieur de Google a remarqué que le système de reconnaissance d'images de l'entreprise qualifiait les Noirs de "gorilles". Lorsque ces systèmes, par exemple, sont utilisés pour former les véhicules autonomes de Tesla , leur incapacité à identifier avec précision les humains à la peau plus foncée peut avoir des conséquences mortelles.

Bien que terrifiants, ces exemples ne doivent pas signifier que nous devons perdre tout espoir dans le développement futur de la technologie basée sur l'IA. En fait, il existe de nombreux outils que les équipes d'ingénierie peuvent utiliser pour identifier et supprimer les biais dans leurs données et leurs modèles algorithmiques afin d'éviter des résultats injustes et désastreux.

La clé, cependant, commence par la diversité au sein des membres des équipes elles-mêmes chargées de construire les systèmes d'IA qui façonnent notre présent et notre avenir.

Construire des équipes d'IA avec une représentation diversifiée selon la race, le sexe, l'orientation sexuelle, l'âge, les conditions économiques, etc., rend les systèmes d'IA plus précis et éthiques. Plus vous avez de personnes d'horizons différents travaillant avec des données, plus il est probable que l'équipe sera en mesure de détecter les biais avant qu'il ne soit trop tard. La diversité stimule également une réflexion plus créative et améliore votre capacité à évoluer vers des marchés plus vastes et plus larges.

Comment embaucher une équipe d'IA plus diversifiée

Dans l'état actuel des choses, les entreprises technologiques manquent cruellement de diversité. Une étude réalisée en 2019 par l'AI Now Institute a révélé que moins de 5 % de la main-d'œuvre des principales entreprises technologiques étaient noires ou latines. Pendant ce temps, la population américaine est composée de 13,4% de Noirs et de 18,4% de Latinx.

Les explications de ces écarts peuvent être attribuées à une multitude de facteurs - y compris les obstacles historiques et structurels auxquels sont confrontés les étudiants issus de minorités et les candidats potentiels à un emploi.

Les données montrent que jusqu'à 80 % des étudiants noirs, latins, autochtones, de première génération et à faible revenu qui commencent un diplôme en informatique abandonnent leur programme.

À l'aide de ces données, nous avons choisi d'intervenir à un moment clé de la trajectoire d'un étudiant - au début de ses années universitaires - et de créer une programmation pour soutenir son investissement continu dans l'informatique et sa réussite éventuelle à obtenir un diplôme ainsi qu'à participer à des stages compétitifs et à -temps rôles logiciels techniques.

Il est essentiel que les stages rémunérés qui renforcent les compétences pratiques, les relations et la confiance soient intégrés au début et tout au long du parcours d'apprentissage d'un étudiant.

L'objectif de ces premiers stages, qui sont spécialement conçus pour les juniors en devenir, est de fournir à de nombreux étudiants sous-représentés une expérience technique et un soutien au début de leur carrière universitaire avant qu'ils ne décident d'abandonner ou de changer de majeure.

Par exemple, le programme de stages d'été pour l'excellence technologique (SITE) destiné aux étudiants CS sous-représentés a déjà connu du succès, près de 86 % des diplômés de 2021 ayant obtenu des opportunités de stages rémunérés en première année. Un autre programme de pré-stage appelé Futureforce Tech Launchpad démarre avec sa première cohorte de 25 pré-stagiaires en juin.

Ces entreprises et d'autres font partie des leaders qui façonneront l'avenir de l'intelligence artificielle dans laquelle nous entrons, c'est pourquoi il est essentiel qu'elles emploient la diversité dans leurs équipes de produits.

Mais même si une entreprise ne travaille pas directement sur l'IA, elle l'utilise probablement pour l'embauche , ce qui signifie qu'il y a probablement des exclusions continuellement intégrées dans le logiciel utilisé pour évaluer les talents potentiels.

Cela ne fait que démontrer davantage le besoin de passerelles plus centrées sur l'humain - favorisant les relations et offrant un mentorat - entre les candidats ingénieurs solides sous-représentés et les professionnels de la technologie en activité.

L'IA est partout. Et à moins que nous ne commencions à recruter intentionnellement des équipes plus diversifiées pour le concevoir et le construire, nous continuerons à voir les effets problématiques et dangereux de cette technologie sur notre monde.

Cependant, grâce à des partenariats intersectoriels - réunissant des universités, des entreprises technologiques et d'autres organisations à but non lucratif - nous pouvons réinventer le pipeline vers la main-d'œuvre technologique et peut-être commencer à voir un monde plus équitable se refléter sur nous à travers le miroir de l'intelligence artificielle que nous construisons. .