Comment le problème de biais de l’IA peut affecter votre prochaine candidature

Les demandeurs d'emploi dans le secteur technologique sont bloqués par les préjugés de l'IA lorsque postuler à des postes . Même si pour les professionnels des ressources humaines, la génération IA présente un grand potentiel lorsqu’il s’agit d’automatiser des tâches fastidieuses, sa tendance à la partialité reste une source d’inquiétude.

Les biais de l’IA dans le recrutement surviennent lorsque les systèmes et les outils utilisés pour filtrer et sélectionner les candidats perpétuent par inadvertance, voire amplifient, les préjugés existants.

Ces biais proviennent souvent des données sur lesquelles ces systèmes sont formés, qui peuvent refléter des préjugés sociétaux ou des modèles d'embauche historiques favorisant certaines données démographiques par rapport à d'autres.

Parfois, les biais de l’IA sont dus à la conception elle-même, reflétant les préjugés inconscients de ses développeurs, tandis que les boucles de rétroaction signifient que si un système choisit systématiquement des candidats issus d’horizons similaires, il continuera de le faire à moins qu’il ne soit corrigé.

Les préjugés intégrés peuvent avoir un impact sur votre recherche d'emploi significativement. Alors que les préjugés sur les systèmes de suivi des candidats (ATS), qui analysent les CV à la recherche de mots-clés dans les spécifications du poste et de mots-clés qui correspondent aux candidats retenus précédents, ont été largement signalés, un expérience récente montre à quel point les préjugés de l’IA peuvent être flagrants.

Les préjugés en action

En appliquant des noms fictifs mais « démographiquement distincts » à des CV également qualifiés, ChatGPT 3.5 a été invité à classer les candidats par rapport à une spécification d'emploi réelle pour un rôle d'analyste financier dans une entreprise réelle.

Les noms distincts de ceux des Noirs américains avaient moins de chances d'être répertoriés comme les meilleurs candidats ; les noms liés aux femmes asiatiques et aux hommes blancs ont généralement de meilleurs résultats.

Avec la vitesse vertigineuse du développement de l’IA, certains disent que cette expérience est déjà dépassée. Malheureusement, ce n'est pas le cas.

Bien que ChatGPT-4o soit en cours de déploiement et qu'OpenAI prétend l'avoir testé avec des spécialistes externes, il affirme également qu'il continuera à répondre aux préoccupations telles que la partialité, l'équité et la désinformation à mesure qu'elles se manifesteront. Des biais de signification existent toujours.

Que peuvent faire les demandeurs d’emploi pour contourner les préjugés liés à l’IA ?

Pour les demandeurs d'emploi, un petit examen de l'engagement d'une entreprise en faveur de la DE&I indiquera si elle est susceptible de se concentrer sur le dé biais de ses outils d'IA.

Avec la possibilité d'analyser des milliers de CV en quelques secondes, il est peu probable que les entreprises reviennent à l'examen manuel des CV, mais de nombreuses organisations ajoutent une couche de surveillance humaine dans les processus de sélection pour aider à atténuer les résultats biaisés de l'IA. Bien sûr, les humains ont aussi des préjugés, donc aucune méthode n’est infaillible.

D'autres équipes de recrutement utilisent des ATS qui masquent les noms et les niveaux d'éducation des candidats.

Vérifiez également si l’entreprise de votre choix est soucieuse d’avoir un niveau d’éducation particulier ; il y a plus de chances de biaiser l'IA si c'est le cas.

Bien sûr, dans des secteurs particuliers comme la médecine et la santé, les qualifications professionnelles sont très importantes, mais pour d’autres, comme le génie logiciel, les organisations peuvent adopter une approche de recrutement davantage basée sur les compétences.

Les ingénieurs et les développeurs sont souvent des STAR (compétents via des voies alternatives), alors recherchez les exigences basées sur l'expérience par rapport aux exigences de formation minimales dans les offres d'emploi.

Ingénieur DevOps, SAP, Bellevue

Sap recherche un Ingénieur DevOps être responsable de la livraison efficace et efficiente des environnements clients dans le Cloud des gammes de produits respectives, et garantir que la livraison est conforme aux accords de niveau de service définis.

Vous contribuerez également au développement de solutions automatisées pour la détection des anomalies et la correction automatique des incidents, surveillerez et mesurerez les systèmes pour la planification des performances, de la charge et de la capacité, et garantirez le bon fonctionnement des opérations et maximiserez la disponibilité.

Pour être pris en considération, vous aurez besoin d'au moins deux ans d'expérience dans Docker, Kubernetes, Jenkins, Ansible, Python et BASH, entre autres. En savoir plus ici .

Ingénieur logiciel senior - DevOps, Roku, San Jose, Californie

Offrant un salaire important, mais uniquement pour la Californie, Roku recrute pour un Ingénieur logiciel senior avec des compétences DevOps exceptionnelles. Les responsabilités incluent l'automatisation et la mise à l'échelle des piles technologiques Big Data et Analytics sur l'infrastructure Cloud, la création de pipelines CI/CD, la configuration de la surveillance et des alertes pour l'infrastructure de production et la mise à jour de ses piles technologiques.

Avec l'éligibilité à l'assurance maladie, aux primes d'équité, à l'assurance vie, aux prestations d'invalidité, au congé parental, aux prestations de bien-être et aux congés payés, ce poste nécessite quatre ans d'expérience en DevOps et/ou en ingénierie de fiabilité. Lire la suite ici .

Ingénieur DevOps senior, FanDuel, Atlanta

Jouer un rôle central dans l'automatisation de l'infrastructure et des applications cloud de FanDuel Group en collaborant avec les ingénieurs logiciels, les ingénieurs de versions et d'autres équipes interfonctionnelles en tant que Ingénieur DevOps senior . Le candidat retenu dirigera des initiatives clés en développant, planifiant et mettant en œuvre des stratégies dans plusieurs domaines interfonctionnels qui correspondent à ses objectifs commerciaux.

Bien que l'accent soit mis principalement sur AWS, d'autres plates-formes cloud peuvent également être nécessaires. Il est donc important de démontrer un engagement en faveur du développement professionnel dans la technologie cloud. Progressivement, aucune exigence de formation n'est répertoriée, mais une liste d'expériences et de compétences souhaitées l'est. Voir les exigences ici .

Par Amanda Kavanagh