Como o problema de preconceito da IA pode afetar sua próxima candidatura a emprego

Os candidatos a emprego em tecnologia estão sendo bloqueados pelo preconceito da IA quando candidatando-se a funções . Embora para os profissionais de RH a geração AI tenha muito potencial quando se trata de automatizar tarefas tediosas, sua tendência ao preconceito continua sendo motivo de preocupação.

O preconceito da IA no recrutamento surge quando os sistemas e ferramentas usados para selecionar e selecionar candidatos perpetuam inadvertidamente ou até amplificam os preconceitos existentes.

Estes preconceitos resultam frequentemente dos dados em que estes sistemas são treinados, o que pode refletir preconceitos sociais ou padrões históricos de contratação que favorecem determinados grupos demográficos em detrimento de outros.

Às vezes, o preconceito da IA deve-se ao próprio design, refletindo preconceitos inconscientes dos seus desenvolvedores, enquanto os ciclos de feedback significam que, se um sistema escolher consistentemente candidatos de origens semelhantes, continuará a fazê-lo, a menos que seja corrigido.

O preconceito inerente pode impactar seu procura de emprego significativamente. Embora os relatórios tenham sido generalizados sobre preconceitos nos Sistemas de Rastreamento de Candidatos (ATS), que examinam currículos em busca de palavras-chave nas especificações do cargo e de palavras-chave que se alinham com candidatos anteriores aprovados, um experimento recente mostra o quão cruel o preconceito da IA pode ser.

Viés em ação

Ao aplicar nomes fictícios, mas “demograficamente distintos” a currículos igualmente qualificados, o ChatGPT 3.5 foi solicitado a classificar os candidatos em relação a especificações de trabalho reais para uma função de analista financeiro em uma empresa real.

Nomes distintos de negros americanos tinham menor probabilidade de serem listados como os melhores candidatos; nomes ligados a mulheres asiáticas e homens brancos geralmente tiveram melhor desempenho.

Com a velocidade vertiginosa do desenvolvimento da IA, alguns dizem que esta experiência já está desatualizada. Infelizmente, esse não é o caso.

Embora o ChatGPT-4o esteja sendo implementado e a OpenAI afirme tê-lo testado com especialistas externos, ela também afirma que continuará abordando questões como preconceito, justiça e desinformação à medida que vierem à tona. Significa que preconceitos ainda existem.

O que os candidatos a emprego podem fazer para contornar o preconceito da IA?

Para quem procura emprego, uma pequena investigação sobre o compromisso de uma empresa com DE&I indicará se é provável que se concentre em desviar as suas ferramentas de IA.

Com a capacidade de digitalizar milhares de currículos em segundos, é improvável que as empresas voltem a analisar apenas manualmente os currículos, mas muitas organizações estão adicionando uma camada de supervisão humana nos processos de triagem para ajudar a mitigar resultados tendenciosos de IA. É claro que os humanos também têm preconceitos, por isso nenhum método é infalível.

Outras equipes de contratação estão usando ATS que ocultam os nomes e os níveis de escolaridade dos candidatos.

Além disso, verifique se a empresa desejada está focada em ter um determinado nível de escolaridade; há uma chance maior de viés de IA, se for o caso.

É claro que, em setores específicos como a medicina e a saúde, as qualificações profissionais são muito importantes, mas para outros, como a engenharia de software, as organizações podem adotar uma abordagem de contratação mais baseada em competências.

Engenheiros e desenvolvedores costumam ser STARs (qualificados em rotas alternativas), portanto, procure requisitos baseados em experiência em vez de mínimos educacionais em anúncios de emprego.

Engenheiro DevOps, SAP, Bellevue

Sap está procurando um Engenheiro DevOps ser responsável pela entrega eficaz e eficiente dos ambientes do cliente em nuvem das respectivas linhas de produtos e garantir que a entrega esteja de acordo com os Acordos de Nível de Serviço definidos.

Você também contribuirá para o desenvolvimento de soluções automatizadas para detecção de anomalias e correção automática de incidentes, monitorará e medirá sistemas para planejamento de desempenho, carga e capacidade, além de garantir operações tranquilas e maximizar o tempo de atividade.

Para ser considerado, você precisará de pelo menos dois anos de experiência em Docker, Kubernetes, Jenkins, Ansible, Python e BASH, entre outros. Saiba mais aqui .

Engenheiro de software sênior - DevOps, Roku, San Jose, CA

Oferecendo um salário considerável, embora apenas para a Califórnia, Roku está contratando para um Engenheiro de software senior com habilidades excepcionais de DevOps. As responsabilidades incluem automação e dimensionamento de pilhas de tecnologia de Big Data e Analytics na infraestrutura de nuvem, construção de pipelines de CI/CD, configuração de monitoramento e alertas para infraestrutura de produção e manutenção de suas pilhas de tecnologia atualizadas.

Com elegibilidade para seguro saúde, prêmios de capital, seguro de vida, benefícios por invalidez, licença parental, benefícios de bem-estar e folga remunerada, esta função requer quatro anos de experiência em DevOps e/ou engenharia de confiabilidade. Leia mais aqui .

Engenheiro DevOps de equipe sênior, FanDuel, Atlanta

Desempenhar um papel fundamental na automatização da infraestrutura e aplicativos em nuvem do FanDuel Group, colaborando com engenheiros de software, engenheiros de lançamento e outras equipes multifuncionais como um Engenheiro DevOps Sênior . O candidato selecionado conduzirá iniciativas importantes, desenvolvendo, planejando e implementando estratégias em diversas áreas multifuncionais que se alinhem com seus objetivos de negócios.

Embora o foco principal esteja na AWS, outras plataformas de nuvem também podem ser necessárias, portanto, é importante demonstrar um compromisso com o desenvolvimento profissional em tecnologia de nuvem. Progressivamente, nenhum requisito educacional é listado, mas sim uma lista de experiências e habilidades desejadas. Veja os requisitos aqui .

Por Amanda Kavanagh