Por que mais diversidade em papéis competitivos de IA requer a reinvenção do pipeline de estágio

Abordar os preconceitos em nossos sistemas de inteligência artificial é um dos desafios mais urgentes da era atual. Por quê? Porque as consequências dos vieses nesses sistemas são, na melhor das hipóteses, problemáticas e, na pior, mortais .

Depois de quase 2 décadas de experiência como engenheiro profissional, vejo a inteligência artificial como um espelho sendo apontado para a humanidade. Afinal, os sistemas de IA aprendem com os dados gerados pelas decisões humanas, então eles estão simplesmente refletindo de volta para nós os vieses de nossa própria sociedade codificados e amplificados em nossa tecnologia.

Em um exemplo infame de 2015 , um engenheiro do Google notou que o sistema de reconhecimento de imagem da empresa estava rotulando os negros como “gorilas”. Quando esses sistemas, por exemplo, passam a ser usados para treinar os veículos autônomos da Tesla , sua incapacidade de identificar com precisão humanos com tons de pele mais escuros pode ter resultados fatais.

Embora assustadores, esses exemplos não devem significar que devemos perder toda a esperança no desenvolvimento da tecnologia habilitada para IA. Na verdade, existem muitas ferramentas que as equipes de engenharia podem usar para identificar e remover vieses em seus dados e modelos algorítmicos, a fim de evitar resultados injustos e desastrosos.

A chave, no entanto, começa com a diversidade entre os membros das próprias equipes encarregadas de construir os sistemas de IA que moldam nosso presente e futuro.

Construir equipes de IA com representação diversificada em raça, gênero, orientação sexual, idade, condições econômicas e muito mais cria sistemas de IA mais precisos e éticos. Quanto mais pessoas de diferentes formações você tiver trabalhando com dados, mais provável será que a equipe seja capaz de identificar o viés antes que seja tarde demais. A diversidade também impulsiona o pensamento mais criativo, bem como melhora sua capacidade de escalar para mercados maiores e mais amplos.

Como contratar uma equipe de IA mais diversificada

Tal como está, as empresas de tecnologia carecem severamente de diversidade. Um estudo de 2019 do AI Now Institute descobriu que menos de 5% da força de trabalho nas principais empresas de tecnologia eram negros ou latinos. Enquanto isso, a população dos EUA é composta por 13,4% de negros e 18,4% de latinos.

As explicações para essas lacunas podem ser atribuídas a uma infinidade de fatores - incluindo barreiras históricas e estruturais enfrentadas por estudantes pertencentes a minorias e possíveis candidatos a empregos.

Os dados mostram que até 80% dos alunos negros, latinos, indígenas, de primeira geração e de baixa renda que iniciam um curso de ciência da computação abandonam o programa.

Usando esses dados, optamos por intervir em um ponto-chave ao longo da trajetória de um aluno - no início de seus anos de faculdade - e construir uma programação para apoiar seu investimento contínuo em ciência da computação e eventual sucesso na obtenção de um diploma, bem como entrar em estágios competitivos e plenos funções de software técnico em tempo integral.

É fundamental que os estágios remunerados que desenvolvam habilidades práticas, conexões e confiança sejam realizados no início e ao longo da jornada de aprendizado do aluno.

O objetivo desses primeiros estágios, que são projetados especialmente para juniores em ascensão, é fornecer a muitos alunos sub-representados experiência técnica e apoio no início de suas carreiras universitárias, antes que eles decidam desistir ou mudar de curso.

Por exemplo, o programa de Estágio de Verão para Excelência em Tecnologia (SITE) para alunos sub-representados de CS já teve sucesso com quase 86% dos graduados de 2021 garantindo oportunidades de estágio remunerado no primeiro ano. Outro programa de pré-estágio chamado Futureforce Tech Launchpad está começando com sua primeira coorte de 25 pré-estagiários em junho.

Essas empresas e outras são algumas das líderes que moldarão o futuro da inteligência artificial em que estamos entrando, e é por isso que é essencial que elas empreguem diversidade em suas equipes de produto.

Mas mesmo que uma empresa não esteja trabalhando diretamente com IA, provavelmente a está usando para contratação , o que significa que provavelmente há exclusões continuamente incorporadas ao software usado para avaliar talentos em potencial.

Isso apenas demonstra ainda mais a necessidade de mais pontes centradas no ser humano - promovendo relacionamentos e fornecendo orientação - entre candidatos de engenharia sub-representados sólidos e profissionais de tecnologia em atividade.

A IA está em toda parte. E, a menos que comecemos a recrutar intencionalmente equipes mais diversificadas para projetá-lo e construí-lo, continuaremos a ver efeitos problemáticos e perigosos dessa tecnologia em nosso mundo.

No entanto, por meio de parcerias intersetoriais - reunindo universidades, empresas de tecnologia e outras organizações sem fins lucrativos - podemos reinventar o canal para a força de trabalho de tecnologia e talvez começar a ver um mundo mais igualitário refletido em nós através do espelho da inteligência artificial que construímos. .