Quando a Inteligência Artificial discrimina as mulheres (e quando as protege)

A gigante Amazon percebeu que o sistema de inteligência artificial experimental que usava para fazer recrutamento era parcial quanto ao género dos candidatos, dando preferência aos homens. Mas já existem empresas que utilizam a IA para selecionar candidatos de uma forma mais justa.

A ferramenta de inteligência artificial aplicada ao recrutamento usada pela Amazon estava a discriminar os currículos femininos nos processos de seleção.

O mundo está em constante evolução e com ele evolui também a forma como as empresas recrutam. De acordo com a Reuters, a Amazon pôs fim a uma ferramenta experimental de recrutamento utilizada pela empresa. O sistema utilizava inteligência artificial e funcionava a partir de 500 modelos de computador criados, em 2014, por uma equipa de engenheiros para analisar funções de trabalho específicas. A equipa ensinou cada um dos computadores a reconhecer e analisar cerca de 50,000 termos que apareciam nos currículos de antigos candidatos à empresa

Porém, em 2015, a Amazon apercebeu-se de que o sistema, que classificava candidatos a cargos de software developers e a outros cargos técnicos, era parcial quanto ao género. Os computadores analisavam os candidatos tendo por base os padrões observados nos currículos que foram submetidos à empresa ao longo de dez anos, sendo que estes, na sua maioria, pertenciam a homens. Segundo a Reuters, a escolha de candidatos chegava mesmo a ter por base uma pontuação com escala de 0 a 5 estrelas, semelhante ao método de pontuação dada pelos consumidores aos produtos vendidos no site da empresa.

O problema é que o próprio sistema aprendeu, sozinho, a dar preferência a candidatos masculinos, descartando currículos que continham a palavra “mulher” ou candidatas que se tinham formado em universidades só para mulheres. Apesar dos esforços da Amazon em editar e tornar o programa neutro, nada garantia à multinacional norte-americana que o sistema não aprendesse outras formas de continuar a ser parcial quanto à escolha de candidatos.

Por fim, no início do ano passado, a Amazon terminou o projeto, que tinha como objetivo, segundo fonte da Reuters, “desenvolver uma inteligência artificial que pudesse rapidamente rastrear a internet e localizar candidatos que valessem a pena recrutar”.

De acordo com um estudo da CareerBuilder, 55% dos diretores de Recursos Humanos entrevistados para o estudo admitem que a inteligência artificial será parte integrante no seu trabalho nos próximos cincos anos e mais de 1 em cada 10 diretores de RH (13%) notam que a inteligência artificial está já presente no seu departamento.

Mas já existem casos que demonstram como este processo poderá estar no bom caminho. Um ótimo exemplo da aplicação de inteligência artificial nos processos de recrutamento é a Clustree, uma empresa francesa criada em 2013 que promete revolucionar a forma como as empresas contratam. Por detrás da marca está Bénédicte de Raphélis Soissan, fundadora e CEO da empresa, que este ano figura no Europe’s Top 50 Women in Tech 2018 da Forbes. A Clustree oferece às empresas uma solução Saas (Software as a service) que aplica a inteligência artificial à eliminação de qualquer tipo de enviesamento nos processos de recrutamento ou promoção dos colaboradores, incluindo discriminação de género. Segundo a CEO, o objetivo é “acabar com os estereótipos e os preconceitos acerca dos perfis e das carreiras. O conjunto de possibilidades é vasto e a transversalidade deve ser promovida na evolução das carreiras e na diversidade de perfis”. Com apenas cinco anos de existência, a Clustree conta já com clientes como a L’Oréal, Sanofi e Carrefour.