Algoritmo de RH: IA de recrutamento cria ‘rejeição em série’ de candidatos

Concentração de tecnologias de IA no mercado de trabalho

Um estudo do Stanford HAI revela que a concentração de ferramentas de inteligência artificial nas mãos de poucos fornecedores está criando uma espécie de barreira invisível no mercado de trabalho.

• As tecnologias de IA estão perpetuando o preconceito racial;
• Estão gerando rejeições automáticas em cadeia para os mesmos candidatos em diferentes empresas.

Rejeição em série e o monopólio da IA

A dependência de um mesmo software cria uma ‘monocultura’ que pune o candidato repetidamente.

• Quando várias empresas de um mesmo setor usam o mesmo sistema de IA para triagem, o candidato que recebe um ‘não’ na primeira tentativa corre o risco de ser barrado em todas as outras vagas;
• Isso ocorre de forma sistemática e automática, sem que uma pessoa sequer avalie seu currículo.

Estudo aponta que 10% dos candidatos que tentaram quatro vagas diferentes foram rejeitados em todas elas

Para os autores, o resultado acende um alerta: a concentração de mercado de um único fornecedor de IA está tirando a independência das empresas e eliminando as chances de segunda chance para os profissionais.

Cenário é muito pior do que na época em que a seleção era feita por humanos

Para provar essa tese, os pesquisadores compararam os dados atuais com um estudo anterior, feito com 83 mil candidaturas em empresas da Fortune 500 sem o uso de IA.

• A taxa de rejeição total seguia uma lógica independente;
• Ser rejeitado em uma empresa não significava, estatisticamente, que você seria rejeitado nas outras.

Falta de transparência em decisões que mudam vidas preocupa os pesquisadores

Os autores defendem que ferramentas de triagem por IA reúnem três características altamente perigosas:

• São adotadas em massa;
• Têm peso decisivo no futuro dos candidatos;
• Operam sob segredo comercial, sem qualquer auditoria pública ou independente.

Como o estudo foi feito

A pesquisa monitorou um volume massivo de 4 milhões de candidaturas de emprego nos EUA.

• Os cientistas analisaram o comportamento de 3,4 milhões de profissionais disputando 1.700 vagas em 150 grandes empresas;
• Todas as inscrições passaram por um único software terceirizado de IA que rotulava o candidato simplesmente como ‘recomendar’ ou ‘não recomendar’.

Sistema de inteligência artificial apresentou indícios claros de discriminação racial

Para medir esse desvio, os pesquisadores usaram a mesma regra matemática que a Comissão de Igualdade de Oportunidades de Emprego dos EUA utiliza para fiscalizar violações da legislação trabalhista e de direitos civis no país.

• Pelo menos 40 mil candidaturas de minorias foram descartadas pela IA;
• O algoritmo barrou sistematicamente candidatos negros e asiáticos.