A IA que escolhe currículos

Uma rede de varejo implantou uma ferramenta de IA que lê currículos e classifica candidatos para 3.000 vagas por ano. O RH está satisfeito com a velocidade. Um gerente percebe que quase nenhuma candidata com mais de 45 anos tem chegado às entrevistas. O fornecedor diz que o modelo é "neutro" porque não usa idade nem gênero.

Confiar na neutralidade declarada pelo fornecedor ou auditar o sistema?