O cliente quer saber por que o crédito foi negado

Uma cooperativa de crédito usa um modelo de aprendizado de máquina para aprovar empréstimos automaticamente. Um cooperado teve o pedido negado e solicitou a revisão e a explicação dos critérios. A equipe de dados diz que o modelo é complexo demais para ser explicado e que revelar critérios ajudaria fraudadores.

Negar a explicação para proteger o modelo ou oferecer revisão e explicação compreensível?