O sistema de reconhecimento facial como ferramenta no combate ao crime foi amplamente adotado por uma série de países, inclusive o Brasil, como solução para encontrar suspeitos. Contudo, sempre houve uma preocupação com possíveis falhas no sistema e injustiças que possam decorrer desses erros.

E um exemplo claro disso foi aconteceu recentemente nos Estados Unidos. Em janeiro, um homem chamado Robert Williams foi preso por ter sua foto da carteira de motorista comparada com um vídeo de câmera de segurança que mostrava um roubo, e o sistema concluiu que a pessoa que aparecia no vídeo era Williams.

Na imagem, um indivíduo roubava uma loja e foi pego pelas câmeras de segurança, mas não era Robert, e sim um erro do sistema. Robert Williams só foi libertado quando os policiais reconheceram que o computador estava errado, isso um dia após sua prisão.

O caso gerou uma queixa da União Americana de Liberdades Civis de Michigan (ACLU) junto à polícia de Detroit, como a primeira prisão ilícita feita por identificação incorreta do sistema de reconhecimento facial, oferecido pela Rank One Computing.

Para a entidade que fez a denúncia, os fatos como o de Willians mostram que a tecnologia é falha, e os computadores não são competentes o suficiente para utilizarem o sistema, e pede que a polícia de Detroit parem de utilizar o sistema. A ACLU afirma que não está claro se a polícia teve provas adicionais antes de prender Williams, que é negro, na frente de sua esposa e filhas.

Amazon e Microsoft interromperam a venda de sistemas semelhantes para a polícia após protestos exigirem o fim das leis que visam acusar injustamente negros e outras minorias Ativistas afirmam que são necessárias mais precauções para diminuir incompatibilidades relacionadas a pessoas negras.