Depois de um caso em que o sistema de reconhecimento facial causou a injusta prisão de um homem negro em Detroit, nos Estados Unidos, o assunto voltou à discussão. O chefe de polícia da cidade, James Craig, afirmou durante uma reunião pública que a tecnologia, desenvolvida pela empresa DataWorks Plus, falha na maior parte das vezes em correspondência exata com um suspeito.

Segundo Craig, a empresa quase sempre identifica incorretamente as pessoas. Chama a atenção o fato de que, em Detroit, a imprecisão dos dados afeta quase que exclusivamente a população negra. Relatos da própria polícia mostram que, até o dia 22 de junho, a tecnologia foi utilizada 70 vezes e, em 68 delas a foto mostrada no sistema foi de um negro, e nas oytras duas, a etnia não foi identificada.

Em 31 dos 70 casos, as fotos inseridas no sistema foram capturadas de redes sociais, e em 18 casos, de câmeras de segurança. Craig afirma que o sistema tem um índice de falhas que chega a 96%, número bem maior do que o visto em Londres, onde o sistema erra 81% dos casos.

Se usássemos apenas o software para identificar suspeitos, não resolveríamos o caso em 95 a 97% das vezes. Isso se confiássemos apenas no software, o que é contra nossa política atual. Se usássemos apenas a tecnologia, sozinha, para identificar alguém, eu diria que em 96% dos casos a identificação seria incorreta".

James Craig, chefe de polícia de Detroit

Diversas cidades estadunidenses estão banindo o uso de software de reconhecimento facial pela polícia, enquanto Detroit decidiu regular seu uso, ou seja, é restrito e utilizado apenas como parte de uma investigação criminal em andamento.

O gerente geral da DataWorks Plus, Todd Pastrorini, disse em entrevista à Motherboard que a empresa não guarda estatísticas sobre a precisão de seu software, e também não fornece instruções específicas sobre seu uso para a polícia. Pastrorini vê seu software sendo demonizado pela mídia local.

Por outro lado, o capitão Ariq Tosqui, da polícia de Detroit, afirmou que gostaria de seguir utilizando reconhecimento facial, de forma a auxiliar os investigadores, mesmo admitindo que, na maioria das vezes que utilizou a tecnologia, ela não foi útil.