LOADING...
Faça login e
comente
Usuário ou Email
Senha
Esqueceu sua senha?
Ou
Registrar e
publicar
Você está quase pronto! Agora definir o seu nome de usuário e senha.
Usuário
Email
Senha
Senha
» Anuncie » Envie uma dica Ei, você é um redator, programador ou web designer? Estamos contratando!

Acionistas devem votar contra venda de tecnologia de reconhecimento facial da Amazon

15 de abril de 2019 14

Atualização (15/04/19) - por JB

Os acionistas da Amazon manifestaram que votarão pela proibição da tecnologia de reconhecimento facial da empresa. Segundo informações mais recentes, eles são liderados pela organização Open MIC e devem pedir para que a empresa pare de vender ferramentas de aprendizado para outras companhias até que seja comprovado a segurança da solução.

a tecnologia não pode causar ou contribuir para violações reais ou potenciais dos direitos humanos

Para quem não se lembra, a tecnologia de reconhecimento facial da Amazon provocou polêmicas ao confundir alguns políticos estadunidenses com criminosos. De acordo com a União das Liberdades Civis Americanas (ACLU), o maior problema é que a solução possui dificuldade para identificar rostos de pessoas negras.


Em resposta aos problemas, a Amazon diz que sua tecnologia é importante para identificar criminosos e pessoas desaparecidas. Por isso, a empresa e a Microsoft defendem que tudo seja regulamentado e fiscalizado pelo governo:

É fundamental que qualquer legislação proteja os direitos civis e, ao mesmo tempo, permita a inovação contínua e a aplicação prática da tecnologia.

No entanto, a ACLU e outras organizações estão preocupadas com o possível uso da tecnologia para reprimir ativistas ou perseguir pessoas que se manifestam contra governos autoritários. Mesmo assim, a Amazon acredita que sua solução não deve ser banida por potencial uso indevido:

A nova tecnologia não deve ser banida ou condenada por causa de seu potencial uso indevido; em vez disso, deve haver um diálogo aberto, honesto e sincero entre todas as partes envolvidas para garantir que a tecnologia seja aplicada de maneira apropriada e que seja continuamente aprimorada.

A empresa de Jeff Bezos também pede que os acionistas reconsiderem seus votos. Isso porque, apesar de não ter nenhum efeito prático, o voto pela proibição da solução pode trazer constrangimento para a companhia, uma vez que o conselho é favorável a comercialização da tecnologia.

Texto original (27/07/18)

A ferramenta de reconhecimento facial da Amazon acabou sendo motivo de polêmica em um teste realizado pela pela ACLU (American Civil Rights Union, ou União Americana pelas Liberdades Civis). Isso porque o sistema identificou erroneamente 28 parlamentares dos Estados Unidos como criminosos.

Por conta disso, a ACLU acredita que o uso desse tipo de tecnologia pela polícia pode ser prejudicial, uma vez que o software de identificação facial repete os preconceitos raciais dos desenvolvedores que criam a ferramenta. Em um exemplo, 39% das pessoas negras foram consideradas criminosas, sendo que a taxa de erro entre brancos foi de apenas 5%.

Uma identificação - precisa ou não - pode custar às pessoas sua liberdade ou até mesmo suas vidas. O Congresso deve levar a sério essas ameaças, frear e promulgar uma moratória sobre o uso da lei no reconhecimento facial - disse a ACLU


Jacob Snow, advogado de tecnologia da ACLU, comentou que os testes comprovam que a tecnologia é um tanto ineficiente. Isso porque até mesmo condições adversas de iluminação, ângulo e idade do usuário quando a foto foi tirada podem influir no resultado:

É realmente difícil dizer se é um criminoso apenas com base na análise de fotos

Após a divulgação do ocorrido, os parlamentares negros enviaram uma carta para o CEO da Amazon, Jeff Bezos, expressando o quanto a tecnologia de sua empresa pode ser injusta com negros, imigrantes, latinos e outras minorias dos EUA.

Esse debate se torna ainda mais sério, uma vez que outras empresas de tecnologia como a Microsoft estão buscando a regulamentação do uso de ferramentas de reconhecimento facial no país.

Amazon se defende

A Amazon saiu em defesa do seu sistema de reconhecimento facial apontando alguns "erros" nos testes realizados pela ACLU. A gigante do comércio eletrônico aponta que os testes da ACLU foram realizados usando o limite de confiança padrão de 80%, sendo que o ideal é pelo menos um limite de 95% para aplicações policiais.

A empresa ainda afirmou que, em casos policiais, sempre é recomendado que seja feita uma análise humana para que qualquer medida injusta não seja tomada pelas autoridades. Mesmo assim, a ACLU afirma que esse não é um caso de "trapaça", mas sim de o quanto a tecnologia está preparada para lidar com casos reais e suas possíveis consequências em caso de erro.

Sérias preocupações foram levantadas sobre os perigos que o reconhecimento facial pode representar para a privacidade e os direitos civis. Especialmente se for usado como ferramenta de vigilância governamental


14

Comentários

Acionistas devem votar contra venda de tecnologia de reconhecimento facial da Amazon
Android

Melhores smartphones: TOP 10 do TudoCelular para você | Abril 2019

Especiais

Nada de Black Fraude! Ferramenta do TudoCelular desvenda ofertas falsas

Android

TOP 10 smartphones de elite com melhor desempenho | Guia do TudoCelular

Android

TOP 10 smartphones de elite com melhor autonomia | Guia do TudoCelular