Google e Facebook são duas das empresas envolvidas no processo judicial movido pelo pai de uma das vítimas do ataque terrorista em Paris. As companhias são acusadas de permitir que extremistas façam seus discursos em suas redes sociais e recrutem mais jovens. Para resolver esse problema, está sendo utilizado um processo de remoção automática de publicações relacionadas ao extremismo, segundo a Reuters.

Normalmente, para que uma publicação seja removida é necessário a denunciar para que um funcionário da rede social verifique o conteúdo e decida se ele fere ou não alguma regra. Isso torna o processo lento e permite que terroristas atinjam muitas pessoas antes de ter a publicação removida. Com a automatização, esse processo leva no máximo algumas horas.

Como funciona?

O sistema procura por identificadores digitais que comprovem o conteúdo do vídeo e o deleta automaticamente. É a mesma técnica utilizada para detectar e apagar vídeos que utilizem conteúdos protegidos por copyright, por exemplo. Quanto mais publicações são removidas, maior fica o banco de dados, permitindo melhor reconhecimento de material extremista pelo sistema.

O método antigo, através de um funcionário analisando o conteúdo das publicações, continua sendo utilizado. Assim, é possível que publicações que passem pelo sistema sejam barradas ao chegar na análise feita por pessoas, aumentando as chances de publicações extremistas serem deletadas.

Nada foi comentado por nenhuma das empresas supostamente por receio de que terroristas descubram o método e achem alguma forma de burlar o sistema.

Não se sabe se é somente a Google e o Facebook que estão utilizando o sistema, mas espera-se que no futuro mais empresas o adotem. Até o momento, é especulado que serviços como YouTube e Google+ já contam com o processo automatizado.