O algoritmo do YouTube recomendou vídeos promovendo armas, tiroteios em escolas e até mesmo um filme do serial killer Jeffrey Dahmer para contas de crianças e jovens gamers. A descoberta foi realizada por uma pesquisa liderada pelo Tech Transparency Project (TTP).

De acordo com os pesquisadores, o sistema de recomendação de vídeos do YouTube continua sendo um grande problema, uma vez que não há filtros efetivos.

Para provar que o caso é grave, os pesquisadores criaram quatro contas de teste no YouTube, sinalizando duas como meninos de nove anos e duas como meninos de 14 anos.

Em todos os casos, eles começaram a assistir playlists sobre videogames e não demorou muito para que o algoritmo começasse a recomendar conteúdo impróprio.

Os pesquisadores também descobriram que as contas que clicaram nos vídeos recomendados foram expostas a um volume significativamente maior de conteúdo relacionados à armas e tiros.

As recomendações incluíam vídeos mostrando tiroteios em escolas, instruções sobre como modificar armas de fogo para torná-las automáticas e até mesmo filmes impróprios.

Notadamente, muitos desses videos sequer deveriam estar no YouTube, uma vez que alguns infringem as próprias políticas da plataforma. Apesar disso, o material continua no ar sem que o Google tome qualquer iniciativa.

Por enquanto, o YouTube não comentou o assunto. Os autores do estudo destacam que é necessário que a plataforma melhore seu sistema de recomendação, principalmente no que diz respeito à exposição de jovens ao conteúdo violento.

A aplicação mais rigorosa das políticas e restrições de idade, juntamente com a transparência e a responsabilização contínua, são necessárias para garantir uma experiência de YouTube mais segura e responsável para os usuários jovens.