O Google anunciou um novo recurso baseado em inteligência artificial para proteger usuários mais jovens em suas plataformas, incluindo o YouTube. A empresa começará a testar um modelo de aprendizado de máquina que pode estimar se um usuário tem menos de 18 anos com base em seu histórico de pesquisa, preferências de vídeo e idade da conta.

Não é de hoje que surgem relatos de crianças sendo expostas a conteúdo adulto nas plataformas do Google, principalmente no YouTube. Mesmo que a gigante da tecnologia já possua inúmeras ferramentas para tentar mitigar casos como este, novas soluções continuam surgindo constantemente e a IA pode ser uma forte aliada no desenvolvimento destes recursos.

Caso a IA identifique um usuário como menor de idade, filtros apropriados serão aplicados para restringir o acesso a conteúdo adulto, proporcionando uma experiência mais segura. Esse recurso faz parte dos esforços da empresa para reforçar a segurança infantil e será testado nos Estados Unidos ainda este ano, com uma expansão global prevista para 2026.

O YouTube também receberá uma nova ferramenta para filtrar conteúdo adulto de espectadores mais jovens, utilizando a mesma tecnologia de IA para prever se o usuário é menor de idade e aplicar as restrições de conteúdo conforme necessário.

Além disso, o Google está ampliando seus controles parentais. O recurso "School Time", antes exclusivo para smartwatches, será disponibilizado em celulares e tablets Android. Com ele, os pais poderão limitar quais aplicativos e funções seus filhos podem acessar durante o horário escolar, minimizando distrações.

Outra novidade é o alerta de conteúdo sensível no Google Mensagens. O recurso será ativado automaticamente para menores de 18 anos, com opções de controle parental para contas supervisionadas, enquanto será opcional para adultos por meio das configurações do Android.

Em paralelo, o Google removeu recentemente seu compromisso de não utilizar IA para fins militares ou de vigilância, afirmando a necessidade de participar de discussões globais e contratos governamentais. A empresa argumenta que essa mudança contribuirá para avanços em cibersegurança e biologia, embora críticos vejam isso como uma contradição aos padrões éticos estabelecidos em 2018 para evitar usos prejudiciais da tecnologia.

O que você achou dessas novidades no Google?