O YouTube anunciou hoje (14) novas restrições para publicação de vídeos com conteúdo gerado por inteligência artificial. A partir de agora, criadores serão obrigados a dizer quando seus vídeos tiverem este tipo de conteúdo para evitar que os visualizados sejam enganados.

As novas exigências já foram integradas ao Creator Studio do YouTube que foi lançado no Brasil recentemente. Nas etapas para publicar um vídeo o usuário é questionado se o material tem algum conteúdo que possa ser confundido com uma pessoa, local ou evento alterado com inteligência artificial, tais como deepfakes.

Contextualizando melhor, um deepfake é quando uma pessoa tem seu rosto removido ou alterado em um vídeo para se parecer com outra ou ainda parecer que está dizendo algo que nunca falou realmente.

Embora esta tecnologia possa parecer divertida para alguns fins, ela representará um grande perigo durante as eleições presidenciais dos EUA, pois pessoas podem falsificar vídeos de candidatos.

Caso o vídeo tenha algum elemento realista gerado com inteligência artificial, o YouTube adicionará um rótulo para que os usuários saibam que aquele conteúdo não é real. Os rótulos serão exibidos inicialmente no aplicativo para Android e iOS, mas também serão adicionados ao YouTube para desktop e TV em breve.

Os indicadores de vídeos com IA serão mostrados no player e na descrição, mas vídeos que abordarem tópicos sensíveis como notícias, saúde e política terão rótulos mais proeminentes para que os telespectadores não sejam enganados imaginando que as cenas ou acontecimentos são reais.

No mesmo setor, a OpenAI, dona do ChatGPT, também está tomando medidas para combater o uso da ferramenta para criação de fake news durante as eleições nos EUA.