Nas últimas semanas, tem rodado na internet uma série de imagens falsificadas por Inteligência Artificial, para tentar levar informações enganosas ao público – uma nova forma de Fake News.

Entre os principais exemplos, há fotos de um suposto casaco caro vestido pelo Papa Francisco, além de imagens que mostrariam o ex-presidente americano Donald Trump sendo preso pela polícia local.

Afinal, como é possível identificar esses registros falsificados por meio de IA? O Detetive TudoCelular desvenda esses casos a você.

Uma das fotos circuladas no último final de semana mostra o Papa Francisco usando um casaco que custaria em torno de US$ 4 mil, com um crucifixo por cima. Ela foi publicada em um perfil do Reddit.

No caso desta foto, há uma série de características que já sinalizam para a falta de veracidade. Entre elas, estão o fundo com desfoque excessivo e outras partes que apresentam borrões.

Além disso, não há simetria no tamanho dos braços – notado pelo fato de uma mão estar mais a mostra que a outra – nem no rosto. Outros elementos também estão misturados à pele, como a própria gola do casaco.

Depois de Donald Trump dizer aos seus apoiadores que seria preso por acusações em decorrência de um suborno de uma atriz pornô com a qual teria se relacionado de forma extraconjugal, com dinheiro de campanha, imagens começaram a circular com a imagem do ex-presidente americano em uma situação de fuga dos agentes.

Apesar de a Justiça de Nova York ainda analisar os possíveis delitos de Trump – declarações falsas e violação às leis de financiamento de campanha –, o ex-presidente não chegou a ser preso, como mostram as imagens. Mas como reconhecer isso nas próprias montagens?

Em uma delas, é possível notar que o braço de Donald está muito pequeno. Além disso, a sua mão direita – supostamente segurada pelos policiais – não tem aspectos de um membro humano, e sim de uma espécie de garra.

Sem contar que a cabeça de Trump está nitidamente sobreposta à imagem, tanto por uma assimetria do pescoço em relação ao corpo, quanto em relação à iluminação e à textura desse elemento, em relação aos demais da imagem.

Trump rezando?

Para entender que este não é um movimento sem intenções, basta conferir uma imagem falsa criada por Inteligência Artificial que foi divulgada pelo próprio Donald Trump, em sua plataforma Truth Social.

Na foto enganosa, o ex-presidente norte-americano aparece de joelhos, enquanto rezava. Ou seja, uma estratégia para mobilizar os apoiadores, sem compromisso com a verdade.

O segredo por trás de todas essas imagens consiste no Midjourney, uma ferramenta de Inteligência Artificial desenvolvida por um laboratório de pesquisa com o mesmo nome. É por meio desse serviço que as fotos falsificadas têm sido criadas.

Ele tem como principal recurso a geração de imagens por meio de descrição em linguagem natural – os chamados prompts. O funcionamento se assemelha ao DALL-E, da OpenAI, e ao Stable Diffusion, da Stability AI.

Com a utilização de IA, o Midjourney é capaz de inventar fotos com maior realismo, tanto no plano de fundo quanto nos elementos em destaque. No entanto, como foi possível observar, as criações não são perfeitas e podem conter falhas perceptíveis para não se deixar enganar.

A existência de ferramentas que utilizem linguagem natural para a criação de imagens falsas torna essa realidade muito mais comum do que anteriormente. Mesmo que essa prática existisse há algum tempo no passado, demandava alguém com conhecimento para realizar as montagens.

Hoje, esse cenário mudou. Com soluções automatizadas por meio de IA mais avançada, qualquer pessoa pode solicitar a criação de uma foto falsificada, apenas por meio de contexto nos já mencionados “prompts”.

O resultado disso consiste em cada vez mais existir manipulação da opinião pública, ao exibir imagens que não condizem com a realidade. Assim, é gerada uma onda de conteúdos falsos nas redes sociais, com foco em confundir a sociedade.

Basta constatar que, apesar de não ser veiculado em qualquer veículo de imprensa como fato, muitas pessoas podem ter acreditado na prisão de Trump, ou mesmo que o Papa Francisco utilizou um casaco de luxo, sem que isso tenha ocorrido.

A saída para isso está em políticas das mídias sociais para identificar e banir qualquer tipo de conteúdo potencialmente enganoso. Bem como uma conscientização maior da população para a identificação desses detalhes contraditórios, como os elementos presentes nos exemplos citados.

Qual é a sua avaliação sobre as imagens falsas criadas por IA? Participe conosco!