A Inteligência Artificial (IA) pode ser utilizada para ajudar pessoas durante emergências, praticar idiomas e muitas outras coisas boas. Por outro lado, 15 adolescentes foram condenados no tribunal da Espanha por usar uma IA para criar imagens eróticas de garotas menores de idade.

O caso começou a ser investigado pela polícia em setembro de 2023 após pais das vítimas relatarem que imagens de suas filhas nuas eram compartilhadas no WhatsApp desde julho.

A mãe de uma das vítimas disse à Reuters:

Muitas meninas estavam completamente apavoradas e tinham tremendos ataques de ansiedade porque estavam sofrendo isso em silêncio. Elas se sentiam mal e tinham medo de contar e serem culpadas por isso.

A mãe de uma das vítimas deu o seguinte depoimento ao The Guardian:

É um choque quando você vê. A imagem é completamente realista (...) Se eu não conhecesse o corpo da minha filha, teria pensado que aquela imagem era real.

O caso envolve 20 acusações de abuso infantil por criações de imagens usando IA e ofensas à integridade moral de suas vítimas.

A sentença observa que foi provado que os menores usaram aplicativos de inteligência artificial para obter imagens manipuladas de [outros menores], retirando rostos originais de meninas de seus perfis de mídia social e sobrepondo essas imagens aos corpos de corpos femininos nus. As fotos manipuladas foram compartilhadas em dois grupos de WhatsApp.

As famílias e as vítimas foram representadas pela Associação de Malvaluna, que afirma que o caso tem implicações para toda a sociedade, evidenciando a necessidade da educação sexual adequada nas escolas para que crianças não aprendam sobre sexo com a pornografia, o que apenas "gera mais machismo e violência".

Os adolescentes com idade entre 13 e 15 anos foram condenados em 20 de junho pelo Tribunal de Menores de Badajoz. A pena é de um ano de liberdade condicional e participar de aulas de conscientização de gênero e igualdade sobre "uso responsável da tecnologia."

A lei espanhola determina que menores de 14 anos não podem ser acusados formalmente, então seus casos são enviados para serviços de proteção à criança, que podem aplicar penas com cursos de reabilitação.

No Brasil, o compartilhamento não autorizado de imagens íntimas é crime desde 2018, segundo a Lei 13.718.