A Apple retirou alguns aplicativos de IA da App Store que são capazes de gerar imagens. Segundo um relatório do portal 404 Media, essas aplicações foram removidas devido à possibilidade de criarem imagens de nudez. Inclusive, o relatório foi o que auxiliou a maçã a encontrar esses programas.

Tudo começou com anúncios dos apps no Instagram, promovidos como ferramentas que conseguem despir qualquer foto de mulher de graça. Inclusive, algumas dessas propagandas continham links que levavam o usuário diretamente para a página do aplicativo na App Store, descrito apenas como “gerador de arte”.

A Apple foi atrás da 404 Media por mais informações a respeito dessa situação. Dessa forma, os links das aplicações e dos anúncios foram enviados para a companhia, que tratou de remover os apps da loja. Veja um trecho do relatório a seguir:

A Apple removeu vários aplicativos de geração de imagens de IA da App Store depois que a 404 Media descobriu que esses aplicativos anunciavam a capacidade de criar imagens de nudez não consensuais, um sinal de que os operadores da loja de aplicativos estão começando a tomar mais medidas contra esses tipos de aplicativos.

No geral, a Apple removeu três aplicativos da App Store, mas apenas depois que fornecemos à empresa links para os aplicativos específicos e seus anúncios relacionados, indicando que a empresa não foi capaz de encontrar os aplicativos que violaram sua própria política.

Existe a tendência de que essa ação seja aplicada mais vezes pela Apple. Então, vamos continuar observando os próximos capítulos dessa história.

Confira também: como gerar imagens usando a IA do Bing e também o Gemini, do Google.