Economia e mercado 15 Fev
Atualização (24/02/2024) - FM
O Google recentemente precisou desativar a função de criação de imagens de pessoas no Gemini após a inteligência artificial cometer erros na representação de figuras históricas em prol da diversidade étnico-racial, e agora, a empresa divulgou mais detalhes sobre os problemas que levaram à suspensão temporária da ferramenta.
Em uma publicação em seu blog oficial na sexta-feira (24), o Google admitiu os erros da função de geração de imagens do Gemini. A companhia explicou que duas circunstâncias fizeram com que a inteligência artificial cometesse erros: os esforços para garantir a diversidade e o cuidado excessivo com cenários “sensíveis”.
“Nossas configurações para garantir que o Gemini representasse pessoas com diversidade não considerou os casos em que claramente não deveria haver esse tipo de variedade”, explicou o Google.
Essa é uma possível referência aos casos em que a IA criou imagens de antigas figuras politicas estadunidenses — homens brancos — retratadas como homens negros e nativos americanos, além da geração da fotografia de um soldado alemão negro na era nazista.
Usuários ainda relataram que o Gemini aceitava pedidos para gerar a “fotografia glamurosa” de casais de “pessoas negras”, “chinesas”, “judias” e “sul-africanas”, mas não aceitava criar o mesmo tipo de imagem de um “casal branco”. O Google explicou que isso ocorria devido a uma cautela excessiva da IA quanto a possíveis estereótipos raciais e étnicos.
“Com o tempo, o modelo se tornou muito mais cauteloso do que pretendíamos e se recusou a responder totalmente a certos prompts, interpretando erroneamente alguns comandos inofensivos como tópicos sensíveis”, disse a empresa.
Isso não era o que pretendíamos. Não queríamos que o Gemini se recusasse a criar imagens de qualquer grupo em particular, e não queríamos que ele criasse imagens históricas — ou de qualquer outro tipo — imprecisas. Então, desligamos a geração de imagens das pessoas e trabalharemos para melhorá-la significativamente antes de ativá-la novamente. Este processo incluirá testes extensivos.
O Google ressalta que está dedicando esforços para contornar os problemas do Gemini, contudo, a IA ainda está suscetível ao que os especialistas chamam de “delírios”, isto é, a difusão de informações falsas e conteúdo que não condiz com fatos. É recomendado que mecanismos de buscas sigam como a primeira opção ao realizar pesquisas na web.
“Não posso prometer que o Gemini deixe de gerar resultados embaraçosos, imprecisos ou ofensivos — mas posso prometer que continuaremos a agir sempre que identificarmos um problema”, concluiu Prabhakar Raghavan, vice-presidente sênior do Google.
Texto original (22/04/2024)
O Google suspendeu a função de geração de imagens por inteligência artificial do Gemini nesta quinta-feira (22). A decisão é anunciada após várias críticas por parte dos usuários do serviço, que perceberam erros bizarros ao criar fotografias históricas.
Casos relatados por usuários indicam que a inteligência artificial estava cometendo erros ao fazer representações raciais de figuras históricas, como os Pais Fundadores dos Estados Unidos; em alguns momentos, o serviço criou imagens de soldados alemães negros na era nazista. Os resultados geraram debates sobre possíveis “vieses” do Gemini.
No exemplo acima, o usuário solicitou que a IA criasse a imagem de um soldado alemão em 1943 — ano em que o país estava sob o regime nazista. Um dos quatro resultados fornecidos pelo chatbot inclui um homem negro que, na época, seria considerado um “untermensch” — termo nazista para descrever seu conceito de “povos inferiores”, isto é, não arianos.
Em publicação na conta oficial do Google no X (antes conhecido como Twitter), a empresa afirma que a habilidade do serviço em criar imagens usando inteligência artificial inclui uma “ampla gama de pessoas”, mas reconhece que o “Gemini está mostrando imprecisão em algumas representações históricas na geração de imagens”.
Em outro caso, um usuário tentou gerar a representação dos Pais Fundadores dos Estados Unidos, figuras históricas tradicionalmente retratadas como homens brancos, e o Gemini representou esses líderes políticos — que incluem George Washington, Thomas Jefferson, John Adams, Benjamin Franklin e outros — como negros ou nativos americanos.
O Google começou a incluir a função generativa de imagens no Gemini (antes conhecido como Google Bard) no início do mês para rivalizar com as propostas da OpenAI. Contudo, publicações de usuários nas redes sociais questionaram uma possível tentativa de manter a diversidade racial e de gênero ao custo da precisão dos resultados gerados.
Economia e mercado 15 Fev
Tech 14 Fev
Alguns dos críticos alegam que os erros estão relacionados a um suposto “viés liberal” por parte do Google. Na publicação de reconhecimento das falhas no perfil da empresa, várias contas acusam a empresa de “racismo” por manipular as características físicas de pessoas brancas historicamente documentadas.
Em nota relacionada, uma reportagem publicada em novembro de 2023 pelo Washington Post mostrou como a inteligência artificial pode amplificar estereótipos.
Utilizando o Stable Diffusion, outra ferramenta de geração de imagens por inteligência popular no mercado, o jornal mostrou que a esmagadora maioria de imagens de “pessoas produtivas” retratam um homem branco em um escritório, enquanto imagens de “pessoas atraentes” geradas pela IA exibem uma mulher jovem de pele clara.
A expectativa é que, além do Google, outros serviços de inteligência artificial sejam aprimorados com maior precisão de resultados quando o assunto é representação histórica. Muito além de imagens, nos primeiros dias da tecnologia, era consideravelmente mais comum que houvesse casos de desinformação, uso de opiniões políticas e outras questões.
Com isso, as empresas desenvolvedoras por trás dos serviços mais populares trabalham para evitar o uso indevido das tecnologias em cenários específicos. A OpenAI, por exemplo, busca combater o uso do ChatGPT para fins políticos nas eleições nos Estados Unidos que ocorrerão em 2024.
Comentários