LOADING...
Faça login e
comente
Usuário ou Email
Senha
Esqueceu sua senha?
Ou
Registrar e
publicar
Você está quase pronto! Agora definir o seu nome de usuário e senha.
Usuário
Email
Senha
Senha
» Anuncie » Envie uma dica Ei, você é um redator, programador ou web designer? Estamos contratando!

Busca do Google com IA gera respostas problemáticas ao usar informações do Reddit

25 de maio de 2024 2

A Experiência Generativa na Busca (SGE) é uma ferramenta do Google que usa inteligência artificial generativa para resumir informações encontradas na internet a partir da pesquisa feita pelo usuário. Embora a função possa ser útil em alguns casos, várias pessoas afirmam estar obtendo resultados de buscas problemáticos com a IA.

Usuários que estão experimentando a busca com IA estão se deparando com sugestões peculiares do Google, como “misturar cola em sua pizza” para melhorar seu aspecto. A ferramenta também exibe informações falsas — e absurdas —, como a ideia de que um cachorro jogou na liga de basquete dos Estados Unidos.

IA sugere adicionar "1/8 de xícara de cola atóxica" ao molho da pizza (Imagem: PixelButts/X)

Para contextualizar, o Google obteve direitos exclusivos para acessar conteúdos do Reddit — uma rede social formada por centenas de milhares de comunidades denominadas “subreddits” que tratam sobre diversos assuntos — e potencializar os resultados de seu mecanismo de buscas com inteligência artificial.

A partir desse livre acesso, a IA poderia encontrar informações úteis na ampla base de dados da rede social para fornecer respostas às buscas dos usuários. No entanto, a ferramenta parece estar coletando informações problemáticas e incorretas.

O SGE, embora não seja acionado em todas as pesquisas feitas no Google, consulta a web para gerar uma resposta resumida com IA. A resposta que sugeriu “aplicar cola em uma pizza” parece ser baseada no comentário de um usuário identificado como u/fucksmith no Reddit, publicado em uma discussão iniciada há 11 anos.

(Imagem: Reprodução)

Claro que era apenas uma brincadeira — assim como muitos outros conteúdos encontrados no Reddit. No entanto, há preocupações quanto à possibilidade de que respostas com teor perigoso seja gerado pela inteligência artificial.

Alguns usuários relatam também que a Busca do Google com IA teria afirmado que “médicos recomendam fumar entre 2 a 3 cigarros por dia durante a gravidez”. Outro resultado absurdo teria indicado que James Madison, um dos pais fundadores dos Estados Unidos, se formou 21 vezes na Universidade de Wisconsin.

O TudoCelular tentou reproduzir alguns dos resultados problemáticos na experiência generativa da busca do Google (em português e inglês), mas as informações fornecidas pela inteligência artificial foram mais "aceitáveis" e seguras em nossos testes.

(Imagem: TudoCelular.com)

Outras inteligências artificiais também apresentaram problemas semelhantes no passado. O Microsoft Copilot (antes conhecido como Bing Chat), em um caso extremo, criou uma falsa acusação de assédio sexual contra um médico de Bauru, em São Paulo. A IA também insultava seus usuários e poderia até demonstrar “sentimentos”.

Eventualmente, o serviço passou por refinamentos que o tornaram muito mais seguro. Hoje, há uma série de filtros integrados ao Microsoft Copilot, ChatGPT e outras ferramentas de IA generativa, cujo objetivo é evitar que textos perigosos, estereotípicos e ofensivos sejam exibidos aos usuários.

O Google, no entanto, carrega a desvantagem de estar treinando seu modelo de linguagem com uma base de dados gerada por usuários que nem sempre estão debatendo assuntos de forma séria. O Grok, chatbot de IA do X (Twitter), é treinado com base em publicações de usuários da rede social, mas seu diferencial é justamente ser satírico e ter “senso de humor”.

Respondendo a um pedido de comentário do The Verge, Meghann Farnsworth, porta-voz do Google, disse que os erros ocorreram em “consultas geralmente muito incomuns e que não representam as experiências da maioria das pessoas”, acrescentando que a empresa está utilizando os casos “isolados” para continuar refinando o serviço.

Google

Desenvolvedor: Google LLC

Grátis

Tamanho: Varia de acordo com o dispositivo


2

Comentários

Busca do Google com IA gera respostas problemáticas ao usar informações do Reddit
Especiais

Nada de Black Fraude! Ferramenta do TudoCelular desvenda ofertas falsas

Software

Microsoft destaca novos recursos na build 26100.1876 do Windows 11 24H2

Tech

PS5: Sony começará a vender consoles equipados com peças de reposição

Economia e mercado

Huawei Kirin 9010L: chipset inédito é encontrado em smartphone intermediário da chinesa