O Bing Chat foi lançado pela Microsoft com integração ao ChatGPT em fevereiro deste ano. Graças a inteligência artificial é possível obter respostas sobre diversos assuntos, mas agora o Bing Chat entrou na mira da justiça após criar uma falsa acusação de assédio contra um médico de Bauru.

O médico acusado pelo Bing Chat, na verdade, é o responsável por investigar por meio do Conselho Regional de Medicina (CRM) um caso de abuso praticado por outro profissional da mesma área. Segundo a advogada Gisele Moreno, o médico descobriu as mentiras a seu respeito por acaso ao utilizar o Bing:

O uso da ferramenta foi por pura curiosidade para ver o que a ferramenta respondia com o uso de uma pessoa comum qualquer que se interessa por ver quais são as respostas que essa ferramenta oferece e ele se deparou com essa situação chocante e estarrecedora.

A situação fez com que Jayter Cortez Junior, juiz da 7ª Vara Cível de Bauru (SP), determinasse a remoção do conteúdo falso sobre o médico do Bing Chat em até 48 horas sob pena de multa diária de R$ 5 mil cumulativa até R$ 250 mil. A decisão foi emitida em 15 de junho de 2023. No momento, o resultado envolvendo o médico já foi removido da ferramenta.

A advogada do médico diz que o intuito é preservar a carreira do seu cliente:

São inverdades que se não forem rapidamente retiradas do ar causam prejuízos irreparáveis para um profissional que está há três décadas atuando de uma forma extremamente correta. Uma carreira impecável, construída não só no âmbito técnico da medicina, mas também ético. Uma situação extremamente desabonadora e gravíssima.

O juiz também reiterou a gravidade da falha cometida pelo Bing Chat:

Se trata de grande plataforma de pesquisa e alcance mundial, utilizada em larga escala por usuários da internet para levantamento de informações e qualificação de profissionais. Alterando por completo a realidade fática, a ré apresenta em sua plataforma de pesquisa a informação inverídica de que o autor seria investigado por crimes de assédio sexual no seu ofício de médico, quando em realidade, na matéria jornalística reportada no resultado da pesquisa, a informação é de que atua na apuração de tais faltas à frente do CRM.

Além disso, Jayter Cortez Junior também argumenta que o serviço de busca atentou contra a honra e dignidade do médico, pois as acusações falsas foram vistas por outras pessoas além dele, que o alertaram do ocorrido. O juiz ainda utilizou o termo "(in) inteligência artificial" para se referir ao caso:

Aparentemente o site de pesquisa da ré não se limita a coletar e reproduzir, com fidedignidade, informações criadas por terceiro, para se cogitar de responsabilidade exclusiva destes, mas altera equivocadamente a informação lançada em matéria jornalística, em exercício de (in)inteligência artificial, atribuindo indevidamente ao autor fato criminoso praticado por terceiro e por ele investigado.

A Microsoft disse que não recebeu nenhuma intimação sobre o caso e que sua política corporativa não permite que ela comente processos em andamento na justiça.