
Economia e mercado 12 Dez
12 de dezembro de 2024 4
Uma família do Texas entrou com uma ação judicial contra a empresa Character.ai após descobrir que a Inteligência Artificial da companhia sugeriu ao filho que matasse os próprios pais.
No processo, a mãe alega que a empresa tem conscientemente exposto menores a um produto que é inseguro, sendo que também é solicitado que a justiça determine a suspensão da ferramenta de IA até que testes sejam feitos para averiguar a segurança do chatbot.
Em seu relato ao Washington Post, a mãe - que não se identificou - disse que o jovem de 17 anos é autista e começou a apresentar comportamentos estranhos nos últimos meses, como perda de peso e afastamento da família.
Após notar que o rapaz estava se cortando, a mulher resolveu mexer no smartphone do filho - chamado de JF para preservar a identidade - e descobriu que ele estava conversando com "diversos personagens" alimentados pela IA da Character.ai.
Ao ler várias mensagens, ela verificou que um dos personagens deu a ideia da automutilação para lidar com a tristeza, enquanto outro bot disse que os pais "não mereciam ter filho".
O problema escalou ainda mais quando outros bots sugeriram o assassinato dos pais como medida de combate ao controle que eles impunham ao uso do smartphone.
Diante da descoberta da situação, a mãe foi conversar com o rapaz, mas ele tentou se cortar na frente dos irmãos mais novos. Por conta disso, ele teve que ser internado.
Por mais que essa ação chame a atenção no momento, a Character.ai também foi processada por outros pais nos Estados Unidos.
Em um dos casos, uma mãe descobriu que sua filha estava vendo conteúdo sexualizado, enquanto que em outro os pais alegam que seu filho cometeu suicídio após conversas com o bot de IA.
Recentemente, também mostramos o caso da IA que mandou um homem "morrer".
Celular mais rápido! Ranking TudoCelular com gráficos de todos os testes de desempenho
Celular com a melhor bateria! Ranking TudoCelular com todos os testes de autonomia
Nada de Black Fraude! Ferramenta do TudoCelular desvenda ofertas falsas
Microsoft destaca novos recursos na build 26100.1876 do Windows 11 24H2
Comentários