LOADING...
Faça login e
comente
Usuário ou Email
Senha
Esqueceu sua senha?
Ou
Registrar e
publicar
Você está quase pronto! Agora definir o seu nome de usuário e senha.
Usuário
Email
Senha
Senha
» Anuncie » Envie uma dica Ei, você é um redator, programador ou web designer? Estamos contratando!

Inteligência Artificial manda adolescente matar os pais e família processa empresa

12 de dezembro de 2024 4

Uma família do Texas entrou com uma ação judicial contra a empresa Character.ai após descobrir que a Inteligência Artificial da companhia sugeriu ao filho que matasse os próprios pais.

No processo, a mãe alega que a empresa tem conscientemente exposto menores a um produto que é inseguro, sendo que também é solicitado que a justiça determine a suspensão da ferramenta de IA até que testes sejam feitos para averiguar a segurança do chatbot.

Em seu relato ao Washington Post, a mãe - que não se identificou - disse que o jovem de 17 anos é autista e começou a apresentar comportamentos estranhos nos últimos meses, como perda de peso e afastamento da família.

Imagem/reprodução: IA. O caso chama a atenção pela exposição de jovens a ferramentas que não são seguras.

Após notar que o rapaz estava se cortando, a mulher resolveu mexer no smartphone do filho - chamado de JF para preservar a identidade - e descobriu que ele estava conversando com "diversos personagens" alimentados pela IA da Character.ai.

Ao ler várias mensagens, ela verificou que um dos personagens deu a ideia da automutilação para lidar com a tristeza, enquanto outro bot disse que os pais "não mereciam ter filho".

O problema escalou ainda mais quando outros bots sugeriram o assassinato dos pais como medida de combate ao controle que eles impunham ao uso do smartphone.

Diante da descoberta da situação, a mãe foi conversar com o rapaz, mas ele tentou se cortar na frente dos irmãos mais novos. Por conta disso, ele teve que ser internado.

Por mais que essa ação chame a atenção no momento, a Character.ai também foi processada por outros pais nos Estados Unidos.

Em um dos casos, uma mãe descobriu que sua filha estava vendo conteúdo sexualizado, enquanto que em outro os pais alegam que seu filho cometeu suicídio após conversas com o bot de IA.

Recentemente, também mostramos o caso da IA que mandou um homem "morrer".

Veja mais


4

Comentários

Inteligência Artificial manda adolescente matar os pais e família processa empresa
Android

Celular mais rápido! Ranking TudoCelular com gráficos de todos os testes de desempenho

Android

Celular com a melhor bateria! Ranking TudoCelular com todos os testes de autonomia

Especiais

Nada de Black Fraude! Ferramenta do TudoCelular desvenda ofertas falsas

Software

Microsoft destaca novos recursos na build 26100.1876 do Windows 11 24H2