O ChatGPT é uma das maiores inovações da década até o momento, mas o mecanismo de inteligência artificial está voltando a preocupar especialistas devido ao seu uso por agentes maliciosos. Pesquisadores da Check Point Research expressaram preocupações sobre o uso da ferramenta para criação de malware em uma análise divulgada na sexta-feira (06).

De acordo com os especialistas, hackers passaram a utilizar o ChatGPT — interface de usuário para um modelo de inteligência artificial capaz de responder perguntas, escrever poemas e muito mais — para que a máquina aprimore ou escreva códigos de malware do zero.

Uma publicação descoberta em um fórum hacker trata sobre o uso da inteligência artificial para criar variações de malware. Curiosamente, há vários relatos de “novatos” na área da programação que conseguiram obter resultados com o ChatGPT, indicando que até mesmo amadores seriam capazes de praticar crimes com malware gerado por IA.

Ainda mais grave, a ferramenta parece ter sido utilizada para criar um “marketplace” de informações de vítimas que tiveram dados bancários roubados. Essa plataforma também estaria em uso para compra e venda de drogas e armas. Assim como qualquer transação em negócios ilegais na internet, os pagamentos são feitos com criptomoedas.

O ChatGPT tem o potencial de acelerar o processo para hackers, dando-lhes um bom ponto de partida. Assim como pode ser usado para ajudar desenvolvedores a escrever código, ele também pode ser usado para fins maliciosos. [...] É apenas uma questão de tempo até que os agentes mais sofisticados aprimorem a maneira como usam ferramentas baseadas em IA.

Sergey Shykevich
Gerente do Grupo de Inteligência de Ameaças da Check Point

Apresentado no último mês de novembro pela empresa OpenAI, o ChatGPT teve repercussão mundial devido às suas capacidades avançadas de encontrar respostas para as buscas de usuários e entregá-las de forma humanizada em um “chat”. Alguns acreditam que essa ferramenta poderia, no futuro, substituir o Google.

Embora tenha apenas alguns meses de disponibilidade para testes, a ferramenta recebeu várias críticas de professores que descobriram plágio de alunos para a realização de trabalhos escolares. Tais práticas levaram departamento de educação da cidade de Nova York a banir o uso da tecnologia nas instituições públicas.