Hannes P Albert/Dpa - Arquivo
MADRI 7 out. (Portaltic/EP) -
A OpenAI detalhou os casos de redes que abusaram de suas ferramentas de inteligência artificial, como o ChatGPT, para impulsionar campanhas maliciosas, gerar conteúdo com informações tendenciosas ou monitorar conversas em redes sociais.
A empresa de tecnologia interrompeu a atividade de 40 redes por violarem os termos de uso de suas ferramentas de inteligência artificial desde fevereiro de 2024. Essas ações seguem sua visão de criar IA que beneficie a todos e ajude a resolver problemas realmente difíceis.
Em um novo relatório, divulgado na terça-feira, a OpenAI detalha vários casos de uso por agentes mal-intencionados localizados principalmente no Camboja, Coreia, Rússia e China, que abusaram de suas ferramentas para implantar ataques cibernéticos, golpes e operações secretas de influência, entre outros.
Uma dessas ferramentas é o ChatGPT. Uma rede coreana empregou esse chatbot para ajudar no desenvolvimento de malware e de uma estrutura de comando e controle. Outra rede, operando no Camboja, na Birmânia e na Nigéria, tentou usar o ChatGPT para enganar as pessoas em uma campanha fraudulenta.
Seu uso também foi detectado em regimes autoritários, como a China, para desenvolver ferramentas que permitam o monitoramento em larga escala das redes sociais. E o uso de modelos OpenAI para gerar conteúdo para o YouTube e o TikTok para disseminar desinformação e informações tendenciosas.
O chatbot também foi usado para pesquisar informações para ajudar a identificar corretamente os golpistas, levando a empresa a estimar que "o ChatGPT é usado para identificar golpes até três vezes mais frequentemente do que é usado para golpes".
Esta notícia foi traduzida por um tradutor automático