MADRI 16 out. (Portaltic/EP) -
Uma nova campanha publicitária maliciosa conseguiu manipular o Grok, o chatbot integrado à rede social X (antigo Twitter), para espalhar links de phishing e malware em grande escala.
A empresa de segurança ESET alertou sobre uma nova forma de malvertising que tem a capacidade de contornar as restrições de publicidade do X, projetadas para evitar anúncios maliciosos.
Isso é feito por meio da publicação de vídeos clickbait cujas informações de origem (mostradas em cinza abaixo da publicação) incluem, em vez do nome de um meio de comunicação ou site, um link fraudulento que redireciona para páginas de phishing ou downloads de malware.
Essa campanha é caracterizada pela manipulação do Grok para que ele espalhe o link em grande escala, pedindo ao chatbot que identifique a fonte do vídeo. Ao analisar a publicação, ele detecta o link incorporado e o repete automaticamente, ampliando o escopo do golpe.
Essa é, na verdade, uma forma de ataque de injeção imediata, em que os criminosos cibernéticos inserem comandos ocultos no conteúdo processado por sistemas de inteligência artificial para executar ações que estão bloqueadas para eles.
Essa campanha publicitária maliciosa foi apelidada de "malvertising auxiliado por IA" ou "Grokking", devido ao papel da inteligência artificial na condução da disseminação e porque Grok é o chatbot escolhido.
Embora a IA já fosse conhecida por ser usada em campanhas maliciosas, o diretor de pesquisa e conscientização da ESET Espanha, Josep Albors, apontou para a "ameaça ainda mais sutil e potencialmente mais perigosa" representada por essa descoberta feita na X. "O caso Grokking demonstra que mesmo a IA mais avançada pode ser manipulada para agir contra os usuários", disse ele.
Os criminosos estão explorando a reputação do Grokking como uma fonte confiável de informações, com o potencial de atingir milhões de visualizações. No entanto, como a ESET aponta, seu impacto não se limita à rede social X, mas pode atingir qualquer plataforma que integre modelos de linguagem ou assistentes baseados em IA.
Esta notícia foi traduzida por um tradutor automático