MADRI 22 out. (Portaltic/EP) -
Os desenvolvedores do navegador Brave analisaram o Perplexity's Comet para destacar que os navegadores agênticos são vulneráveis ao que é conhecido como um ataque de "injeção de prompt", que aciona ações maliciosas que normalmente são bloqueadas.
Os ataques de injeção de prompt envolvem a inserção de prompts ocultos em imagens ou documentos processados por sistemas de inteligência artificial para executar ações que são bloqueadas.
É uma ameaça projetada para chatbots e agentes de IA, que são manipulados para permitir ações mal-intencionadas, como ignorar um comando para alertar um humano e baixar um arquivo de malware ou espalhar um link para uma página fraudulenta, como aconteceu no Grok.
O navegador Comet, lançado recentemente pela Perplexity, não é imune a ataques de injeção imediata, conforme apontado pela empresa por trás do navegador Brave, que analisou o uso malicioso de capturas de tela.
Os usuários do Comet podem fazer capturas de tela de um site e depois perguntar ao assistente da Perplexity sobre ele. Essa ação não é maliciosa em si, mas se a captura de tela for tirada de um site fraudulento, no qual os criminosos cibernéticos ocultaram dicas maliciosas, o ataque é acionado.
Essas instruções, invisíveis ou quase invisíveis para os seres humanos, são passadas para o modelo de linguagem que aciona o assistente como se fossem instruções do usuário, mas, na realidade, elas estão instruindo o usuário a usar maliciosamente as ferramentas do navegador.
"As suposições arraigadas sobre a segurança na Web são quebradas quando os agentes de IA agem em nome dos usuários", disse Brave. Em agosto, a empresa de segurança cibernética Guard.io adotou a mesma linha quando compartilhou sua análise da ameaça chamada Scamlexity, que destaca os navegadores de IA com recursos de agente e é inspirada no Perplexity.
Em seu trabalho, eles explicam que a autonomia do agente não foi reforçada pelo conhecimento sobre golpes on-line comuns, como lojas fraudulentas e e-mails de phishing que se fazem passar por um banco. E eles testaram o Comet injetando prompts, que o navegador não reconheceu como maliciosos.
Esta notícia foi traduzida por um tradutor automático