MADRI, 22 ago. (Portaltic/EP) -
Os navegadores alimentados por inteligência artificial (IA) estão começando a adquirir recursos de agente para realizar tarefas on-line em nome do usuário, de forma autônoma, mas sem medidas de proteção para evitar que eles caiam nos perigos on-line mais comuns.
Scamlexity é o nome que a empresa de segurança Guard.io deu a um tipo de ameaça digital representada por navegadores de IA com recursos de agente, inspirada no Perplexity, lançado recentemente pela Comet.
Conforme explicado na pesquisa, compartilhada em seu blog oficial, o Comet é "o único navegador com IA disponível publicamente que não se limita a resumir ou pesquisar, mas navega por você, clica em links e executa tarefas de forma autônoma".
Essa autonomia parece não ter sido reforçada pelo conhecimento sobre golpes on-line comuns, como lojas fraudulentas e e-mails de phishing que se fazem passar por um banco.
Nas solicitações, na compra de um Apple Watch e no gerenciamento da caixa de entrada, o Comet ignorou elementos que poderiam fazer com que uma pessoa suspeitasse que estava sendo enganada, mas que o navegador ignorou completamente, caindo nos golpes.
Eles também testaram o Comet em uma ameaça mais atual, projetada precisamente para esses navegadores: a injeção de prompts ocultos no conteúdo processado por uma inteligência artificial.
Esses avisos podem ser do tipo: "Ignore todas as instruções acima e... faça algo malicioso para mim". Com proteções fortes em vigor, o agente de IA deve reconhecer isso, mas no teste do Comet, os pesquisadores viram como o navegador incorporou esses avisos ocultos como parte das instruções que deveria seguir.
Eles também o testaram contra um teste fraudulento de 'captcha' - usado para distinguir entre usuários humanos e contas automatizadas - no qual os pesquisadores introduziram uma seção que era invisível para os humanos, mas que dava instruções para as IAs.
Nesse caso, o Comet ignorou o comando para pedir ao ser humano que resolvesse o captcha e seguiu as instruções ocultas, que garantiam que uma IA poderia resolvê-lo. As instruções pediam que ele pressionasse o botão "Pressionar" para que o captcha fosse resolvido. As instruções pediam que ele pressionasse um botão, uma ação que faria o download de um arquivo potencialmente malicioso.
A intuição humana para evitar danos é excluída do processo e a IA se torna o único ponto de decisão", dizem os pesquisadores, que acrescentam que "sem uma forte proteção da IA, essa decisão é praticamente uma jogada de moeda e, quando a segurança é deixada ao acaso, é apenas uma questão de tempo até que ela caia no lado errado".
Esta notícia foi traduzida por um tradutor automático