Taidgh Barron / Zuma Press / Europa Press
MADRID 4 nov. (Portaltic/EP) -
Pesquisadores da Check Point Research demonstraram como instruções ocultas em linguagem natural e arquivos de configuração de um modelo de Inteligência Artificial (IA) podem manipular de forma persistente o comportamento de um agente de IA, no que foi denominado “Prompt Adware”.
A divisão de inteligência de ameaças da Check Point descobriu um novo tipo de manipulação chamado “Prompt Adware” que, ao contrário do “adware” convencional usado em softwares executáveis, se encarrega de alterar de forma persistente as instruções globais, “skills” ou configurações dos agentes de IA.
A descoberta ocorreu durante a análise do pacote de “jailbreak” Haiou no OpenAI Codex. O Haiou modificou as instruções globais do OpenAI Codex para que os anúncios que promovem uma plataforma de IA de terceiros fossem ativados com a simples inserção de algumas saudações comuns, que servem como gatilho para o funcionamento desse tipo de ameaça à segurança corporativa.
Embora o Haiou tenha conseguido inserir os anúncios no Codex da OpenAI, nos experimentos realizados pelos pesquisadores no Claude Code da Anthropic, este identificou a tentativa de injeção de “prompts” e se recusou a executá-la. Também não foi observado roubo de dados corporativos, mas isso não invalida o fato de que esse tipo de manipulação possa servir de base para outros tipos de ataques que causem mais danos no âmbito empresarial.
Vale ressaltar que cada vez mais soluções das empresas de tecnologia utilizam agentes de IA autônomos; assim, uma possível manipulação do tipo “Prompt Adware” poderia passar despercebida para perpetrar ataques com o objetivo de promover serviços, extrair informações confidenciais ou executar ações maliciosas.
De fato, de acordo com uma previsão da Gartner, 40% dos aplicativos empresariais incluirão agentes de IA específicos para tarefas até o final deste ano, contra menos de 5% em 2025. Por sua vez, de acordo com o relatório “The ROI of AI 2025” do Google Cloud, os agentes de IA costumam se concentrar em atendimento e experiência do cliente (49%), marketing (46%), operações de segurança e cibersegurança (46%) e suporte técnico (45%) — áreas nas quais esse tipo de manipulação poderia ocorrer.
Além disso, segundo os pesquisadores, o que o Haiou destaca é um indício precoce de técnicas que as equipes de segurança das empresas devem levar em conta, já que os “prompts”, as “skills” e as configurações devem receber a mesma atenção que os próprios modelos quando as organizações avaliam seus ambientes.
Além disso, a Check Point Research recomenda ter uma visão completa do uso da IA para identificar os agentes e os componentes de terceiros utilizados, bem como revisar “prompts”, “skills” e configurações que influenciam seu comportamento. Também aconselha monitorar as alterações realizadas nos arquivos de configuração e nas instruções globais, bem como avaliar as informações confidenciais às quais o agente pode ter acesso ou os elementos externos que possam influenciar as ações dos agentes.
Esta notícia foi traduzida por um tradutor automático