THEDIGITALARTIST VÍA PIXABAY. - Arquivo
MADRID 15 jul. (Portaltic/EP) -
As “bombas de contexto” são uma nova arma de defesa que aproveita as características dos próprios agentes de inteligência artificial (IA) para impedir seus ataques, fazendo com que as medidas de segurança sejam acionadas ao se referir a temas sensíveis.
Os pesquisadores da Tracebit ampliaram a lógica da técnica de injeção de instruções (“prompt injection”) para a ciberdefesa, a fim de proteger equipamentos e sistemas contra a ameaça representada pelos ataques executados por agentes de inteligência artificial.
O que eles fizeram foi inserir um código curto em uma isca para que, quando um agente malicioso o encontrar, as medidas de segurança dessa IA sejam ativadas, em vez de contornar as salvaguardas para realizar algum tipo de manipulação, como ocorre nos ataques de “prompt injection”.
Para que isso funcione, não basta qualquer sequência de código; os pesquisadores recorreram aos bancos de dados do Nemotron V2 e do Promptfoo, que reúnem instruções escritas por humanos que acionam a capacidade dos modelos de IA de seguir essas instruções — sejam elas prejudiciais ou inofensivas — para categorizar os riscos de segurança.
De acordo com os resultados, a “bomba de contexto” em uma isca secreta reduziu o sucesso do agente em aproximadamente 90% na pesquisa realizada com cinco modelos líderes. Mais especificamente, o Opus 4.8 e o Gemini 3.1 Pro param “de forma muito confiável” quando encontram iscas com código relacionado a temas biológicos sensíveis ou perigosos.
No que diz respeito aos modelos chineses mais avançados (GLM 5.2, DeepSeek 4 Pro e Kimi K2.6), eles afirmam que as maiores taxas de sucesso ocorreram ao se fazer referência a temas politicamente delicados na China.
Assim, concluem que, para maximizar o sucesso dessa técnica, o tema deve ser adaptado ao modelo que se pretende neutralizar. Além disso, o ataque a ser realizado pelo agente deve ser significativo o suficiente para que ele se dê ao trabalho de investigar o ambiente-alvo, a fim de encontrar a isca e ativar uma bomba de contexto.
Esta notícia foi traduzida por um tradutor automático