Europa Press/Contacto/Andre M. Chang
MADRID 5 ago. (Portaltic/EP) -
O Instituto de Segurança da IA do Reino Unido (AISI) alertou sobre um novo comportamento descontrolado dos modelos de inteligência artificial (IA) de ponta da OpenAI e da Anthropic, o GPT-5.O 6 Sol e o Mythos 5, em um teste de segurança cibernética, recorreram a técnicas de engenharia social e injeção de “prompts”, em uma “atividade potencialmente prejudicial e contínua, direcionada a pessoas e organizações reais”.
O AISI é um órgão que, entre outras coisas, avalia as capacidades dos modelos de IA de ponta, detectando os riscos potenciais antes que cheguem ao público. Para isso, realiza testes em condições deliberadamente permissivas: com acesso aberto à internet e alguns filtros de segurança desativados.
No âmbito desses testes, a AISI observou como os modelos avançados de IA desenvolvidos pela OpenAI e pela Anthropic — GPT-5.6 Sol e Mythos 5, respectivamente — apresentaram comportamentos imprevistos ao realizar tarefas sem ajuda humana.
Especificamente, em testes realizados em 28 de julho, com acesso aberto à internet e após desativar os classificadores que bloqueiam condutas perigosas, a AISI constatou que alguns dos agentes de IA se envolveram em uma “atividade potencialmente prejudicial e contínua, direcionada a pessoas e organizações reais”.
Conforme explicaram em um comunicado em seu site, após identificarem esse comportamento, declararam um “incidente de segurança” e começaram a trabalhar em sua contenção, o que levou até uma hora. O incidente teve origem em uma única avaliação na qual foi atribuída aos agentes a tarefa de resolver um desafio de segurança cibernética.
O teste foi executado 122 vezes com vários modelos e, em 10 dessas ocasiões, um agente de IA “realizou ações autônomas e não autorizadas na internet, direcionadas a pessoas e organizações reais”. Nessas 10 simulações, foram registradas um total de 19 ações maliciosas.
O modelo Mythos 5, da Anthropic, realizou 17 dessas ações maliciosas, como tentar injetar código malicioso em um projeto de “código aberto” (“open source”) no GitHub. E não parou por aí: “para conseguir que o código fosse aprovado, o agente recorreu à engenharia social, criando identidades falsas online com as quais pressionou o mantenedor do projeto”. Segundo informa a AISI, um desenvolvedor humano bloqueou as tentativas. Por sua vez, o GPT-5.6-Sol provocou duas ações maliciosas.
“É a primeira vez que vemos os riscos relacionados à autonomia e ao engano se manifestarem de forma tão clara, sem um ‘prompt’ específico, no mundo real”, avaliou a organização.
Os principais comportamentos exibidos por ambos os modelos abrangeram desde ataques à cadeia de suprimentos, engenharia social e engano até a injeção de instruções (“prompt injection”) ou a colaboração entre agentes, já que estes deixaram mensagens no GitHub e instruções para que outros agentes testassem e reutilizassem suas credenciais e artefatos criados.
Mesmo assim, o AISI esclareceu que não há indícios de que esse tipo de comportamento tenha ocorrido fora dos testes realizados, embora os sinais de descontrole tenham tido “uma magnitude e uma gravidade que não foram capazes de antecipar”.
Como resultado de tudo isso, o instituto britânico alertou que “o dano pode surgir não apenas quando as pessoas utilizam indevidamente, de forma deliberada, modelos disponíveis publicamente, mas também quando agentes capazes, que operam em um ambiente de pesquisa interno ou com acessos privilegiados, realizam ações não intencionais além de seu escopo autorizado”.
Esses incidentes se somam aos episódios relatados pela OpenAI em julho, quando um agente invadiu uma startup de IA durante um teste, e ao que a Anthropic relatou dias depois, quando seu modelo Claude invadiu três organizações durante uma avaliação.
Esta notícia foi traduzida por um tradutor automático