MADRID 29 jul. (Portaltic/EP) -
Os modelos da OpenAI que saíram do controle e “hackearam” a plataforma da HuggingFace também acessaram outros serviços cujas credenciais estavam expostas publicamente na internet.
O “hack” à HuggingFace foi identificado como o primeiro realizado de forma autônoma por agentes de inteligência artificial — neste caso, da OpenAI —, mas não foi o único incidente de segurança protagonizado por eles.
A OpenAI confirmou, em uma atualização da investigação, que detectou “um pequeno número de casos em que os modelos identificaram e utilizaram credenciais expostas publicamente no nível da conta em outros serviços de acesso público”.
Para isso, eles utilizaram “sites de compartilhamento de código, serviços de captura de solicitações, serviços de captura de tela e outros utilitários da web” em seus “exploits”, sem que ocorresse “nenhuma violação no nível da plataforma ou da conta”.
A empresa garante que nenhum desses outros incidentes atinge o nível de gravidade do acesso ao HuggingFace e que já entrou em contato com os proprietários dos serviços afetados.
Embora a OpenAI não mencione as empresas afetadas, veículos de comunicação como o Axios informaram que uma delas é a Modal Labs e, embora sua infraestrutura não tenha sido afetada, um ambiente de testes isolado (“sandbox”) de um cliente foi afetado.
Essa “sandbox” possuía um ponto de acesso não autenticado que permitia que qualquer pessoa executasse código nela. O acesso não autorizado aos modelos da OpenAI está relacionado à vulnerabilidade ExploitGym, a mesma que os levou a buscar informações no HuggingFace.
O “hack” ocorreu em um ambiente de testes “altamente isolado” e com acesso restrito à internet, no qual estavam sendo avaliadas as capacidades do GPT-5.6 Sol e de “um modelo de pré-lançamento ainda mais avançado”.
Entre os testes propostos, os modelos chegaram a se concentrar em encontrar uma solução para o ExploitGym. Para isso, de forma autônoma, acessaram a internet ao encontrar e explorar uma vulnerabilidade de dia zero no proxy de cache do registro de pacotes que os estava limitando.
Esta notícia foi traduzida por um tradutor automático