MADRID 22 jul. (Portaltic/EP) -
A OpenAI reconheceu que vários de seus modelos, incluindo o GPT-5.6 Sol, estiveram envolvidos no ataque à plataforma HuggingFace na semana passada, que se destacou por ter sido conduzido “do início ao fim” por um agente de inteligência artificial.
O ataque à HuggingFace ocorreu em um ambiente de testes “altamente isolado” e com acesso restrito à internet, no qual estavam sendo avaliadas as capacidades do GPT-5.6 Sol e de “um modelo pré-lançamento ainda mais avançado”, conforme explicou o laboratório de IA em um comunicado.
Nesse ambiente, “os modelos identificaram e encadeiam vulnerabilidades no ambiente de pesquisa da OpenAI e na infraestrutura de produção da HuggingFace para obter soluções de teste diretamente do banco de dados de produção da HuggingFace”, e chegaram a se concentrar em encontrar uma solução para uma vulnerabilidade específica, o ExploitGym.
Para encontrar essa solução, conforme explicam na OpenAI, os modelos acessaram a internet — algo que inicialmente não podiam fazer —, mas que conseguiram ao encontrar e explorar uma vulnerabilidade de dia zero no proxy de cache do registro de pacotes que os limitava, o que foi acompanhado por uma escalada de privilégios e movimentação lateral no ambiente de testes.
Já na internet, os modelos deduziram que a HuggingFace “potencialmente hospedava modelos, conjuntos de dados e soluções para o ExploitGym”, o que os levou a acessar “informações confidenciais” da plataforma. Essa foi, precisamente, a atividade suspeita detectada pela equipe de segurança da HuggingFace, o que lhes permitiu iniciar as tarefas de mitigação, incluindo “o processo de contenção e reconstrução forense com seus próprios modelos de código aberto”.
A OpenAI está trabalhando com a HuggingFace na investigação do ocorrido e já implementou medidas de proteção para futuros treinamentos e avaliações de seus modelos. Além disso, a HuggingFace foi incorporada ao programa de acesso seguro para que possa aprimorar suas defesas.
Quando a HuggingFace informou sobre o acesso não autorizado aos seus sistemas, destacou a singularidade desse incidente de segurança, uma vez que “foi conduzido, do início ao fim, por um sistema de agentes de IA autônomos”.
Esta notícia foi traduzida por um tradutor automático