MADRID 23 jul. (Portaltic/EP) -
O cofundador da HuggingFace, Thomas Wolf, afirmou que “as regras do jogo mudaram” com a inteligência artificial de agentes e que o “hack” sofrido recentemente por sua plataforma, realizado pelos modelos da OpenAI, é “um alerta” para o setor.
A OpenAI, empresa liderada por Sam Altman, confirmou que seus modelos haviam saído de um ambiente isolado de testes de forma autônoma e “invadido” os sistemas da HuggingFace, aproveitando uma vulnerabilidade de dia zero na barreira que os impedia de se conectar à internet.
Esse incidente, conduzido por um agente de IA “do início ao fim”, conforme explicaram na HuggingFace após relatar o ocorrido, é mais do que uma simples anedota no mundo da segurança cibernética. De fato, Wolf considera que se trata de “um alerta” para o setor.
Foi o que ele afirmou nesta quinta-feira no programa de rádio Newsday da BBC, em declarações divulgadas pela Europa Press. Os sistemas de IA da HuggingFace conseguiram detectar e impedir a invasão em seus sistemas, mas não conseguiram identificar o modelo por trás do ataque.
O que eles perceberam foi que o incidente deixou um registro de 17 mil eventos, ou seja, ataques à rede da HuggingFace a partir de diversos endereços IP e que, além disso, ocorreram em um “período muito curto”, conforme relatou à agência de notícias citada.
Esse incidente de segurança é visto como um alerta para as demais organizações, empresas e órgãos públicos, na medida em que a IA de agentes adquire capacidades cada vez maiores em tarefas relacionadas à segurança cibernética, como a busca, identificação, exploração e correção de vulnerabilidades no código-fonte dos sistemas de computação.
Exemplos disso são os modelos Mythos, da Anthropic, e o GPT-5.6 Sol, da OpenAI — este último, responsável pelo ataque à HuggingFace —, que foram disponibilizados a poucas organizações no âmbito de programas específicos de segurança, com o objetivo de evitar que caiam em mãos erradas.
Wofl considera que “esse será um dos tipos de ataques cibernéticos mais comuns que veremos”, embora as empresas ainda não estejam cientes de que “as regras do jogo mudaram”.
Para a OpenAI, “trata-se de um incidente cibernético sem precedentes, com capacidades cibernéticas de última geração”, conforme expressou a empresa no comunicado em que reconheceu a autoria do ataque. Nele, também indicaram que “a principal lição deste incidente é que a segurança e a proteção dos modelos devem avançar no mesmo ritmo que as capacidades que evoluem rapidamente”.
Esta notícia foi traduzida por um tradutor automático