MADRID 27 jul. (Portaltic/EP) -
O cofundador e diretor executivo da HuggingFace, Clement Delangue, pediu à OpenAI uma “transparência radical” que permita rastrear os agentes de inteligência artificial para analisar o que ocorreu no “ataque cibernético” sofrido por sua plataforma.
A HuggingFace sofreu o que é considerado o primeiro ataque de um agente de IA, que agiu de forma autônoma do início ao fim, o que o torna um “evento sem precedentes” que “merece uma resposta sem precedentes”.
É o que considera Delangue, que na semana passada se reuniu em São Francisco (Estados Unidos) com a empresa liderada por Sam Altman para esclarecer o ocorrido. A partir dessa reunião, o diretor executivo da HuggingFace compartilhou duas de suas solicitações: uma “transparência radical” e “mais recursos para os defensores”, conforme divulgou no X.
No que diz respeito à transparência, Delangue solicitou o rastreamento dos “agentes rebeldes” para que se possa investigar o que realmente aconteceu. Além disso, que a OpenAI se comprometa a fortalecer a comunidade da HuggingFace com “os melhores modelos abertos e fechados” e um custo de computação estimado em 100 milhões de dólares.
Essas solicitações surgiram depois que a OpenAI reconheceu que seus modelos haviam saído de um ambiente isolado de testes de forma autônoma e “hackeado” os sistemas da HuggingFace, aproveitando uma vulnerabilidade de dia zero na barreira que os impedia de se conectar à internet.
Thomas Wolf, também cofundador e diretor científico da HuggingFace, compartilhou há alguns dias que “as regras do jogo mudaram” com a inteligência artificial de agentes e que o “hackeamento” de sua plataforma é “um alerta” para o setor.
Esta notícia foi traduzida por um tradutor automático