MADRID 20 jul. (Portaltic/EP) -
A HuggingFace confirmou um acesso não autorizado aos seus sistemas, conduzido “do início ao fim” por um agente de inteligência artificial (IA), que afetou um conjunto de dados internos.
A plataforma especializada em aprendizado de máquina detectou, no início da semana passada, uma invasão que teve início a partir de um conjunto de dados maliciosos que conseguiu instalar e executar código em um nó de processamento.
Conforme explicado em um comunicado publicado em seu blog, a particularidade desse incidente de segurança é que “foi conduzido, do início ao fim, por um sistema de agentes de IA autônomo”, cujo modelo base ainda não é conhecido.
Esse agente, uma vez dentro do nó, conseguiu escalar privilégios, coletar credenciais na nuvem e se propagar lateralmente por vários clusters internos. Isso permitiu o roubo de alguns dados internos da HuggingFace e de credenciais, mas
foram seus próprios sistemas de IA que detectaram a invasão. Eles também utilizaram agentes baseados em LLM para analisar o registro completo do invasor, com mais de 17.000 eventos.
“Isso nos permitiu reconstruir a cronologia, extrair indicadores de comprometimento, mapear as credenciais afetadas e diferenciar o impacto real da atividade de isca. Graças a essa abordagem, conseguimos em poucas horas o que normalmente levaria dias, igualando a velocidade do adversário”, afirmaram.
Para a HuggingFace, esse ataque é uma prova de que “as ferramentas ofensivas autônomas baseadas em IA não são mais apenas teoria”. Por isso, eles destacam que “defender uma plataforma online agora implica tratar os dados e a superfície do modelo como uma superfície de ataque de primeira ordem e utilizar a IA na defesa para se manter atualizado”.
Esta notícia foi traduzida por um tradutor automático