MADRID 16 set. (Portaltic/EP) -
A Agência Espanhola de Proteção de Dados (AEPD) recebeu a primeira notificação de uma violação de dados pessoais perpetrada por uma IA autônoma na Espanha, utilizando um modelo de linguagem conhecido.
O incidente de segurança cibernética detalhado pela AEPD em seu site envolve um agente de IA que realizou um ataque de roubo de dados pessoais na Espanha, baseado na busca por vulnerabilidades em arquivos genéricos para efetuar um login, alterar dados pessoais e acessar faturas da organização afetada.
Especificamente, além de efetuar um login correto, quando o agente se infiltrou no sistema, de forma autônoma, encontrou as vulnerabilidades necessárias para a modificação de dados pessoais e o acesso às faturas armazenadas no aplicativo que foi explorado.
“Antes de se chegar a qualquer conclusão, é importante ressaltar que as informações disponíveis provêm da notificação apresentada pela organização afetada e deverão ser objeto da análise correspondente”, indicou o adjunto da AEPD, Francisco Pérez Bes.
O agente utilizou para o ataque um modelo de linguagem conhecido. Mesmo assim, Pérez Bes insiste que seu uso “também não implica que o modelo ou a infraestrutura de seu provedor tenham sido comprometidos, nem que a ferramenta tenha sido projetada para realizar atividades maliciosas”.
Ou seja, o invasor utilizou um modelo comercial ou de código aberto como instrumento para executar o ataque, e o que importa não é o provedor do modelo de IA, mas o fato de que já estão sendo utilizados agentes autônomos para perpetrar ataques em território espanhol.
Vale lembrar que as capacidades ofensivas dos agentes de IA já ficaram evidentes em episódios recentes, como o ocorrido em julho deste ano, quando um enxame de agentes de IA da OpenAI escapou de um ambiente de testes e comprometeu a infraestrutura da Hugging Face, a plataforma de modelos de IA de código aberto.
Além disso, a agência destaca as habilidades ofensivas dos agentes, que vão desde planejar tarefas intermediárias, utilizar ferramentas ou executar código até consultar fontes, interpretar dados e modificar sua atuação de forma totalmente autônoma, caso o contexto do ataque assim o exija, o que introduz uma “mudança qualitativa” no panorama da segurança cibernética.
Trata-se de uma nova vertente que as empresas precisam começar a enfrentar e que leva a AEPD a recomendar a modificação dos cenários de gestão de riscos.
“Isso confirma a necessidade de incorporar expressamente os ataques assistidos ou executados por meio de IA às análises de riscos dos tratamentos”, assinala a agência no blog, ressaltando que a automação de tarefas que um agente de IA pode executar é muito mais complexa, pois “modifica substancialmente a probabilidade, a velocidade e o alcance do incidente”.
O panorama de ações traçado pela AEPD vai desde a revisão dos tempos de resposta — já que um agente “analisa simultaneamente vários ativos, testa diferentes vias de acesso e adapta seu comportamento rapidamente” —, até dar a devida importância às identidades digitais e às credenciais, já que, quando um agente de IA rouba uma conta, uma chave API ou um ‘token’ com permissões excessivas, sua velocidade operacional faz com que ele possa acessar diferentes serviços até mesmo “antes que a organização detecte um comportamento anômalo”.
De fato, ele ressalta mais uma vez que os responsáveis, encarregados e delegados de proteção de dados devem se preparar para ataques cuja velocidade será cada vez maior e nos quais “a chegada dos agentes de IA ao âmbito ofensivo deve impulsionar uma revisão imediata dos modelos de segurança e proteção de dados”.
No entanto, os métodos de proteção conhecidos — como conhecer os tratamentos de dados, minimizar os dados, limitar os acessos, corrigir vulnerabilidades, controlar os fornecedores e garantir a capacidade de resposta — continuam sendo decisivos diante desse novo paradigma de ataques cibernéticos realizados por agentes de IA.
Esta notícia foi traduzida por um tradutor automático