Europa Press/Contacto/Andre M. Chang
MADRID 15 jun. (Portaltic/EP) -
A diretiva emitida pelo governo dos Estados Unidos para que a Anthropic suspendesse o acesso de estrangeiros aos seus modelos mais avançados, Claude Fable 5 e Mythos 5, está relacionada ao acesso a essa tecnologia por parte de um grupo ligado à China, considerando-o um risco para a segurança americana, segundo a Semafor.
A empresa de IA anunciou na última sexta-feira a suspensão do acesso aos seus modelos mais avançados, Claude Fable 5 e Mythos 5, que foram apresentados naquela mesma semana como sua tecnologia mais potente disponível para o público em geral e voltada para a segurança cibernética.
Justamente por suas altas capacidades, esses modelos foram lançados com algumas medidas de segurança projetadas para evitar possíveis usos maliciosos, limitando os resultados a perguntas relacionadas à cibersegurança, biologia ou química e encaminhando essas consultas a um modelo de IA menos capaz.
Apesar dessas salvaguardas, a Anthropic recebeu na última sexta-feira uma diretiva do governo dos Estados Unidos solicitando sua restrição a cidadãos estrangeiros por motivos de “segurança nacional”. Isso resultou na suspensão total do acesso aos modelos mencionados.
Na ocasião, a Anthropic esclareceu que a carta “não especificava os motivos da preocupação com a segurança nacional”. No entanto, indicou que isso estaria relacionado ao fato de o governo ter descoberto um método para contornar, ou desbloquear, o Fable 5.
Agora, fontes ligadas à empresa e ao governo Trump detalharam em declarações à Semafor que a diretiva do governo americano foi motivada, em parte, por suspeitas de que um grupo ligado à China tivesse acessado as capacidades do Claude Mythos e sua versão para consumidores, o Fable 5.
O meio de comunicação citado esclareceu que o governo dos Estados Unidos considera um risco à segurança nacional que as capacidades do Mythos cheguem às mãos de atores estrangeiros, como o governo chinês.
Além disso, ele também destacou que o governo Trump teme que a China utilize o modelo para realizar engenharia reversa e, por meio de um processo de destilação, consiga copiar suas capacidades avançadas em matéria de segurança cibernética.
CASO DE JAILBREAK IDENTIFICADO
Apesar de a Casa Branca não ter divulgado informações a respeito, nem tenha confirmado essas declarações, David Sacks, assessor do presidente dos Estados Unidos, Donald Trump, compartilhou no sábado, pela rede social X, que “um parceiro de confiança” que estava testando o Fable 5 descobriu um ‘jailbreak’ em suas medidas de segurança.
Ou seja, segundo Sacks, houve um caso em que, por meio de um processo de escalonamento de privilégios, foi possível eliminar as salvaguardas impostas pela Anthropic e, com isso, acessar todas as capacidades do Mythos, inclusive aquelas que podem causar problemas de segurança nas mãos erradas.
A esse respeito, a empresa de tecnologia negou esse caso em um comunicado em seu blog sobre a diretiva, alegando que “nenhum provedor de modelos consegue alcançar resistência perfeita a 'jailbreaks' atualmente”. Além disso, ela garantiu que todas as medidas de segurança utilizadas no setor “são vulneráveis a ‘jailbreaks’ não universais”.
Da mesma forma, um porta-voz da Anthropic detalhou em declarações à Semafor que o governo dos Estados Unidos não mencionou a China em nenhum momento ao tratar da necessidade de interromper o acesso de seus modelos a usuários estrangeiros.
Vale lembrar que, também na semana passada, um pesquisador de segurança cibernética afirmou ter conseguido violar, em menos de 48 horas, os filtros de segurança do Fable 5, por meio de técnicas de decomposição multiagente e de decomposição e recomposição no 'backend', conseguindo extrair dados de 'hackeamento' e informações sobre processos químicos proibidos.
Esta notícia foi traduzida por um tradutor automático