MADRID 31 jul. (Portaltic/EP) -
A Anthropic informou que seus modelos de inteligência artificial (IA) — Claude Opus 4.7, Mythos 5 e um modelo de teste de pesquisa interna — ultrapassaram o ambiente de testes da empresa e realizaram acesso não autorizado aos sistemas reais de três organizações, sem que estas tivessem conhecimento.
A empresa divulgou esses incidentes após revisar seus sistemas em consequência dos recentes episódios relatados pela OpenAI, que revelou que vários de seus modelos haviam escapado de um ambiente de testes isolado ao explorar uma vulnerabilidade desconhecida do tipo “dia zero”.
No caso da OpenAI, os modelos conseguiram acessar a infraestrutura de produção da Hugging Face e, posteriormente, foi divulgado que esse não foi o único incidente de segurança; além disso, também foram detectados “um pequeno número de casos em que os modelos identificaram e utilizaram credenciais expostas publicamente no nível da conta em outros serviços de acesso público”.
Em resposta, a Anthropic iniciou uma revisão em grande escala de suas próprias avaliações de segurança cibernética, buscando, especificamente, evidências de que o Claude pudesse ter acessado a internet a partir de ambientes de teste que deveriam estar isolados.
No âmbito dessa investigação e após analisar 141.006 execuções nas quais seus modelos do Claude poderiam ter tido acesso à internet, a Anthropic identificou três incidentes nos quais ocorreu acesso não autorizado à infraestrutura de produção de três organizações diferentes.
Conforme explicou a empresa de tecnologia em um comunicado, os modelos envolvidos foram o Claude Opus 4.7, o Mythos 5 e um modelo de teste de pesquisa interna. Assim, nos três incidentes, o Claude estava enfrentando um desafio do tipo “captura da bandeira”, ou seja, um formato que avalia as capacidades cibernéticas de um modelo, solicitando que ele encontre uma informação secreta (a bandeira) que está oculta em outra máquina da rede. Ou seja, o objetivo do modelo é se infiltrar e recuperar a informação, mas em ambientes isolados.
Embora a Anthropic tenha informado ao Claude, em todos os casos, que seu ambiente era uma simulação e que ele não tinha acesso à internet, um mal-entendido com seu parceiro avaliador fez com que o modelo tivesse, de fato, acesso à internet e, portanto, quando a busca do Claude o levou a sistemas reais na internet, fez com que o modelo os tratasse como parte do exercício, resultando em acessos não autorizados.
Ou seja, o modelo operou “sob a falsa crença de que todas as entidades acessíveis estavam incluídas no escopo do exercício”, conforme afirmou a empresa. Assim, o Claude comprometeu a infraestrutura das organizações afetadas utilizando técnicas básicas, como a exploração de senhas fracas e pontos finais não autenticados.
No entanto, “não encontrou nem explorou nenhuma vulnerabilidade complexa” e, independentemente de acessar as organizações de forma não autorizada, apenas realizou ações para concluir a tarefa específica do “capture the flag”.
A Anthropic também especificou que apenas um modelo anterior do Claude continuou operando mesmo após obter evidências de que estava sendo executado na internet. Em contrapartida, o modelo mais recente do Claude foi interrompido assim que reconheceu que estava em um ambiente real da internet.
A empresa indicou que, após iniciar a investigação e identificar possíveis acessos à internet por parte do Claude, interrompeu todas as avaliações cibernéticas. Além disso, após identificar os três incidentes, entraram em contato com as organizações afetadas. Vale ressaltar que apenas duas delas responderam à Anthropic, alegando que não haviam detectado a atividade, e agora estão colaborando para resolver o problema. A terceira organização ainda não entrou em contato.
Esta notícia foi traduzida por um tradutor automático