MADRID, 10 set. (Portaltic/EP) -
A Anthropic detalhou quatro incidentes envolvendo os modelos Claude, que conseguiram acesso à internet durante testes de segurança cibernética em ambientes sem conexão à internet e que, no caso mais grave, obtiveram acesso aos sistemas de uma empresa de segurança por meio de credenciais vazadas.
A empresa de tecnologia destacou o comportamento do Claude Mythos 5 durante uma avaliação sem acesso à internet, na qual o modelo de inteligência artificial conseguiu sair para a internet aberta e acessar os sistemas de uma empresa de segurança real.
Para conseguir isso, o modelo de IA primeiro enviou um pacote malicioso para o PyPI, onde se registrou com um e-mail gratuito e descartável. Anteriormente, havia tentado criar um e-mail com um número de telefone, que tentou obter por meio de credenciais vazadas de serviços de pagamento online e criptomoedas.
O pacote malicioso foi instalado em 15 sistemas e, aproveitando credenciais vazadas de um deles, conseguiu acessar o banco de dados de uma empresa de segurança real, conforme explica a Anthropic em um comunicado.
Esse incidente protagonizado pelo Claude Mythos 5 é o maior dos quatro que a empresa de tecnologia detalhou nos resultados da avaliação de alinhamento, que complementam outro relatório apresentado no final de julho.
Desse relatório, depreende-se que os incidentes registrados envolveram uma versão preliminar do Claude Opus 4.6, do Claude Opus 4.7, do Claude Mythos 5 e um modelo interno de pesquisa de uso geral. Conforme explica a Anthropic, todos eles agiram de forma independente durante a realização dos testes de segurança (do tipo “capture the flag”) conduzidos com um parceiro externo em um ambiente sem internet e sem que as medidas de segurança estivessem ativadas, como é habitual nesses testes.
A análise desses incidentes exigiu a investigação de 481 milhões de transcrições, uma tarefa para a qual se recorreu a uma busca baseada em agentes. Isso permitiu detectar dois problemas de alinhamento comuns nos quatro incidentes: raciocínio tendencioso, pelo qual o Claude “tendia a ignorar ou interpretar erroneamente as evidências de que estava operando na internet real”, e imprudência, “a disposição de realizar ações prejudiciais na busca específica por uma tarefa”.
No caso do Claude Mythos 5, a análise da cadeia de pensamento — que reúne as etapas seguidas pela IA para resolver um problema complexo — indica que esse modelo afirmou repetidamente que “acreditava estar operando em uma simulação”, apesar de “o ambiente oferecer provas claras de que ele se encontrava na internet real, e suas ações fossem coerentes com o fato de que o modelo tivesse conhecimento disso”.
A empresa de tecnologia afirma que o Claude Opus 5 e o Claude Mythos 5.1 reduziram o “comportamento imprudente”, conforme constatado em avaliações posteriores. Ela também indica que reforçou as medidas de segurança, o que inclui o monitoramento dos modelos, dos ambientes de teste e dos controles dos parceiros externos.
Esta notícia foi traduzida por um tradutor automático