MADRID 11 set. (Portaltic/EP) -
A Anthropic afirma ter desmantelado várias operações, que associa a cibercriminosos, que tentaram utilizar sua inteligência artificial Claude para realizar atividades maliciosas, como destilação ilegal e criação de armas biológicas.
A empresa de tecnologia revela, em seu relatório de ameaças de setembro — que abrange as ações realizadas entre dezembro de 2025 e agosto de 2026 —, “exemplos das ameaças mais notáveis e inovadoras” identificadas até o momento.
O relatório inclui uma seção dedicada ao uso indevido em biologia, ou seja, a tentativa por parte de agentes mal-intencionados de usar seus modelos para desenvolver ou aperfeiçoar armas biológicas, algo que a Anthropic proíbe em seus termos de uso.
Esse uso indevido buscava aproveitar as capacidades de pesquisa científica do Claude, no que a Anthropic denominou de “duplo uso da biologia”: avanços científicos legítimos que podem ser desviados para criar patógenos mais perigosos.
Embora modelos anteriores (como o Claude Opus 4 e o Claude Sonnet 4.5) tenham capacidades que não chegam a “ajudar significativamente um usuário avançado a realizar pesquisas biológicas perigosas”, a situação muda quando se trata dos modelos mais recentes e avançados, como o Claude Fable e o Mythos, o que justifica a implementação de medidas de segurança adicionais que “restringem o acesso a uma ampla gama de consultas de pesquisa biológica de duplo uso”.
A empresa relata cinco casos de uso por parte de atores que utilizaram seus modelos como apoio ao desenvolvimento de armas biológicas, embora afirme que “não houve criação direta de armas biológicas concretizadas”.
Entre os casos de uso registrados no período analisado está o bloqueio de um pedido de ajuda ao Claude para a redação de uma solicitação de subsídio para financiar uma pesquisa relacionada a experimentos destinados a aumentar a transmissibilidade ou a virulência do vírus da Chikungunya (transmitido por mosquitos).
Em outro caso, foram identificadas consultas e linhas de pesquisa voltadas para a análise de como variantes da gripe aviária (H5N1) poderiam se adaptar biologicamente para se propagar eficientemente entre mamíferos.
Os agentes maliciosos também tentaram utilizar o modelo da Anthropic para modificar estruturas de toxinas conhecidas, buscando aumentar sua estabilidade, resistência a tratamentos ou capacidade de penetração celular.
Também foram detectadas consultas voltadas para a identificação de fornecedores de síntese de DNA/RNA e sintetizadores biológicos com mecanismos de detecção fracos ou vulnerabilidades em seus protocolos de verificação de pedidos.
Um último caso diz respeito a solicitações de assistência para otimizar protocolos de cultivo, isolamento e manipulação de patógenos perigosos sem possuir as credenciais ou o contexto institucional adequado.
Assim que esses casos foram detectados, a Anthropic procedeu à suspensão imediata das contas envolvidas, bem como das chaves de API. E afirma ter implementado classificadores e filtros mais rigorosos em seus modelos mais avançados, para restringir o acesso a um espectro muito mais amplo de consultas de pesquisa biológica de dupla utilização.
DESTILAÇÃO ILEGAL
O relatório destaca também as tentativas de destilação ilícita por parte de empresas concorrentes, ou seja, uma prática normalmente aceita que permite utilizar as respostas de um modelo avançado de IA para treinar, ajustar ou replicar os aprendizados aplicados nele em outro modelo.
“A destilação ilícita permite que laboratórios não autorizados extraiam e imitem ilegalmente as capacidades de modelos de ponta, em uma fração do tempo, do poder computacional e do custo que seria necessário para desenvolvê-los de forma independente”, denuncia a empresa.
Nesse sentido, o relatório apresenta casos relacionados a laboratórios de inteligência artificial da China e cita diretamente a DeepSeek, a Xiaomi, a Moonshot e a Alibaba. Atores ligados a esta última foram os protagonistas do “maior ataque de destilação” já observado pela Anthropic.
Conforme explica, a campanha de destilação teve como alvo as transcrições do raciocínio da cadeia de pensamento do Claude Opus 4.6 e 4.7 para treinar os modelos Qwen e introduzir novas capacidades no Qwen 3.5, 3.6 e 3.7.
A empresa afirma ter observado, entre maio e julho de 2026, mais de 151 milhões de transações, incluindo picos diários que chegaram a quase 3 milhões de transações, originadas de mais de 3.500 contas fraudulentas.
Esta notícia foi traduzida por um tradutor automático