Europa Press/Contacto/Algi Febri Sugita - Arquivo
MADRID 6 jul. (Portaltic/EP) -
A Alibaba impedirá que seus funcionários utilizem o Claude Code, da Anthropic, a partir da próxima sexta-feira, 10 de julho, devido a preocupações com a segurança após identificar um código interno no modelo que, à semelhança de um “spyware”, detectava automaticamente seu uso por usuários chineses.
A empresa de inteligência artificial (IA) já manifestou, em diversas ocasiões, sua intenção de impedir que outras empresas estrangeiras de IA tenham acesso aos seus modelos mais avançados, com ênfase especial nas empresas chinesas, às quais acusa de realizar ataques de “destilação” utilizando o Claude para aprimorar seus modelos.
Nesse contexto, foi divulgado que a Anthropic lançou uma versão do Claude Code que integrava um código oculto com o qual o modelo podia identificar quando estava sendo utilizado por um usuário na China, sem que a pessoa soubesse.
Isso foi compartilhado por um usuário chamado LegiMichel777 no Reddit, que constatou que, a partir da versão 2.1.9.1 do Claude Code, lançada em abril, o modelo consegue identificar se o usuário tem um “proxy” ativado e, por meio de “modificações invisíveis na mensagem do sistema”, determinar se está sendo utilizado na China. Tudo isso de forma invisível para o próprio usuário.
Essa prática de código oculto foi confirmada pelo funcionário da Anthropic, Thariq Shihipar, em uma publicação na rede social X, explicando que se trata de um “experimento” que a empresa lançou no Claude Code durante o mês de março com o objetivo de “prevenir o abuso de contas por revendedores não autorizados e proteger contra a distilação”.
Mais especificamente, ele esclareceu que a equipe “implementou medidas de mitigação mais robustas desde então” e que sua intenção é “desativar” essa experiência já há algum tempo. No entanto, ele concluiu afirmando que essa prática “deveria ser completamente revertida” na nova versão lançada do Claude Code.
No entanto, após tomar conhecimento desses fatos, a Alibaba determinou que o Claude Code é agora um “software” de “alto risco” para a segurança nacional e decidiu proibir seu uso por parte de seus funcionários a partir da próxima sexta-feira, 10 de julho, conforme detalharam fontes familiarizadas com a empresa chinesa de IA e foi divulgado por veículos de comunicação como Morningstar e TechCrunch.
Vale lembrar que, recentemente, a Anthropic denunciou uma operação em grande escala da Alibaba para replicar a tecnologia do Claude por meio do uso de cerca de 25 mil contas falsas, que acessavam o modelo para copiar suas tecnologias utilizando técnicas de destilação, com o objetivo de treinar seus próprios modelos de IA, o Qwen, a um custo menor.
Esta notícia foi traduzida por um tradutor automático