MADRID 28 jul. (Portaltic/EP) -
O CEO da Anthropic, Dario Amodei, esclareceu que a posição de sua empresa não defende a proibição dos modelos abertos de Inteligência Artificial (IA), mas considera que, diante de atores estrangeiros, como a China, são necessárias medidas de proteção que garantam que eles não sejam utilizados para obter uma capacidade tecnológica e militar superior à dos Estados Unidos.
Na última segunda-feira, o CEO da Anthropic, Dario Amodei, compartilhou sua opinião sobre uma discussão que surgiu nos últimos dias a respeito dos modelos abertos de IA, especialmente aqueles provenientes da China, cujo uso algumas autoridades dos Estados Unidos estão considerando proibir em território americano.
Diante dessa possibilidade, algumas empresas de tecnologia assinaram uma carta — entre elas a Nvidia, a Microsoft, a Perplexity e a Mistral — manifestando seu apoio aos modelos abertos de IA e ao papel deles em impulsionar a liderança tecnológica dos Estados Unidos, e algumas figuras se posicionaram criticando o fato de o laboratório de IA dirigido por Amodei desejar a proibição desses modelos como uma estratégia para proteger seu modelo de negócios.
“A Anthropic nunca defendeu a proibição dos modelos abertos”, afirma o CEO da Anthropic, posicionando-se em relação a modelos que, desde que não possuam capacidades perigosas, considera um bem público, explicando que “eles não custam praticamente nada além da computação necessária para fazê-los funcionar, agregando valor a empresas, desenvolvedores e pesquisadores”.
“Minha principal preocupação é que governos autoritários — não apenas o Partido Comunista Chinês (PCC), embora o PCC seja claramente a ameaça mais perigosa — construam modelos de IA mais potentes do que os projetados pelos Estados Unidos, e os utilizem para alcançar uma superioridade militar permanente ou perpetrar uma repressão incrivelmente profunda contra seu próprio povo”, afirma Amodei, seguindo a mesma linha de argumentação do próprio governo dos Estados Unidos sobre o desafio que representam os regimes autoritários na Avaliação Anual de Ameaças de 2026.
A segunda preocupação do CEO do laboratório de IA reside nos riscos de desalinhamento da IA (quando um modelo é muito potente, mas não faz o que realmente se deseja que faça e apresenta comportamentos imprevisíveis ou prejudiciais) e em seu potencial uso indevido em ataques cibernéticos ou biológicos.
“Os modelos de pesos abertos representam potencialmente um risco maior do que os modelos fechados, porque é muito difícil aplicar as salvaguardas necessárias ou supervisionar seu uso, e, uma vez divulgados, não podem ser retirados”, explica Amodei. Diante da possibilidade de seu uso ser proibido nos EUA, ele ressalta que isso, na verdade, não impede os agentes mal-intencionados e apenas protegeria as grandes empresas do país contra a concorrência.
Para mitigar os efeitos do uso de modelos abertos de IA, a Anthropic sugere três medidas. A primeira é não vender chips potentes nem equipamentos de fabricação de chips para a China, bem como combater o contrabando para introduzir essa tecnologia no país asiático.
Amodei também destaca a necessidade de combater as operações de destilação industrial, pois se trata de “um processo muito mais eficiente em termos de capacidade computacional do que treinar modelos a partir do zero”, o que, em sua opinião, permite que a China “construa modelos muito melhores do que seu número de chips normalmente permitiria”.
A terceira medida baseia-se na exigência de que todos os modelos capazes, tanto abertos quanto fechados, passem por testes de segurança obrigatórios para “detectar riscos cibernéticos, biológicos e de alinhamento antes de seu lançamento”.
Aqui, Amodei se posiciona de tal forma que indica “que, para serem eficazes, os testes teriam que ser globais, o que significa que até mesmo o PCCh teria que concordar”.
Essa postura geral da Anthropic não foi bem recebida pelas comunidades de modelos de IA abertos e pela própria Claude no Reddit, onde os usuários denunciam que invocar a “segurança nacional” é uma cortina de fumaça para impor regras que apenas os grandes laboratórios de IA podem cumprir e que condenam o cenário do código aberto a uma morte lenta.
Esta notícia foi traduzida por um tradutor automático