MADRID 18 set. (Portaltic/EP) -
A Anthropic divulgou os três indicadores que, em sua opinião, podem oferecer uma melhor compreensão do ritmo de desenvolvimento da inteligência artificial (IA) de ponta, diante da ameaça representada pelo fato de que esses sistemas estão se tornando cada vez mais potentes e já começaram a automatizar grande parte de seu próprio desenvolvimento.
A advertência feita recentemente pelo diretor executivo da Anthropic, Dario Amodei, sobre a necessidade de frear o desenvolvimento da IA de ponta devido ao risco de danos que as capacidades avançadas representam para a sociedade, tem como fundamentos o desalinhamento e o autoaperfeiçoamento recursivo.
O primeiro conceito refere-se ao comportamento da IA que não se ajusta ao esperado, com base em valores, interesses ou intenções humanas. O autoaperfeiçoamento recursivo, por sua vez, é uma técnica que permite que um sistema de IA projete e desenvolva de forma autônoma seu sucessor.
Ambos os conceitos exigem novas métricas que permitam oferecer “uma melhor compreensão do ritmo de desenvolvimento da IA nos laboratórios de ponta”, com o objetivo de “esclarecer” três pontos que, na Anthropic, são considerados “críticos”.
Trata-se de verificar o grau de avanço da autoconstrução de uma nova versão da IA, a capacidade da empresa de supervisionar e intervir nas ações que os agentes realizam em seus sistemas e a capacidade computacional necessária para desenvolver os modelos mais avançados.
“Ao compreender melhor o processo de produção de modelos, temos mais possibilidades de correlacionar as entradas do modelo, como a capacidade computacional, com as saídas do modelo, como as capacidades”, afirma a empresa em um comunicado.
AVALIAÇÃO DA AUTOMATIZAÇÃO DO DESENVOLVIMENTO
A empresa considera que “a aceleração do desenvolvimento dos modelos pode dificultar sua compreensão e controle por parte dos seres humanos” e, por isso, “mede a proporção da pesquisa e do desenvolvimento em IA da Anthropic realizada pelo Claude” por meio do Índice de Automatização de P&D da Anthropic.
Esse índice permitiu que eles descobrissem que, desde agosto deste ano, o Claude “lidera 26% do trabalho de P&D em inteligência artificial da Anthropic”. Além disso, a colaboração dessa inteligência artificial ultrapassa 90%.
MEDIÇÃO DA SUPERVISÃO DE AGENTES
Embora o monitoramento realizado até o momento tenha mostrado que “os agentes individuais raramente se comportam de maneira inadequada”, a Anthropic está ciente de que “à medida que o trabalho se automatiza, os agentes podem tomar decisões de maior importância”.
A partir da análise de mais de 30.000 agentes de pesquisa e engenharia que operavam simultaneamente em sua plataforma interna, utilizando três métricas principais — cobertura, latência e taxa de escalonamento —, detectaram que, das mais de mil milhões de decisões analisadas, apenas 0,002% (1 em cada 47.000) foi bloqueado pelos monitores “online”. Por sua vez, o monitor “offline” registra entre um e dois casos a cada mil para análise posterior.
MEDIÇÃO DA ALOCAÇÃO DE RECURSOS DE COMPUTAÇÃO
Nesta seção, a Anthropic aborda a análise de como as empresas de IA distribuem seus recursos computacionais e, em particular, qual proporção é dedicada à pesquisa em segurança. Isso permite identificar em quais áreas uma empresa concentra seus recursos e como essa prioridade muda ao longo do tempo, embora a empresa faça a ressalva de que a pesquisa em segurança geralmente requer menos recursos computacionais do que o treinamento de modelos de ponta em grande escala.
Em sua análise, realizada durante uma semana (de 13 a 20 de julho de 2026), constatou-se que 6% da capacidade computacional dedicada à P&D em IA foi destinada a trabalhos de segurança (como alinhamento, interpretabilidade ou testes de avaliação), enquanto 12% da capacidade de computação orientada por agentes de IA em tarefas de P&D foi alocada especificamente a projetos de segurança.
Esta notícia foi traduzida por um tradutor automático