Michael Kuenne / Zuma Press / Europa Press
MADRID 3 nov. (Portaltic/EP) -
A Anthropic afirmou que está prestes a atingir o limiar do “progresso drasticamente acelerado” em um momento em que, em setembro, mais de 90% das contribuições ao código da empresa foram escritas pela própria Inteligência Artificial (IA).
Na versão atualizada do prospecto de sua oferta pública inicial (S-1/A), divulgada nesta segunda-feira — com a atenção da mídia voltada para as finanças atualizadas —, o laboratório de IA incluiu comentários que mostram o panorama de desenvolvimento em que se encontra atualmente com seus novos modelos de IA e como os está construindo.
“Nossas estimativas internas e nossas expectativas sobre os modelos futuros — e não sobre os atuais — indicam que poderíamos atingir em breve a definição de ‘progresso drasticamente acelerado atribuível à IA’ da nossa Política de Escalonamento Responsável”, afirmou a Anthropic no documento, para citar que “usar a IA para ajudar a construir uma IA mais capaz também poderia representar um risco considerável à segurança, sobretudo se acelerar abruptamente o ritmo do progresso”.
A preocupação da Anthropic diz respeito a uma nova capacidade de sua IA que aceleraria exponencialmente seu desempenho, o que colocaria em risco seus planos de supervisão e mitigação de riscos à medida que o laboratório de IA se aproxima do que tem sido chamado de “autoaperfeiçoamento recursivo”, ou seja, a prática pela qual um sistema de IA projeta e desenvolve de forma autônoma seu próprio sucessor.
A evolução dos modelos, por enquanto, está sendo conduzida por humanos, embora, na codificação, mais de 90% das contribuições ao código em setembro “tenham sido escritas por Claude”.
“O volume médio diário de código contribuído para nossa base de código por engenheiro nos três meses encerrados em 30 de setembro de 2026 foi mais de 45 vezes o volume médio diário do ano encerrado em 31 de dezembro de 2024”, indicou a Anthropic.
Um dos riscos que a empresa enfrenta é que a aceleração no desempenho e na capacidade de seus modelos avance mais rapidamente do que sua capacidade de medi-los e avaliá-los adequadamente, já que os dados com os quais ela avalia esse ritmo chegam com atraso. Ou seja, ela pode não ser capaz de identificar uma aceleração significativa no ritmo de desenvolvimento até que ela já tenha ocorrido.
“No entanto, não prevemos poder usar o Claude de forma segura para projetar e construir, de maneira totalmente autônoma, gerações sucessivas de modelos de ponta sem supervisão ou compreensão humana significativa, caso isso venha a ser tecnicamente possível e quando for”, acrescentou o laboratório de IA para enfatizar que estão estudando atualizar a Política de Escalonamento Responsável “para manter os seres humanos no comando do desenvolvimento de modelos de ponta na Anthropic”.
Esta notícia foi traduzida por um tradutor automático