Andrej Sokolow/dpa - Arquivo
MADRID 8 jun. (Portaltic/EP) -
A Anthropic alertou sobre os últimos avanços da inteligência artificial (IA), referindo-se especificamente aos modelos de “autoaperfeiçoamento recursivo”, que representam uma perda de controle para os humanos ao se desenvolverem de forma totalmente autônoma, por isso defende uma “desaceleração” global no impulso dessa tecnologia.
A empresa explicou que, para avançar no desenvolvimento da IA, as empresas de tecnologia do setor, como é o caso da própria Anthropic, estão cada vez mais delegando parte do trabalho aos próprios sistemas de IA, o que ajuda a acelerar o trabalho dos especialistas. Por exemplo, grande parte do código é escrita pelo próprio Claude, com o engenheiro supervisionando e revisando.
Nesse sentido, ela esclareceu que, se isso for levado ao extremo e lhes for “fornecida a capacidade de processamento necessária”, essa prática levará os sistemas de IA a projetar e desenvolver de forma autônoma “seu próprio sucessor”, o que é conhecido como uma prática de “autoaperfeiçoamento recursivo”.
Embora ainda não se tenha chegado a esse ponto, a Anthropic avaliou que “isso poderia acontecer antes do que a maioria das instituições está preparada”, representando um risco e a perda de controle dessa tecnologia por parte dos humanos. Diante disso, a empresa apostou em realizar uma “desaceleração” global no desenvolvimento da IA.
Conforme compartilhado em um comunicado em seu blog, embora uma IA capaz de se autoconstruir represente “um avanço transcendental na história da tecnologia”, com grande utilidade em campos como a ciência ou a saúde, entre outros, o autoaperfeiçoamento recursivo também poderia “aumentar o risco de os humanos perderem o controle sobre os sistemas de IA”.
Diante disso, a Anthropic destacou que “seria benéfico para o mundo ter a opção de desacelerar ou pausar temporariamente o desenvolvimento da IA de ponta para que as estruturas sociais e a pesquisa sobre alinhamento se adaptem ao avanço da tecnologia”.
Além disso, a empresa esclareceu que essa desaceleração deve vir acompanhada de um mecanismo de “coordenação global”. Para abordar essa questão, a empresa indicou que o Instituto da Anthropic realizará pesquisas em colaboração com outros especialistas e empresas do setor, com o objetivo de criar medidas que permitam construir os sistemas necessários para uma desaceleração ou pausa.
Dessa forma, serão criadas diretrizes que garantam que os desenvolvedores de IA de ponta possam verificar se outras empresas do setor também interromperam ou desaceleraram seu desenvolvimento em condições de igualdade. Especificamente, para garantir que “nenhum agente mal-intencionado possa se aproveitar de uma desaceleração coordenada para avançar em segredo”, sem, no entanto, frear a inovação.
Seguindo essa linha, a empresa de tecnologia também sinalizou que serão necessários vários laboratórios bem equipados, que concordarão em parar “nas mesmas condições”, bem como verificar se os demais efetivamente pararam.
Para exemplificar que esses acordos globais de pausa para o bem comum são possíveis, a empresa citou o Tratado sobre Forças Nucleares de Alcance Intermédio, embora tenha admitido que, nesse caso, levou “décadas” para construir “tanto a infraestrutura quanto a confiança”, tempo que não está disponível para a IA, devido aos seus rápidos avanços.
Com tudo isso, a Anthropic sinalizou que conduzirá sua pesquisa, além de organizar conversas com responsáveis políticos, pesquisadores, a sociedade civil e outras empresas para que possam “contribuir para responder” a essas questões relacionadas ao autoaperfeiçoamento recursivo. Assim, publicarão os resultados em breve para investigar essas questões em conjunto.
Esta notícia foi traduzida por um tradutor automático