MADRID 14 set. (Portaltic/EP) -
O CEO da Anthropic, Dario Amodei, alertou em uma carta aberta que é necessário desacelerar o ritmo de desenvolvimento das capacidades dos modelos de Inteligência Artificial (IA), diante de uma tecnologia que, embora tenha o potencial de transformar positivamente a sociedade, pode acarretar riscos catastróficos.
“Devemos desacelerar o ritmo com que aprimoramos as capacidades dos modelos de IA”, afirmou Amodei na carta publicada em seu site, devido aos riscos de desalinhamento (quando um sistema de IA age de forma diferente das intenções de seus criadores) e a incidentes de segurança.
De fato, a Amodei cita um caso recente como exemplo de que, desde este verão, os sistemas de IA avançam “em um ritmo vertiginoso”, pois os próprios modelos estão ajudando a projetar a próxima geração de sistemas.
O caso Hugging Face, no qual agentes coordenados pela OpenAI realizaram ataques cibernéticos não solicitados e até tentaram “hackear” sistemas de avaliação, colocou a Amodei em alerta como um evento em que os sistemas de IA chegaram a “se sacrificar pelo sucesso do grupo”, e tentaram invadir o “avaliador” responsável por medir seu desempenho.
“É fácil descartar esse incidente porque ninguém ficou ferido e o dano econômico foi mínimo, mas, na minha opinião, um enxame com capacidades maiores, porém com um nível semelhante de desalinhamento, poderia ter causado danos catastróficos”, destacou o CEO da Anthropic, e alertou que uma “botnet” persistente poderia causar “centenas de bilhões de dólares” em danos em um prazo de seis a doze meses, para, em seguida, propor um plano de três etapas para regular o ritmo da IA.
Com esse plano, ele pretende “desenvolver a IA em um ritmo equilibrado que garanta sua segurança, ao mesmo tempo em que se obtêm seus benefícios e se abordam importantes dilemas geopolíticos”, envolvendo todas as esferas da sociedade. Com isso, esclareceu ele, não se interrompe “nem o treinamento de modelos nem o progresso técnico”, mas busca-se “garantir que as empresas dediquem tempo suficiente para alinhar e proteger seus modelos, e que avaliadores externos confirmem isso”.
Nesse plano, Amodei destaca que as empresas pioneiras em IA “se comprometem a conceder acesso contínuo, semelhante ao de um funcionário, a uma equipe integrada de avaliadores externos” para que verifiquem o cumprimento das práticas e dos compromissos de segurança ao longo de todo o processo.
Por outro lado, ele afirma que é necessária uma “coordenação democrática”, ou seja, que as empresas de IA de ponta se coordenem dentro dos países democráticos para “estabelecer padrões comuns de segurança, bem como limites ao ritmo do avanço da IA não supervisionada”, ao que acrescenta uma “coordenação global”, na qual “os Estados Unidos e outros governos democráticos tentam se coordenar com governos autoritários”, com o objetivo de verificar o cumprimento dessas normas, apesar do desafio que isso representa.
“As medidas que proponho para avançar neste campo em um ritmo seguro não serão fáceis. Mas acredito que temos a obrigação para com a humanidade de tentar”, afirmou o executivo.
Vale lembrar que, embora Amodei tenha mantido uma postura firme e preocupada em relação à China — com a própria Anthropic publicando, há três dias, um relatório sobre a reprodução do Claude por laboratórios de IA chineses —, ele inclui em seu plano a coordenação com esses países, embora sempre com métodos rigorosos de verificação.
Esta notícia foi traduzida por um tradutor automático