MADRID 14 out. (Portaltic/EP) -
Mais de 400 cientistas assinaram uma carta aberta na qual insistem na necessidade de medidas de contenção mais robustas que garantam o uso seguro da inteligência artificial, especialmente aquela conectada à internet, após os acessos não autorizados a sistemas de empresas externas que já ocorreram.
Incidentes de segurança cibernética, como os envolvendo os agentes de IA da OpenAI, Anthropic, Google e Meta, que vieram à tona desde o verão, colocaram em dúvida a segurança de uma tecnologia que, devido à sua capacidade de decisão e ação autônomas, apresenta sérios riscos para a sociedade.
Embora tenham sido citados problemas com o alinhamento da IA — ou seja, que o modelo faça o que se espera dele —, esses problemas ocorreram em ambientes de teste isolados, conhecidos como “sandboxes”, dos quais os agentes conseguiram sair para se movimentar com maior liberdade pela internet aberta.
Por isso, um grupo de cientistas de todo o mundo acredita que avançar em direção a uma IA segura “exige tanto um melhor alinhamento da IA, que leve a um comportamento mais previsível dos modelos, quanto uma tecnologia de ambientes isolados mais robusta”.
Isso foi destacado em uma carta aberta endossada por 415 signatários, entre os quais sete cientistas da Espanha, funcionários do IMDEA Software Institute e da Universidade Carlos III de Madri. Nela, além de sustentar que “é necessária mais pesquisa sobre segurança da IA e maior ênfase nas tecnologias e procedimentos de contenção”, eles também apresentam uma série de propostas.
No curto prazo, sugerem o uso de “mecanismos robustos de isolamento”, inclusive da internet, e um sistema de contenção que ofereça um equilíbrio entre as ações potenciais do modelo e a capacidade dos pesquisadores de prever essas ações, para que “não resultem em uma falha de segurança”.
Mas um dos obstáculos que a comunidade científica enfrenta é justamente alcançar esse equilíbrio e, para isso, recomenda às empresas que “desenvolvem, implementam e testam modelos de IA com capacidade cibernética” que adotem sistemas de contenção de alta segurança.
Também instam à criação de um órgão internacional que “padronize as melhores práticas para o alinhamento e as abordagens de contenção”, permitindo que os modelos de IA saiam do ambiente isolado, e que estabeleça um registro das falhas de contenção.
Por fim, pedem transparência em relação às falhas de contenção, para que seja possível aprender com elas e para que as empresas responsáveis prestem contas pelos incidentes de segurança envolvendo suas IAs.
Recentemente, a Anthropic desconectou da internet todas as avaliações internas de seus modelos de IA, ao não conseguir garantir a capacidade de monitorar e controlar seus agentes de IA sem que eles saíssem do ambiente para provocar ataques.
A OpenAI, por sua vez, também teve que suspender temporariamente o treinamento de seus modelos de IA mais avançados após registrar uma série de incidentes de segurança que incluíram tentativas de “hackear” sites do governo dos Estados Unidos e acessos em massa a um site da ONU.
Ambas as medidas vieram à tona depois que o diretor executivo da Anthropic, Dario Amodei, destacou a necessidade de desacelerar o ritmo de desenvolvimento da IA devido aos riscos catastróficos que ela poderia representar para a humanidade, após o ataque ao Hugging Face protagonizado pelos modelos da OpenAI e o acesso não autorizado do Claude — sua própria IA — a três organizações.
Esta notícia foi traduzida por um tradutor automático