MADRID 19 out. (Portaltic/EP) -
A Anthropic está considerando permitir que o governo dos Estados Unidos desative um modelo avançado de inteligência artificial (IA) com base no dano potencial que ele possa causar, estimado em mais de mil milhões de dólares ou na morte de mais de 50 pessoas.
Representantes do laboratório de IA se reuniram com legisladores do Congresso dos Estados Unidos para apresentar um projeto de lei próprio sobre a segurança da inteligência artificial avançada, conforme informou o POLITICO, que cita três fontes a par do assunto.
Esse projeto de lei, cuja minuta foi acessada pelo veículo de comunicação citado, prevê uma série de medidas que envolveriam o Departamento de Comércio, na qualidade de órgão federal responsável pela supervisão das atividades das empresas de tecnologia dedicadas à IA.
Prevê a presença de avaliadores independentes, que deverão estar registrados junto ao Departamento de Comércio, para realizar avaliações periódicas tanto da empresa quanto dos modelos que ela desenvolve.
Se o resultado dessas avaliações concluir que os modelos de ponta representam um risco iminente e quantificável, os avaliadores deverão comunicar isso ao Departamento de Comércio em um prazo máximo de 72 horas.
Esse departamento é o único que terá competência para solicitar ao juiz a suspensão da IA (tanto de seu uso quanto de seu desenvolvimento), caso assim seja determinado. Essa ordem só poderia ser concedida por um juiz federal do Tribunal Distrital do Distrito de Columbia.
A Anthropic também indica no rascunho os limites que devem ser levados em consideração antes de se decidir suspender uma IA e os define como o risco de danos superiores a mil milhões de dólares ou de causar morte ou lesões graves a mais de 50 pessoas.
Essas medidas se aplicariam a qualquer empresa que desenvolvesse modelos avançados de IA com capacidade de causar danos.
Essas medidas já estão previstas na regulamentação da IA da Califórnia e na ampliação em que o governador Gavin Newsom está trabalhando, que visa incorporar auditores independentes nos laboratórios de tecnologia e um botão de desligamento nos modelos de ponta.
As discussões sobre o projeto de lei surgem após a divulgação, neste verão, de diversos incidentes de segurança envolvendo agentes de IA de empresas como Anthropic, OpenAI, Google e Meta, que colocaram em dúvida a segurança de uma tecnologia que, devido à sua capacidade de decisão e ação autônomas, apresenta graves riscos para a sociedade.
Justamente, o diretor executivo da Anthropic, Dario Amodei, chegou a levantar, em setembro, a necessidade de desacelerar o ritmo de desenvolvimento das capacidades dos modelos de inteligência artificial; uma posição compartilhada pelo diretor executivo da OpenAI, Sam Altman.
Esta notícia foi traduzida por um tradutor automático