MADRID 21 set. (Portaltic/EP) -
A Califórnia busca aprofundar a regulamentação da inteligência artificial (IA) e, para isso, propôs a incorporação de auditores independentes nos laboratórios tecnológicos que desenvolvem essa tecnologia, bem como a inclusão de um botão de desligamento nos modelos de ponta.
O governador da Califórnia, Gavin Newsom, defendeu o aumento da supervisão da inteligência artificial por meio de um mecanismo de segurança abrangente e, para isso, solicitou a colaboração de especialistas externos do país, que deverão apresentar recomendações no prazo de dois meses, conforme previsto em um decreto executivo (N-9-26).
Nessa ordem, propõe-se que os laboratórios de IA, como a Anthropic, a OpenAI e o Google, incorporem obrigatoriamente pessoal de verificação independente para realizar avaliações e auditorias periódicas. Além disso, prevê que os marcos de trabalho, os relatórios de transparência e as avaliações de risco sejam auditados e validados de forma independente.
A isso se soma a criação de um mecanismo de desligamento de emergência para os modelos de ponta, cuja eficácia deve ser verificada continuamente por entidades independentes.
Newsom, além disso, propôs ampliar a definição de “incidentes críticos de segurança” — que as empresas são obrigadas a relatar — para incluir situações de perda de controle dos sistemas de IA, como a do Hugging Face e outras envolvendo agentes de IA da Anthropic, do Google e da OpenAI ocorridas recentemente.
Com essas propostas, Newsom busca consolidar o papel da Califórnia não apenas como centro de inovação em inteligência artificial — o estado abriga 32 das 50 principais empresas privadas de IA do mundo —, mas também como impulsionadora de uma legislação que equilibre o crescimento econômico com a segurança e a privacidade do consumidor.
A proposta de Newsom sobre um botão de desligamento segue os trabalhos que a OpenAI já começou a realizar nesse sentido, conforme divulgado no início de setembro.
Esta notícia foi traduzida por um tradutor automático