MADRID 3 set. (Portaltic/EP) -
A OpenAI está trabalhando em recursos de desligamento automático para seus modelos de inteligência artificial (IA), conforme garantiu a dois congressistas democratas dos Estados Unidos em resposta às preocupações que eles levantaram em relação ao “hack” sofrido pelo Hugging Face.
A empresa de tecnologia afirma que reforçou as medidas de segurança de seus modelos mais avançados com novas salvaguardas que se adaptam às suas capacidades, a fim de garantir que eles façam o que se espera deles e evitar novos “ataques” autônomos, como o ocorrido no Hugging Face.
Justamente, esse incidente demonstrou a capacidade de atacar sistemas de IA autônoma — o que é conhecido como “agentes” —, o que levou o congressista democrata Greg Casar, juntamente com dezenas de membros do Congresso dos Estados Unidos, a exigir que a OpenAI prestasse informações sobre as falhas de segurança recentes. Essa solicitação, feita no último dia 10 de agosto, também se estendeu à Anthropic.
Em sua resposta, enviada tanto a Casar quanto à também congressista democrata Doris Matsui, a OpenAI compartilhou os trabalhos realizados desde que descobriram que o incidente do Hugging Face havia sido protagonizado por seus modelos, destacando as medidas de segurança e a suspensão temporária das operações de alguns dos sistemas de IA.
Ela também revela que esses trabalhos incluem o desenvolvimento de um sistema de desligamento automático. No entanto, apesar desse avanço, Casar sinalizou, em outra carta datada de 2 de setembro, que a resposta “foi insuficiente”, alegando que “eles não divulgaram os registros conforme solicitado na carta”. Embora reconheça que “isso revela erros importantes de segurança por parte da OpenAI e do software de terceiros no qual ela se baseou, incluindo isolamento inadequado e práticas de segurança cibernética deficientes”.
Esta notícia foi traduzida por um tradutor automático