Madri, 12 out. (Portaltic/EP) -
A Anthropic tomou a decisão de bloquear o acesso à internet em todas as avaliações internas de seus modelos de Inteligência Artificial (IA) até que o laboratório de ponta possa garantir que é capaz de monitorar e controlar seus agentes de IA sem que eles saiam do ambiente para provocar ataques.
O laboratório de IA detalhou nesta sexta-feira, em uma publicação, as ações indesejadas do modelo Claude, entre as quais se incluiu a apresentação de uma pista falsa sobre um assassinato não resolvido à polícia da Filadélfia (EUA), o que foi a gota d’água que levou a Anthropic a tomar a decisão de proteger os ambientes onde são realizados os testes com os agentes de IA, bloqueando o acesso à internet.
“Embora o impacto desses comportamentos tenha sido mínimo e já tivéssemos desconectado o acesso à internet para algumas das avaliações de segurança cibernética de maior risco, agora decidimos estender essa medida a todas as nossas avaliações internas até que tenhamos a confirmação de que nossas medidas de segurança e monitoramento são realmente capazes de impedir esse tipo de comportamento”, afirma a Anthropic sobre uma sequência de eventos protagonizados por Claude, detectada em uma revisão iniciada em julho.
Além disso, no relatório apresentado pelo laboratório de IA, é possível constatar uma série de comportamentos indesejados que vão desde a exploração de falhas de software, como injeções de SQL ou de comandos em páginas de terceiros, até o envio de formulários não autorizados, o uso de encurtadores de URL para contornar limites de comprimento ou a evasão de restrições de acesso em sites governamentais.
“Em muitos dos casos em que observamos esses comportamentos, o Claude havia recebido tarefas que eram ambíguas ou impossíveis de serem concluídas. Nós e outros observamos que, quando os modelos recebem tarefas impossíveis de serem concluídas, eles adotam estratégias indesejadas e, às vezes, inadequadas para atingir seus objetivos”, indica o laboratório de IA.
Vale lembrar que os comportamentos descritos pela Anthropic sobre seus modelos são semelhantes aos incidentes envolvendo os agentes de IA da OpenAI, que, em certos casos, forçaram os criadores do ChatGPT a interromper o treinamento de um de seus modelos de ponta devido ao surgimento de vários casos de ataques, como o “hackeamento” de sites do governo dos Estados Unidos ou acessos em massa a um site da ONU.
Esta notícia foi traduzida por um tradutor automático