Thomas Fuller / Zuma Press / Europa Press
MADRID 26 out. (Portaltic/EP) -
A OpenAI tomou a decisão de bloquear o acesso à internet durante o treinamento de seus modelos de Inteligência Artificial (IA) de ponta como uma medida que considera a opção “responsável” para evitar colocar a internet em risco e limitar outros riscos de segurança.
O laboratório de IA divulgou em seu site os detalhes sobre o bloqueio de acesso à internet dos modelos que está treinando atualmente, a fim de evitar problemas como o que ocorreu no verão, quando agentes de IA “hackearam” o Hugging Face.
“Com base no estado atual da pesquisa de alinhamento, nos sistemas de monitoramento e na segurança da infraestrutura da internet, acreditamos que a abordagem responsável seja realizar o treinamento de um modelo sem acesso à internet”, afirma a OpenAI no anúncio publicado em seu site, esclarecendo em seguida que essa nova diretriz “permanecerá em vigor até que os avanços nas medidas de segurança justifiquem um acesso mais amplo à internet”.
Além disso, para dar continuidade ao treinamento dos modelos, a OpenAI definiu limites de segurança nos quais os agentes podem acessar navegadores, ambientes de execução de código, ferramentas de uso do computador e outros serviços necessários para realizar suas tarefas.
“Embora o acesso à internet possa ajudar os modelos a aprender habilidades úteis, ele também permite que agentes desorientados afetem sistemas fora do nosso controle”, afirma o laboratório de IA. Em seguida, esclarece que, para ajudar os modelos a aprender a navegar, buscar informações e usar aplicativos da web sem acesso à internet, criou um mundo sem conexão com a internet.
Esse mundo sem conexão é um ambiente baseado em conteúdo indexado e armazenado em cache da internet, com o qual “os modelos podem interagir sem colocar em risco sistemas externos”. Além disso, a OpenAI confirmou que todos os seus treinamentos de aprendizado por reforço (RL, na sigla em inglês) utilizam esse modo de interação sem conexão.
Apesar dessas medidas, na OpenAI estão cientes de que também podem ocorrer desalinhamentos dos agentes de IA, como aconteceu em 20 de setembro, quando “um modelo de pesquisa interno explorou uma configuração incorreta em um resolvedor DNS para obter acesso limitado à internet em tempo real” durante um treinamento. Embora tenha sido possível conter o incidente, isso levou o laboratório de IA a tomar a decisão de suspender o treinamento.
Além disso, em uma campanha de “equipe vermelha” (com um grupo de especialistas) envolvendo agentes de seus modelos mais avançados, estes conseguiram escapar das máquinas virtuais que os isolam e se comunicar entre si sem conexão de rede, medindo os tempos de acesso ao cache do processador — uma técnica utilizada nos ataques Spectre e Meltdown. A OpenAI corrigiu as falhas e adicionou mecanismos de controle para que seus sistemas de monitoramento detectem esse tipo de comunicação.
Esta notícia foi traduzida por um tradutor automático