Patrick Pleul/dpa - Arquivo
MADRID 9 jul. (Portaltic/EP) -
O programa da Meta que registra a atividade nos computadores de seus funcionários para treinar seus modelos de inteligência artificial (IA) está atualmente suspenso em decorrência de uma falha de segurança, embora o motivo principal pareça ser que os dados apareceram “em um lugar onde não deveriam estar”.
“O programa como um todo está suspenso”, pelo menos por enquanto, afirmou o diretor de Tecnologia da Meta, Andrew Bosworth, em relação à Model Capability Initiative (MCI) e à falha de segurança detectada em junho, que expôs as conversas privadas dos funcionários.
Esses dados foram coletados por meio de um sistema interno, instalado nos computadores dos funcionários da Meta nos Estados Unidos, para monitorar o uso que eles fazem do computador e obter dados de treinamento para a IA.
Em uma entrevista com o diretor executivo da The Atlantic, Nicholas Thompson, realizada no final de junho e compartilhada nesta quarta-feira no podcast “The Most Interesting Thing in AI” do YouTube, Bosworth explicou que, na verdade, não houve nenhuma falha de segurança, mas que os dados haviam sido colocados “em um lugar onde não deveriam estar”.
“Foi algo estritamente interno; não há motivos para suspeitar de irregularidades. Estamos revisando todos os pontos de acesso e realizando esse tipo de verificação”, garantiu.
OBTER DADOS QUE NÃO EXISTEM
Durante sua participação, Bosworth também explicou a teoria por trás de um programa que gerou polêmica, após virar notícia na mídia, devido ao monitoramento que faz da atividade dos funcionários, registrando o uso do teclado e do mouse para treinar sua própria IA.
Para a Meta, a ideia era simples: “Você tem um grupo de funcionários que já realiza esse trabalho diariamente. E, sem que isso exija nenhum esforço adicional da parte deles, é possível aprimorar seus modelos. Isso beneficia não apenas os funcionários quando retomam suas tarefas, mas também os consumidores, ou seja, as pessoas que desejam utilizar a IA”.
Mais do que um programa, Bosworth afirmou que se trata de uma pesquisa, cujo objetivo era ensinar sua inteligência artificial a usar um computador, pois “as IAs são surpreendentemente deficientes, apesar de serem elas mesmas sistemas computacionais”.
A estratégia dos funcionários foi criar dados que não existiam para ensinar a IA a navegar em um site e clicar no local exato, por meio de uma coleta de dados de longo prazo, inicialmente estimada em 18 meses.
A análise dos dados após duas semanas revelou duplicatas, em número maior do que esperavam encontrar. “A variabilidade é muito mais importante do que um grande volume de dados idênticos que, no fundo, se resume a um único exemplo”, indicou o executivo.
Isso os levou, segundo afirmou Bosworth, a oferecer mais opções aos funcionários para que pudessem sair do programa. Anteriormente, soube-se que a Meta havia introduzido algumas mudanças no sistema que permitiam aos funcionários fazer pausas de até 30 minutos para cuidar de assuntos pessoais.
Esta notícia foi traduzida por um tradutor automático