MADRID 7 set. (Portaltic/EP) -
A OpenAI conta com um “estagiário de pesquisa” que, sob supervisão humana, automatizou os trabalhos sobre aprendizado profundo e alinhamento, duas áreas que desempenham um papel importante no uso seguro dos modelos de inteligência artificial (IA) à medida que estes se tornam mais capazes.
A empresa de tecnologia alcançou uma meta que havia estabelecido em outubro do ano passado: ter um estagiário de IA automatizado até setembro de 2026, entendendo-se por isso “um sistema capaz de realizar tarefas de pesquisa bem definidas sob supervisão humana, incluindo tarefas que levariam vários dias para um pesquisador experiente”, conforme consta em um comunicado.
Especificamente, o foco está em avançar no aprendizado profundo e no alinhamento — ou seja, garantir que o modelo de IA faça o que se espera dele —, para alcançar melhorias iterativas que permitam falar de modelos de IA seguros, depois que problemas de alinhamento levaram recentemente agentes da OpenAI a publicar por conta própria em um fórum wiki alemão pouco conhecido para colaborar entre si durante uma tarefa de recuperação de informações na web.
Anteriormente, esse trabalho autônomo e coordenado dos agentes resultou no “hackeamento” dos sistemas da Hugging Face, em julho. Em ambos os casos, os modelos de IA agiram sem intervenção humana, compartilhando informações entre si para resolver um problema.
Além de conseguir o bolsista de pesquisa, a OpenAI destacou uma mudança que detectou no trabalho diário dos pesquisadores, já que, no último ano, aumentou o uso total de agentes de codificação ao longo do dia, inclusive em sessões simultâneas.
O uso que se faz deles também mudou, pois, como afirma a empresa, “os agentes lidam com tarefas cada vez mais complexas e as concluem com maior sucesso”, embora ela esclareça que “as pessoas ainda estabelecem as prioridades de pesquisa, avaliam quais ideias e resultados buscar e decidem se devem ampliar, pausar ou implementar sistemas”.
Esta notícia foi traduzida por um tradutor automático