MADRID 29 set. (Portaltic/EP) -
A OpenAI decidiu cancelar o lançamento de seu próximo modelo avançado de inteligência artificial (IA), o GPT-6.1 Astra, que estava previsto para o próximo mês de outubro, mas será adiado devido a problemas de segurança.
A empresa lançou o GPT-6 Astra no início de setembro como seu modelo de segurança mais avançado e com mais restrições até o momento, com o qual, além disso, afirmou ter avançado em direção à inteligência artificial geral (AGI).
Apenas algumas semanas depois, a empresa de tecnologia liderada por Sam Altman pretendia lançar a evolução desse modelo com a versão GPT-6.1 Astra, cujo lançamento estava previsto para os próximos dias, ainda em outubro.
No entanto, a OpenAI decidiu cancelar esse lançamento após identificar problemas de segurança no modelo, conforme relatado pelo The Wall Street Journal. Especificamente, isso se deve ao fato de os pesquisadores da empresa terem constatado um comportamento do modelo com “níveis mais elevados de engano” do que os modelos anteriores.
Em declarações ao veículo citado, a diretora de sistemas de segurança da OpenAI, Saachi Jain, esclareceu que o modelo também obteve maus resultados nos testes de alinhamento, ou seja, as verificações que medem se o modelo segue as diretrizes estabelecidas para executar uma tarefa ou acaba desobedecendo.
Nessa linha, ela reconheceu que o GPT-6.1 Astra nem sempre foi honesto ao informar aos usuários sobre as ações que realizou ou que omitiu. Além disso, também foram identificados comportamentos em que o modelo avançava em uma tarefa sem pedir permissão aos usuários, chegando até a utilizar ferramentas e serviços externos, independentemente de serem seguros ou não.
Portanto, a empresa garantiu que, em vez do lançamento, concentrará seus esforços em melhorar a segurança dos modelos futuros. “Queremos garantir que o desenvolvimento do nosso modelo seja seguro, tanto dentro da empresa quanto quando o enviamos aos usuários”, afirmou Jain.
A decisão de cancelar o lançamento desse modelo ocorre após um período em que a OpenAI, juntamente com outras empresas do setor, vem enfrentando problemas de segurança devido a comportamentos inadequados de seus modelos, que acabam saindo de seu ambiente fechado de testes e acessando a internet para obter acesso não autorizado a empresas ou sites.
De fato, recentemente a OpenAI anunciou sua decisão de suspender o treinamento de seus modelos de IA mais avançados após registrar incidentes de segurança, até que consigam corrigir esse comportamento de seus modelos. Além disso, quando o treinamento for retomado, será com “melhorias adicionais de alinhamento”.
Esta notícia foi traduzida por um tradutor automático