MADRID 16 jul. (Portaltic/EP) -
A OpenAI desenvolveu o GPT-Red, um modelo avançado de IA com a capacidade de violar a segurança de seus outros modelos para reforçar sua própria segurança, o que acabou transformando-o em um “atacante muito poderoso”, levando a empresa a mantê-lo isolado dos demais para evitar que caia em mãos erradas.
A OpenAI treinou internamente vários modelos para dar suporte à sua equipe vermelha (red team), um grupo especializado em simular ataques cibernéticos realistas contra os sistemas da organização para identificar vulnerabilidades e falhas, com o objetivo de reforçar as defesas.
Entre eles, a empresa afirma que o melhor é aquele que chamaram de GPT-Red, que foi treinado com “uma capacidade computacional sem precedentes dedicada exclusivamente a melhorar a segurança”, conforme detalhado em um comunicado divulgado em seu blog.
Para seu treinamento, a OpenAI optou pelo aprendizado por reforço baseado em autojogo, em um ambiente no qual o GPT-Red testou suas capacidades de inserir injeções de código malicioso contra outros modelos; recebia uma recompensa sempre que conseguia provocar uma falha válida com uma injeção de aviso, em contraste com a recompensa que os outros modelos recebiam por resistir ao ataque e concluir suas tarefas originais.
Com essa abordagem, “à medida que os defensores se tornam mais robustos, o GPT-Red é forçado a descobrir ataques mais fortes e diversificados”, o que, no fim das contas, significa que “ele se torna um atacante muito potente”, com a capacidade de “romper praticamente todos os modelos que enfrenta, tanto internos quanto de produção”.
O GPT-Red tem sido utilizado para o treinamento dos modelos de produção da OpenAI desde o GPT-5.3, incluindo o GPT-5.6 Sol. Em sua apresentação, a empresa de tecnologia destacou que esse modelo, o mais recente, é “o conjunto de segurança mais robusto até o momento”, graças ao reforço das proteções contra atividades de maior risco, solicitações cibernéticas sensíveis e usos indevidos repetidos.
As capacidades do GPT-Red levaram a OpenAI a manter esse modelo separado dos demais, para evitar que as capacidades maliciosas com as quais ele foi treinado caiam nas mãos de agentes mal-intencionados. E confirmou que aumentará a capacidade de processamento e o volume de dados, além de aprimorar os algoritmos, “para treinar futuras versões do GPT-Red que superem o modelo atual”.
Esta notícia foi traduzida por um tradutor automático