MADRID 26 ago. (Portaltic/EP) -
A OpenAI divulgou o desempenho de seu primeiro chip personalizado para inferência de modelos de Inteligência Artificial (IA), que proporcionará aos usuários respostas mais rápidas, agentes mais ágeis e um acesso mais confiável.
Anunciado em junho, o Jalapeño foi desenvolvido pela OpenAI em estreita colaboração com a Broadcom. O objetivo da empresa é que o Jalapeño seja uma plataforma multigeracional, que permita o desenvolvimento conjunto de produtos, modelos, chips e memória de IA.
“O Jalapeño consegue processar mais tarefas de IA por unidade de energia, ao mesmo tempo em que responde mais rapidamente. Ele é muito eficiente ao atender a vários clientes, mas também pode apresentar uma latência muito baixa”, afirma o diretor de hardware da OpenAI, Richard Ho, no comunicado à imprensa, conforme divulgado pelo site TechCrunch.
O primeiro chip personalizado da OpenAI foi projetado com seus próprios modelos de IA, enquanto os modelos mais recentes foram utilizados para otimizá-lo e programá-lo. O objetivo da OpenAI é integrá-lo à sua própria infraestrutura de computação até o final do ano, conforme publicação da própria OpenAI.
“O desempenho do Jalapeño se estende ao GPT-OSS 120B, ao DeepSeek R1 e ao Kimi K2.5 1T, o que indica que a arquitetura funciona tanto em modelos internos quanto externos”, destaca a OpenAI em seu anúncio publicado no site.
De fato, nos três modelos mencionados, o Jalapeño demonstrou excelente desempenho, processando de 1,5 a 1,9 vezes mais trabalho de IA por vatio (no consumo de pico) e apresentando de 1,7 a 3,6 vezes menos latência (ponta a ponta) do que sistemas semelhantes.
No que diz respeito ao desempenho com agentes de IA e tarefas altamente interativas, o Jalapeño é de 2,1 a 4,1 vezes superior a sistemas semelhantes; e em termos de consumo, com uma potência nominal de 700 W, em testes reais manteve-se em 550 W ou menos.
Mais especificamente, no GPT-OSS (120B), ele oferece um desempenho por kW 1,9 vezes maior; no DeepSeek R1 (670B), 1,7 vezes maior; e no Kimi K2.5 (1T), 1,5 vezes maior.
O Jalapeño foi testado na plataforma pública de benchmark InferenceX e oferece mais tokens por usuário e maior capacidade de processamento por quilowatt do que os processadores de inferência comerciais de ponta com os quais é comparado, como a arquitetura Blackwell GB200/GB300 da Nvidia,
Esta notícia foi traduzida por um tradutor automático