MADRID 20 out. (Portaltic/EP) -
A Nvidia apresentou seus novos modelos abertos Nemotron, incluindo o Nemotron 3.5 Super VL, que traz recursos aprimorados e é cinco vezes mais rápido, preciso e personalizável, além dos modelos Nemotron 3.5 Bolt, de tamanho reduzido, destinados a agentes locais.
A empresa de tecnologia destacou que os novos membros da família Nemotron são modelos abertos que abrangem “toda a gama de implementações de agentes”. Ou seja, desde grandes servidores corporativos até dispositivos periféricos e hardware local.
Especificamente, o novo modelo Nemotron 3.5 Super VL possui 120 bilhões de parâmetros e oferece recursos para a conclusão mais rápida de tarefas e maior precisão para agentes especializados que “operam de forma contínua”.
A Nvidia garantiu que esse modelo apresenta alta precisão na execução de tarefas multimodais de agentes, como o cumprimento de instruções, o uso de ferramentas ou fluxos de trabalho corporativos com várias etapas, conforme explicou em um comunicado.
No entanto, ele se destaca notavelmente por oferecer um desempenho comparável ao do maior modelo de raciocínio da empresa, o Nemotron 3 Ultra, mas utilizando aproximadamente “um quinto da quantidade de parâmetros”.
Além disso, de acordo com seus testes, é um modelo cinco vezes mais rápido que o segundo melhor do setor, sendo “o mais rápido da sua categoria”, segundo a Nvidia. Isso significa que ele pode impulsionar agentes a concluir tarefas de grande volume, mas com maior rapidez nos fluxos de trabalho.
A Nvidia também destacou as capacidades de processamento de linguagem visual do Nemotron 3.5 Super VL, que conta com reconhecimento óptico de caracteres, tabelas, gráficos e informações estruturadas em documentos visuais. Com isso, ele pode processar uma página da web ou um arquivo, extrair texto, compreender imagens e fornecer informações relacionadas a partir dos resultados.
Além de tudo isso, por se tratar de um modelo aberto, as organizações podem utilizá-lo treinando-o com seus próprios dados e, posteriormente, implementá-lo em sua própria infraestrutura, resultando assim em um modelo totalmente personalizável.
NEMOTRON 3.5 BOLT
Por outro lado, a Nvidia apresentou dois novos modelos “edge” mais compactos, projetados para agentes locais. É o caso do Nemotron 3.5 Bolt 74B-A9B, de 24 GB e otimizado para equilibrar inteligência e velocidade por GB, e do Nemotron 3.5 Bolt E4B, de 4 GB e otimizado especificamente para agentes conversacionais rápidos.
Mais especificamente, a empresa esclareceu que o Bolt 74B-A9B de 24 GB permite executar tarefas cotidianas de agentes de forma local nos novos processadores NVIDIA RTX Spark, apresentados em junho e já incorporados em alguns dispositivos, como computadores da ASUS e da Microsoft.
Segundo a NVIDIA, ambas as versões do modelo podem utilizar uma “quantização nativa de 2 bits para se adaptar aos 24 GB de memória e rodar em conjunto com outros aplicativos”. Isso significa que elas oferecem um resultado equilibrado entre inteligência e velocidade, em comparação com outros modelos com consumo de memória semelhante. Na prática, elas podem realizar a maioria das tarefas, por mais complexas que sejam, mas de forma muito mais rápida.
A diferença entre as duas versões é que, com o Bolt 74B-A9B de 24 GB, é possível executar tarefas com ferramentas populares de agentes locais, incluindo pesquisa na web ou escrita e depuração de código, tudo isso sem enviar a carga de trabalho para a nuvem.
Já o Bolt E4B de 4 GB foi projetado mais para agentes físicos e conversacionais em ambientes com chips GeForce RTX, Jetson e RTX/DGX Spark. Ou seja, para potencializar assistentes de voz locais rápidos, personagens interativos ou interfaces integradas.
Com tudo isso, o novo modelo Nemotron 3.5 Super VL, juntamente com o Nemotron Bolt 74B-A9B, já está disponível para todos os usuários por meio do Hugging Face, Open Router e Nvidia NIM. Já o modelo Nemotron Bolt 4EB estará disponível para os usuários a partir de 23 de outubro.
Esta notícia foi traduzida por um tradutor automático