MADRID 9 nov. (Portaltic/EP) -
O Google apresentou duas novas TPUs de oitava geração, a TPU 8xt e a TPU 8i Max, projetadas para inferência segura e confidencial com proteção de dados na camada de “hardware” no primeiro caso, e, no segundo caso, para duplicar a capacidade de computação, a SRAM e a largura de banda HBM, com o objetivo de lidar com janelas de contexto massivas.
Essas novas TPUs se somam à família de oitava geração, composta pelos modelos TPU 8t (destinado a acelerar o treinamento em grande escala) e 8i (para impulsionar a inferência com menor custo e latência), apresentados em abril deste ano, no âmbito do Google Cloud Next’26, com o objetivo de aprimorar sua infraestrutura de “hipercomputação de IA”, ou seja, aquela que permite executar e escalar cargas de trabalho mais exigentes em inteligência artificial (IA).
Agora, o Google deu mais um passo adiante e apresentou o TPU 8i Max para “janelas de contexto massivas e a maior densidade de computação por rack”, e a TPU 8tx, para inferência “segura e confidencial”, completando sua linha de TPUs com quatro sistemas lançados pela primeira vez em um ano, conforme divulgado em um comunicado.
“À medida que a computação passa da escala humana para a dos agentes, as empresas demandam aceleradores capazes de raciocinar nas enormes janelas de contexto dos modelos de IA. Além disso, alguns clientes sujeitos a regulamentações rigorosas exigem recursos especializados de criptografia para cargas de trabalho específicas”, afirmou o vice-presidente sênior e diretor de tecnologia, IA e infraestrutura do Google, Amin Vahdat.
Especificamente, o TPU 8tx foi projetado para empresas regulamentadas ou governos que executam modelos próprios ou de ponta e utilizam agentes autônomos, com o objetivo de proteger seus dados mais confidenciais. Isso se deve ao fato de ele integrar a segurança na camada de “hardware”.
Ou seja, conforme explicou, os dados e os pesos do modelo permanecem protegidos e isolados, mesmo durante o processamento, em vez de serem criptografados apenas no armazenamento ou em trânsito.
Além disso, ela utiliza o mesmo chip que a TPU 8t e é combinada com servidores equipados com CPUs AMD EPYC de 5ª geração. O Google também especificou que ela oferece até duas vezes menos latência do que a TPU 8t, ao adotar a rede Boardfly para raciocínio em tempo real.
Essa TPU 8tx também permite que as equipes ajustem modelos com dados privados, simplifiquem modelos grandes em outros menores e treinem agentes com aprendizado por reforço, tudo isso “sem transferir dados confidenciais entre clusters separados”.
Por sua vez, o sistema TPU 8i Max combina dois chips TPU em um único pacote para resolver o problema da limitação de memória. Isso ocorre quando, por exemplo, dezenas de agentes de IA trabalham em conjunto em todo um código-fonte de “software” ou processando horas de vídeo, esgotando a largura de banda e transformando-a em um gargalo.
Nesse sentido, a TPU consegue oferecer o dobro de capacidade de computação, de SRAM e de largura de banda HBM que a TPU 8i, conforme indicado pelo Google, já que cabe o dobro de silício no mesmo espaço de rack. Como resultado, os centros de dados podem implantar mais potência por metro quadrado e por vatio.
Além disso, elas servem para treinamento escalável, raciocínio de baixa latência, computação confidencial, janelas de contexto massivas e a maior densidade de computação por rack.
ACESSIBILIDADE PARA DESENVOLVEDORES
O Google também destacou como vem trabalhando sistematicamente para eliminar as barreiras à adoção dessa tecnologia pelos desenvolvedores. Especificamente para que “as TPUs sejam tão fáceis de usar quanto o ‘hardware’ de uso geral”.
Nesse contexto, anunciou novidades como a abertura do desenvolvimento de TPUs a todos os desenvolvedores do PyTorch. Isso permite executar código PyTorch e modelos do Hugging Face de forma nativa na TPU, sem reescrever código, com suporte para vLLM e SGLang.
Para facilitar a otimização do ‘hardware’, seu novo modelo de agentes de TPU de código aberto foi integrado diretamente a ferramentas de codificação como Claude Code, Cursor ou Google Antigravity, a fim de identificar gargalos e automatizar os ajustes de kernels personalizados.
Com tudo isso, o Google garantiu que a pilha de software nativa vLLM-TorchTPU alcançou marcas de custo-desempenho “de ponta” nos testes InferenceX e AgentX, que avaliam a codificação de agentes realistas e o trabalho com contextos extensos.
Por outro lado, a empresa também divulgou outros detalhes, como o Agent Compute Engine, um sistema que suspende sessões de agentes inativas e transfere sua memória de trabalho para fora do chip em milissegundos, reduzindo custos.
Por fim, com o Cloud Pathways, já disponível para uso geral no Google Kubernetes Engine (GKE), a empresa leva a todos os clientes do Google Cloud o ambiente de execução do Google DeepMind que dá suporte ao Gemini.
Esta notícia foi traduzida por um tradutor automático