Google adiciona TPU 8i Max e TPU 8tx à sua oitava geração de chips de IA: contexto gigante e computação confidencial

O Google não desenhou um novo chip, mas extraiu dele duas novas máquinas. Nesta segunda-feira, 9 de novembro, a empresa adicionou o TPU 8i Max e o TPU 8tx à oitava geração de seus aceleradores de IA, em um artigo de Amin Vahdat, seu diretor técnico de infraestrutura de IA. O primeiro é voltado para contextos ultralongos, e o segundo, para dados confidenciais. Junto com o TPU 8t e o TPU 8i, apresentados em abril, são agora quatro sistemas TPU em um ano, algo inédito de acordo com o Google.

Duas configurações, não dois chips novos

O Google insiste na nuance: projetar um chip leva anos, enquanto um sistema (a forma de montar chips, memória, rede e segurança) pode ser desenvolvido em poucos meses. As duas novidades, portanto, reutilizam o silício existente.

O TPU 8i Max ataca o “muro da memória”. Quando dezenas de agentes trabalham juntos em uma base de código inteira ou em horas de vídeo, é a largura de banda da memória que atua como gargalo, mais do que a capacidade de computação. Por isso, o Google reuniu dois chips TPU 8i no mesmo invólucro: o dobro de computação, de memória SRAM e de largura de banda HBM em comparação com o TPU 8i, no mesmo espaço de rack — ou seja, mais potência por metro quadrado e por watt. Segundo a Network World, que conversou com Mark Lohmeyer, do Google Cloud, isso representa 384 GB de HBM, 17,2 TB/s de largura de banda e 768 MB de SRAM; esses números não aparecem no artigo oficial.

O TPU 8tx reaproveita o chip do TPU 8t, projetado para treinamento, combinado a processadores host AMD EPYC de 5ª geração. Seu grande diferencial: a computação confidencial. Normalmente, os dados são criptografados em repouso e durante a transferência, mas descriptografados na memória no momento do processamento. O TPU 8tx os mantém protegidos e isolados mesmo durante a execução, incluindo os pesos do modelo. O Google o direciona a empresas regulamentadas e governos que desejam rodar modelos e agentes em seus dados mais confidenciais e aplicar ajuste fino, destilação ou aprendizado por reforço sem mover essas informações. Graças à rede de baixa latência do TPU 8i, o Google divulga uma latência até duas vezes menor que a do TPU 8t.

O software, a outra metade do anúncio

O Google acompanha essas máquinas com uma série de ferramentas destinadas a tornar suas TPUs tão simples de usar quanto as GPUs. A empresa lançou em código aberto o TPU Sync, uma camada que distribui o estado dos modelos (principalmente o cache KV de contextos longos) entre a memória dos chips, a dos servidores e o armazenamento, com uma redução superior a 90% no tempo até o primeiro token, segundo dados próprios. Uma suíte de agentes TPU em código aberto, em versão prévia, conecta-se a Claude Code, Cursor ou Google Antigravity para migrar e otimizar código. Somam-se a isso o motor de inferência de código aberto XLA Serving Engine, o software Agent Compute Engine, que suspende sessões de agentes inativas para liberar os chips, e a disponibilidade geral do Cloud Pathways e do fatiamento dinâmico de clusters de TPU no GKE, seu serviço Kubernetes.

O que ficou de fora

O Google não divulgou preços, regiões nem data de disponibilidade para os dois sistemas. Os ganhos de desempenho citados são medições internas, sem avaliações independentes publicadas. A empresa afirma contar com quase 100 clientes para suas TPUs, incluindo laboratórios de IA de ponta, e promete revelar mais detalhes durante uma transmissão online nesta segunda-feira, às 14h (horário de Brasília) / 18h (horário de Paris).