O Google TPU Ironwood é uma inovação na computação de IA, projetada para otimizar a inferência com desempenho elevado e eficiência energética, suportando modelos complexos com até 9.216 chips, além de oferecer memória expandida e interconexão aprimorada para processamento de dados em larga escala.
O Google TPU Ironwood é a mais nova inovação na computação de inteligência artificial, projetada especificamente para a era da inferência. Apresentado no Google Cloud Next 25, Ironwood é a sétima geração de TPUs, oferecendo desempenho e eficiência energética sem precedentes para modelos de IA inferenciais.
Desempenho e Eficiência Energética do Ironwood
O desempenho do Google TPU Ironwood destaca-se por sua capacidade de processamento massivo, essencial para atender às necessidades de modelos de IA complexos.
Projetado para suportar até 9.216 chips interligados, o chip Ironwood oferece uma potência de processamento superior à de supercomputadores tradicionais, como o El Capitan.
Cada chip individual pode atingir até 4.614 TFLOPs, permitindo que modelos de IA avancem em treinamento e inferência com maior eficiência.
Em termos de eficiência energética, o Ironwood é um marco. Comparado às gerações anteriores, ela é quase 30 vezes mais eficiente em termos de consumo de energia.
Isso é alcançado por meio de soluções avançadas de resfriamento líquido e design otimizado de chips, que garantem operação em alta performance mesmo sob cargas contínuas e pesadas de trabalho de IA.
A eficiência por watt do Ironwood é o dobro da geração anterior, Trillium, permitindo que cargas de trabalho de IA funcionem de maneira mais econômica.
Novas Capacidades de Memória e Interconexão
O Google TPU Ironwood traz avanços significativos em capacidades de memória e interconexão que são fundamentais para lidar com as demandas de modelos de IA modernos.
Cada chip Ironwood possui 192 GB de memória de alta largura de banda (HBM), seis vezes mais do que a geração anterior, Trillium.
Essa capacidade ampliada permite o processamento de modelos e conjuntos de dados maiores, reduzindo a necessidade de transferências frequentes de dados e melhorando o desempenho geral.
Além disso, a largura de banda da HBM foi consideravelmente melhorada, alcançando 7,2 TBps por chip, o que é 4,5 vezes mais do que a da Trillium.
Isso garante acesso rápido aos dados, crucial para cargas de trabalho intensivas em memória, comuns nos aplicativos de IA modernos.
A interconexão entre chips também foi aprimorada com um aumento na largura de banda do Inter-Chip Interconnect (ICI) para 1,2 Tbps bidirecional, 1,5 vezes mais do que a Trillium.
Essa melhoria facilita a comunicação rápida entre os chips, essencial para o treinamento e inferência distribuídos de forma eficiente em larga escala.
Ironwood e a Evolução da Computação de IA
O Ironwood representa um marco na evolução da computação de IA, oferecendo capacidades que redefinem o que é possível no campo da inteligência artificial.
Projetado para a era da inferência, ele suporta modelos de IA que não apenas respondem a consultas, mas também geram insights proativos e interpretações de dados em grande escala.
Essa capacidade de “pensar” dos modelos é viabilizada pelo poder de processamento paralelo massivo e pelo acesso eficiente à memória que o Ironwood proporciona.
Com o chip, o Google Cloud integra-se perfeitamente à sua arquitetura de AI Hypercomputer, otimizando hardware e software para atender às cargas de trabalho de IA mais exigentes.
Isso inclui o suporte a modelos de linguagem de grande escala (LLMs), Mistura de Especialistas (MoEs) e tarefas avançadas de raciocínio.
O Ironwood, com sua rede de Inter-Chip Interconnect (ICI) de baixa latência e alta largura de banda, permite comunicação coordenada e síncrona em escala total de pod de TPU, essencial para o avanço contínuo da IA.
Além disso, ele é compatível com o Pathways, o runtime de ML do Google DeepMind, que facilita a computação distribuída eficiente em múltiplos chips de TPU.
Isso possibilita que desenvolvedores e clientes do Google Cloud avancem rapidamente as fronteiras da computação de IA generativa, explorando novas possibilidades e inovações no campo.
