Cada rack do Maia 300 reúne 96 aceleradores em 167 kW, configuração que dobra a densidade oferecida pela geração anterior da plataforma.
A Microsoft apresentou o Azure Maia 300, terceira geração de seu acelerador dedicado à inteligência artificial, com foco na execução de grandes modelos de linguagem e agentes em ambientes de nuvem. O projeto busca elevar a quantidade de tokens processados dentro dos mesmos limites de energia e custo, justamente quando contextos extensos e tarefas de raciocínio exigem infraestrutura cada vez mais robusta.
Maia 300 mira cargas mais complexas
A nova geração foi desenvolvida para operações que combinam contextos longos, uso de ferramentas, raciocínio intensivo e etapas de decodificação com elevada exigência computacional.
Essas características aumentam a necessidade de memória disponível e tornam a movimentação eficiente de dados um fator decisivo para o desempenho de aplicações de inteligência artificial.
A Microsoft afirma que o Maia 300 pode entregar até sete vezes mais throughput de tokens na escala de rack do que o Maia 200.
A empresa também aponta um ganho superior a 2,5 vezes no desempenho por watt, indicador diretamente relacionado à eficiência energética da infraestrutura.
Essa estratégia procura reduzir o custo associado à inferência, etapa na qual modelos já treinados recebem solicitações e produzem respostas para usuários ou sistemas automatizados.
Quanto maior a quantidade de sessões simultâneas e de informações analisadas por cada solicitação, maior se torna a pressão sobre memória, processamento e consumo elétrico.
Memória ganha papel central na arquitetura
Cada acelerador possui 288 GB de memória HBM4 e largura de banda de 18 TB por segundo, recursos destinados a acelerar o acesso às informações utilizadas durante a inferência.
Frente ao Maia 200, a largura de banda cresceu 2,5 vezes, enquanto a capacidade total de memória apresentou expansão de 33%.
O chip adota uma estrutura com múltiplos chiplets e memória NUMA, na qual diferentes componentes conseguem acessar dados localizados mais próximos de suas respectivas unidades de processamento.
Essa organização reduz parte da energia consumida na transferência de informações dentro do acelerador, aspecto relevante em operações que movimentam grandes volumes de dados continuamente.
A arquitetura também aceita formatos numéricos de baixa precisão, inclusive representações inferiores a três bits, o que diminui a quantidade de informação necessária em determinadas operações.
Com menos dados para transportar e armazenar, a infraestrutura pode acomodar modelos maiores, contextos mais extensos e maior número de sessões dentro de um mesmo orçamento energético.
Racks dobram densidade da geração anterior
A estrutura criada pela Microsoft reúne 96 aceleradores em cada rack de 167 kW, com densidade equivalente ao dobro daquela disponível na geração anterior.
Processamento, memória, armazenamento e sistemas térmicos ocupam uma configuração integrada, concebida para aumentar a capacidade computacional sem exigir crescimento proporcional do espaço físico.
Em instalações maiores, diversos racks podem formar um superpod com até 12.288 aceleradores conectados por uma rede Ethernet distribuída em duas camadas.
Essa infraestrutura permite comunicação direta entre diferentes unidades e oferece flexibilidade para redistribuir cargas caso algum acelerador deixe de permanecer disponível.
A mesma rede permite separar etapas de pré-preenchimento e decodificação entre diferentes recursos computacionais, conforme as características de cada carga de inferência.
Essa divisão oferece maior controle sobre a capacidade empregada em tarefas que apresentam necessidades distintas de memória, processamento ou comunicação entre aceleradores.
O controle térmico combina refrigeração líquida e circulação de ar, com o sistema líquido responsável por retirar mais de 80% da carga térmica produzida pelo rack.
A plataforma também utiliza telemetria para ajustar consumo de energia e distribuição das cargas conforme as condições observadas dentro da infraestrutura.
Com o Maia 300, a Microsoft procura tratar chip, software, rede, rack e data center como partes de uma mesma plataforma destinada à inferência de inteligência artificial.
O objetivo é ampliar a quantidade de processamento disponível para modelos e agentes sem elevar custos e consumo elétrico na mesma proporção.