Microsoft ha annunciato Azure Maia 300 il 12 ottobre 2026 come terza generazione del suo acceleratore IA per data center. L’azienda prevede di iniziare le installazioni in produzione nel 2027. L’annuncio di Microsoft presenta un sistema progettato per l’inferenza: il lavoro necessario a generare risposte a partire da modelli IA già addestrati.

Un acceleratore progettato per l’inferenza

Maia 300 è pensato per carichi di lavoro con contesti lunghi, decodifica intensiva e uso elevato della memoria. Microsoft cita anche il ragionamento su contesti estesi, le conversazioni sensibili alla latenza e le attività degli agenti IA, che possono articolarsi in più passaggi. È quindi un componente per i data center Azure, non un’applicazione IA da usare direttamente.

Microsoft descrive un’architettura multi-chiplet, cioè composta da più chip collegati in un unico sistema. Per i chiplet di calcolo indica il processo N2P di TSMC; la specifica riguarda quei componenti, non l’intero rack. L’azienda menziona inoltre MXFP4 avanzato e formati di memorizzazione inferiori a 3 bit, tecniche a precisione ridotta pensate per limitare le esigenze di memoria e il trasferimento dei dati. L’approfondimento tecnico di Azure descrive questi elementi insieme al software e alla rete del sistema.

Dall’acceleratore al rack

Ogni acceleratore Maia 300 è specificato con otto stack HBM4, 288 GB di memoria e una banda di memoria di picco pari a 18 TB/s. HBM4 è una memoria ad alta larghezza di banda, utile per alimentare rapidamente i dati necessari ai calcoli. Microsoft indica anche un TDP di 950 W per l’acceleratore.

Un rack completo riunisce 96 acceleratori e ha un involucro di potenza dichiarato di 167 kW. La sua memoria HBM complessiva è pari a 27,6 TB, con una banda aggregata di 1,7 PB/s. Il rack è suddiviso in 24 vassoi da quattro acceleratori ciascuno: è una configurazione di sistema, distinta dalle specifiche del singolo chip.

La rete scale-up a due livelli descritta da Microsoft collega sistemi Maia 300 in superpod fino a 12.288 acceleratori, usando un trasporto AI personalizzato basato su Ethernet. Anche il raffreddamento è distribuito tra i componenti: il liquido raffredda acceleratori, regolatori di tensione e chip degli switch; l’aria serve memoria, archiviazione e componenti ausiliari. Microsoft afferma che il raffreddamento a liquido rimuove oltre l’80% del carico termico del rack associato agli acceleratori, ai regolatori di tensione e agli switch ASIC.

Che cosa confrontano le prestazioni dichiarate

Nel confronto con Maia 200, Microsoft attribuisce a Maia 300 una banda di memoria 2,5 volte superiore, il 33% in più di capacità di memoria e circa il doppio della banda HBM per watt. Per un rack completo con 96 acceleratori, l’azienda dichiara inoltre un throughput di token a livello rack fino a sette volte quello di Maia 200 e prestazioni per watt fino a 2,5 volte superiori.

Un’altra stima riguarda i sistemi GPU: Microsoft prevede per Maia 300 il 40% di token in più per megawatt rispetto ai principali sistemi basati su GPU. In questa dichiarazione non sono indicati un modello GPU o un carico di prova specifico. Il confronto riguarda i token per megawatt; il dato fino a sette volte, invece, riguarda il throughput a livello rack rispetto a Maia 200 nella configurazione completa da 96 acceleratori.