Microsoft ha annunciato Maia 300 il 12 ottobre 2026 e prevede di avviare i deployment in produzione nel 2027. Nello stesso anno, il piano di Microsoft prevede anche distribuzioni multi-gigawatt per la famiglia Maia. Maia 300 è la terza generazione degli acceleratori Azure Maia, progettata per l’inferenza, cioè l’esecuzione di modelli già addestrati. (Annuncio di Microsoft)

Dal chip al rack: il progetto di Maia 300

Microsoft ha progettato l’acceleratore per carichi di inferenza con contesti lunghi, uso intensivo della memoria e decodifica, oltre che per conversazioni in cui la latenza conta e attività articolate in più passaggi. Ogni acceleratore integra otto stack di memoria HBM4, per 288 GB complessivi e una banda massima dichiarata di 18 TB/s. Nel post tecnico di Microsoft Azure, la memoria è descritta come parte di un’architettura NUMA attenta alla località dei dati, insieme a una versione evoluta della struttura SDLA di Microsoft. (Architettura di Azure Maia 300)

Rispetto a Maia 200, Microsoft dichiara per Maia 300 2,5 volte la banda HBM, il 33% di capacità in più e circa il doppio della banda HBM per watt. Sono confronti dichiarati dall’azienda, riferiti alla memoria.

La scala del sistema va oltre il singolo acceleratore: Microsoft descrive un rack da 96 acceleratori, disposti in 24 tray da quattro, con un limite di potenza di 167 kW. Ogni acceleratore ha un TDP dichiarato di 950 W. La rete Ethernet scale-up a due livelli è progettata per superpod fino a 128 rack e 12.288 acceleratori; all’interno del superpod, gli acceleratori possono comunicare direttamente senza passare da un host o da una scheda di rete scale-out separata. Microsoft descrive anche un raffreddamento ibrido: il liquido rimuove oltre l’80% del carico termico di acceleratori, regolatori di tensione e switch ASIC, mentre l’aria raffredda memoria, storage e componenti ausiliari.

Secondo Reuters, i chiplet di calcolo usano la tecnologia N2P a 2 nm di TSMC, mentre gli altri chiplet sono basati su un processo a 3 nm. (Reuters)

Che cosa dicono le cifre sulle prestazioni

Il segmento in inglese di Yahoo Finance discute l’annuncio di Maia 300 e la dichiarazione di Microsoft sui token per megawatt.

Microsoft sostiene che Maia 300 possa produrre circa il 40% di token in più per megawatt rispetto ai principali sistemi basati su GPU. L’azienda non specifica quali sistemi né le condizioni del confronto: quel dato, quindi, non misura un vantaggio diretto su NVIDIA GB300 o Google Ironwood TPU. Microsoft dichiara inoltre che un rack completo da 96 Maia 300 può raggiungere fino a sette volte il throughput di token a livello rack di Maia 200.

Reuters ha riferito questi dati per i rack Maia 300 e NVIDIA GB300:

Configurazione del rackAcceleratori per rackPotenza del rack
Maia 30096 acceleratoriCirca 167 kW
NVIDIA GB30072 GPUCirca 142 kW

Conteggio degli acceleratori e potenza descrivono configurazioni di rack: da soli non sono un benchmark prestazionale a parità di carico.

Maia è destinata ai servizi Microsoft

Microsoft presenta la famiglia Maia come infrastruttura per i propri prodotti e servizi, mentre i deployment in produzione di Maia 300 sono previsti dal 2027. Nella sua analisi del 12 ottobre 2026, Matt Kimball ha scritto che Microsoft non aveva annunciato istanze Maia che i clienti Azure potessero noleggiare. (Analisi di Matt Kimball; annuncio di Microsoft)