Microsoft anunció Azure Maia 300 el 12 de octubre de 2026 como la tercera generación de sus aceleradores de IA. La diseñó para ejecutar inferencias en centros de datos, y prevé iniciar los despliegues de producción en 2027, según su anuncio.
Un acelerador para cargas de inferencia
La inferencia es la fase en que un modelo de IA genera respuestas o resultados. Microsoft orienta Maia 300 a tareas que exigen manejar contextos largos y mucha memoria, como la decodificación intensiva, las conversaciones sensibles a la latencia y las tareas de varios pasos de agentes de IA. No es una aplicación de IA, sino un sistema de aceleración para centros de datos.
El diseño combina varios chiplets. Microsoft especifica el proceso N2P de TSMC para los chiplets de cómputo y describe formatos de baja precisión, como MXFP4 mejorado y formatos de almacenamiento por debajo de 3 bits, destinados a reducir las necesidades de memoria y movimiento de datos.
Del acelerador al rack
Cada Maia 300 integra ocho pilas de memoria HBM4, con una capacidad de 288 GB y un ancho de banda máximo de 18 TB/s. Microsoft cifra el TDP del acelerador en 950 W. El TDP —la potencia térmica de diseño— corresponde al acelerador, no al rack completo.
Un rack reúne 96 aceleradores en 24 bandejas de cuatro y tiene un límite de potencia de 167 kW. Microsoft también le atribuye 27,6 TB de memoria HBM y un ancho de banda agregado de 1,7 PB/s. Son cifras de todo el rack, frente a las especificaciones de memoria y potencia de cada acelerador.
La arquitectura contempla una red de escalado de dos niveles, basada en Ethernet, para conectar superpods de hasta 12.288 aceleradores. Microsoft describe refrigeración líquida para los aceleradores, los reguladores de voltaje y los circuitos integrados de los conmutadores; el aire refrigera la memoria, el almacenamiento y otros componentes. Según la compañía, la refrigeración líquida gestiona más del 80 % de la carga térmica del rack. Los detalles de arquitectura y estas especificaciones aparecen en la descripción técnica de Maia 300 y el anuncio de Microsoft.
Qué comparan las cifras de rendimiento
Microsoft compara Maia 300 con Maia 200 en varios indicadores: afirma que ofrece 2,5 veces su ancho de banda de memoria, un 33 % más de capacidad y cerca del doble de ancho de banda HBM por vatio. Para un rack completo de 96 aceleradores, la compañía sostiene que el caudal de tokens puede ser hasta siete veces mayor que el de Maia 200.
En otra comparación, Microsoft espera obtener un 40 % más de tokens por megavatio que los sistemas basados en GPU que califica de líderes. La compañía no identifica un modelo de GPU ni una carga de prueba concreta para esa cifra. Este indicador compara tokens por unidad de energía; el dato de hasta siete veces, en cambio, se refiere al caudal de tokens de un rack frente a Maia 200.
