Lisandro Pardo
Acceder a un procesador de 16 núcleos por menos de 650 dólares es un logro impresionante, pero esa configuración se vuelve insignificante cuando la comparamos con el poder de fuego que necesitan algunos superordenadores. El caso del Cerebras Andromeda se destaca no sólo por su escalofriante número de núcleos, sino por el tipo de trabajo que realiza, apuntando de lleno a la inteligencia artificial.
Uno de los problemas más comunes en informática es el escalado, o mejor dicho, su falta. Me refiero a arrojar el doble de hardware sobre un problema y esperar resolverlo en la mitad de tiempo, sólo para descubrir que las cosas no funcionan así. Pero el paralelismo ha mejorado muchísimo, permitiéndonos alcanzar niveles extraordinarios de rendimiento. Sin ir demasiado lejos, el superordenador Frontier fue el primero en cruzar la barrera del exaFLOP, sumando casi nueve millones de núcleos entre procesadores y GPUs.
Con eso en mente, llegamos a las puertas de Cerebras, que acaba de presentar oficialmente a su superordenador Andromeda. Lo primero que sorprende de Andromeda es el número total de núcleos, 13.5 millones para ser más precisos. Sin embargo, eso no quiere decir que supera a Frontier en rendimiento. De hecho, estamos ante dos criaturas diferentes, tanto en aplicación como en costo. Mientras que Frontier puede simular la vida útil de un reactor nuclear o atacar problemas de genética, la prioridad de Andromeda es la inteligencia artificial.
Cerebras Andromeda: Un escalado casi perfecto
La página oficial de Andromeda dedica una sección entera a la capacidad de escalado del superordenador en «grandes modelos de lenguaje» (léase LLM) como GPT-3, GPT-J y GPT-NeoX. Su configuración se basa en 16 sistemas Cerebras CS-2, desarrollando entre 14.5 y 15.8 veces el rendimiento de un CS-2 individual. Cerebras habla de más de un exaFLOP en «operaciones de inteligencia artificial», y 120 petaFLOPs de «operaciones densas», combinando una enorme cantidad de núcleos, memoria RAM, y almacenamiento de estado sólido.
Otro aspecto muy interesante de Andromeda es el diseño de su procesador, el WSE-2. Se trata de un chip «wafer-scale», que utiliza casi toda la oblea de silicio, y posee tres planos físicos. El primero de ellos es para comunicaciones, el segundo acumula 40 gigabytes de SRAM (mucho más cara y rápida que la DRAM de nuestros ordenadores), y el tercero es para operaciones aritméticas, con 850 mil núcleos independientes y 3.4 millones de unidades de punto flotante. Cada uno de los nodos está conectado a un backplane con un ancho de banda que alcanza los 96.8 terabits por segundo.
Como si eso fuera poco, Andromeda también posee un banco de procesadores AMD EPYC (18.176 núcleos en total), que preparan y coordinan los datos a analizar. ¿Cuánto cuesta todo este hardware? En dinero, 35 millones de dólares para su construcción. En energía, aproximadamente 500 kilovatios bajo carga completa.
Sitio oficial: Haz clic aquí
Fuente: ExtremeTech
