El 2 de octubre se informó de que OpenAI estaba desplegando internamente su ASIC de inferencia Jalapeño junto a CPU anfitrionas AMD EPYC Turin. La configuración reportada asigna dos procesadores Turin y 1,5 TB de DRAM a cada servidor anfitrión; Richard Ho, responsable de hardware de OpenAI, explicó que la madurez de esa plataforma y la experiencia de sus socios ayudaban a acelerar el diseño y reducir riesgos.
OpenAI despliega Jalapeño con CPU AMD EPYC Turin
Jalapeño es el ASIC de inferencia de OpenAI, un chip especializado en ejecutar modelos de inteligencia artificial. Para conocer el procesador, puedes leer nuestra cobertura de su presentación.
Las CPU AMD EPYC Turin cumplen el papel de procesadores anfitriones asociados al sistema de aceleración. La configuración descrita contempla dos de estas CPU y 1,5 TB de memoria DRAM por host.
Qué hacen las CPU anfitrionas en el sistema Jalapeño
Los ASIC Jalapeño se encargan de la inferencia —la ejecución de modelos ya entrenados—, mientras que las CPU Turin forman la plataforma anfitriona del sistema. En el diseño de rack descrito, 16 bandejas anfitrionas se emparejan con 16 bandejas Jalapeño. Cada bandeja de aceleradores contiene ocho ASIC, para un total de 128 chips en esa configuración.
Por qué OpenAI eligió Turin frente a Nvidia Vera
Richard Ho explicó que OpenAI buscaba una plataforma madura, conocida por sus socios, para avanzar con rapidez y evitar riesgos innecesarios. También describió Nvidia Vera como algo menos madura entonces como CPU independiente. Su explicación se centró en la experiencia con la plataforma y en el ritmo del diseño.
Despliegue reportado y producción prevista para 2027
Una previsión publicada el 25 de agosto apuntaba a un aumento gradual de la producción durante 2027, con la mayor parte del volumen hacia finales de ese año. Ese calendario es una previsión de producción; el despliegue interno de Jalapeño se informó el 2 de octubre.
OpenAI priorizará su propia demanda de cómputo
Ho dijo que la fuerte demanda interna de capacidad de cómputo ocuparía a OpenAI durante bastante tiempo. Esa prioridad ya se abordó en una cobertura anterior de NeoTeo sobre el uso interno de Jalapeño. Aunque Ho planteó que otras empresas podrían usar el chip, no anunció ventas a clientes externos.