DeepSeek publica dos bibliotecas para los aceleradores Ascend de Huawei

DeepSeek publica dos bibliotecas para los aceleradores Ascend de Huawei: DeepGEMM-Ascend, dedicada a la multiplicación de matrices, y DeepEP-Ascend, centrada en la comunicación para entrenamiento e inferencia de modelos de aprendizaje automático. La colaboración entre ambas compañías ya tuvo una cobertura anterior en NeoTeo; estos repositorios concretan dos tareas distintas y sus requisitos de hardware.

Dos bibliotecas con tareas distintas

DeepGEMM-Ascend ejecuta kernels —rutinas optimizadas para una operación concreta— de multiplicación de matrices. La biblioteca enumera compatibilidad con GEMM en BF16, FP8 y FP4, además de MQA logits y MegaMoE. Su API, la interfaz que usan otros programas para comunicarse con una biblioteca, es compatible con DeepGEMM.

DeepEP-Ascend se ocupa de mover datos entre procesadores durante el entrenamiento y la inferencia. Entre sus operaciones figura la comunicación «todos contra todos» para el despacho y la combinación de expertos en modelos de mezcla de expertos (MoE): arquitecturas que activan distintos submodelos especializados para cada entrada.

Requisitos de hardware y software

Las dos bibliotecas requieren aceleradores Ascend, pero sus condiciones no son intercambiables. DeepGEMM-Ascend pide un dispositivo de la serie Ascend 950; DeepEP-Ascend especifica Ascend 950 (A5) y conectividad UBMEM, con canales UBC_CTP o URMA entre los procesos participantes.

En la práctica, estos requisitos sitúan ambas herramientas en sistemas Ascend con una pila de software concreta: no basta con disponer de un acelerador cualquiera. DeepGEMM-Ascend registra su publicación inicial el 30 de septiembre de 2026.

Qué miden los resultados publicados

DeepGEMM-Ascend informa de 431 TFLOPS frente a un límite de hardware declarado de 432 TFLOPS —el 99,8 %— en un caso de kernel denso BF16×BF16 con M=4096, N=7168 y K=16384. La medición se hizo en Ascend 950DT, con CANN 9.20, bench_msprof y perfilado con L2 fría. Es el rendimiento de ese kernel bajo esas condiciones, no la velocidad de ejecución de un modelo completo.

DeepEP-Ascend comunica resultados de despacho y combinación en Ascend 950DT con CANN 9.2.0 y netlayer 1. El montaje usó un HDK de prueba de concepto (PoC) suministrado a DeepSeek y configurado manualmente; esa configuración no se distribuyó públicamente. La carga descrita empleó 16.384 tokens por proceso, tamaño oculto de 7.168, selección top-6 entre 256 expertos, 10 calentamientos y 50 muestras por proceso, con vaciado de caché.

Las cifras describen operaciones de comunicación en ese montaje. No ofrecen una comparación de rendimiento con NVIDIA: el resultado de DeepGEMM-Ascend se contrasta con un límite de hardware de Ascend, mientras que DeepEP-Ascend comunica su ancho de banda en equipos Ascend.

La compatibilidad de API tiene un alcance concreto

DeepGEMM-Ascend declara compatibilidad de API con DeepGEMM, y DeepEP-Ascend alinea sus API públicas de búfer con las de DeepEP. Esa coincidencia facilita trabajar con las interfaces de esas bibliotecas; no equivale a que cualquier aplicación CUDA funcione sin cambios en Ascend. Siguen siendo necesarios el hardware y el software específicos de la plataforma.

Funciones de DeepEP-Ascend en desarrollo

DeepEP-Ascend describe las interfaces de paralelismo de tubería (PP), Engram y Bucket como experimentales o en desarrollo. También enumera kernels de reducción y suma global, comunicación para equilibrar la carga de expertos, comunicación híbrida, almacenamiento Engram respaldado por CPU y captura de grafos entre las funciones incompletas o no compatibles. Por eso, las operaciones de despacho y combinación documentadas no deben confundirse con la disponibilidad de todos los modos de comunicación de la biblioteca.