DeepSeek publica bibliotecas Ascend para cálculo e comunicação de IA

A DeepSeek publicou duas bibliotecas voltadas aos aceleradores Huawei Ascend: DeepGEMM-Ascend, para kernels de multiplicação de matrizes, e DeepEP-Ascend, para comunicação no treinamento e na inferência de modelos de IA. O repositório do DeepGEMM-Ascend registra o lançamento inicial em 30 de setembro de 2026. A cobertura anterior da NeoTeo sobre a colaboração entre DeepSeek e Huawei apresentou os planos iniciais; as duas bibliotecas têm funções e requisitos distintos.

Duas bibliotecas, duas funções

DeepGEMM-Ascend cuida de operações de multiplicação de matrizes — cálculos usados em modelos de IA. A biblioteca declara suporte a GEMM nos formatos BF16, FP8 e FP4, além de MQA logits e MegaMoE. Sua API é compatível com a do DeepGEMM.

DeepEP-Ascend é uma biblioteca de comunicação para treinamento e inferência. Entre suas funções estão operações all-to-all de paralelismo entre especialistas, usadas no despacho e na combinação de dados em modelos MoE (mixture of experts, ou mistura de especialistas). Em termos simples, o componente organiza a troca de dados entre partes especializadas do modelo.

Requisitos de hardware e software

As duas bibliotecas dependem da série Ascend 950, mas os requisitos não são idênticos. O DeepEP-Ascend especifica o Ascend 950 (A5) com conectividade UBMEM e canais UBC_CTP/URMA entre os participantes da comunicação.

Resultados de kernel e comunicação

Para um caso de GEMM denso BF16×BF16, o DeepGEMM-Ascend relata 431 TFLOPS, diante de um limite de hardware indicado de 432 TFLOPS — 99,8% desse limite. O caso usa M=4096, N=7168 e K=16384, em um Ascend 950DT com CANN 9.20 e perfilamento de cache L2 frio. É uma medição de kernel; não equivale à velocidade de um modelo completo.

O DeepEP-Ascend relata resultados de largura de banda no Ascend 950DT com CANN 9.2.0 e netlayer 1. A configuração usou 16.384 tokens por rank, tamanho oculto de 7.168, roteamento top-6 entre 256 especialistas, 10 aquecimentos e 50 amostras por rank, com limpeza de cache. O teste foi feito em um kit HDK de prova de conceito fornecido à DeepSeek e configurado manualmente; essa configuração não foi distribuída publicamente.

Os resultados se referem a operações e configurações específicas no Ascend. Não permitem concluir que a plataforma seja mais rápida que a NVIDIA em uma comparação equivalente: os números não medem a mesma carga de trabalho sob a mesma metodologia.

APIs alinhadas não significam substituir CUDA

O DeepGEMM-Ascend declara compatibilidade de API com o DeepGEMM, e o DeepEP-Ascend diz alinhar suas APIs públicas de buffer às do DeepEP. Essas compatibilidades dizem respeito às interfaces dessas bibliotecas; não significam que qualquer aplicação CUDA possa migrar sem adaptações para o Ascend.

Também é importante separar o desempenho de um kernel do de uma aplicação inteira. O resultado de 99,8% mede um caso de cálculo específico em relação ao limite indicado para o hardware Ascend; por si só, não informa quanto um modelo completo levaria para executar.

Funções do DeepEP-Ascend em desenvolvimento

O DeepEP-Ascend descreve as interfaces de paralelismo de pipeline (PP), Engram e coletivas Bucket como experimentais ou em desenvolvimento. O projeto também lista kernels de reduce-scatter e all-reduce, comunicação para balanceamento de carga entre especialistas, comunicação híbrida, armazenamento Engram apoiado por CPU e captura de grafo como incompletos ou sem suporte.