DeepSeek veröffentlicht mit DeepGEMM-Ascend und DeepEP-Ascend zwei Bibliotheken für Huaweis Ascend-Plattform: eine für Matrixmultiplikationen, die andere für die Kommunikation in KI-Systemen. Die gemeldeten Messwerte beziehen sich auf Ascend-Tests und enthalten keinen gleichartigen Leistungsvergleich mit NVIDIA.
NeoTeo hat die Zusammenarbeit von DeepSeek und Huawei bereits früher eingeordnet. Hier geht es um die konkreten Aufgaben der Bibliotheken, ihre Voraussetzungen und den Aussagebereich ihrer Benchmarks.
Zwei Bibliotheken, zwei Aufgaben
DeepGEMM-Ascend stellt Rechenkerne für Matrixmultiplikationen bereit – spezialisierte Routinen, die eine häufige Rechenoperation in KI-Modellen ausführen. Die Bibliothek nennt Unterstützung für BF16, FP8 und FP4, MQA-Logits sowie MegaMoE. Ihre API ist laut DeepSeek mit DeepGEMM kompatibel. DeepSeek führt den 30. September 2026 als Datum der Erstveröffentlichung; das Projekt nennt außerdem technische Unterstützung durch Huawei.
DeepEP-Ascend übernimmt dagegen den Datenaustausch für Training und Inferenz. Dazu gehören All-to-all-Operationen für das sogenannte Expert Parallelism: Bei einem Mixture-of-Experts-Modell (MoE) verteilt ein Dispatch-Schritt Daten an spezialisierte Teilmodelle, die Experten; anschließend führt Combine deren Ergebnisse zusammen.
Hardware und Software sind eng gebunden
Beide Bibliotheken zielen auf Huaweis Ascend 950-Plattform, doch DeepEP-Ascend verlangt zusätzlich bestimmte Verbindungen zwischen den beteiligten Geräten. Die dokumentierten Voraussetzungen unterscheiden sich im Einzelnen:
| Bibliothek | Funktion | Beschleuniger und Verbindung | Softwarevoraussetzungen |
| DeepGEMM-Ascend | Matrixmultiplikations-Kernel, MQA-Logits und MegaMoE | Ascend 950-Serie | CANN 9.20, torch_npu, Python 3.10 oder neuer sowie C++20-Unterstützung für std::format |
| DeepEP-Ascend | Kommunikationsbibliothek für Training und Inferenz, einschließlich MoE-Dispatch und -Combine | Ascend 950 (A5) mit UBMEM; UBC_CTP- oder URMA-Kanäle zwischen den beteiligten Ranks | Linux-Host für Ascend, unterstützte Treiber und Firmware, CANN, Python 3.10 oder neuer sowie zueinander passende PyTorch- und torch_npu-Versionen |
Für DeepEP-Ascend reicht ein kompatibler Beschleuniger allein also nicht: Die dokumentierten Anforderungen umfassen auch die Verbindung zwischen den beteiligten Ranks. CANN-Versionen sind jeweils an das Projekt gebunden: DeepGEMM-Ascend nennt 9.20 als Voraussetzung; DeepEP-Ascend führt 9.2.0 für sein Benchmark-Setup auf.
Was die Messwerte aussagen
DeepSeek meldet für DeepGEMM-Ascend 431 TFLOPS bei einer angegebenen Hardwaregrenze von 432 TFLOPS, also 99,8 Prozent. Der Wert gilt für einen einzelnen dichten BF16×BF16-Matrixmultiplikationstest mit M=4096, N=7168 und K=16384 auf Ascend 950DT. Gemessen wurde mit CANN 9.20 und Cold-L2-Profiling. Das ist ein Kernel-Messwert, keine Laufzeitangabe für ein vollständiges KI-Modell.
Für DeepEP-Ascend nennt DeepSeek die folgenden Bandbreitenwerte für Dispatch und Combine. Die Messungen liefen auf Ascend 950DT mit CANN 9.2.0 und netlayer 1. Zum Test gehörten 16.384 Tokens pro Rank, eine Hidden Size von 7168 und Top-6-Routing über 256 Experten. Das System war ein manuell konfiguriertes Proof-of-Concept-HDK, das DeepSeek zur Verfügung gestellt wurde und nicht öffentlich verteilt war; pro Rank gab es zehn Aufwärmrunden und 50 Messungen mit geleertem Cache.
| Operation | Expert-Parallel-Konfiguration | Gemeldete Bandbreite |
| Dispatch | EP8 | 373–375 GB/s |
| Dispatch | EP128 | 313–320 GB/s |
| Combine | EP8 | 345–347 GB/s |
| Combine | EP128 | 272–278 GB/s |
Die veröffentlichten Zahlen erlauben keinen direkten Leistungsvergleich mit NVIDIA: Für die beiden Bibliotheken beziehen sie sich auf Ascend-spezifische Testläufe, nicht auf denselben Workload unter derselben Methode auf einer NVIDIA-Plattform.
API-Ausrichtung hat einen begrenzten Umfang
DeepGEMM-Ascend bezeichnet seine API als kompatibel mit DeepGEMM und verwendet laut Projekt denselben Paketnamen. DeepEP-Ascend richtet seine öffentlichen Buffer-APIs an DeepEP aus. Das sind Aussagen über konkrete Schnittstellen; sie bedeuten nicht, dass beliebige CUDA-Anwendungen unverändert auf Ascend laufen.
Ein hoher Messwert für einen einzelnen Kernel beschreibt zudem nicht automatisch die Geschwindigkeit einer Anwendung. Speicherzugriffe, Kommunikation und weitere Rechenschritte wirken sich ebenfalls auf die Laufzeit eines vollständigen Modells aus.
Noch nicht alle DeepEP-Schnittstellen sind ausgereift
DeepEP-Ascend kennzeichnet Pipeline Parallelism (PP), Engram und Bucket als experimentell oder in Arbeit. Reduce-Scatter- und All-Reduce-Kernel, Kommunikationskernel für den Expert-Load-Balancing, hybride Kommunikation, Engram-Speicher auf der CPU und Graph Capture führt das Projekt als unfertig oder nicht unterstützt auf. Bei größeren EP-Konfigurationen und beim Combine nennt DeepEP-Ascend außerdem laufende Optimierungen.
