Einen allgemeinen Sieger für lokale KI-Inferenz benennt der am 10. November 2026 veröffentlichte Testbericht von Tom’s Hardware nicht: Der Mac Studio mit M5 Ultra lag in einem festgelegten Qwen-Test vorn, während zwei DGX-Spark-Systeme bei den längsten getesteten DeepSeek-Kontexten kürzere Laufzeiten erreichten. Beim GLM 5.3 Flash änderte sich das Ergebnis des Mac je nach Inferenz-Engine. Im Einzelvergleich trat ein Dell Pro Precision GB10 gegen den Mac an; der Bericht beschreibt ihn als nahezu identisch mit DGX Spark. Der DeepSeek-Test nutzte dagegen zwei Spark-Systeme.
Für den Vergleich zählt das getestete Gesamtpaket aus Modell, Inferenz-Engine, Speicher und Systemzahl – nicht ein einzelner Benchmark-Wert.
Die Ergebnisse unterscheiden sich je nach Modell
Die drei Fälle beantworten unterschiedliche Fragen. Die Tabelle fasst die jeweiligen Konfigurationen und Resultate zusammen, ohne sie zu einem einheitlichen Leistungstest zu vermischen.
| Modell und Arbeitslast | Mac Studio mit M5 Ultra | GB10- oder DGX-Spark-Konfiguration |
| AgentPerf-Local mit Qwen 3.8 27B | llama.cpp und natives Multi-Token Prediction (MTP); Laufzeit weniger als halb so lang wie beim GB10 und rund 16 % weniger Energie in diesem Test | Ein Dell Pro Precision GB10 mit llama.cpp und nativem MTP; vom Bericht als nahezu identisch mit DGX Spark beschrieben |
| DeepSeek V4.1 Flash 1017, längste getestete Kontexte | 256 GB Arbeitsspeicher, llama.cpp und 2-Bit-Quantisierung; 10 bis 25 Minuten. Modellgewichte und DSpark-Zusatzmodell passten nicht gemeinsam in den Speicher | Zwei Spark-Systeme mit TensorFold und spekulativer Dekodierung über DSpark; weniger als fünf Minuten |
| GLM 5.3 Flash | TensorFold mit einer MLX-spezifischen 4-Bit-Quantisierung erzielte im Schnitt den dreifachen Dekodierungsdurchsatz des Mac-Tests mit llama.cpp | Ein Zwei-Spark-Rezept mit TensorFold; die Prompt-Verarbeitung des Mac mit TensorFold lag näher am Spark-Cluster als beim Mac-Test mit llama.cpp |
Beim Qwen-Test lag der Mac vorn
Für AgentPerf-Local verwendete Tom’s Hardware das dichte Modell Qwen 3.8 27B und führte llama.cpp sowie natives MTP auf beiden Einzelgeräten aus. Der Mac beendete die festgelegte Aufgabe in weniger als der halben Zeit des Dell Pro Precision GB10 und benötigte dabei rund 16 % weniger Energie.
AgentPerf-Local spielt aufgezeichnete Inferenzabläufe erneut ab. Laut Tom’s Hardware entfällt dabei der größte Teil der Arbeit auf die Verarbeitung der Eingabe, auch Prompt-Verarbeitung genannt. Bei der anschließenden Dekodierung erzeugt das Modell seine Ausgabetokens. Das Resultat beschreibt deshalb genau diesen aufgezeichneten Ablauf; es ist kein direkter Leistungsmesser für jeden Agenten-Workflow.
DeepSeek benötigte zwei Spark-Systeme und eine andere Software-Kombination
Beim getesteten DeepSeek V4.1 Flash 1017 liefen auf dem Mac die Modellgewichte und das DSpark-Zusatzmodell für spekulative Dekodierung selbst mit 2-Bit-Quantisierung nicht gleichzeitig in den 256 GB Arbeitsspeicher. Für die längsten getesteten Kontexte meldete Tom’s Hardware 10 bis 25 Minuten auf dem Mac mit llama.cpp. Das Rezept mit zwei Spark-Systemen nutzte TensorFold und DSpark und blieb unter fünf Minuten.
Der Unterschied betrifft damit nicht nur die Geräte: Auch die Zahl der Systeme und die Inferenz-Rezepte waren verschieden. Das Ergebnis gilt für diese Konfigurationen und Kontexte. Für die größeren Modelle berichtete Tom’s Hardware keine durchgängigen Agenten-Tests; die gemessenen Laufzeiten sind daher kein direktes Ergebnis für komplette Agenten-Aufgaben.
Bei GLM 5.3 Flash veränderte TensorFold das Mac-Ergebnis
Beim GLM 5.3 Flash-Test kam auf dem Mac TensorFold mit einer MLX-spezifischen 4-Bit-Quantisierung zum Einsatz. Tom’s Hardware maß damit im Durchschnitt den dreifachen Dekodierungsdurchsatz des Mac-Ergebnisses mit llama.cpp. Die ausgewertete Konfiguration verwendete 2.048 Eingabe- und 512 Ausgabetokens. Auch bei der Prompt-Verarbeitung rückte der Mac mit TensorFold näher an den Spark-Cluster heran.
Für die Auswahl ist deshalb entscheidend, welches Modell samt passender Inferenz-Engine tatsächlich vorgesehen ist. Wer mehrere gleichzeitig laufende Agenten plant, findet in einer Reddit-Diskussion über lokale KI-Systeme unterschiedliche Nutzerberichte: Einige bevorzugen Spark für gleichzeitige Anfragen mit CUDA-Batching über vLLM oder SGLang; ein anderer berichtet, Macs per Thunderbolt 5 und RDMA zu koppeln. Das sind persönliche Erfahrungen, keine kontrollierte Messung eines Mehrfach-Agenten-Vergleichs.
Wer zusätzlich Macs innerhalb von Apples Desktop-Reihe einordnen möchte, findet bei NeoTeo einen früheren Vergleich von Mac mini und Mac Studio. Für den hier getesteten DeepSeek-Fall unterstützte TensorFold laut Bericht vom 10. November 2026 die verwendete GLM-Konfiguration, stand für DeepSeek V4.1 Flash 1017 jedoch nicht zur Verfügung.