Tom’s Hardware rapporteerde in een op 10 november 2026 gepubliceerd vergelijkingsartikel geen algemene winnaar voor lokale AI-inferentie. De Mac Studio M5 Ultra was sneller in een specifieke Qwen-test, twee Spark-systemen in de geteste DeepSeek-contexten en bij GLM 5.3 Flash maakte de inferentie-engine verschil.

Kijk bij lokale AI niet alleen naar het model, maar ook naar de engine en de precieze taak waarop een snelheidstest is gebaseerd.

De resultaten verschillen per model en opstelling

Model en workloadMac Studio M5 UltraGB10- of Spark-opstelling
AgentPerf-Local met Qwen 3.8 27BMet llama.cpp en native multi-token prediction: net geen helft van de looptijd van de GB10 en ongeveer 16% minder energie voor de taak.Eén Dell Pro Precision GB10, met dezelfde engine en native multi-token prediction. Tom’s Hardware beschreef dit systeem als vrijwel identiek aan DGX Spark.
DeepSeek V4.1 Flash 1017, langste geteste contextenMet llama.cpp duurde de verwerking 10–25 minuten. De geteste Mac had 256 GB geheugen.Twee Sparks met TensorFold en DSpark voor speculative decoding verwerkten de contexten in minder dan vijf minuten.
GLM 5.3 FlashDe TensorFold-configuratie met MLX-specifieke 4-bit-quantisatie haalde gemiddeld driemaal de decode-throughput van de Mac-configuratie met llama.cpp.De test vergeleek dit met een twee-Spark-configuratie. De promptverwerking op de Mac met TensorFold kwam dichter bij die van het cluster dan de Mac met llama.cpp.

Qwen-test: een voordeel in een vaste agentbenchmark

Voor AgentPerf-Local draaide Tom’s Hardware de dichte Qwen 3.8 27B op de Mac Studio en één Dell Pro Precision GB10. Beide gebruikten llama.cpp en native multi-token prediction. In deze vaste test voltooide de Mac de taak in net geen helft van de tijd en verbruikte hij ongeveer 16% minder energie voor die taak.

AgentPerf-Local speelt opgenomen inferentiesporen af; volgens Tom’s Hardware bestaat het meeste werk in de test uit promptverwerking. Dat is het verwerken van de invoer en context voordat het model antwoordtokens genereert. De uitkomst zegt dus iets over deze taak en opstelling, niet over de snelheid van elke agentworkflow.

De enkele machine aan de Spark-kant was een Dell Pro Precision GB10, niet een NVIDIA DGX Spark zelf. Voor de grotere modellen gebruikte Tom’s Hardware een cluster van twee Sparks. Dat verschil in hardwareaantal is belangrijk als je de resultaten op je eigen werklast wilt toepassen.

DeepSeek: twee systemen en een andere inferentie-engine

Bij DeepSeek V4.1 Flash 1017 verwerkte de Mac met llama.cpp de langste geteste contexten in 10 tot 25 minuten. De Mac-configuratie had 256 GB geheugen; zelfs met 2-bit-quantisatie paste het model samen met het DSpark-model voor speculative decoding niet in dat geheugen.

De twee Sparks gebruikten een andere opstelling: TensorFold met DSpark voor speculative decoding. Die configuratie verwerkte de geteste contexten in minder dan vijf minuten. De uitkomst betreft dus twee systemen en een andere inferentie-engine, niet dezelfde opstelling op twee platforms. Tom’s Hardware rapporteerde geen end-to-end agenttest voor dit grotere model.

GLM: TensorFold veranderde de Mac-uitkomst

Voor GLM 5.3 Flash testte Tom’s Hardware de Mac zowel met llama.cpp als met TensorFold. De TensorFold-test gebruikte een MLX-specifieke 4-bit-quantisatie. De gemiddelde decode-throughput was daarin driemaal die van de Mac met llama.cpp; ook kwam de promptverwerking dichter bij die van het Spark-cluster.

Promptverwerking en decode-throughput beschrijven verschillende delen van een inferentietaak: het eerste meet het verwerken van de invoer, het tweede het genereren van uitvoertokens. Als je vooral wilt weten hoe snel een lang verzoek wordt verwerkt, is de promptmeting relevant; voor de snelheid waarmee een antwoord verschijnt, is decode-throughput van belang.

Volgens Tom’s Hardware ondersteunde TensorFold GLM 5.3 Flash, maar niet DeepSeek V4.1 Flash 1017 toen het artikel verscheen. Een gunstig resultaat met één model en engine voorspelt daarom niet vanzelf de prestaties van een ander model.

Welke test past bij jouw werklast?

Gebruik de Qwen-uitkomst als aanwijzing voor de specifieke AgentPerf-Local-taak, niet als algemene maat voor alle agenten. Voor de geteste DeepSeek-contexten gold de snellere tijd voor een cluster van twee Sparks met TensorFold en DSpark. Bij GLM 5.3 Flash veranderde de Mac-uitkomst aanzienlijk toen de test van llama.cpp naar TensorFold ging.

Wie ook de bredere keuze tussen Apple-desktops wil bekijken, kan NeoTeo’s eerdere vergelijking van Mac mini en Mac Studio lezen.