Halverwege september bracht Perplexity Portable Computer naar geschikte Windows-pc’s met NVIDIA-hardware: de agent draait standaard lokaal en kan voor afzonderlijke stappen toestemming vragen om een cloudmodel te gebruiken. Op 20 september beschreef NVIDIA bovendien hoe DGX Spark en de geplande RTX Spark-systemen lokale AI naar een bredere groep thuisgebruikers moeten brengen. De inzet is duidelijk: modellen, bestanden en agents dichter bij de gebruiker — zonder cloudtoegang volledig uit te wissen.
Lokale AI wordt een combinatie van hardware en software
De verschuiving draait niet alleen om een krachtige mini-pc. NVIDIA bouwt een platform rond CUDA, runtimes en tools voor agents, terwijl Perplexity daar een gebruiksklare lokale agentlaag aan toevoegt. Daardoor wordt lokale AI minder afhankelijk van handmatige installatie en losse commandoregelprogramma’s.
Voor wie zelf modellen wil draaien, ondersteunt NVIDIA onder meer Ollama, llama.cpp, TensorRT, SGLang, vLLM, WindowsML en PyTorch met CUDA. De praktische ervaring hangt vervolgens af van het model, de kwantisering — de manier waarop een model minder geheugen gebruikt — het beschikbare geheugen en de taak die je uitvoert.
Wat NVIDIA DGX Spark toevoegt
NVIDIA DGX Spark is een compacte desktopcomputer met de GB10 Grace Blackwell-superchip, 128 GB coherent unified memory, 4 TB NVMe-opslag en een 20-core Arm-processor. De Founders Edition meet 150 × 150 × 50,5 mm en weegt 1,2 kg. NVIDIA vermeldt daarnaast een geheugenbandbreedte van 273 GB/s, Wi-Fi 7, 10GbE en een voeding van 240 W.
NVIDIA claimt dat DGX Spark modellen tot 200 miljard parameters kan uitvoeren en modellen tot 70 miljard parameters kan finetunen. Ook noemt het bedrijf maximaal 1 PFLOP FP4-prestaties; dat is een theoretische waarde met sparsity, niet hetzelfde als een gemeten tokens-per-seconde-resultaat in een dagelijks gebruiksscenario.
Dat onderscheid is belangrijk. De 128 GB unified memory kan modellen huisvesten die niet in het videogeheugen van een gewone consumentenkaart passen. Geheugencapaciteit en snelheid zijn echter verschillende zaken. Een groter model kunnen laden betekent niet automatisch dat elke prompt sneller wordt verwerkt.
De NVIDIA DGX Spark Founders Edition stond in Nederland vermeld voor €5.899,00 bij Proshop. Dat bedrag hoort bij precies die Nederlandse winkelvermelding en die uitvoering; het is geen algemene prijs voor iedere DGX Spark-configuratie.
Een praktische workflow met DGX Spark kan bestaan uit een modelbeheerprogramma, lokale code-assistenten en toegang op afstand vanaf een andere computer. Daarmee staat de zware hardware op één plek, terwijl je de diensten vanaf een laptop of ander apparaat gebruikt.
Van DGX Spark naar RTX Spark: lokale AI op Windows
NVIDIA RTX Spark is de Windows-tak van hetzelfde bredere idee. NVIDIA beschrijft RTX Spark-systemen als Windows 11-laptops en compacte desktops met een Blackwell RTX-gpu en een Grace-cpu. De hogere laptopconfiguratie biedt maximaal 128 GB LPDDR5X unified memory; andere configuraties gaan tot 64 GB. Voor laptops noemt NVIDIA een TDP-bereik van 45 tot 80 W.
DGX Spark gebruikt daarentegen NVIDIA DGX OS. Het is dus geen gewone Windows-pc. RTX Spark moet lokale AI juist combineren met de vertrouwde Windows-omgeving, gaming, creatieve software en mobiel gebruik. De beschreven RTX Spark-systemen waren op 22 september 2026 nog geen breed beschikbare productcategorie met een algemeen bevestigde Nederlandse prijs of leverdatum.
| Systeem | Unified memory | Besturingssysteem | Gedocumenteerde rol | Praktische afweging |
| NVIDIA DGX Spark | 128 GB coherent unified memory | NVIDIA DGX OS | Lokale ontwikkeling, inferentie en finetuning op een compacte desktop | Veel geheugencapaciteit in een klein systeem; NVIDIA noemt 273 GB/s geheugenbandbreedte en claimt inferentie tot 200 miljard parameters |
| NVIDIA RTX Spark-laptop | Tot 128 GB LPDDR5X unified memory, afhankelijk van de configuratie | Windows 11 | Draagbare lokale AI, agents, gaming en creatief werk | Windows-compatibiliteit en mobiliteit; de laptopconfiguratie bepaalt geheugen en een TDP van 45–80 W |
De tabel zegt niet welke machine voor iedere taak sneller is. Daarvoor zouden dezelfde modellen, instellingen en workloads onder identieke omstandigheden moeten worden gemeten. De onderbouwde keuze is voorlopig eenvoudiger: DGX Spark legt de nadruk op geheugen en een vaste lokale werkplek, terwijl RTX Spark Windows en draagbaarheid centraal stelt.
Perplexity maakt de lokale agent concreet
Perplexity Portable Computer werkt op Windows met een compatibele NVIDIA GeForce RTX- of RTX PRO-gpu met minimaal 24 GB VRAM. De lokale Windows-configuratie gebruikt volgens de documentatie het model PPLX 27B. De agent werkt lokaal als standaardroute, maar kan voor een afzonderlijke stap toestemming vragen om een cloudmodel in te schakelen voor geavanceerde redenering of webonderzoek. Daarbij worden Computer-credits gebruikt.
Dat levert een hybride werkwijze op: documenten en prompts kunnen lokaal blijven voor taken die de lokale installatie aankan, terwijl een gebruiker een specifieke stap naar de cloud kan laten gaan wanneer actuele webinformatie of zwaardere verwerking nodig is. Lokale AI is daarmee geen universele vervanger voor frontiermodellen in datacenters, maar een extra uitvoeringslaag met andere voordelen en beperkingen.
NVIDIA PAIR verdeelt werk, maar stapelt geen videogeheugen
NVIDIA PAIR staat voor Personal AI Router. De software verbindt compatibele Windows-, Linux-, macOS- en DGX Spark-systemen via een lokaal netwerk en routeert aanvragen naar beschikbare machines. PAIR maakt van meerdere computers geen enkele virtuele gpu: het videogeheugen van de systemen wordt niet samengevoegd.
In een thuislab kan dat alsnog nuttig zijn. Een computer kan een modeldienst draaien, een tweede systeem een andere agent bedienen en PAIR de aanvragen verdelen. Dat is taakroutering, geen magie waarmee een model automatisch toegang krijgt tot het totale geheugen van alle aangesloten apparaten.
Wat je ermee wint — en waar de rekening blijft liggen
Lokale uitvoering geeft je meer controle over waar modellen en bestanden worden verwerkt. Je bent minder afhankelijk van een externe verbinding voor taken die lokaal kunnen draaien en kunt een eigen model- en runtimecombinatie beheren. Voor ontwikkelaars, makers en gebruikers met gevoelige bestanden kan dat een doorslaggevende reden zijn.
Daar staan echte compromissen tegenover. Grote lokale modellen vragen veel geheugen, geschikte software en een machine die de belasting aankan. Een model dat in het geheugen past, kan nog altijd traag reageren. Cloudmodellen bieden toegang tot andere capaciteiten en actuele webresearch, terwijl lokale systemen juist meer eigenaarschap en controle kunnen geven.
Ook de aanschafprijs is stevig: de Nederlandse vermelding van €5.899,00 voor NVIDIA DGX Spark Founders Edition plaatst dit systeem ver buiten het segment van een doorsnee kantoor-pc. Een Windows-laptop met RTX Spark kan het concept toegankelijker maken voor wie één apparaat zoekt voor AI, games en creatief werk, maar de uiteindelijke configuraties bepalen hoeveel geheugen en rekenruimte je werkelijk krijgt.
NVIDIA’s aanpak wijst daarmee op een groeiend ecosysteem: hardware met veel geheugen, Windows-systemen, lokale runtimes, agents en software die meerdere apparaten kan aansturen. Voor thuisgebruik betekent dat niet dat de cloud verdwijnt, maar wel dat steeds meer AI-taken naast de cloud op eigen apparatuur kunnen worden uitgevoerd.
