In einem am 31. Oktober veröffentlichten Video berichtet Alex Ziskind von einem deutlichen Leistungsabfall in einem Linux-Test mit LM Studio auf einem MSI Prestige N16 Flip AI Plus mit RTX Spark N1X: Im Akkubetrieb erreichte das Gerät 61 Tokens pro Sekunde, am Netzteil 15. Ziskind führte den Einbruch auf fehlende Unterstützung für NVIDIA Platform Controllers and Framework unter Linux zurück. Das Testergebnis betrifft sein MSI-Modell und sein Setup.
LM Studio: 61 Tokens pro Sekunde im Akkubetrieb, 15 am Netzteil
Die Werte stammen aus einem nativen Linux-Lauf mit LM Studio. Ziskind veröffentlichte das Video am 31. Oktober; wann der Test stattfand, ist nicht angegeben. Seine Erklärung für den Unterschied: Linux unterstütze NVIDIA Platform Controllers and Framework nicht, die in seinem Test mit der Leistungssteuerung zusammenhingen.
Ein separater Test verglich Windows, WSL und DGX Spark
Bei einem anderen Durchlauf mit GPTQ Qwen/OSS 120B meldete Ziskind 65,4 Tokens pro Sekunde unter nativem Windows, 65,1 unter dem Windows-Subsystem für Linux (WSL) und 61 auf DGX Spark. Ziskind bezeichnete WSL in seinem Setup als praktikable Möglichkeit, Linux-Werkzeuge zu nutzen. Diese Werte stammen aus einem anderen Test als die LM-Studio-Messungen unter Linux.
Was NVIDIA für lokale KI ankündigte
Am 28. Oktober kündigte NVIDIA Nemotron 3.5 Transcribe, Unterstützung für Liquid AI LFM3 und eine Steuerung für die GPU-Ressourcenverteilung in der NVIDIA App an. NVIDIAs Ankündigung liefert den früheren Kontext zu Ziskinds später veröffentlichtem Test. Für den Grafikteil der RTX-Spark-Berichterstattung gibt es NeoTeos frühere Einordnung zu DLSS 5 und RTX Spark.
Nemotron 3.5 Transcribe: Gewichte und lokale Ausführung
NVIDIA erklärte am 28. Oktober, dass die Gewichte von Nemotron 3.5 Transcribe auf Hugging Face in den Formaten BF16, FP8 und NVFP4 verfügbar seien. Das Sprachmodell soll Transkription, Sprecherzuordnung, Übersetzung und Fragen zu Audio unterstützen. NVIDIA nannte 40 Sprachen, darunter sieben indische Sprachen.
Optimierte quantisierte Versionen für die lokale Ausführung auf RTX Spark, DGX Spark, Jetson AGX Thor und NVIDIA-Blackwell-Rechenzentrums-GPUs sollten laut NVIDIA folgen. Für NVFP4-Fassungen nannte das Unternehmen NeMo-Speech.cpp und vLLM als Einsatzmöglichkeiten.
LFM3: lokale Laufzeitumgebungen und Feinabstimmung
NVIDIA beschrieb Liquid AI LFM3 als Modellfamilie für Text, Bildverarbeitung, Audio, Omni-Anwendungen und Entscheidungsaufgaben. Entwickler sollten LFM3 auf RTX Spark mit llama.cpp und vLLM lokal ausführen und die Modelle lokal feinabstimmen können. Das neue Basismodell mit 1,7 Milliarden Parametern übertreffe das frühere mit 2,6 Milliarden Parametern, erklärte NVIDIA.
GPU-Ressourcen in der NVIDIA App priorisieren
NVIDIA ordnete die neue Steuerung in der App unter System > Advanced ein. Sie ermöglicht es, die Vordergrund-App oder einen Agenten im Hintergrund zu bevorzugen. Voraussetzung ist, dass in den Windows-Einstellungen die hardwarebeschleunigte GPU-Planung aktiviert ist.
