Em vídeo publicado em 31 de outubro, Alex Ziskind relatou que o LM Studio com Linux nativo rodou a 61 tokens por segundo fora da tomada e a 15 tokens por segundo conectado à energia no MSI Prestige N16 Flip AI Plus com RTX Spark N1X. Ziskind atribuiu a diferença à falta de suporte, na configuração Linux que usou, ao NVIDIA Platform Controllers and Framework.
O resultado de Linux se limita ao MSI testado
Os números são de um teste específico no MSI Prestige N16 Flip AI Plus, não de uma avaliação geral dos laptops RTX Spark. Na experiência de Ziskind, o desempenho do LM Studio variou conforme o portátil estava conectado à energia ou não. Ele apontou a falta de suporte ao NVIDIA Platform Controllers and Framework como explicação para a queda observada.
A cobertura anterior da NeoTeo sobre o RTX Spark e o DLSS 5 tratou de outros recursos da plataforma.
Windows, WSL e DGX Spark em outro teste
Em uma carga de trabalho separada, com GPTQ Qwen/OSS 120B, Ziskind relatou 65,4 tokens por segundo no Windows nativo, 65,1 no WSL e 61 no DGX Spark. WSL é o Subsistema Windows para Linux, que permite executar ferramentas Linux dentro do Windows. Ziskind considerou essa opção prática para as ferramentas Linux em sua configuração; os números não formam um ranking geral entre os sistemas.
As novidades de IA local anunciadas pela NVIDIA
Em 28 de outubro, a NVIDIA anunciou o Nemotron 3.5 Transcribe, o suporte local à família LFM3, da Liquid AI, e um controle no NVIDIA App para dividir recursos da GPU entre o aplicativo em primeiro plano e um agente em segundo plano. A NVIDIA detalhou essas novidades de IA local.
O Nemotron 3.5 Transcribe foi apresentado para transcrever áudio, identificar falantes, traduzir e responder a perguntas sobre gravações. Segundo a NVIDIA, o modelo abrange 40 idiomas, incluindo sete idiomas indianos. Em 28 de outubro, a empresa informou que os pesos estavam disponíveis no Hugging Face nos formatos BF16, FP8 e NVFP4. Na mesma ocasião, descreveu como futuras as versões quantizadas otimizadas para execução local no RTX Spark e em outros sistemas NVIDIA. Para versões NVFP4, citou NeMo-Speech.cpp e vLLM.
A família LFM3 inclui modelos de texto, visão, áudio, omni e decisão. A NVIDIA citou llama.cpp e vLLM para executar os modelos localmente no RTX Spark e afirmou que desenvolvedores também podem ajustá-los localmente. A empresa disse ainda que seu modelo-base de 1,7 bilhão de parâmetros supera o modelo-base anterior de 2,6 bilhões de parâmetros.
Como priorizar a GPU no NVIDIA App
No RTX Spark, o NVIDIA App permite favorecer o aplicativo em primeiro plano ou dar mais recursos da GPU a um agente em segundo plano. O caminho informado pela NVIDIA é System > Advanced. O agendamento de GPU acelerado por hardware precisa estar ativado nas Configurações do Windows.
