Bij CUDA op RISC-V verzorgt de RISC-V-processor het besturingssysteem, de drivers en de applicaties; de NVIDIA-GPU voert de CUDA-kernels uit. De gerapporteerde hosteisen zijn gericht op serverplatforms. SiFive demonstreerde die op de BigSky SF-2U870 met een workflow voor taalmodelinferentie.

Wat CUDA op een RISC-V-host betekent

RISC-V is de instructiesetarchitectuur van de CPU die als host dient: de processor waarop het besturingssysteem en de CUDA-software draaien. De GPU blijft de versneller die de parallelle CUDA-berekeningen uitvoert. De aankondiging van NVIDIA in juli 2025 ging over het voornemen CUDA op RISC-V-hosts te ondersteunen. RISC-V International omschreef dat als een strategische bekendmaking, niet als een productintroductie.

Dat onderscheid maakt duidelijk waarom een RISC-V-bord met een grafische kaart niet vanzelf geschikt is. De host moet voldoen aan eisen voor de instructieset, firmware en gegevensoverdracht met de GPU.

Gerapporteerde eisen voor de host

Een technische analyse van de NVIDIA-presentatie op Hot Chips 2026 noemt een reeks voorwaarden voor RISC-V-servers. Het gaat om een gerapporteerde selectie, niet om een volledige officiële checklist.

VereisteRol in het platformPraktisch effect
RVA23-profielStandaardiseert de ISA-basis voor serverprocessorsGeeft software en platformbouwers een gemeenschappelijk hardware-uitgangspunt
RISC-V-server-SoC- en serverplatformspecificatiesBeschrijven de processor en de server als geheelHelpen om de CPU, firmware en overige platformonderdelen op elkaar af te stemmen
ACPI en Boot and Runtime Services (BRS)ACPI ondersteunt hardwaredetectie en beheer van energie, prestaties en temperatuur; BRS beschrijft firmwaredienstenLaat besturingssysteem en firmware hardware en platformfuncties volgens vaste afspraken beheren
Vectoruitbreidingen met predicatieVerwerken meerdere gegevens met vectorinstructies en voorwaardenKunnen vertakkingen in bepaalde berekeningen helpen vermijden
PCIe-coherentieHoudt geheugenbeelden van CPU en apparaten consistent bij gegevensoverdrachtBeperkt het risico dat de CPU na DMA nog verouderde cachegegevens gebruikt
PCIe peer-to-peer (P2P)Laat apparaten rechtstreeks gegevens uitwisselenVoorkomt dat gegevens eerst via het hostgeheugen moeten worden gekopieerd

Voor CUDA is vooral de gegevensroute van belang. Bij DMA, directe geheugentoegang door een apparaat, kan een GPU gegevens naar of uit geheugen verplaatsen terwijl de CPU cachegegevens vasthoudt. PCIe-coherentie helpt die geheugenbeelden gelijk te houden. Met P2P kan verkeer tussen apparaten een extra kopie via het hostgeheugen overslaan.

Wat de BigSky-demonstratie laat zien

Engelstalige SiFive-demo: BigSky voert een LLaMA.cpp- en Gemma 4-inferentieworkflow uit met CUDA

SiFive kondigde de BigSky SF-2U870 aan als RISC-V-host voor CUDA-workloads op NVIDIA-GPU's. De server heeft 32 SiFive P870-D-kernen op 2,0 GHz, 256 GB DDR5-5600-geheugen en vier PCIe Gen5 x16-aansluitingen, samen goed voor 64 lanes. Daarnaast noemt SiFive PCIe Gen3 x4, twee U.2 NVMe-ssd's van elk 7,68 TB en een 10/25 Gb OCP 3.0-netwerkkaart.

SiFive vermeldde Ubuntu 26.04 LTS en Red Hat RHEL 10 als direct ondersteunde besturingssystemen. Op 24 augustus 2026 meldde het bedrijf dat BigSky in beperkte aantallen beschikbaar was en dat de vraag groter was dan het aanbod.

De Engelstalige demonstratie van SiFive gebruikt LLaMA.cpp en Gemma 4 in een CUDA-workflow. De getoonde toepassing is inferentie: het uitvoeren van een bestaand taalmodel om antwoorden te genereren.

Wat de demo aantoont

De BigSky-demonstratie laat zien hoe één RISC-V-server als host samenwerkt met NVIDIA-GPU-hardware voor een concrete inferentieworkflow. Het is een demonstratie van inferentie, geen trainingsrun of vergelijkende prestatietest. De resultaten gelden voor deze platformopstelling en workload.