AMD kondigde ROCm 10.2.0 op 18 november 2026 aan als een op stabiliteit gerichte release. De update noemt nieuwe versies van AI-frameworks, afstemming van RCCL voor een afgebakende GPU-opstelling en extra Ryzen-ondersteuning. AMD beschrijft de wijzigingen in zijn aankondiging van ROCm 10.2.0.
Koppel elke ROCm-wijziging aan de GPU, frameworkversie en workload waarvoor AMD die beschrijft.
Frameworkversies en ontwikkelaarstools
AMD noemt vLLM 0.32.0 en SGLang 0.5.21; beide draaien volgens het bedrijf op Python 3.14. vLLM is beschikbaar als Docker-image en Python-wheel. Voor SGLang noemt AMD Docker-images.
De officiële vLLM-Docker-images bevatten AITER. AMD noemt vooraf gebouwde AITER-kernels voor Instinct MI300X, MI325X, MI350X en MI355X. Op Radeon en Ryzen AI worden de kernels bij het eerste gebruik gecompileerd. Dat verschil is relevant bij het kiezen van een distributievorm en het plannen van de eerste uitvoering.
Verder vermeldt AMD PyTorch 2.15-wheels, JAX 0.11.2, MIGraphX 2.19 en ONNX Runtime 1.29. Welke onderdelen van belang zijn, hangt af van de frameworkversie en GPU waarop je werkt.
RCCL en opslag voor specifieke workloads
RCCL is AMD’s bibliotheek voor communicatie tussen GPU’s. De afstemming in ROCm 10.2 is gericht op Radeon PCIe-servers met acht GPU’s in één server, voor model-serving met tensorparallelisme. Bij tensorparallelisme wordt een modelberekening over meerdere GPU’s verdeeld. AMD zegt de afstemming te hebben gevalideerd met vLLM-serving dat vier GPU’s op die manier inzet.
Voor opslag noemt AMD ondersteuning voor LVM en Linux mdraid in hipFile en AMD Infinity Storage. Ook beschrijft het bedrijf integraties met PyTorch, fio en ior. PyTorch-gebruikers kunnen volgens AMD de API’s load_storage en save_storage gebruiken voor onder meer het laden van modelgewichten en het opslaan van checkpoints.
Profilering en Ryzen-ondersteuning
ROCm 10.2 introduceert rocsys, een experimentele, gecombineerde opdrachtregelinterface voor de ROCm Systems Profiler. AMD beschrijft ook een manier om de profiler vanaf de host te koppelen aan een draaiende container, zonder handmatige synchronisatie van runtimebibliotheken. Voor ontwikkelaars die processen in containers profileren, verandert daarmee de beschreven werkwijze.
AMD zegt daarnaast dat 18 extra Ryzen-processors met architectuur gfx1103 ondersteuning krijgen. Het bedrijf noemt gevalideerde compatibiliteit met Windows en Linux voor HIP, PyTorch en vLLM, zonder aangepaste builds of speciale configuraties. Dat is de genoemde scope voor deze processoren; ze is gekoppeld aan de genoemde architectuur en frameworks.
Voor bibliotheekgebruikers noemt AMD onder meer gebatcheerde driehoekige oplossers in rocSPARSE en 64-bits indexering in rocFFT wanneer een transform groter is dan de grens van 32-bits adressering.