Benchmark CPU de l’IA agentique : ce que mesure le prototype

Le 29 octobre 2026, Tom’s Hardware a décrit un prototype de benchmark CPU pour l’IA agentique qui rejoue des réponses de modèle pendant que les agents exécutent leurs outils. Il compte les tâches menées à terme par seconde à mesure que le nombre de sessions simultanées augmente. Le compte rendu ne publie aucun score comparatif de processeurs.

Les points clés du protocole

• Ce que mesure le test
• Comment les sessions sont enregistrées et rejouées
• Relecture figée et inférence en direct
• Les tâches et les systèmes du prototype
• D’autres chiffres mesurent d’autres choses

Ce que mesure le test

Une « session » correspond à une tâche menée de bout en bout. Le débit s’exprime donc en sessions terminées par seconde, mesuré à différents niveaux de concurrence. Pour un agent qui travaille seul, les opérations CPU liées aux outils peuvent ne représenter qu’une petite partie du temps total. Plusieurs agents lancés ensemble peuvent toutefois se disputer les ressources du processeur, ce que la variation du nombre de sessions permet d’observer.

Tom’s Hardware définit le débit maximal comme le meilleur nombre de sessions par seconde observé, avec le niveau de concurrence correspondant. Son débit idéal impose aussi une limite aux ralentissements : les 5 % de sessions les plus lentes ne doivent pas durer plus de 1,5 fois le temps d’une session seule, mesuré au niveau de concurrence de base.

Comment les sessions sont enregistrées et rejouées

Pour constituer les traces, un proxy transmet les requêtes à un serveur llama.cpp et enregistre les requêtes et réponses du modèle. Les appels aux outils et leurs résultats sont consignés séparément. Lors de la relecture, le protocole compare chaque requête à la trace grâce à une étiquette de session et à une empreinte de hachage. Une divergence invalide l’exécution; les appels aux outils sont eux aussi vérifiés, et les résultats enregistrés sont renvoyés à l’agent.

Le protocole fait passer le nombre de processus de travail de un jusqu’au nombre maximal de threads du processeur, avec trois répétitions à chaque niveau. Les tâches se chevauchent : les processus commencent à différents endroits d’une séquence de 30 tâches, dont les durées varient. Ce dispositif sert à mesurer le débit lorsque la concurrence augmente, tout en rejouant des interactions cohérentes.

Relecture figée et inférence en direct

La relecture figée remplace les réponses du modèle par celles enregistrées. Elle écarte ainsi l’inférence GPU en direct de cette série et mesure les effets du travail des agents et de leurs outils sans les délais de génération du modèle. Tom’s Hardware décrit aussi une série séparée avec inférence en direct : le modèle génère le même nombre de jetons que dans la trace, mais sa réponse est écartée au profit de la réponse enregistrée. Cette série inclut l’inférence et la mise en attente des agents.

Les deux modes répondent donc à des questions différentes : le premier isole les tâches des agents autour du modèle, le second inclut aussi le travail d’inférence.

Les tâches et les systèmes du prototype

Les six profils LangGraph couvrent l’analyse, le codage, le traitement de documents, la recherche, l’assistance et le Web. Les tâches sont actuellement à un seul tour de conversation, même si chacune peut appeler le modèle et des outils plusieurs fois. Le profil de recherche utilise un corpus local de Wikipédia en anglais d’environ 50 000 articles; celui de codage s’appuie sur quatre petits projets, deux en C et deux en Python.

Tom’s Hardware décrit deux systèmes : un banc équipé d’un Threadripper à 64 cœurs et de 128 Go de mémoire DDR5-6000 RDIMM, ainsi qu’un NVIDIA DGX Spark avec une puce GB10, 128 Go de mémoire unifiée, un GPU Blackwell et un processeur Arm Grace. Pour la configuration actuelle, Tom’s Hardware rapporte que la virtualisation Docker ajoute moins de 2 % de surcoût par rapport à une exécution sur la machine sans cette isolation.

D’autres chiffres mesurent d’autres choses

Les résultats publiés sur des processeurs pour agents utilisent des tâches et des métriques différentes. Le 12 octobre 2026, Signal65 a publié une analyse commandée par Arm qui rapporte une performance moyenne par rack modélisée de 1,99 fois celle de l’AMD EPYC 9755 sur sept charges de travail. Cette estimation combine des mesures par puce et la puissance nominale des serveurs; elle concerne les systèmes AGI CPU étudiés dans cette analyse.

Le 9 juin 2026, AMD a présenté une comparaison modélisée de racks de 100 kW avec des charges de travail d’infrastructure. AMD rapporte que l’EPYC 9965 atteint 2,37 fois la moyenne géométrique normalisée de la NVIDIA Vera dans ce scénario et précise que ces tests ne reproduisent pas un pipeline complet d’agent de bout en bout. De son côté, NVIDIA affirme que son processeur Vera dépasse de plus de 1,8 fois les architectures x86 traditionnelles dans un test de sandbox agentique à pleine charge. Ces résultats ne mesurent pas les sessions terminées par seconde du prototype de Tom’s Hardware.

Un projet distinct, ritikraj7/cpu-centric-agentic-ai, décrit cinq familles de tâches, dont la recherche Web, la génération de code et la recherche en chimie. Sa documentation mentionne CUDA 11.8 ou une version ultérieure pour l’accélération GPU, ainsi qu’au moins 16 Go de mémoire GPU pour l’inférence des modèles de langage. Son périmètre diffère donc de la série de relecture figée de Tom’s Hardware.

Dans une discussion Reddit sur les chiffres d’Arm, u/treenaks a mis en question l’indépendance d’une analyse commandée par Arm, tandis que u/AbstractButtonGroup a critiqué la méthode comme relevant du marketing. Ces réactions expriment le scepticisme de commentateurs; elles ne constituent pas des mesures de performance. Un résultat de rack modélisé, une mesure de sandbox et un débit de sessions ne forment pas un classement commun des processeurs.