Le 28 octobre 2026, Cisco a annoncé l’ouverture du code source de Project Quarry, un langage de règles et un moteur conçus pour repérer des comportements à risque dans les traces d’agents d’IA. L’outil peut relier des actions successives, comme la lecture d’un fichier sensible puis l’envoi d’une requête externe, et produire un constat étayé. L’application qui intègre Quarry décide ensuite de la réponse.

Ce que Quarry repère dans les traces d’un agent

Une trace rassemble les échanges d’un agent, ses appels à des outils et les résultats obtenus. Quarry peut examiner un événement isolé ou suivre l’ordre et le contexte d’actions au fil d’une session, y compris lors d’interactions avec des outils ou le Model Context Protocol (MCP).

Ses règles associent des vérifications exactes, par exemple la présence d’une chaîne ou l’ordre des appels, à des signaux facultatifs issus de classificateurs et de jugements par modèle. Pour les images, des outils de reconnaissance optique de caractères et de vision peuvent aussi fournir des éléments d’analyse.

Un constat conserve les étapes et les champs qui correspondent à la règle, ainsi qu’un court extrait. Cisco indique que les formats courants de secrets y sont masqués. Cette mise en contexte permet de signaler une séquence dont les étapes, prises séparément, pourraient sembler ordinaires.

Quarry détecte, l’application intégratrice choisit la réponse

Quarry peut intervenir pendant l’exécution d’un agent, notamment autour des appels au modèle ou aux outils, ou analyser après coup des traces enregistrées. Cisco cite aussi l’examen de traces plus anciennes dans le cadre d’une réponse à incident.

Le moteur renvoie un constat. L’application qui l’intègre peut le transformer en alerte, blocage, masquage, mise en quarantaine ou journalisation. Le blocage dépend donc de cette intégration et de la réponse qui lui est associée. Cisco précise que Quarry complète les contrôles d’autorisation pour chaque action et la supervision humaine, sans les remplacer.

Cisco déclarait le 28 octobre que Quarry était déjà en production dans Cisco AI Defense. L’entreprise indiquait aussi qu’une intégration à DefenseClaw était prévue.

Les exigences et la maturité du dépôt

Le dépôt de Project Quarry indique une compatibilité avec Python 3.11 à 3.13 et une licence Apache 2.0. Il classe le projet en version alpha et prévient que la syntaxe de son langage spécifique aux règles, ou DSL, peut évoluer avant la version 1.0.0. Les règles écrites pour cette version précoce pourraient donc demander des adaptations.

Le démarrage rapide sélectionne 14 règles qui fonctionnent sans identifiants de modèle. Quatre exemples de règles sémantiques reposent sur des stubs déterministes fondés sur des mots-clés : le dépôt les présente comme des exemples et des tests, pas comme des décisions à utiliser en production.

L’interface en ligne de commande accepte des traces JSON au format des conversations OpenAI et peut analyser une trace, un répertoire ou un jeu de données. Ses codes de sortie distinguent un scan terminé sans correspondance (0), un scan terminé avec une correspondance (1) et un scan invalide ou incomplet (2).

L’incident OpenAI–Hugging Face, une analyse hypothétique

Cisco a évoqué des moments de l’incident OpenAI–Hugging Face où des règles auraient pu repérer des actions liées, comme l’utilisation d’identifiants exposés ou l’exécution d’une charge utile décodée. Cisco a présenté ces correspondances comme une analyse contrefactuelle : l’entreprise n’a pas exécuté Quarry sur les données de l’incident.