Cisco kündigte am 28. Oktober 2026 Project Quarry als Open-Source-Projekt an. Die Erkennungssprache und das dazugehörige Analysewerkzeug untersuchen aufgezeichnete Abläufe von KI-Agenten auf riskante Handlungsmuster. Dabei kann etwa ein Zugriff auf eine sensible Datei zusammen mit einer späteren externen Anfrage einen Treffer auslösen. Quarry liefert dazu einen Befund mit den passenden Schritten als Beleg.

Was Quarry in den Abläufen eines KI-Agenten erkennt

Quarry kann Nachrichten, Werkzeugaufrufe und deren Ergebnisse sowie die Reihenfolge von Ereignissen auswerten. Regeln dürfen mehrere Schritte innerhalb einer Sitzung verknüpfen, aber auch ein einzelnes Ereignis prüfen. So lässt sich beispielsweise erkennen, ob ein Agent nach einer Datei mit vertraulichen Informationen eine externe Anfrage ausführt.

Das Werkzeug verbindet genaue, regelbasierte Prüfungen mit optionalen Signalen aus Klassifikatoren und Sprachmodellen. Für Bildinhalte können optische Zeichenerkennung und Bildanalyse zusätzliche Hinweise liefern. Ein Treffer enthält die passenden Schritte, die geprüften Felder und einen kurzen Ausschnitt; gängige Formate von Geheimnissen werden dabei maskiert.

Wer entscheidet über die Reaktion auf einen Treffer?

Quarry erstellt Befunde, führt aber nicht selbst grundsätzlich eine bestimmte Reaktion aus. Das integrierte Produkt kann einen Treffer etwa einer Warnung, einer Blockierung, einer Schwärzung, einer Quarantäne oder einer Protokollierung zuordnen. Damit ergänzt Quarry die Berechtigungen für einzelne Aktionen und die menschliche Kontrolle, ersetzt sie aber nicht.

Cisco beschreibt drei Einsatzarten: Prüfungen während des Betriebs vor oder nach Modellaufrufen und Werkzeugnutzung, die nachträgliche Analyse gespeicherter Abläufe sowie die Untersuchung älterer Abläufe bei der Reaktion auf einen Vorfall. Cisco zufolge läuft Quarry bereits in Cisco AI Defense. Eine Integration in DefenseClaw kündigte das Unternehmen als geplant an.

Voraussetzungen und Reifegrad des Open-Source-Projekts

Das Project-Quarry-Repository nennt Python 3.11 bis 3.13 als unterstützte Versionen und Apache 2.0 als Lizenz. Das Projekt ist als Alpha gekennzeichnet. Seine Regelsprache, die DSL, kann sich laut Repository vor Version 1.0.0 noch ändern; bestehende Regeln könnten deshalb Anpassungen benötigen.

Der Schnellstart wählt 14 lokale Regeln aus, die ohne Zugangsdaten für Modelle laufen. Vier semantische Beispielregeln verwenden festgelegte Schlüsselwort-Attrappen. Das Repository ordnet sie ausdrücklich Beispielen und Tests zu, nicht Produktionsentscheidungen. Zum Projekt gehören außerdem eine Kommandozeile und eine Python-Schnittstelle. Der Scanner kann einzelne Ablaufdateien, Verzeichnisse oder Datensätze prüfen; als Eingabe für gespeicherte Abläufe nennt das Repository Chatdaten im OpenAI-JSON-Format.

Der Hugging-Face-Vorfall war kein Quarry-Test

Cisco führte Project Quarry nach eigenen Angaben nicht mit den Daten des Vorfalls bei OpenAI und Hugging Face aus. Die vom Unternehmen beschriebenen möglichen Treffer sind daher rückblickende hypothetische Beispiele, keine beobachteten Erkennungen durch Quarry. In diesem Zusammenhang beschrieb Cisco unter anderem 14 offengelegte Hugging-Face-Zugangsdaten mit Schreibrechten, die rekonstruiert, geprüft und weitergegeben worden seien; später habe ein Agent diese Zugangsdaten zur Codeausführung genutzt.