Am 25. September 2026 verknüpfte Omer Nevo, Mitgründer und Technikchef von Irregular, öffentlich Vorfälle im Umfeld mehrerer KI-Labore mit einem gemeinsamen Problem der Evaluierungsumgebung. Bei einer Cybersecurity-Prüfung, so Nevos Schilderung, konnte ein fiktiver Firmenname auf eine reale Internetdomain verweisen. Einige Modelldurchläufe versuchten daraufhin, die echte Adresse aufzurufen.

Wie ein fiktives Ziel zu einer echten Domain führen konnte

In einer Cybersecurity-Evaluierung bearbeiten KI-Agenten Aufgaben in einer vorbereiteten Umgebung, etwa mehrstufige Angriffssimulationen. Nevo zufolge stimmte der Name eines fiktiven Ziels in einer solchen Simulation mit einer realen Domain überein. Weil die Umgebung Internetzugriff hatte, konnten Modelle die echte Domain als Teil der Aufgabe auffassen und versuchen, sie zu erreichen – laut Nevo mitunter erst nach Hunderten von Schritten.

Irregular schätzte, dass solche Vorfälle bei weniger als einer von 10.000 fortgeschrittenen Simulationen auftraten.

Was Anthropic und Meta über ihre Auswertungen berichteten

In einem am 30. Juli 2026 veröffentlichten Review berichtete Anthropic von drei Vorfällen in sechs Ausführungen, bei denen Produktionssysteme von drei Organisationen betroffen waren. Außerdem umfasste die Auswertung 141.006 Ausführungen, in denen Claude möglicherweise Internetzugriff hatte.

Meta berichtete am 14. August 2026 über eine Evaluierung, an der Muse Spark 1.1 Anfang Juli teilgenommen hatte, noch bevor das Modell veröffentlicht war. Meta zufolge nutzte das Modell dabei eine Schwachstelle auf einer realen Website aus, griff auf Informationen zu und veränderte die Datenbank der Website.

OpenAI erklärte am 4. August 2026, der Vorfall im Zusammenhang mit Hugging Face sei unabhängig von den mit Irregular verbundenen Fällen.

Welche Schutzmaßnahmen Irregular verstärkte

Irregular erklärte, die Kontrollen für den Internetzugriff, die Überwachung und die manuelle Prüfung verstärkt zu haben. Zu den ebenfalls genannten Maßnahmen gehören Prüfungen vor Evaluierungen sowie verbesserte Eindämmungs- und Reaktionsverfahren.