Anthropic gab am 15. Oktober 2026 bekannt, dass das Unternehmen damit begonnen hatte, sechs Beschäftigte der gemeinnützigen Organisation Model Evaluation and Threat Research (METR) mit Zugang zu internen Werkzeugen und Systemen auszustatten, der dem eigener Mitarbeitender ähnelt. Am 16. Oktober präzisierte Anthropic die Veröffentlichungsregeln: Das Unternehmen kann METRs Berichte nicht untersagen, entscheidet aber selbst, ob Informationen unter die festgelegten Schwärzungskategorien fallen. Anthropics Ankündigung
Der frühere NeoTeo-Beitrag zu METR und Fragen seiner Unabhängigkeit behandelte die Debatte um externe Prüfer. Die jetzt beschriebenen Regeln legen konkreter fest, welchen Zugang das METR-Team erhält und unter welchen Bedingungen es Ergebnisse veröffentlichen kann.
Was METR bei Anthropic einsehen kann
Anthropic beschreibt den METR-Einsatz als dritte und tiefste Stufe seines dreistufigen Modells für externe Prüfungen. Sechs METR-Beschäftigte erhalten Unternehmenshardware und Büroräume sowie Zugang zu internen Werkzeugen und Systemen, der ungefähr dem Zugang der Anthropic-Teams für Risikobewertungen entspricht.
| Stufe | Zugang | Veröffentlichungsregeln |
| 1 | Eng umrissene Risikoprüfungen; Anthropic legt den gewährten Zugang fest. | Anthropic muss Veröffentlichungen genehmigen. |
| 2 | Zugang zu mehr Informationen als auf Stufe 1. | Veröffentlichung ohne vorherige Genehmigung; Anthropic kann Schwärzungen für festgelegte Kategorien verlangen. Prüfer dürfen ihre Einschätzung dazu veröffentlichen. |
| 3 (METR) | Beschäftigtenähnlicher Zugang; bei internen Werkzeugen und Systemen ungefähr auf dem Niveau der Anthropic-Teams für Risikobewertungen. | Veröffentlichungsrechte ähnlich wie auf Stufe 2. |
Die dritte Stufe verbindet den umfassendsten der beschriebenen Zugänge mit Veröffentlichungsrechten, die denen der zweiten Stufe ähneln. „Beschäftigtenähnlich“ bedeutet dabei nicht, dass METR als ganze Organisation Zugriff erhält: Das Team umfasst sechs Personen, arbeitet laut Anthropic unter durchsetzbaren Vereinbarungen und ist von anderen METR-Beschäftigten abgeschirmt. Dazu gehören auch Forschende, die an anderen Projekten mit Anthropic arbeiten.
Wer entscheidet über Schwärzungen?
Anthropic kann eine Veröffentlichung nach eigener Darstellung nicht mit einem Veto verhindern, aber Schwärzungen innerhalb festgelegter Kategorien verlangen. Als Beispiele nennt das Unternehmen Kundendaten, Informationen, die dem Anwaltsgeheimnis unterliegen, und Angaben zur Modellarchitektur. Anthropic entscheidet letztlich, ob eine Information in eine dieser Kategorien fällt.
METR darf bestimmte Aussagen darüber machen, welchen Zugang es erhalten und welche Informationen es gesehen hat. Damit liegen zwei unterschiedliche Befugnisse bei den Beteiligten: METR kann seine Ergebnisse veröffentlichen und begrenzt über den Umfang des Zugangs sprechen; Anthropic behält die Entscheidung darüber, welche Inhalte unter die vorgesehenen Schwärzungen fallen. Informationen zur Modellarchitektur will Anthropic nach eigener Aussage grundsätzlich dann teilen, wenn sie für die Bewertung besonders wichtig sind; dafür seien ausdrücklich interne Genehmigungen nötig.
Anthropic nennt außerdem Maßstäbe, die externe Prüfer erfüllen sollten: Erfahrung mit der Bewertung fortgeschrittener KI-Modelle, ausreichenden Zugang zur Risikobewertung und Freiheit, Beobachtungen zu veröffentlichen. Sie sollten weder Anteile an dem geprüften Unternehmen halten noch finanziell oder operativ von ihm abhängig sein.
Was andere Prüfpartnerschaften umfassen
Anthropic zufolge prüft SecureBio das Kapitel über chemische und biologische Waffen im Risk Report von August 2026. Zuvor hatte SecureBio eine Pilotprüfung eines älteren Berichts abgeschlossen und veröffentlicht.
Mit Accenture und Faculty arbeitet Anthropic an einer Partnerschaft, die Modellbewertungen und Red-Teaming, Prüfungen der Ausrichtung von KI-Systemen, Tests von Schutzmaßnahmen und den Aufbau entsprechender Fähigkeiten in den Organisationen umfassen soll. Mit weiteren Organisationen, darunter Hugging Face, führt Anthropic nach eigener Darstellung erste Gespräche.
