METR veröffentlichte am 20. Oktober 2026 eine Bewertung von Anthropic’s Risikobericht vom August. Sie stützte sich ausschließlich auf diesen Bericht und nutzte nicht den neuen Zugang, den Anthropic am 15. Oktober angekündigt hatte. METRs beste Einschätzung: Für die erfassten Modelle sei das Risiko katastrophaler Schäden durch Fehlanpassung niedrig, vor allem wegen ihrer begrenzten Fähigkeiten. Zugleich hielt METR es für möglich, dass die Methoden des Berichts ein höheres Risiko nicht zuverlässig erkennen.
Was METR tatsächlich bewertete
METR untersuchte den Abschnitt „Misalignment in high-stakes settings“ aus Anthropic’s Risk Report vom August 2026. Die Bewertung bezog sich auf Modelle, die bis zum 15. Juli 2026 intern oder extern eingesetzt worden waren, darunter Mythos 5 und das nur intern eingesetzte „Model 2“.
METR erklärte, die Prüfung sei vor der neuen Zugangsregelung vereinbart worden und beruhe allein auf dem Bericht. Die veröffentlichte Einschätzung ist daher eine Beurteilung von Anthropic’s damaliger Risikobewertung, keine Auswertung der Arbeit des neu eingebetteten Teams.
Was der Zugang für METR umfasst
Anthropic teilte am 15. Oktober 2026 mit, sechs METR-Mitarbeiter hätten bereits Firmenhardware, Büroräume und Zugang zu internen Werkzeugen und Systemen erhalten. Der Zugang sei ungefähr mit dem der eigenen Risikobewertungsteams vergleichbar. Nach Angaben des Unternehmens arbeitet das kleine METR-Team unter dessen Sicherheitsstandards und verbindlichen Vereinbarungen; andere METR-Mitarbeiter seien von seiner Arbeit abgeschirmt.
Anthropic ordnet METR der dritten von drei Evaluationsstufen zu. Die Stufen unterscheiden sich vor allem darin, wie viel Zugriff Prüfer erhalten und welche Bedingungen für Veröffentlichungen gelten. Anthropic beschreibt die Veröffentlichungsregeln so:
| Stufe | Veröffentlichungsregel laut Anthropic |
| 1 | Anthropic muss eine Veröffentlichung vorher genehmigen. |
| 2 | Prüfer können ohne vorherige Genehmigung veröffentlichen; bestimmte Informationen können geschwärzt werden. |
| 3 | METR hat Veröffentlichungsrechte ähnlich wie Stufe 2 und zusätzlich Zugang auf Beschäftigtenniveau. |
Anthropic sagt, es könne eine Veröffentlichung durch METR nicht verhindern. Das Unternehmen entscheidet nach eigener Darstellung jedoch abschließend, ob Informationen in eine der festgelegten Schwärzungskategorien fallen. Dazu zählen Kundeninformationen, anwaltlich geschützte Informationen und Angaben zur Modellarchitektur. METR darf sich außerdem in bestimmten Fällen öffentlich dazu äußern, welchen Zugang und welche Informationen es erhalten hat.
Das Modell externer Prüfer knüpft an einen Vorschlag an, den Dario Amodei im September 2026 skizzierte. NeoTeo hat Amodeis Vorschlag zur Verlangsamung der Frontier-KI zuvor im größeren politischen Zusammenhang eingeordnet.
METRs Risikoeinschätzung und ihre Grenzen
METRs beste Einschätzung war, dass das Risiko katastrophaler Schäden durch Fehlanpassung bei den abgedeckten Modellen niedrig sei. Ausschlaggebend waren nach Einschätzung der Organisation vor allem die begrenzten Fähigkeiten der Modelle, nicht Schutzmaßnahmen oder Alignment-Training. Das Urteil bezieht sich auf die im Bericht erfassten Modelle und ist keine allgemeine Aussage über alle Anthropic-Modelle.
METR warnte zugleich, die Methoden des Berichts könnten ein höheres Risikoniveau möglicherweise nicht zuverlässig frühzeitig erkennen. Die Organisation empfahl deshalb umfassendere End-to-End-Tests des asynchronen Überwachungssystems. Bei solchen Red-Team-Tests versuchen Prüfer gezielt, Schwachstellen aufzudecken. METR regte außerdem an, in der Risikoanalyse zu berücksichtigen, ob KI-Systeme sicherheitsrelevante Entscheidungen bei Anthropic untergraben könnten.
