Am 15. und 16. September 2026 geriet METR als möglicher externer Prüfer für KI-Labore in die Kritik. Auslöser war Dario Amodeis Vorschlag, unabhängigen Evaluatoren einen weitreichenden, mit Beschäftigten vergleichbaren Zugang zu Entwicklungs- und Sicherheitsprozessen zu geben. Im Zentrum der Debatte stehen personelle, institutionelle und philanthropische Überschneidungen rund um METR – nicht der Nachweis, dass eine konkrete Prüfung beeinflusst wurde.
Warum die Unabhängigkeit von METR diskutiert wird
METR ist eine gemeinnützige Organisation für KI-Evaluierung. Amodei brachte sie im Zusammenhang mit seinem Modell für externe Prüfer ins Gespräch. Kritiker wie David Sacks und Perry Metzger halten die Verbindungen von METR zu Geldgebern, Forschern und Netzwerken aus dem Umfeld von Anthropic-Investoren für problematisch. Ihre Kritik richtet sich damit vor allem auf die wahrgenommene Unabhängigkeit der Organisation.
Die personellen Verbindungen reichen in die Zeit zurück, als Amodei und Paul Christiano bei OpenAI zusammenarbeiteten und als Mitbewohner, Kollegen und Forschungspartner beschrieben wurden. Christiano war später einer der ersten fünf Treuhänder des Long-Term Benefit Trust von Anthropic. Das erklärt, warum die Rolle von METR nicht nur als technische, sondern auch als institutionelle Frage diskutiert wird.
Was Dario Amodei für KI-Labore vorgeschlagen hat
Amodei schlug eingebettete externe Evaluatoren vor, die mit „employee-like access“ – also einem mit Beschäftigten vergleichbaren Zugang – Sicherheitspraktiken, Vorfälle, Modelle, Trainingspipelines und Unternehmensprozesse prüfen könnten. Die Prüfer wären damit nicht auf gelegentlich veröffentlichte Sicherheitsberichte angewiesen, sondern könnten relevante Abläufe innerhalb eines Labors untersuchen.
Anthropic stellte diesen Schritt als eigene Verpflichtung dar. Sam Altman unterstützte ebenfalls externe Evaluatoren mit vergleichbarem Zugang, nannte dabei aber nicht ausdrücklich METR. Aus Altmans Zustimmung zu dem Modell folgt daher keine spezifische Unterstützung dieser Organisation.
Welche finanziellen und institutionellen Verbindungen berichtet wurden
METR entstand aus dem Alignment Research Center (ARC), das in den Berichten als mit Effective Altruism verbunden beschrieben wird. ARC Evals wurde 2023 ausgegliedert und nahm den Namen METR an.
Für die Finanzierung ergibt sich ein mehrschichtiges Bild:
- METR gab am 14. August 2026 rund 71 Millionen US-Dollar an Finanzierungszusagen bekannt, die in den vorangegangenen sechs Monaten zusammengekommen seien.
- Dem Survival and Flourishing Fund wurden seit der Gründung von METR bis zu 752.000 US-Dollar zugerechnet: 324.000 US-Dollar als allgemeine Geldmittel und eine Zusage über 428.000 US-Dollar als Matching-Finanzierung.
- Coefficient Giving soll dem Alignment Research Center 2022 1.515.000 US-Dollar gespendet haben. METR erklärt, diese Spende sei abgeschirmt worden und nicht in den operativen Betrieb von METR geflossen.
Dustin Moskovitz und Jaan Tallinn werden als Anthropic-Investoren beschrieben. Moskovitz ist mit Coefficient Giving verbunden, Tallinn mit dem Survival and Flourishing Fund. Diese Verbindung betrifft damit Geldgeber und verwandte Organisationen – nicht eine von Anthropic selbst ausgewiesene Finanzierung von METR.
| Zeitpunkt | Entwicklung | Beteiligte Organisation oder Person |
| 2010er-Jahre | Paul Christiano und Dario Amodei arbeiteten bei OpenAI zusammen und wurden als Kollegen, Mitbewohner und Forschungspartner beschrieben. | Paul Christiano, Dario Amodei, OpenAI |
| 2022 | Coefficient Giving soll dem Alignment Research Center 1.515.000 US-Dollar gespendet haben. | Coefficient Giving, Alignment Research Center |
| 2023 | ARC Evals wurde ausgegliedert und nahm den Namen METR an. | Alignment Research Center, METR |
| 14. August 2026 | METR kündigte rund 71 Millionen US-Dollar an Finanzierungszusagen aus den vorherigen sechs Monaten an. | METR |
| 12. September 2026 | Dario Amodeis Vorschlag für ein kontrollierteres Tempo bei Frontier-KI und eingebettete externe Evaluatoren wurde veröffentlicht. | Dario Amodei, Anthropic |
| 15.–16. September 2026 | Die Verbindungen zwischen METR, Geldgebern, Forschern und Anthropic-Investoren wurden öffentlich zum Gegenstand der Debatte. | METR, Anthropic und beteiligte Netzwerke |
Was METR zu Finanzierung und Einfluss sagt
METR erklärt, keine Finanzierung von KI-Unternehmen oder deren Beschäftigten anzunehmen und keine Vergütung von KI-Laboren zu erhalten. Nach Darstellung der Organisation hätten die Geldgeber keinen Einfluss auf die Projekte. Auch die Spende an ARC sei von METRs operativem Geschäft getrennt gewesen.
METR begründet seine Rolle damit, Informationen aus KI-Unternehmen öffentlich zugänglich machen zu wollen. Externe Ermittler könnten mehr Einblick in die internen Abläufe bringen, ohne dass eine kleine Gruppe allein über die Entwicklung der KI bestimmen müsse.
Damit stehen zwei Aussagen nebeneinander: Auf der einen Seite gibt es dokumentierte Überschneidungen bei Personen, Institutionen und philanthropischen Netzwerken. Auf der anderen Seite weist METR eine direkte Finanzierung durch KI-Unternehmen zurück und erklärt, dass Geldgeber keine Projektentscheidungen treffen.
Was aus der Debatte folgt
Die Überschneidungen liefern einen nachvollziehbaren Anlass, Transparenz über Geldflüsse, Interessenkonflikte und Schutzmechanismen zu verlangen. Sie belegen jedoch nicht, dass Anthropic METR gesteuert hat oder dass eine konkrete Evaluierung manipuliert wurde. Ebenso ergibt sich daraus kein Nachweis, dass Warnungen vor KI-Risiken erfunden wurden.
Die praktische Bedeutung von Amodeis Vorschlag hängt deshalb an der Ausgestaltung: Externe Prüfer müssten Zugang zu den relevanten Modellen, Vorfällen, Trainingsprozessen und Sicherheitsentscheidungen erhalten. Ihre Befunde müssten zudem veröffentlicht werden können, ohne dass das geprüfte Unternehmen die Ergebnisse redaktionell kontrolliert. Genau an dieser Schnittstelle treffen technische Aufsicht und institutionelle Unabhängigkeit aufeinander.
