Schutzregeln für KI-Prüfer sollen externe Fachleute dabei unterstützen, fortgeschrittene KI-Systeme unabhängig auf Risiken zu untersuchen. Am 18. September 2026 veröffentlichte das AI Evaluator Forum einen Brief mit fünf dafür vorgeschlagenen Bedingungen: Unabhängigkeit, mehrere Perspektiven, Transparenz, Schutz vor Vergeltung und angemessener Zugang.
Wichtig ist dabei nicht nur, wer prüft: Auch Finanzierung, Zugriff auf relevante Systeme und die Kontrolle über Ergebnisse beeinflussen, was externe Prüfer untersuchen und veröffentlichen können.
Was die fünf Schutzregeln praktisch bedeuten
| Vorgeschlagene Schutzregel | Was der Brief vorsieht |
| Unabhängigkeit | Prüforganisationen sollen weder den bewerteten KI-Unternehmen gehören noch von ihnen gesteuert werden. Wesentliche weitere Geschäftsbeziehungen und erfolgsabhängige Vergütungen sollen ausgeschlossen sein. Die Prüfer sollen die redaktionelle Kontrolle über ihre Ergebnisse behalten sowie Interessenkonflikte offenlegen und entschärfen. |
| Mehrere Perspektiven | Unternehmen sollen mehrere Prüforganisationen mit unterschiedlichen Fachkenntnissen und Risikoperspektiven einbeziehen. Abweichende Einschätzungen der Prüfer sollen kommuniziert werden können. |
| Transparenz | Methoden, Ergebnisse, Zugangsbedingungen und Prüfvereinbarungen sollen offengelegt werden. Prüfer sollen sich ohne Filter an Aufsichtsgremien wenden können. Einschränkungen öffentlicher Ergebnisse sollen eng begrenzt und zeitlich befristet sein. |
| Schutz vor Vergeltung | Rechtliche und finanzielle Vorkehrungen sollen Prüfer vor Vergeltungsklagen schützen und verhindern, dass angemessene Methoden oder ungünstige Ergebnisse ihre Finanzierung gefährden. |
| Zugang auf vergleichbarem Niveau | Externe Prüfer sollen für ihre Aufgabe ähnlich weitreichenden Zugang erhalten wie erfahrene interne Fachleute: zu relevanten Systemen, Daten, Werkzeugen und Räumen sowie zu Beschäftigten. Ausnahmen sollen sensible Kunden- und Drittanbieterdaten schützen. |
Die Unterzeichnerliste des Forums wurde am 23. September 2026 aktualisiert und führte 200 oder mehr Namen auf. Der Brief schlägt Bedingungen vor; er schafft selbst keine verbindlichen Pflichten für KI-Unternehmen.
Wie sich der Vorschlag zu Unternehmenszusagen verhält
Im September wurden Zusagen von Dario Amodei, CEO von Anthropic, und Sam Altman, CEO von OpenAI, zur Einbindung externer Prüfer in ihren Unternehmen berichtet. Elon Musk, CEO von xAI, unterstützte Amodeis Vorschlag. Diese Äußerungen stehen neben den fünf Bedingungen des Forums, die als Vorschlag formuliert sind.
Eingebettete Prüfungen ergänzen weitere Aufsicht
Das AI Evaluator Forum versteht Prüfungen innerhalb von KI-Unternehmen als Ergänzung zu umfassenderer Transparenz und zum Zugang unabhängiger Forschender. Sie sollen diese Formen der Aufsicht nicht ersetzen.
