Rund 400 Forschende aus 34 Ländern haben laut einem Reuters-Bericht vom 13. Oktober 2026 eine internationale Aufsicht für KI-Systeme mit Cyberfähigkeiten gefordert. Der vorgeschlagene Mechanismus soll gemeinsame Standards für die Abschirmung solcher Systeme setzen und ein Register bedeutender Sicherheitsvorfälle führen. Geoffrey Hinton und Yoshua Bengio zählen laut Reuters zu den Unterzeichnern. NeoTeo hat bereits über einen früheren Vorschlag Geoffrey Hintons zur KI-Aufsicht berichtet.
Was die internationale KI-Aufsicht leisten soll
Die Forschenden schlagen ein internationales Gremium vor, das branchenweite Standards für die Eindämmung fortgeschrittener KI-Systeme festlegen soll. Außerdem soll es ein Register für bedeutende Sicherheitsvorfälle führen, das später öffentlich zugänglich sein könnte. Reuters zufolge richtet sich der Vorschlag besonders auf fortgeschrittene Modelle mit Cyberfähigkeiten.
Welche Schutzmaßnahmen der Vorschlag nennt
Frontier-Modelle sollen dem Vorschlag zufolge zunächst von externen Netzwerken getrennt werden. Diese Abschottung – häufig als Air-Gapping bezeichnet – soll den direkten Netzwerkzugriff begrenzen. Hinzukommen soll eine unabhängige Aufsicht.
Organisationen, die KI-Modelle mit Cyberfähigkeiten entwickeln oder testen, sollen laut Reuters sofort besonders hohe Containment-Standards anwenden, während Regierungen an einer formelleren Aufsichtsordnung arbeiten.
Wie sich der Vorschlag von anderen Ansätzen unterscheidet
Eine separate Initiative, über die Naiz berichtete, ging von 22 Staaten und Institutionen aus. Sie forderten menschliche Kontrolle und gemeinsame Regeln für KI und regten an, eine internationale Institution in Betracht zu ziehen. Der Bericht von Naiz beschreibt damit einen eigenen diplomatischen Vorstoß, nicht den Aufruf der Forschenden.
Auch Artikel 14 des EU AI Act verfolgt einen anderen Ansatz: Er betrifft nach einer Zusammenfassung der Vorschrift Hochrisiko-KI und sieht eine wirksame menschliche Aufsicht vor. Dazu gehören demnach die Möglichkeit, Fähigkeiten und Grenzen des Systems zu verstehen, seine Ausgaben zurückzuweisen und den Betrieb zu unterbrechen. Die Aufsicht soll außerdem zum Risiko und zum Grad der Autonomie passen.
Daneben hatten Anthropic, OpenAI, Google, Meta, xAI und Nvidia laut Reuters etwa einen Monat vor dem Bericht ein freiwilliges Sicherheitsabkommen mit dem Weißen Haus unterzeichnet. Reuters beschrieb das Abkommen als freiwillig und ohne formelle Durchsetzungsmechanismen.
