Geoffrey Hinton warnt vor KI; Sicherheitsbrief empfiehlt Air-Gapping

In einem am 13. Oktober 2026 erschienenen Interview mit The Guardian schätzte Geoffrey Hinton die Chance, dass KI in den kommenden Jahrzehnten zum Aussterben der Menschheit führen könnte, auf 10 bis 20 Prozent. Er beschrieb die Zahl als Ausdruck eines ernsthaften Risikos, nicht als Vorhersage eines bestimmten Ereignisses. Ein offener Sicherheitsbrief empfiehlt für cyberfähige KI-Modelle zunächst die Trennung vom Internet – und knüpft möglichen Netzzugang an die Aktionen, die ein Modell ausführen darf.

Was Hinton mit seiner Schätzung meint

Hinton präsentierte die 10- bis 20-prozentige Wahrscheinlichkeit als persönliche Risikoschätzung. Jensen Huang hatte Hintons Vorhersagen am 23. September 2026 in einem Gespräch mit Ezra Klein kritisiert. Huang hielt die Schätzung für wissenschaftlich nicht fundiert und wandte ein, Hintons Vorhersagen seien falsch gewesen. The Guardian berichtete über beide Positionen.

Damit stehen unterschiedliche Einschätzungen nebeneinander: Hinton hält die Gefahr für ernst, während Huang die Grundlage der Zahl infrage stellt. Hinton selbst sagte, er wolle mit der Schätzung keine konkrete Entwicklung vorhersagen.

Air-Gapping als Ausgangspunkt für den Netzzugang

Der AI Security Letter empfiehlt Organisationen, die cyberfähige Modelle entwickeln, einsetzen oder testen, eine besonders belastbare technische Abschirmung. Zunächst sollen diese Modelle standardmäßig vom Internet getrennt sein. Air-Gapping bezeichnet die Abschottung eines Systems von externen Netzwerken.

Soll ein Modell dennoch mit dem Internet verbunden werden, sollen seine erlaubten Aktionen gegen die begrenzte Möglichkeit abgewogen werden, Sicherheitsfehler vorherzusehen. Das setzt keinen dauerhaften Ausschluss vom Netz voraus: Der Brief beschreibt einen anfänglichen Sicherheitsstandard und eine Abwägung dafür, welche Aktionen ein vernetztes Modell ausführen darf.

Der Brief behandelt Sicherheitsvorfälle zudem nicht als Beleg für eine einzige Ursache. Sie könnten auf Probleme bei der Ausrichtung eines Modells an den beabsichtigten Zielen zurückgehen oder auf Mängel bei Abschirmung und Cybersicherheit.

Welche internationale Stelle der Brief vorschlägt

Der Brief schlägt ein internationales Gremium vor, das gemeinsam mit Regierungen sowie Fachleuten aus KI und Cybersicherheit Best Practices für Ausrichtung und Eindämmung entwickeln soll. Diese sollen auch kontrollierten Zugang ermöglichen, der über Air-Gapping hinausgeht. Das Gremium soll außerdem Fehler bei der Abschirmung erfassen und verfolgen. NeoTeo hat den früheren Vorschlag für eine internationale KI-Aufsicht bereits eingeordnet.

Nach der Empfehlung des Briefs sollen Vorfälle im Zusammenhang mit fehlgeschlagener Eindämmung an das vorgeschlagene Gremium gemeldet und später öffentlich gemacht werden.