Bei einem Podcast-Auftritt am 6. Oktober 2026 schlug Geoffrey Hinton vor, dass KI-Unternehmen eine Aufsichtsbehörde vor der Veröffentlichung von der Sicherheit ihrer Produkte überzeugen sollten. Der Informatiker verglich diese Vorabprüfung mit der Zulassung neuer Medikamente.
Was Geoffrey Hinton vorschlug
Nach Hinton sollten KI-Produkte erst auf den Markt kommen, wenn eine Aufsichtsbehörde von ihrer Sicherheit überzeugt ist. Die FDA erwähnte er im Zusammenhang mit Arzneimitteln; für die vorgeschlagene Prüfung von KI sprach er allgemein von einer Aufsichtsbehörde.
Der Vergleich mit der Arzneimittelzulassung
Hinton bezifferte den Aufwand, die FDA von der Sicherheit eines neuen Medikaments zu überzeugen, auf rund eine Milliarde US-Dollar. Die Zahl bezog sich auf seinen Vergleich mit der Arzneimittelzulassung.
Warum Hinton die Idee ansprach
Hinton begründete seinen Vorschlag mit der Entwicklung, dass KI auf verschiedene Weise eingesetzt werde, um KI weiterzuentwickeln. Er beschrieb das als rekursive Selbstverbesserung und sagte, sie könne sowohl die Fähigkeiten als auch die Risiken beschleunigen.
Dass sich die Lage innerhalb von ein bis zwei Jahren deutlich verschlechtern könnte, bezeichnete Hinton ausdrücklich als Vermutung.
