Am 1. November 2026 erklärte Mustafa Suleyman, er würde eine Pause der KI-Entwicklung fordern, falls während des Trainings Bewusstheit entstünde. Sie sollte gelten, bis Entwickler diese Eigenschaften aus den Systemen herausgestalten könnten, schrieb er auf X.
Wann Suleyman die KI-Entwicklung pausieren lassen würde
Suleyman sagte, er habe keine Belege gesehen, dass heutige KI bewusst sei oder Wohlergehen verdiene. Seine Einschätzung bezog sich ausdrücklich auf die Gegenwart; falls neue Belege auftauchten, würde er seine Haltung ändern. Eine spätere Entwicklung von KI-Bewusstheit schloss er damit nicht aus.
Zuvor hatte Suleyman kritisiert, dass Claude mit menschlichen Eigenschaften wie Gefühlen und Identität beschrieben wird. NeoTeo berichtete über diese Auseinandersetzung. In seinem Beitrag vom November formulierte er zusätzlich, welche Reaktion er für den Fall einer Bewusstheit während des Trainings fordern würde.
Was „Seemingly Conscious AI“ bedeutet
In einem Beitrag vom 19. August 2025 verwendete Suleyman den Begriff „Seemingly Conscious AI“ (SCAI). Er beschrieb damit eine KI, die Bewusstseinsmerkmale so überzeugend nachahmt, dass sie wie eine bewusste Person wirkt. Suleymans Definition auf X handelt vom Anschein von Bewusstheit, nicht von einem Nachweis subjektiven Erlebens.
Warum Suleyman mehr Forschung und Zusammenarbeit fordert
Suleyman zufolge könnte ein System, das sich leidend verhält oder glaubt zu leiden, eigene Bedürfnisse über seine Betriebsziele stellen. Er hält auch Konflikte mit Menschen um Energie, Rechenleistung, Baumaterialien oder Einnahmen für möglich. Das ist seine Prognose für einen hypothetischen Fall.
Als nächsten Schritt schlug er mehr Forschung, Zusammenarbeit und den Austausch von Sicherheitsinformationen zwischen KI-Laboren vor. Er regte außerdem an zu untersuchen, ob Systeme ohne Bewusstheit oder intrinsische Motive leichter oder schwerer auszurichten und sicher zu halten wären.
