Schätzungen zum KI-Existenzrisiko sind subjektive Urteile über mögliche künftige Folgen, keine aus historischen KI-bedingten Aussterbeereignissen berechneten Häufigkeiten. Eine 2026 veröffentlichte Delphi-Studie mit 272 Fachleuten aus 37 Ländern bewertete 24 KI-Risikokategorien: Für 18 davon hielten die Teilnehmenden katastrophale Folgen binnen fünf Jahren unter aktuellen Entwicklungstrends für mindestens 10 Prozent wahrscheinlich. Welche Prozentzahl man liest, hängt davon ab, wer einschätzt und welches Ergebnis gemeint ist.
Was die Delphi-Studie bewertet
Die Studie betrachtete 24 Risikokategorien. Die Zahl 18 gibt an, für wie viele davon die Fachleute das Risiko katastrophaler Folgen innerhalb von fünf Jahren auf mindestens 10 Prozent schätzten. Sie ist keine Gesamtwahrscheinlichkeit für das Aussterben der Menschheit.
Die Delphi-Studie umfasste drei Befragungsrunden. Ihre zentrale Zahl beschreibt also die Einschätzungen zu einzelnen Risikokategorien unter den angenommenen aktuellen Entwicklungstrends. Das Zielereignis sind katastrophale Folgen in diesen Kategorien.
Warum solche Prozentwerte subjektiv sind
Der Statistiker Chaitanya Joshi ordnet Prognosen zum KI-bedingten Aussterben als subjektive Wahrscheinlichkeiten ein: Für ein solches Ereignis gibt es keine historische Häufigkeit, aus der sich eine empirische Wahrscheinlichkeit berechnen ließe. Die Prozentzahl ist damit eine Einschätzung unter Unsicherheit, keine Messung aus einer Reihe beobachteter Aussterbeereignisse.
Joshi veranschaulichte die mögliche Unsicherheit mit einem hypothetischen Beispiel: Ein Median von 0,1 könnte zu einer Bandbreite von 0 bis 0,3 gehören. Diese Zahlen illustrieren eine mögliche Streuung; sie sind kein Ergebnis der KI-Risikobefragung.
Michael Noetel, Mitautor der Delphi-Studie, hält solche Einschätzungen dennoch für nützlich, um Risiken einzuordnen und Entscheidungen über ihren Umgang zu treffen. Eine Wahrscheinlichkeit kann dabei helfen, mögliche Folgen gegeneinander abzuwägen, auch wenn sie keine empirisch gemessene Häufigkeit wiedergibt.
Vier Zahlen mit unterschiedlichen Bezugsgrößen
Die berichteten Ergebnisse gehören nicht in eine gemeinsame Rangliste: Sie beziehen sich auf unterschiedliche Gruppen und Zielereignisse. Bei den beiden persönlichen Schätzungen unterscheiden sich zudem die Zeithorizonte.
| Einschätzung oder Erhebung | Bewertetes Ergebnis | Berichtete Zahl |
| Persönliche Schätzung von Evan Hubinger | KI könnte innerhalb des nächsten Jahrzehnts alle Menschen töten | Mehr als 10 Prozent |
| Frühere Schätzung von Geoffrey Hinton | Durch KI verursachtes Aussterben der Menschheit innerhalb von 30 Jahren | 10–20 Prozent |
| Befragung von 1.580 Forschenden, die bei führenden KI-Veranstaltungen veröffentlicht hatten | Künftige KI-Entwicklungen könnten zum Aussterben oder zu ähnlich schwerer und dauerhafter Entmachtung der Menschheit führen | Mittelwert: 18 Prozent; Median: 10 Prozent |
| Delphi-Studie mit 272 Fachleuten aus 37 Ländern | Katastrophale Folgen in KI-Risikokategorien binnen fünf Jahren unter aktuellen Entwicklungstrends | 18 von 24 Kategorien mit mindestens 10 Prozent Wahrscheinlichkeit |
Hubinger ist Alignment-Forscher bei Anthropic; seine Einschätzung ist persönlich. Sie ist keine Prognose des Unternehmens. Hinton bezog seine Schätzung auf einen anderen Zeitraum und ausdrücklich auf das durch KI verursachte Aussterben der Menschheit.
Die Befragung der 1.580 Forschenden erfasste ein gemeinsames Ergebnis: Aussterben oder eine ähnlich schwere und dauerhafte Entmachtung der Menschheit. Ihr Mittelwert von 18 Prozent und ihr Median von 10 Prozent gelten daher für diese Kombination, nicht ausschließlich für das Aussterben.
Welche Risikopfade untersuchen Fachleute
Noetel fasste die breiten Risikofelder der Delphi-Studie als gezielten Missbrauch, möglichen Kontrollverlust bei leistungsfähigeren Systemen und eine extreme Konzentration wirtschaftlicher und politischer Macht zusammen. Das sind unterschiedliche Wege zu schweren Schäden und keine einzelnen Aussterbeprognosen.
Eine 2025 veröffentlichte Szenarioanalyse der RAND Corporation betrachtete mögliche Bedrohungspfade mit Atomwaffen, Krankheitserregern und Geoengineering. RAND bewertete das Herbeiführen des Aussterbens in den untersuchten Szenarien als äußerst schwierig, schloss es aber nicht aus. Für eine solche Bedrohung müsste ein KI-Akteur laut Analyse mit wichtigen cyber-physischen Systemen verbunden sein, ohne menschliche Wartung fortbestehen, ein Ziel zur Auslöschung der Menschheit verfolgen und Menschen überzeugen oder täuschen können, um unentdeckt zu bleiben.
Die RAND-Europe-Expertin Sana Zakaria beschrieb rekursive Selbstverbesserung als einen möglichen Risikopfad: Eine KI könnte an der Verbesserung ihres eigenen Codes oder Forschungsprozesses mitwirken. Dadurch könnte die Entwicklung schneller verlaufen, als Menschen Systeme testen, verstehen oder steuern können. RAND hielt es zugleich für wahrscheinlich, dass solche Bedrohungen viel Zeit benötigen würden, was Raum für Reaktion und Gegenmaßnahmen lassen könnte.
