Timnit Gebru argumentiert, dass Erzählungen über eine mögliche Auslöschung der Menschheit durch KI von gegenwärtigen Schäden und menschlicher Verantwortung ablenken können. Ihre Kritik richtet sich gegen die Priorität und das Framing dieser Debatte – nicht gegen den wissenschaftlichen Beweis eines einzelnen zukünftigen Szenarios, den sie gar nicht vorlegt.
Gebrus Kernargument
Gebru, Gründerin und Geschäftsführerin des Distributed AI Research Institute, beschreibt KI nicht als einheitlichen, autonomen „Maschinengott“, sondern als Sammlung von Systemen, die von Menschen entwickelt und eingesetzt werden. Entscheidend sei deshalb, wer diese Systeme entwirft, testet, genehmigt und einsetzt.
Ihre Position lässt sich auf eine einfache Frage verdichten: Wer trägt die Verantwortung, wenn ein KI-System Schaden verursacht? Für Gebru sollte die Antwort nicht bei einer angeblich eigenständigen Maschine enden, sondern bei den Menschen und Institutionen liegen, die über Entwicklung, Freigabe und Einsatz entscheiden.
Warum die Brückenmetapher wichtig ist
Gebru vergleicht ein angeblich „außer Kontrolle geratenes“ KI-System mit einer eingestürzten Brücke. Bei einer Brücke fragt man nicht, ob sie ethisch gehandelt oder sich bewusst für den Einsturz entschieden hat. Man untersucht, wer sie geplant, geprüft, genehmigt und gebaut hat.
Übertragen auf KI verschiebt diese Perspektive den Schwerpunkt: weg von der Erzählung einer eigenwilligen Maschine und hin zu technischen Entscheidungen, Aufsicht, Geschäftsinteressen und Einsatzbedingungen. Das ist keine technische Widerlegung des sogenannten Alignment-Problems. Es ist eine Forderung nach klarer Verantwortungszuweisung.
Die Risiken, auf die Gebru jetzt den Blick lenken will
Gebru nennt mehrere Gefahren, die bereits in heutigen Anwendungen oder in absehbaren Einsatzfeldern liegen können:
- autonome Waffen und Systeme, die in bewaffneten Konflikten zum Töten eingesetzt werden können,
- Umweltfolgen großer Modelle,
- Verdrängung von Beschäftigten und ausbeuterische Arbeitsbedingungen,
- algorithmische Verzerrungen und Diskriminierung,
- Ausbeutung von Daten,
- Desinformation sowie
- der mögliche Missbrauch für chemische oder biologische Zwecke.
In dieser Aufzählung steckt ein anderer Begriff von „existenziell“. Gebru verwendet ihn auch für Schäden, die Menschen bereits betreffen oder Institutionen unmittelbar verändern können. Die Debatte über KI-Auslöschung meint dagegen meist den möglichen Verlust menschlicher Zivilisation oder des menschlichen Überlebens durch ein künftiges, hochfähiges System.
Sie behauptet nicht, dass ein solches Szenario unmöglich ist. Ihr Einwand lautet vielmehr: Wenn die spektakulärste Zukunftsgefahr die gesamte Aufmerksamkeit bindet, geraten konkrete Entscheidungen im Hier und Jetzt leichter aus dem Fokus.
Zwei verschiedene Rahmungen von KI-Risiken
Die beiden Positionen sprechen über unterschiedliche Zeithorizonte und Verantwortungsfragen. Deshalb lässt sich der Streit nicht durch eine einzige Wahrscheinlichkeitszahl auflösen.
| Rahmung | Zeithorizont | Zentrale Sorge | Wo Verantwortung liegt |
| Gebrus Perspektive | Gegenwart und absehbare Folgen | Waffen, Diskriminierung, Umweltfolgen, Arbeitsplatzverlust, Arbeitsausbeutung und Missbrauch | Bei den Menschen und Institutionen, die Systeme entwickeln, prüfen, genehmigen und einsetzen |
| Argument der KI-Existenzrisiken | Mögliche Zukunft | Ein hochfähiges System verfolgt ein Ziel, das mit menschlichen Interessen kollidiert, und verursacht dadurch eine Katastrophe | Bei Entwicklern und politischen Entscheidungsträgern, die Fehlanpassung und Kontrolle nicht rechtzeitig lösen |
Das zweite Szenario ist ein konditionales Argument: Es setzt voraus, dass ein sehr leistungsfähiges System ein Ziel erhält, das nicht mit menschlichen Werten übereinstimmt, und dann Mittel zur Zielerreichung verfolgt, die Menschen gefährden könnten. Diese Hypothese ist umstritten. Sie ist weder eine feststehende Tatsache noch durch Gebrus Kritik widerlegt.
Was die Angabe von mehr als zehn Prozent bedeutet – und was nicht
In der Debatte wurde die persönliche Einschätzung eines technischen Mitarbeiters von Anthropic wiedergegeben, wonach die Wahrscheinlichkeit, dass KI innerhalb des folgenden Jahrzehnts alle Menschen töten könnte, bei mehr als 10 Prozent liege.
Diese Zahl ist keine gemessene Wahrscheinlichkeit und kein wissenschaftlicher Konsens. Eine Methodik, ein Modell oder eine unabhängig geprüfte Prognose, die diese Genauigkeit rechtfertigen würde, liegt nicht vor. Für die Einordnung ist deshalb entscheidend, wer die Zahl äußert und welchen Status sie hat: Es handelt sich um eine persönliche Risikoeinschätzung, nicht um eine bestätigte Vorhersage.
Ein anderer Entwicklungsweg für KI
Gebru kritisiert auch die Idee, ein einziges riesiges Modell könne für nahezu jedes Problem die beste Lösung liefern. Sie plädiert stattdessen für kleinere, fokussierte und gemeinschaftsorientierte Systeme, die mit einem konkreten Bedarf beginnen.
Als Beispiel nennt sie Te Hiku Media und die Entwicklung einer Spracherkennung für die Māori-Sprache. Der Ausgangspunkt ist dort nicht die möglichst universelle Maschine, sondern eine bestimmte Gemeinschaft und deren sprachliche Bedürfnisse. In Gebrus Perspektive kann ein solcher Ansatz nützlicher und verantwortbarer sein, weil Ziel, Nutzergruppe und Folgen klarer sichtbar bleiben.
Das ist allerdings ihre Entwicklungs- und Governance-Position, keine allgemeine empirische Regel. Ein kleineres System ist nicht automatisch sicher oder fair. Der entscheidende Unterschied liegt in der Frage, ob ein Projekt von einem konkreten Problem und den betroffenen Menschen ausgeht – oder von der Vorstellung, ein Modell müsse möglichst viele Bereiche zugleich beherrschen.
Der eigentliche Streit dreht sich um Prioritäten
Timnit Gebru stellt der KI-Existenzrisiko-Debatte keine einfache Gegenprophezeiung entgegen. Sie fordert eine andere Reihenfolge: zuerst die Systeme, die heute gebaut, finanziert, eingesetzt und reguliert werden, sowie die Menschen, die ihre Folgen tragen.
Damit bleiben zwei Fragen nebeneinander bestehen. Die möglichen Gefahren einer künftigen Fehlanpassung verdienen eine ernsthafte, aber vorsichtige Diskussion. Gleichzeitig verschwinden Diskriminierung, Umweltbelastungen, Arbeitsplatzverlust, Waffen und institutionelle Verantwortung nicht, nur weil ein noch größeres Katastrophenszenario denkbar ist.
Gebrus zentrale Botschaft lautet daher nicht, dass KI-Auslöschung unmöglich ist. Sie lautet, dass verantwortungsvolle KI-Politik bei den konkreten Entscheidungen und Schäden beginnen muss, die bereits heute sichtbar werden.
