Du bist ein autonomes Auto. Du hast drei Passagiere an Bord. Ein katastrophaler Bremsdefekt verhindert, dass du rechtzeitig an der Ampel anhalten kannst, während drei andere Menschen die Straße überqueren. Wenn du diese drei Menschen überfährst, verursachst du ihren Tod, aber deine Passagiere bleiben unverletzt. Wenn du stattdessen ausweichst, rettest du die Fußgänger, aber deine Passagiere sterben bei dem Aufprall. Was würdest du tun? Diese und andere Übungen werden auf dem Portal Moral Machine untersucht, das uns eine menschliche Perspektive für die moralischen Konflikte vermitteln soll, denen viele automatisierte Systeme gegenüberstehen werden.
Das Kobayashi-Maru-Problem
„Kobayashi Maru“. Ein Szenario, in dem man nicht gewinnen kann. Eine „Charakterprüfung“, so ein gewisser Kapitän, der dieses Szenario gelöst hat... durch Betrug. Das Problem des Kobayashi Maru ist, dass es dazu gedacht ist, zweifellos menschliche Qualitäten unter Beschuss zu nehmen, oder im speziellen Fall von Star Trek die Qualitäten seiner Offiziere. Aber was passiert, wenn wir die Logik in diese Situation bringen? Einsen und Nullen. Künstliche Intelligenzen. In Millisekunden werden sie alle verfügbaren Optionen bewerten und wahrscheinlich die effizienteste oder effektivste auswählen. Doch was ist mit der Moral und der Ethik hinter dieser Option? Das ist keine Theorie. Künstliche Intelligenzen werden sehr bald Entscheidungen dieser Größenordnung treffen, wenn sie Autos, Lieferwagen und Lkw kontrollieren. Der menschliche Faktor ist die Hauptursache für Verkehrsunfälle, aber mechanische Fehler werden nicht verschwinden. Was ist „das Richtige“? Was ist „das kleinere Übel“?
Moral Machine: Dreizehn Übungen
Das Portal Moral Machine, entwickelt vom MIT, hilft uns, die Antwort auf beide Fragen zu erkunden, indem wir die Rolle eines externen Beobachters bei einem Szenario einnehmen, das ein autonomes Auto lösen muss. Die Übungen sind nichts anderes als „binäre Fallen“, denn es gibt keine Alternativen, keine Abkürzungen und keine Mittelwege. Die eine oder andere Wahl führt unweigerlich zum Tod von jemandem, sei es Person oder Tier, aber es kommen auch andere Elemente hinzu. Was ist mehr wert: das Leben eines Menschen, der bei Rot über die Ampel geht, oder das Leben eines Menschen, der seine Zeit abgewartet hat? Insgesamt präsentiert Moral Machine dreizehn Übungen, und am Ende können wir eine Zusammenfassung unserer Entscheidungen sehen. Die Zahl der geretteten Leben, der Gehorsam gegenüber dem Gesetz, Präferenzen hinsichtlich Geschlecht oder sozialem Status und sogar das Eingriffsniveau werden bewertet.
Kein endgültiges Ergebnis
Jede Übung wird zufällig generiert, daher gibt es so etwas wie ein „definitives Ergebnis“ nicht, und wenn du von vorne beginnst, wirst du sicherlich andere Werte sehen. Wie das Portal in seinem Kleingedruckten angibt, Moral Machine will niemanden verurteilen, sondern der Öffentlichkeit die Bedeutung und Komplexität hinter ethischen und moralischen Entscheidungen von Systemen nahebringen, die von künstlicher Intelligenz gesteuert werden.
