Computerfehler, die Chaos verursachten

Wenige Dinge sind so nervig wie ein eingefrorener Computer oder ein Software-Bug, aber wir sehen nie ganz, welche Konsequenzen diese technischen Probleme haben können. In den letzten Jahren gab es Berichte über Fehler, die Millionen Dollar kosteten, gefährliche Kriminelle freiließen, Patienten während der Behandlung töteten oder ganze Telefonnetze lahmlegten. Heute haben wir ein Video mit zehn eindrucksvollen Beispielen, und wir wollen uns die schlimmsten genauer ansehen.

Hängt Ihr Computer fest? Spuckt dieses Early-Access-Spiel pausenlos Fehler aus? Können Sie ein fünf oder sechs Jahre altes Programm unter Windows 10 nicht nutzen? Diese drei Beispiele sind definitiv irritierend, aber wir dürfen nie vergessen, dass Fehler in Hardware, Software oder einer Kombination aus beidem Milliarden Dollar an Verlusten verursacht haben, benachteiligte Teile der Gesellschaft schutzlos zurückließen und – noch schlimmer – Menschen getötet haben.

Ein nicht allzu fernes Beispiel? Das Autopilot-System von Tesla, als im Mai 2016 ein 40-jähriger Mann starb, nachdem sein Model S in den Anhänger eines Lastwagens prallte, während der Autopilot eingeschaltet war. Gibt es etwas noch Ernsthafteres? Die Leute von Alltime10s haben zehn Computerfehler zusammengestellt, und heute schauen wir uns die nach unserer Meinung schlimmsten an:

Der Kollaps der Sleipner A

Die Plattform Sleipner A der Firma Statoil ist noch immer in Betrieb. Mit einem Deck von 140 mal 60 Metern und Platz für 160 Personen ist sie ein mehr als beeindruckendes Bauwerk – doch am 23. August 1991 erlitt sie ein katastrophales Versagen. Ihr ursprünglicher Rumpf brach während der letzten Bauphase zusammen, ihre Auftriebskammern implodierten, und die Trümmer schlugen mit einer Kraft auf den Meeresboden des Fjords, die einem Erdbeben der Stärke 3 auf der Richterskala entsprach. Wie durch ein Wunder wurde niemand verletzt. Die spätere Untersuchung ergab, dass der Konstruktionsfehler durch das Programm NASTRAN verursacht worden war, dessen Berechnungen Fehler von satten 47 Prozent bei den Toleranzen aufwiesen.

Die Kinderfürsorge, die nie ankam

Die britische Agentur für Kinderwohlfahrt erlebte einen Albtraum, als die Firma EDS 2004 ein neues und komplexes System zur Beschleunigung der Zahlungen einführte, während gleichzeitig das Ministerium für Pensionen und Arbeit einen Umstrukturierungsprozess durchlief. Dieser Prozess und die neue Software erwiesen sich als absolut inkompatibel und ließen das Netzwerk der Agentur vollständig kollabieren. Der Fehler führte dazu, dass fast zwei Millionen Menschen mehr Geld erhielten, als ihnen zustand, während rund 700.000 weniger bekamen oder ohne einen einzigen Cent dastanden. Dazu kamen sieben Milliarden Dollar an Zahlungen, die nie ausgezahlt wurden, eine Verzögerung von 239.000 Fällen, weitere 36.000 im System „gefangene“ Fälle und eine Milliarde Dollar zusätzlich, um das Desaster zu beheben. Die Agentur wurde 2012 durch die CMG (Child Maintenance Group) ersetzt.

Die Software, die Kriminelle freiließ

Im Jahr 2011 ordnete der Oberste Gerichtshof der USA an, dass der Bundesstaat Kalifornien die Bedingungen in seinen Gefängnissen verbessern und wirksame Maßnahmen gegen die Überbelegung ergreifen muss. Das Problem: Ein Großteil der Arbeit übernahm eine defekte Software des Justizministeriums, die fast 1.500 Kriminelle freiließ – von Bandenmitgliedern und Vergewaltigern bis zu Drogenhändlern – obwohl der Plan war, nur jene mit wesentlich leichteren Fällen zu entlassen. Fast die Hälfte der Einträge zu den 16,4 Millionen Festnahmen in Kalifornien war unvollständig. Da die Software keine weiteren Informationen über die Gefangenen hatte, stufte sie die Betroffenen automatisch als „unwiderrufliche Bewährungsfreilassung“ ein, was bedeutete, dass sie sich nie wieder bei einem Beamten melden mussten. Das Schlimmste? Man holte sie nicht zurück.

Therac-25

Wenn wir von einer „Todesmaschine“ sprechen, ist die Therac-25 wahrscheinlich ein Kandidat für den Titel. Sie wurde 1982 von Atomic Energy of Canada Limited gebaut und verursachte zwischen Juni 1985 und Januar 1987 den Tod von fünf Menschen (anderen Berichten zufolge drei), nachdem sie Patienten mit einer hundertfach höheren Dosis als nötig bestrahlt hatte. Die Ergebnisse der Untersuchungskommission legten nahe, dass die Therac-25 ein wahres Grauen an Software und Ingenieurskunst war: keine Redundanz, wiederverwendeter Code ohne Korrekturen, keine vorherigen Labortests und die ständige Weigerung des Unternehmens, zuzugeben, dass die Maschine defekt war. Zu diesem Schluss kam die FDA 1987, und AECL blieb nichts anderes übrig, als alle Therac-25-Einheiten zurückzurufen. Wer mehr über den Vorfall erfahren möchte und einigermaßen Englisch kann, findet dieses ausführliche PDF.

Stanislav Petrov, der Mann, der die Welt rettete

Nein, dieser letzte Eintrag erscheint nicht im Video, aber niemand bei Verstand würde ihn weglassen. Am 26. September 1983, drei Wochen nachdem ein sowjetischer Jäger versehentlich den Passagierflug 007 von Korean Air Lines abgeschossen und alle Passagiere getötet hatte, war der Kalte Krieg auf dem Siedepunkt. Die geringste Bedrohung hätte den wahllosen Einsatz des Atomwaffenarsenals beider Supermächte auslösen können, und an diesem Tag meldete das satellitengestützte Frühwarnsystem der Sowjetunion zweimal den Abschuss von Interkontinentalraketen durch die USA.

Oberstleutnant Stanislav Yevgrafovich Petrov war der diensthabende Offizier im Bunker Serpukhov-15 bei Moskau. Als das System zum ersten Mal eine einzelne Rakete meldete und dann vier weitere hinzufügte, kam Petrov zu dem Schluss, dass beide Alarme falsch waren. Die Logik sprach dagegen: Die USA würden Hunderte Raketen auf einmal abfeuern, die Bodenradare bestätigten die Lage nicht, und die Zuverlässigkeit des Erkennungssystems hatte bereits früher Zweifel aufgeworfen. Eine ungewöhnliche Ausrichtung des Sonnenlichts auf den Wolken in Kombination mit der Molniya-Umlaufbahn der Satelliten und einer schweren Fehlinterpretation der Daten verursachte den Fehler. Wenn uns das nicht davon überzeugt, dass ein Software-Bug oder ein allgemeiner Konstruktionsfehler uns vernichten kann, dann wird es nichts tun.