Błędy komputerowe, które wywołały chaos

Mało rzeczy jest tak irytujących jak zawieszony komputer czy błąd w oprogramowaniu, ale rzadko myślimy o możliwych konsekwencjach tych problemów technicznych. W ostatnich latach pojawiły się raporty o błędach, które spowodowały straty idące w miliony dolarów, wypuściły na wolność niebezpiecznych przestępców, zabijały pacjentów podczas leczenia czy wyłączały całe sieci telefoniczne. Dziś mamy wideo z dziesięcioma wymownymi przykładami błędów, a my przyjrzymy się bliżej najgorszym z nich.

Czy Twój komputer się zawiesza? Czy ta gra w wersji Early Access wypluwa błędy bez końca? Nie możesz użyć programu sprzed pięciu czy sześciu lat w Windows 10? Te trzy przykłady są zdecydowanie irytujące, ale nie możemy zapominać, że błędy sprzętu, oprogramowania lub ich kombinacja spowodowały straty idące w miliardy dolarów, pozostawiły bez ochrony najbiedniejsze grupy społeczne, a co gorsza – zabijały ludzi.

Przykład nie tak odległy? System Autopilot Tesli, gdy w maju 2016 roku 40-letni mężczyzna zginął po zderzeniu swojego Modelu S z trailerem ciężarówki, podczas gdy Autopilot był włączony. Czy jest coś jeszcze poważniejszego? Ludzie z Alltime10s zebrali dziesięć błędów komputerowych, a my dzisiaj przeanalizujemy te, które naszym zdaniem są najgorsze.

Zawalenie platformy Sleipner A

Platforma Sleipner A należąca do firmy Statoil jest w eksploatacji. Z pokładem o wymiarach 140 na 60 metrów i możliwością pomieszczenia 160 osób to imponująca konstrukcja, ale 23 sierpnia 1991 roku uległa katastrofalnej awarii. Jej oryginalny kadłub zapadł się podczas ostatniej fazy budowy, komory pławności implodowały, a szczątki uderzyły w dno fiordu z siłą odpowiadającą trzęsieniu ziemi o sile 3 w skali Richtera. Cudem nikt nie został ranny, a późniejsze śledztwo wykazało, że błąd projektu został spowodowany przez program NASTRAN, którego obliczenia zawierały błędy rzędu aż 47 procent w tolerancjach.

Opieka nad dziećmi, która nigdy nie nadeszła

Brytyjska Agencja ds. Dobra Dziecka przeżyła prawdziwy koszmar, gdy firma EDS wdrożyła w 2004 roku nowy i skomplikowany system mający usprawnić płatności, w tym samym czasie, gdy Departament ds. Emerytur i Pracy przechodził proces restrukturyzacji. Proces ten i nowe oprogramowanie okazały się absolutnie niekompatybilne, powodując całkowite załamanie sieci agencji. Błąd sprawił, że prawie dwa miliony osób otrzymało więcej pieniędzy niż im się należało, ale 700 tysięcy otrzymało mniej, a niektórzy nie otrzymali ani centa. Do tego doszło siedem miliardów dolarów w płatnościach, które nigdy nie zostały przekazane, opóźnienie w 239 tysięcy spraw, kolejne 36 tysięcy „utkniętych" w systemie, oraz miliard dolarów dodatkowo na naprawę katastrofy. Agencja została zastąpiona w 2012 roku przez CMG (Child Maintenance Group).

Oprogramowanie, które wypuściło przestępców

W 2011 roku Sąd Najwyższy Stanów Zjednoczonych nakazał stanowi Kalifornia poprawę warunków w więzieniach i podjęcie skutecznych działań przeciwko przeludnieniu. Problem polegał na tym, że duża część pracy przypadła wadliwemu oprogramowaniu pochodzącemu z Departamentu Sprawiedliwości, które wypuściło na wolność prawie 1500 przestępców, od członków gangów i gwałcicieli po handlarzy narkotyków, podczas gdy plan zakładał wypuszczenie tych o znacznie lżejszych wyrokach. Prawie połowa rejestrów z 16,4 miliona aresztowań w Kalifornii była niekompletna, a brak informacji o więźniach spowodował automatyczne przypisanie ich do „nieodwołalnego warunkowego zwolnienia", czyli nigdy nie musieli się zgłaszać do kuratora. Najgorsze? Nikt ich nie poszukał.

Therac-25

Jeśli mamy mówić o „Maszynie Śmierci", to Therac-25 jest prawdopodobnie kandydatem do tego tytułu. Zbudowana przez Atomic Energy of Canada Limited w 1982 roku, ta platforma radioterapii spowodowała śmierć pięciu osób (inne raporty mówią o trzech) między czerwcem 1985 a styczniem 1987 roku, po zbombardowaniu pacjentów dawką sto razy wyższą niż potrzebna. Wyniki komisji śledczej wskazały, że Therac-25 była prawdziwym horrorem oprogramowania i inżynierii, bez redundancji, z ponownie wykorzystanym kodem, który nie został poprawiony, bez wcześniejszych testów laboratoryjnych oraz z ciągłą odmową firmy przyznania, że maszyna jest wadliwa. Do takiego wniosku doszła amerykańska FDA w 1987 roku, a AECL nie miała innego wyjścia, jak wycofać wszystkie jednostki Therac-25. Ci, którzy chcą dowiedzieć się więcej o tym incydencie i znają angielski, mogą sprawdzić ten szczegółowy plik PDF.

Stanisław Pietrow – człowiek, który uratował świat

Nie, ten ostatni wpis nie pojawia się w wideo, ale nikt przy zdrowych zmysłach nie mógłby go pominąć. Był 26 września 1983 roku. Trzy tygodnie wcześniej zimna wojna osiągnęła punkt wrzenia, gdy radziecki myśliwiec przez pomyłkę zestrzelił komercyjny lot 007 koreańskich linii lotniczych, zabijając wszystkich pasażerów. Najmniejsze zagrożenie mogłoby spowodować bezładne rozmieszczenie arsenału nuklearnego znajdującego się pod kontrolą obu mocarstw, a tego dnia system wczesnego ostrzegania Związku Radzieckiego dwukrotnie zgłosił wystrzelenie międzykontynentalnych pocisków balistycznych przez Stany Zjednoczone.

Podpułkownik Stanisław Jewgrafowicz Pietrow był oficerem dyżurnym w bunkrze Serpuchow-15 pod Moskwą. Za pierwszym razem system zgłosił jeden pocisk, a następnie dodał cztery kolejne, ale Pietrow doszedł do wniosku, że oba alarmy były fałszywe. Logika podpowiadała, że Stany Zjednoczone wystrzeliłyby setki pocisków naraz, radary naziemne nie potwierdziły sytuacji, a skuteczność systemu wykrywania była już wcześniej kwestionowana. Niezwykłe ułożenie światła słonecznego na chmurach w połączeniu z orbitą Mołnia wykorzystywaną przez satelity oraz poważna błędna interpretacja danych spowodowały awarię. Jeśli to nie przekonuje nas, że błąd w oprogramowaniu lub ogólny błąd projektowy może nas zniszczyć, to nic tego nie zrobi.