Computerfouten die chaos veroorzaakten

Er zijn maar weinig dingen zo vervelend als een vastgelopen computer of een bug in de software, maar we realiseren ons nooit volledig wat de mogelijke gevolgen van die technische problemen kunnen zijn. In de afgelopen jaren zijn er meldingen geweest van fouten die miljoenen dollars schade veroorzaakten, gevaarlijke criminelen vrijlieten, patiënten tijdens hun behandeling doodden of hele telefoonnetwerken platlegden. Vandaag hebben we een video met tien overtuigende voorbeelden van fouten, en we gaan de ergste nader bekijken.

Vriest je computer vast? Spuugt dat Early Access-spel eindeloos fouten? Kun je een programma van vijf of zes jaar niet gebruiken op Windows 10? Deze drie voorbeelden zijn beslist irritant, maar we mogen nooit vergeten dat hardware- en softwarefouten, of een combinatie van beide, al miljarden dollars schade hebben veroorzaakt, kwetsbare delen van de samenleving onbeschermd achterlieten en, erger nog, mensen hebben gedood.

Een niet zo ver weg voorbeeld? Het Autopilot-systeem van Tesla, toen in mei 2016 een 40-jarige man omkwam nadat zijn Model S tegen de trailer van een vrachtwagen botste terwijl de Autopilot was ingeschakeld. Is er iets nog ernstiger? De mensen van Alltime10s maakten een compilatie met tien computerfouten, en vandaag gaan we kijken naar degenen die naar onze mening de ergste zijn:

Het instorten van Sleipner A

Het Sleipner A-platform van het bedrijf Statoil is in gebruik. Met een dek van 140 bij 60 meter en plaats voor 160 mensen is het een meer dan indrukwekkende constructie, maar op 23 augustus 1991 leed het een catastrofale storing. De oorspronkelijke romp stortte in tijdens de laatste bouwfase, de drijfkamer implodeerde en de resten raakten de bodem van het fjord met een kracht gelijk aan een aardbeving van 3,0 op de schaal van Richter. Wonder boven wonder raakte niemand gewond, en het daaropvolgende onderzoek wees uit dat de ontwerpfout werd veroorzaakt door het programma NASTRAN, waarvan de berekeningen fouten vertoonden van maar liefst 47 procent in de toleranties.

Het kinderbijslag dat nooit aankwam

De Britse Kinderbijslagdienst kreeg te maken met een ware nachtmerrie toen het bedrijf EDS in 2004 een nieuw en complex systeem implementeerde om de betalingen te versnellen, terwijl het Ministerie van Pensioenen en Werk tegelijkertijd een herstructurering onderging. Dit proces en de nieuwe software bleken absoluut onverenigbaar, wat leidde tot een totale ineenstorting van het netwerk van de dienst. De fout zorgde ervoor dat bijna twee miljoen mensen meer geld kregen dan ze toekomt, maar andere 700.000 kregen minder, of zaten zonder ook maar één cent. Daar kwamen nog zeven miljard dollar aan betalingen die nooit werden uitgekeerd, een vertraging van 239.000 zaken, nog eens 36.000 die 'gevangen' zaten in het systeem, en een miljard dollar extra om de puinhoop op te lossen. De dienst werd in 2012 vervangen door de CMG (Child Maintenance Group).

De software die criminelen vrijliet

In 2011 beval het Hooggerechtshof van de Verenigde Staten de staat Californië om de omstandigheden in de gevangenissen te verbeteren en effectieve maatregelen te nemen tegen overbevolking. Het probleem is dat een groot deel van het werk werd gedaan door defecte software van het Ministerie van Justitie, die bijna 1.500 criminelen vrijliet, van bendeleden en verkrachters tot drugsdealers, terwijl het plan was om degenen met veel lichtere straffen vrij te laten. Bijna de helft van de dossiers van de 16,4 miljoen arrestaties in Californië was onvolledig, en omdat er geen verdere informatie over de gevangenen was, plaatste het systeem hen automatisch op 'onherroepelijke voorwaardelijke vrijlating', wat betekent dat ze zich nooit meer bij een officier hoefden te melden. Het ergste? Ze werden niet opgehaald.

Therac-25

Als we het over een 'doodsmachine' moeten hebben, dan is de Therac-25 waarschijnlijk een kandidaat voor de titel. Gebouwd door Atomic Energy of Canada Limited in 1982, veroorzaakte dit radiotherapieplatform de dood van vijf mensen (andere rapporten zeggen drie) tussen juni 1985 en januari 1987, door patiënten te bestoken met een dosis die honderd keer hoger was dan nodig. De resultaten van de onderzoekscommissie deden vermoeden dat de Therac-25 een ware ramp was op het gebied van software en techniek, zonder redundantie, met hergebruikte code die geen correcties kreeg, zonder eerdere laboratoriumtests, en met de constante weigering van het bedrijf om te erkennen dat de machine defect was. Tot die conclusie kwam de Amerikaanse FDA in 1987, en AECL had geen andere keuze dan alle Therac-25-eenheden terug te roepen. Degenen die meer over het incident willen weten en de Engelse taal voldoende beheersen, kunnen deze gedetailleerde PDF raadplegen.

Stanislav Petrov, de man die de wereld redde

Nee, dit laatste item komt niet in de video voor, maar niemand bij zijn volle verstand zou het achterwege kunnen laten. Het was 26 september 1983. Drie weken eerder was de Koude Oorlog op het hoogtepunt gekomen nadat een Sovjet-jager per ongeluk vlucht 007 van Korean Air Lines had neergeschoten, waarbij alle passagiers omkwamen. De geringste dreiging zou hebben geleid tot de grootschalige inzet van het nucleaire arsenaal van beide grootmachten, en op die dag meldde het vroegtijdige waarschuwingssatellietsysteem van de Sovjet-Unie twee keer de lancering van intercontinentale ballistische raketten door de Verenigde Staten.

Luitenant-kolonel Stanislav Yevgrafovich Petrov was de dienstdoende officier in de bunker Serpukhov-15, nabij Moskou. De eerste keer meldde het systeem één raket, en later voegde het er nog vier aan toe, maar Petrov concludeerde dat beide vals alarm waren. De logica zei dat de VS honderden raketten tegelijk zou lanceren, de grondradars bevestigden de situatie niet, en de betrouwbaarheid van het detectiesysteem was al eerder ter discussie gesteld. Een ongewone uitlijning van zonlicht op wolken, gecombineerd met de Molniya-baan van de satellieten en een ernstige misinterpretatie van de gegevens, veroorzaakte de storing. Als dit ons er niet van overtuigt dat een bug in de software of een algemene ontwerpfout ons kan vernietigen, dan zal niets dat doen.