Les pires erreurs informatiques qui ont causé le chaos

Peu de choses sont aussi agaçantes qu'un ordinateur gelé ou un bug logiciel, mais nous ne réalisons jamais pleinement les conséquences possibles de ces problèmes techniques. Ces dernières années, des rapports d'erreurs ont causé des pertes de millions de dollars, libéré des criminels dangereux, tué des patients en pleine traitement ou mis hors service des réseaux téléphoniques entiers.

Votre ordinateur se fige ? Votre jeu en Early Access crache des erreurs sans fin ? Vous ne pouvez pas utiliser un programme vieux de cinq ou six ans sous Windows 10 ? Ces trois exemples sont certainement irritants, mais il ne faut jamais oublier que les erreurs matérielles ou logicielles, ou une combinaison des deux, ont causé des milliards de dollars de pertes, laissé des secteurs vulnérables de la société sans protection, et pire encore, tué des gens.

Un exemple pas si lointain ? Le système Autopilot de Tesla, lorsqu'en mai 2016 un homme de 40 ans est décédé après que sa Model S a percuté la remorque d'un camion alors que l'Autopilot était activé. Y a-t-il quelque chose d'encore plus grave ? Les gens d'Alltime10s ont réalisé une compilation de dix erreurs informatiques, et aujourd'hui nous allons étudier celles qui, à notre avis, sont les pires :

Le naufrage de Sleipner A

La plateforme Sleipner A, appartenant à la compagnie Statoil, est en opération. Avec un pont de 140 mètres sur 60 et une capacité de 160 personnes, c'est une construction plus qu'impressionnante, mais le 23 août 1991, elle a subi une défaillance catastrophique. Sa coque d'origine s'est effondrée pendant la dernière phase de construction, ses chambres de flottabilité ont implosé, et les débris ont heurté le lit du fjord avec une force équivalente à celle d'un tremblement de terre de trois degrés sur l'échelle de Richter. Miraculeusement, personne n'a été blessé, et l'enquête ultérieure a révélé que la défaillance de conception était due au programme NASTRAN, dont les calculs présentaient des erreurs grossières de 47 pour cent dans ses tolérances.

Le bien-être des enfants qui n'est jamais arrivé

L'Agence de protection de l'enfance du Royaume-Uni a vécu un véritable cauchemar lorsque la société EDS a mis en place en 2004 un nouveau système complexe pour accélérer les paiements, alors que le Département des pensions et du travail traversait un processus de restructuration. Ce processus et le nouveau logiciel se sont révélés absolument incompatibles, provoquant un effondrement total du réseau de l'agence. L'erreur a fait que près de deux millions de personnes ont reçu plus d'argent qu'il ne leur revenait, mais 700 000 autres ont reçu moins, ou se sont retrouvées sans un seul centime. À cela s'ajoutent sept milliards de dollars de paiements qui n'ont jamais été versés, un retard de 239 000 dossiers, 36 000 autres « coincés » dans le système, et un milliard de dollars supplémentaires pour réparer le désastre. L'agence a été remplacée en 2012 par le CMG (Child Maintenance Group).

Le logiciel qui a libéré des criminels

En 2011, la Cour suprême des États-Unis a ordonné à l'État de Californie d'améliorer les conditions de ses prisons et de prendre des mesures efficaces contre la surpopulation carcérale. Le problème est qu'une grande partie du travail a été confiée à un logiciel défectueux provenant du département de la Justice, qui a libéré près de 1 500 criminels, allant des membres de gangs et des violeurs aux trafiquants de drogue, alors que le plan était de libérer ceux dont les causes étaient bien plus légères. Près de la moitié des dossiers des 16,4 millions d'arrestations en Californie étaient incomplets, et ne disposant pas de plus d'informations sur les prisonniers, le logiciel les a placés automatiquement en « liberté conditionnelle irrévocable », c'est-à-dire qu'ils n'ont jamais eu à se présenter à un agent de probation. Le pire ? Personne n'est allé les chercher.

Therac-25

Si l'on doit parler d'une « Machine de la mort », il est probable que la Therac-25 soit candidate au titre. Construite par Atomic Energy of Canada Limited en 1982, cette plateforme de radiothérapie a causé la mort de cinq personnes (certains rapports disent trois) entre juin 1985 et janvier 1987, après avoir bombardé les patients avec une dose cent fois plus élevée que nécessaire. Les conclusions de la commission d'enquête ont laissé entendre que la Therac-25 était une véritable horreur logicielle et d'ingénierie, sans redondance, avec un code réutilisé n'ayant pas été corrigé, sans tests de laboratoire préalables, et le refus constant de la société de reconnaître que la machine était défectueuse. La FDA américaine est arrivée à cette conclusion en 1987, et AECL n'a eu d'autre choix que de retirer toutes les unités Therac-25. Ceux qui souhaitent en savoir plus sur l'incident et qui maîtrisent l'anglais peuvent consulter ce PDF détaillé.

Stanislav Petrov, l'homme qui a sauvé le monde

Non, cette dernière entrée n'apparaît pas dans la vidéo, mais personne de sensé ne pourrait la laisser de côté. C'était le 26 septembre 1983. Trois semaines plus tôt, la guerre froide était à son comble après qu'un chasseur soviétique a abattu par erreur le vol commercial 007 de Korean Air Lines, tuant tous ses passagers. La moindre menace aurait provoqué le déploiement indiscriminé de l'arsenal nucléaire sous le contrôle des deux puissances, et ce jour-là, le système d'alerte précoce par satellite de l'Union soviétique a signalé à deux reprises le lancement de missiles balistiques intercontinentaux par les États-Unis.

Le lieutenant-colonel Stanislav Yevgrafovich Petrov était l'officier en charge du bunker Serpukhov-15, près de Moscou. La première fois, le système a signalé un seul missile, puis en a ajouté quatre autres, mais Petrov a conclu que les deux étaient de fausses alarmes. La logique indiquait que les États-Unis lanceraient des centaines de missiles à la fois, les radars au sol n'ont pas confirmé la situation, et l'efficacité du système de détection avait déjà été remise en question auparavant. Un alignement inhabituel de la lumière du soleil sur les nuages, combiné à l'orbite Molniya utilisée par les satellites et à une grave erreur d'interprétation des données, a causé la défaillance. Si cela ne nous convainc pas qu'un bug logiciel ou une erreur de conception générale peut nous anéantir, rien ne le fera.