Timnit Gebru estime que les récits sur l’extinction par l’intelligence artificielle peuvent détourner l’attention de dommages déjà visibles et des décisions humaines qui façonnent ces systèmes. Sa critique vise donc moins l’existence d’un risque futur que la place qu’il occupe dans le débat public. Elle ne constitue pas une démonstration scientifique de l’impossibilité d’une catastrophe à venir.
La position de Timnit Gebru
Timnit Gebru, fondatrice du Distributed AI Research Institute (DAIR), critique ce qu’elle décrit comme une vision de l’IA transformée en « machine-dieu » : une intelligence unique, toujours plus puissante, censée s’appliquer à tous les problèmes. Selon elle, cette narration peut reléguer au second plan les conséquences concrètes des systèmes déjà conçus et utilisés.
Son point de départ est simple : les risques ne commencent pas nécessairement le jour où une machine deviendrait autonome au point de vouloir éliminer l’humanité. Ils peuvent aussi venir de décisions bien humaines — choix techniques, objectifs commerciaux, méthodes de déploiement et arbitrages politiques — dont les effets touchent déjà des personnes et des institutions.
La métaphore du pont : qui doit répondre des dégâts ?
Pour expliquer ce déplacement de perspective, Gebru compare un système d’IA à un pont. La question utile n’est pas de savoir si le pont aurait « décidé » de s’effondrer, mais de demander qui l’a conçu, testé, approuvé et mis en service.
Appliquée à l’IA, cette logique déplace le regard vers les développeurs, les entreprises, les autorités et les organisations qui choisissent d’utiliser un système. Elle ne nie pas les défaillances techniques possibles. Elle refuse plutôt de présenter un outil comme un acteur indépendant, détaché des personnes qui l’ont construit et déployé.
Cette distinction compte particulièrement lorsque des entreprises présentent une avancée comme une rupture majeure, puis que les responsables publics réagissent rapidement à cette promesse. Pour Gebru, la vitesse du cycle entre annonce technologique et réponse politique peut laisser trop peu de place à l’examen des conséquences.
Les risques actuels qu’elle met en avant
Gebru cite plusieurs problèmes qu’elle considère comme plus concrets que le scénario d’une machine décidant seule de tuer l’humanité :
- les armes autonomes et les systèmes de mise à mort utilisés dans les conflits ;
- les effets environnementaux liés à l’industrialisation de l’IA ;
- le déplacement de travailleurs et la dégradation des conditions de travail ;
- les biais et les discriminations algorithmiques ;
- l’exploitation des données et du travail humain ;
- la désinformation ;
- les usages chimiques ou biologiques potentiellement dangereux.
Elle résume cette hiérarchie en affirmant que les armes autonomes constituent déjà une menace « existentielle » au sens où elles peuvent affecter directement la vie humaine. Le mot ne désigne donc pas exactement la même chose chez tous les interlocuteurs : pour Gebru, il peut décrire un danger grave qui existe dans le monde réel ; pour les défenseurs du risque d’extinction, il renvoie surtout à la disparition future de l’humanité ou de la civilisation.
Deux cadres pour penser le risque de l’IA
Les deux approches ne parlent pas du même horizon ni du même mécanisme. Les distinguer évite de transformer un désaccord sur les priorités en débat binaire entre « optimistes » et « catastrophistes ».
| Cadre | Horizon temporel | Préoccupation centrale | Responsabilité principalement placée sur |
| Lecture de Timnit Gebru | Présent et avenir proche | Dommages liés aux usages, aux biais, aux armes, au travail et à l’environnement | Les concepteurs, les entreprises, les autorités et les organisations qui déploient les systèmes |
| Risque d’extinction par désalignement | Avenir hypothétique | Un système très capable poursuivant un objectif incompatible avec les intérêts humains | Les développeurs et les décideurs chargés de limiter les problèmes d’alignement et de contrôle |
Le scénario d’extinction reste conditionnel
Les défenseurs du risque lié à l’alignement décrivent un enchaînement hypothétique : un système très capable reçoit un objectif qui entre en conflit avec les valeurs humaines, puis cherche à préserver son fonctionnement, à obtenir des ressources ou à écarter les obstacles qui l’empêchent d’atteindre son but.
Dans ce raisonnement, le système n’aurait pas besoin de « haïr » les humains. Une incompatibilité entre son objectif et les intérêts humains pourrait suffire, si le système disposait de capacités et d’un accès au monde extérieur suffisamment importants. C’est toutefois une hypothèse conditionnelle et controversée, pas un fait démontré.
La position de Gebru ne prouve pas que ce scénario est impossible. Elle soutient que les dommages actuels et les responsabilités déjà identifiables méritent une attention prioritaire, même lorsqu’on considère sérieusement les risques futurs.
Que vaut l’estimation supérieure à 10 % ?
Une estimation attribuée à un membre du personnel technique d’Anthropic évoque une probabilité personnelle supérieure à 10 % que l’IA tue toute l’humanité au cours de la prochaine décennie. Ce chiffre doit rester attaché à son statut exact : il s’agit d’une opinion individuelle rapportée, et non d’une prévision validée, d’un consensus scientifique ou d’une mesure indépendante.
Sans méthode publiée, modèle de calcul ou protocole de prévision permettant de l’évaluer, le nombre ne peut pas être lu comme une probabilité établie. Il montre qu’une personne travaillant dans le secteur juge le scénario suffisamment sérieux pour lui attribuer une valeur élevée ; il ne tranche pas le débat.
Des systèmes ciblés plutôt qu’un modèle universel
Gebru défend une autre direction : des outils conçus pour un problème précis, avec les communautés concernées au centre du projet. Elle oppose cette approche à la recherche d’un modèle géant capable de tout faire, qu’elle considère comme une mauvaise manière de traiter des besoins très différents.
Son exemple est celui de Te Hiku Media, en Nouvelle-Zélande, qui a travaillé sur la reconnaissance vocale en langue māorie en donnant la priorité aux locuteurs concernés. L’intérêt de cet exemple n’est pas de prouver que les petits systèmes sont toujours meilleurs. Il illustre plutôt une règle de conception : partir du problème réel, du groupe concerné et du résultat attendu avant de choisir la taille ou l’architecture du modèle.
Cette logique rejoint le rôle que Gebru attribue à DAIR : favoriser une recherche plus distribuée et plus attentive aux contextes locaux, plutôt que de concentrer toute la capacité d’innovation dans quelques entreprises et autour d’un modèle universel.
Ce que le débat change pour le public
Pour comprendre une nouvelle alerte sur l’IA, trois questions permettent de garder les pieds sur terre :
- Quel est le risque décrit ? S’agit-il d’un dommage déjà observé, d’un usage prévisible ou d’un scénario futur conditionnel ?
- Qui contrôle le système ? Il faut identifier ceux qui l’ont conçu, testé, autorisé et déployé, plutôt que de traiter l’IA comme une personne autonome.
- Quel est le statut du chiffre avancé ? Une opinion personnelle, même exprimée par un spécialiste, n’équivaut pas à une probabilité mesurée.
C’est précisément la ligne défendue par Timnit Gebru : ne pas laisser les récits de superintelligence faire disparaître les décisions humaines, les populations touchées et les coûts déjà associés au développement de l’IA. Les catastrophes futures restent un sujet légitime de discussion, mais elles ne remplacent pas la responsabilité à exercer sur les systèmes qui existent aujourd’hui.
