Le 6 octobre 2026, Geoffrey Hinton a proposé que les entreprises d’IA convainquent un régulateur que leurs produits sont sûrs avant de les commercialiser. Lors d’une intervention dans le podcast « Smart Girl Dumb Questions », l’informaticien a pris pour modèle l’autorisation préalable des médicaments.
Ce que Geoffrey Hinton a proposé
L’idée de Hinton est de soumettre les produits d’IA à un examen de sécurité avant leur lancement. Les entreprises devraient convaincre un régulateur que leurs produits sont sûrs. Il n’a pas désigné d’agence particulière dans cette proposition.
Un tel contrôle interviendrait donc avant la mise sur le marché, plutôt qu’après le lancement. Mais la proposition ne précise pas quels produits seraient concernés ni quels éléments les entreprises devraient présenter.
L’analogie avec l’autorisation des médicaments
Pour expliquer son idée, Hinton a comparé l’examen envisagé pour l’IA à la procédure d’autorisation des médicaments par la Food and Drug Administration (FDA) américaine. La FDA fait ici partie de l’analogie avec les médicaments ; le régulateur évoqué pour l’IA reste indéterminé.
Hinton a cité environ un milliard de dollars pour le travail qu’il associe à l’autorisation d’un nouveau médicament. Ce montant se rapporte à son exemple pharmaceutique.
Pourquoi Hinton a avancé cette idée
Hinton a fait valoir que l’IA est déjà utilisée pour améliorer l’IA, une dynamique qui pourrait accélérer à la fois les capacités des systèmes et les risques associés. Il a aussi estimé que la situation pourrait beaucoup se dégrader dans un ou deux ans, tout en présentant ce délai comme une supposition.
