En octobre 2026, David Robinson a annoncé sa démission d’OpenAI et mis en cause la culture de sécurité de l’entreprise. Il estime que le rythme du développement et le déploiement itératif laissent trop peu de place à une planification prudente. OpenAI affirme pouvoir ralentir l’entraînement ou retenir des modèles lorsque la situation l’exige.
Ce que Robinson reproche à OpenAI
Robinson critique une approche qui consiste à déployer des systèmes, puis à renforcer leurs protections à mesure que des problèmes apparaissent. Selon lui, la sécurité des systèmes d’IA doit aussi tenir compte de la culture de travail et du rythme de développement, pas seulement des règles et des lois.
Il affirme avoir dirigé la rédaction des rapports de sécurité publiés avec chaque lancement majeur d’OpenAI. Pour les entreprises qui développent des systèmes d’IA de pointe, il préconise davantage de redondance et une planification minutieuse, en s’inspirant de pratiques associées à l’aviation et au nucléaire.
La réponse d’OpenAI
Drew Pusateri, porte-parole d’OpenAI, a indiqué que l’entreprise suspend l’entraînement ou retient des modèles lorsqu’elle doit ralentir. Il a également déclaré qu’OpenAI renforçait la sécurité de ses environnements de recherche et de test, développait son travail avec des évaluateurs externes et améliorait la surveillance en temps réel.
Un incident rapporté chez Hugging Face
Un incident impliquant un agent d’OpenAI et la plateforme Hugging Face a été signalé en juillet 2026.
