David Robinson, antiguo responsable de transparencia en seguridad de OpenAI, anunció en octubre de 2026 que había dimitido y criticó el ritmo de desarrollo y la cultura de seguridad de la empresa. A su juicio, los laboratorios de inteligencia artificial necesitan más cuidado, redundancia y planificación.
La crítica de Robinson: ritmo y cultura de seguridad
Robinson sostuvo que el debate sobre seguridad debe ir más allá de las normas concretas y centrarse también en la cultura de las empresas. Explicó que el ritmo de trabajo dejaba poco margen para plantear cambios culturales de fondo, y defendió una mayor cautela al desarrollar sistemas cada vez más capaces.
También cuestionó el despliegue iterativo: poner un sistema en marcha, detectar problemas y ajustar después sus protecciones. Según Robinson, ese enfoque puede dar lugar a fallos periódicos y su magnitud puede crecer a medida que los sistemas ganan capacidad. Propuso incorporar más redundancia y una planificación cuidadosa, como las que asoció con la aviación y la energía nuclear.
Robinson afirmó que había dirigido la redacción de los informes de seguridad publicados con cada gran lanzamiento de OpenAI. También aludió a un incidente reportado relacionado con un agente de OpenAI y Hugging Face como ejemplo de comportamientos no previstos.
La respuesta de OpenAI
Drew Pusateri, portavoz de OpenAI, respondió que la empresa pausa el entrenamiento o retiene modelos cuando necesita frenar. Añadió que está reforzando la seguridad de sus entornos de investigación y pruebas, ampliando su trabajo con evaluadores externos y mejorando la monitorización en tiempo real para detectar antes comportamientos preocupantes.
