El 15 de septiembre de 2026, Liu Shengyu, ingeniero de sistemas de aprendizaje automático de DeepSeek, advirtió de que un futuro control de la inteligencia artificial más avanzada o de la inteligencia artificial general (AGI) por parte de Anthropic podría concentrar demasiado poder. Para subrayar la gravedad del escenario, lo comparó con que la Alemania nazi hubiera obtenido la tecnología de la bomba atómica antes que los Aliados. Es una comparación política y personal sobre un supuesto futuro, no una afirmación de que Anthropic controle la AGI o de que la AGI exista.
La controversia se amplió el 16 de septiembre, cuando la advertencia quedó vinculada a un debate más amplio sobre la velocidad con la que avanzan los sistemas de IA y el tiempo disponible para hacerlos más seguros. El choque reúne dos preguntas diferentes: quién debería tener acceso a la inteligencia más potente y si la supervisión puede seguir el ritmo del progreso técnico.
La advertencia de Liu trata sobre concentración y acceso
Liu Shengyu dijo que quería que la inteligencia de vanguardia estuviera disponible para todo el mundo de forma abierta y asequible. También expresó su desconfianza hacia Anthropic y OpenAI para garantizar ese modelo de acceso. Su alternativa prioriza reducir la concentración del poder en unas pocas empresas privadas.
Ese argumento no equivale a decir que los modelos abiertos sean automáticamente más seguros. La apertura puede ser, para Liu, una respuesta política y económica a la concentración; la seguridad de un modelo es otra cuestión, que requiere evaluar sus capacidades, sus controles y sus usos concretos.
La propuesta de Anthropic pone el foco en el ritmo y la supervisión
En septiembre de 2026, Dario Amodei, director ejecutivo y cofundador de Anthropic, propuso ralentizar el avance de las capacidades de los modelos para dar más tiempo a la alineación, la evaluación, la seguridad operativa y la interpretabilidad. Su idea de “ralentizar” no consiste en detener el entrenamiento ni el progreso técnico.
El plan de Amodei tiene tres piezas:
- Evaluadores externos integrados: equipos independientes con acceso continuo, similar al de empleados, a las herramientas, espacios de trabajo y procesos relevantes de una empresa de IA de frontera. Su función sería revisar las prácticas de seguridad, informar de incidentes y evaluar modelos y procesos de entrenamiento.
- Coordinación entre empresas de países democráticos: acuerdos sobre estándares de seguridad y límites al progreso sin controles suficientes.
- Coordinación internacional más amplia: cooperación entre gobiernos democráticos y autoritarios, con problemas de verificación reconocidos dentro de la propia propuesta.
La lógica de Amodei es distinta de la de Liu: no parte de quién posee la tecnología, sino de si el desarrollo de capacidades puede adelantarse a las salvaguardas. Amodei planteó que ganar uno o dos años antes de alcanzar niveles críticos de capacidad podría servir para avanzar en alineación y reducir riesgos.
Dos riesgos relacionados, pero no idénticos
La discusión se entiende mejor si se separan sus dos ejes principales:
| Actor | Riesgo que señala | Respuesta que propone |
| Liu Shengyu, DeepSeek | La concentración de la IA más avanzada en pocas empresas y el acceso limitado a esa inteligencia | Modelos de acceso abierto y asequible |
| Dario Amodei, Anthropic | Que el aumento de capacidades, incluida la mejora recursiva, avance más deprisa que la seguridad y la supervisión | Ralentizar el progreso, integrar evaluadores y coordinar a empresas y gobiernos |
La mejora recursiva es la posibilidad de que un sistema de IA ayude a construir generaciones posteriores de sistemas más capaces. Amodei la considera una vía por la que la velocidad del desarrollo podría aumentar. Liu, en cambio, coloca en primer plano la distribución del poder y el acceso.
Por eso no basta con resumir la disputa como una pelea entre modelos “abiertos” y “cerrados”. Una postura habla principalmente de concentración y asequibilidad; la otra, de ritmo, evaluación y coordinación. Pueden cruzarse, pero no ofrecen la misma solución al mismo problema.
Qué aportan las advertencias de Coxon y Hubinger
Jacob Coxon, que había trabajado en OpenAI y Anthropic, dimitió de Anthropic tras tres años y criticó la carrera hacia sistemas capaces de mejorar por sí mismos. Su advertencia reforzó la parte del debate centrada en los riesgos existenciales de un desarrollo demasiado rápido.
Evan Hubinger, responsable de ciencia de la alineación en Anthropic, afirmó personalmente que calculaba en más del 10% la posibilidad de que la IA provocara la extinción humana durante la próxima década. La cifra describe su valoración individual: no es una medición, un consenso del sector ni una predicción validada.
Amodei ha defendido que el progreso siga adelante, pero con un ritmo que permita que la investigación de seguridad y los mecanismos de evaluación alcancen a las capacidades. Esa posición coincide parcialmente con la preocupación de Coxon y Hubinger por los riesgos futuros, aunque no convierte sus estimaciones en hechos demostrados.
Qué significa realmente esta disputa
La advertencia de Liu documenta un conflicto de gobernanza: para él, el peligro principal sería que una empresa concentrara un poder extraordinario sobre la inteligencia más avanzada. Para Amodei, el problema urgente es que las capacidades puedan crecer más deprisa que las herramientas destinadas a controlarlas.
Ninguna de las dos posiciones demuestra que Anthropic controle la AGI, que la AGI exista o que los modelos abiertos sean más seguros por definición. Lo que sí deja claro el episodio es que la batalla por la IA de frontera no gira únicamente en torno a quién construye el modelo más potente: también enfrenta dos ideas sobre cómo repartir el acceso y cuánto debe acelerarse el desarrollo.
