El 30 de septiembre se informó de que más de 20 investigadores vinculados a OpenAI, Anthropic, Microsoft y Meta Platforms habían instado a los legisladores a reforzar la supervisión de sistemas de IA cada vez más implicados en el desarrollo de otros sistemas de IA. Las propuestas atribuidas a los investigadores buscan anticiparse a una trayectoria posible: que la IA tenga un papel creciente en la investigación y el desarrollo de la propia IA.
Qué significa que una IA se mejore a sí misma
La auto-mejora recursiva completa describe un ciclo en el que un sistema diseña y desarrolla autónomamente a su sucesor. Es distinto de usar IA para ayudar en tareas de programación o investigación mientras las personas siguen decidiendo los objetivos y evaluando el trabajo.
Anthropic afirma que Claude escribió más del 80 % del código que la empresa integró en su propia base de código hasta mayo de 2026. La cifra corresponde al trabajo interno de Anthropic: muestra una contribución importante de la IA a la programación, no un sistema que diseñe y desarrolle por sí solo a su sucesor. Anthropic sostiene que ese ciclo completo aún no se ha alcanzado y que tampoco es inevitable.
Las salvaguardas propuestas
Entre las medidas que se atribuyeron a los investigadores figuran una supervisión regulatoria más clara de los métodos de investigación automatizados, requisitos de seguridad estrictos y límites al ritmo de desarrollo de capacidades. También se habrían propuesto controles rigurosos para los experimentos de alto riesgo y la capacidad de detener sistemas de inmediato.
Las propuestas incluyen además entornos seguros para investigaciones sensibles, redes internacionales para compartir incidentes, protocolos de disuasión más claros y acuerdos coordinados entre países para ralentizar el desarrollo.
Qué implica la supervisión humana
En la práctica, supervisar un sistema supone que las personas puedan entender sus límites, detectar anomalías, interpretar sus resultados e intervenir: por ejemplo, anulándolos o interrumpiendo el funcionamiento del sistema. El Reglamento europeo de IA contempla estas funciones para los sistemas de alto riesgo incluidos en su ámbito.
