El 13 de septiembre de 2026, Satya Nadella afirmó que cualquier avance hacia la superinteligencia debe beneficiar a la humanidad y mantenerse bajo control humano. El CEO de Microsoft vinculó esa condición con un desarrollo deliberado, evaluadores integrados en los entornos de creación de IA, una gobernanza menos concentrada y mayor control empresarial sobre los modelos.
La posición no equivale a pedir una moratoria general. Nadella plantea avanzar con más cuidado para mejorar la alineación —el ajuste entre el comportamiento de un sistema y los objetivos humanos— mientras los beneficios de la IA llegan a más personas.
La condición de Nadella para la superinteligencia
Para Nadella, el control humano no es un detalle añadido al final del desarrollo. Es una condición para decidir si merece la pena perseguir sistemas más avanzados. La IA debe ayudar a la humanidad y mantener a las personas como responsables y con capacidad de supervisión.
Ese planteamiento conecta con una idea sencilla, pero decisiva: que un sistema sea capaz de hacer más tareas no significa que deba recibir más autonomía sin límites. El control tiene que formar parte del diseño y de la forma en que las organizaciones utilizan el modelo.
Ritmo deliberado y evaluadores integrados
Nadella respaldó un ritmo deliberado para trabajar correctamente la alineación. La expresión describe un desarrollo medido, no una congelación absoluta de la investigación ni un permiso para acelerar sin restricciones.
También apoyó la presencia de evaluadores integrados en los entornos donde se desarrollan los sistemas de IA. La idea es que la evaluación de seguridad forme parte del proceso y no aparezca únicamente cuando el modelo ya está listo para salir al público.
El concepto todavía necesita una definición operativa: qué acceso tendrían esos evaluadores, a quién informarían y qué capacidad tendrían para detener o modificar un sistema. Sin esas reglas, “evaluación” puede significar desde una revisión con autoridad real hasta un control meramente documental. La diferencia no es menor.
Una IA gobernada por más actores
Nadella también defendió que la IA avanzada no quede en manos de un grupo reducido de entidades. Su propuesta apunta a incluir a países, distintas disciplinas y el mundo académico en la gobernanza de estos sistemas.
La posición de Microsoft puede resumirse en seis dimensiones:
| Dimensión | Posición declarada por Microsoft | Implicación práctica |
| Control humano | La IA avanzada debe beneficiar a la humanidad y permanecer bajo control humano. | Las personas deben conservar la responsabilidad y la supervisión de los sistemas. |
| Ritmo de desarrollo | Nadella respalda un avance deliberado para trabajar la alineación. | No propone una moratoria general ni una aceleración sin límites. |
| Evaluación | Apoya evaluadores integrados en los entornos de desarrollo de IA. | La supervisión debería formar parte del proceso de creación, aunque sus poderes no están definidos. |
| Gobernanza | La toma de decisiones no debería concentrarse en un puñado de entidades. | Países, disciplinas y universidades tendrían que participar en las reglas de la IA avanzada. |
| Ecosistema de modelos | Los modelos abiertos y cerrados pueden coexistir. | Las organizaciones dispondrían de más opciones en las distintas capas de la tecnología. |
| Control empresarial | Las empresas deberían conservar sus conocimientos, bucles de aprendizaje y pesos de modelo. | La estrategia de IA no dependería por completo de un único proveedor. |
La referencia a los pesos del modelo alude a los parámetros que determinan cómo responde un sistema. El control sobre ellos no resuelve por sí solo todos los riesgos, pero sí cambia quién puede adaptar, supervisar y mantener una herramienta de IA.
El marco de IA responsable que Microsoft ya describe
Microsoft ya presenta un marco de IA responsable basado en seis principios: equidad; fiabilidad y seguridad; privacidad y seguridad; inclusión; transparencia; y rendición de cuentas. En ese marco, la rendición de cuentas implica que las personas sigan siendo responsables de los sistemas y ejerzan supervisión sobre ellos.
La compañía también enumera prácticas como evaluaciones de impacto, diseño de interacción entre personas e IA, pruebas de ataque, herramientas de evaluación y mecanismos de gobernanza. Son piezas concretas de un marco institucional que ayuda a entender el lenguaje utilizado por Nadella.
Por su parte, Microsoft AI describe la Humanist Superintelligence como una visión de sistemas centrados en ámbitos concretos, limitados y controlables, en lugar de una inteligencia autónoma sin fronteras. La propuesta pone el beneficio humano y los límites de autonomía en el centro del diseño.
Ese contexto explica la continuidad conceptual entre el material oficial de Microsoft y la declaración de Nadella. Pero una cosa es describir principios y herramientas, y otra convertir una nueva propuesta de supervisión en un régimen con responsabilidades, accesos y poderes definidos.
El Código de Conducta de MAI, el siguiente paso anunciado
Microsoft anunció que publicaría el 14 de septiembre de 2026 un Código de Conducta para sus modelos propios MAI con el fin de someterlo a consulta pública. MAI es la denominación utilizada para los modelos propios de Microsoft AI.
