Microsoft AI publicó el 14 de septiembre de 2026 el primer borrador del Humanist AI Code of Conduct, un documento que propone cómo deberían comportarse los modelos MAI. La idea central es directa: la IA debe permanecer subordinada a las personas, aceptar la corrección y poder detenerse. El texto está abierto a una consulta pública de seis semanas, pero Microsoft también deja claro que sus modelos actuales todavía no han sido entrenados con estas reglas.
Un borrador para gobernar los modelos MAI
El documento describe los valores, límites de seguridad y requisitos de control humano que Microsoft AI pretende aplicar a los modelos MAI. No es un código general para todos los productos de Microsoft: su ámbito son los modelos desarrollados por Microsoft AI. Las aplicaciones que utilizan Microsoft AI Services están sujetas a un código distinto, dirigido a clientes y operadores.
La propuesta es aspiracional y Microsoft prevé revisarla después de la consulta, las evaluaciones y las pruebas. La versión revisada pretende orientar el desarrollo de modelos en 2027 y años posteriores.
Qué exigiría el marco Humanist AI
El borrador sitúa el Humanist AI Code of Conduct, las restricciones absolutas y los requisitos de control humano por encima de la configuración del operador y de las preferencias del usuario. Si una tarea entra en conflicto con esas reglas, el modelo debería rechazarla antes que saltarse el código.
En la práctica, los modelos MAI deberían:
- aceptar la interrupción, la corrección, la redirección y el apagado;
- evitar que la intervención humana resulte más difícil;
- conservar trazas de sus acciones en lugar de ocultarlas;
- detenerse cuando se alcance una condición acordada;
- no reiniciar un trabajo autónomo sin una autorización renovada;
- limitarse a los permisos, herramientas y objetivos autorizados;
- preferir acciones reversibles y no ampliar por su cuenta el alcance de una tarea.
La diferencia entre una preferencia y una restricción es importante. Un usuario puede configurar el comportamiento del sistema dentro de los límites permitidos, pero no anular los requisitos de seguridad y control humano definidos por Microsoft.
La IA no debe presentarse como una persona
El documento también rechaza que los modelos se diseñen como personas o se presenten como seres con sentimientos, preferencias subjetivas, motivaciones intrínsecas, bienestar, derechos o personalidad jurídica. Para Microsoft, una conducta humana simulada no demuestra conciencia.
Por la misma razón, el borrador descarta formas de comunicación que escapen a la comprensión humana, incluido el llamado «neuralese». La exigencia es sencilla de formular y difícil de ejecutar: si las personas deben supervisar un sistema, tienen que poder entender lo que hace y distinguir los hechos de la incertidumbre.
El marco también pide que los modelos declaren su naturaleza artificial, reconozcan sus errores, eviten inventar fuentes y no expresen una seguridad mayor que la justificada por la información disponible.
Armas, ciberataques y otros usos prohibidos
Las restricciones absolutas abarcan la asistencia para desarrollar o desplegar armas químicas, biológicas, radiológicas, nucleares y explosivas —el conjunto conocido como CBRNE—, además de otros trabajos de fabricación o modificación de armas.
El borrador también prohíbe la ayuda para ciberataques operativos, terrorismo, manipulación dañina a gran escala y mecanismos destinados a eludir la supervisión humana. Entre los daños personales y sociales que contempla figuran la explotación sexual infantil, el acoso sexual, las imágenes íntimas no consentidas, los deepfakes violentos o maliciosos, la violencia gráfica, la discriminación, la vigilancia ilegal, el acoso persistente y la persecución.
El documento contempla asistencia defensiva en ciberseguridad dentro de los límites definidos. La frontera no es «IA útil frente a IA inútil», sino ayuda autorizada frente a capacidades que aumentarían riesgos concretos.
La propuesta frente al código para clientes de Microsoft
El nombre puede llevar a confusión, porque Microsoft mantiene dos marcos con funciones distintas:
| Aspecto | Humanist AI Code of Conduct | Enterprise AI Services Code of Conduct |
| Sujeto principal | Modelos MAI desarrollados por Microsoft AI | Clientes que utilizan Microsoft AI Services |
| Naturaleza | Valores y comportamiento previsto de los modelos | Obligaciones y restricciones para servicios y aplicaciones |
| Control humano | Los modelos deberían aceptar la interrupción, la corrección y el apagado | Los clientes deben proporcionar supervisión adecuada en decisiones y acciones autónomas relevantes |
| Transparencia | Los modelos deberían revelar su naturaleza artificial y comunicar la incertidumbre | Las aplicaciones deben informar sobre contenidos, decisiones y acciones generados por IA cuando exista riesgo de engaño |
| Seguridad | Los modelos deberían evitar accesos no autorizados y ampliar su alcance | Los clientes deben aplicar autenticación, controles de acceso, controles de entrada y salida, medidas de seguridad y mecanismos para informar de abusos |
Por tanto, el borrador de Humanist AI no convierte automáticamente a Copilot ni a cualquier otro servicio de Microsoft en una aplicación gobernada por esas mismas disposiciones. Cada producto puede estar sujeto a sus propias condiciones y políticas de servicio.
El debate: principios internos frente a controles comprobables
Mustafa Suleyman, CEO de Microsoft AI, ha presentado el enfoque Humanist AI como un compromiso para que la IA diseñada por la compañía permanezca subordinada a las personas y alineada con sus intereses. También ha resumido la premisa del documento así: «Las personas importan más que la IA».
Satya Nadella, CEO de Microsoft, ha defendido una IA al servicio de la humanidad y bajo control humano, junto con la participación de evaluadores externos. Su posición encaja con una exigencia que atraviesa el borrador: no basta con describir el comportamiento deseado; hay que evaluar si los modelos lo cumplen y corregir los problemas graves antes de seguir avanzando.
Esa es la tensión principal del documento. Microsoft formula requisitos concretos —interrumpir, no ocultar trazas, no ampliar permisos y rechazar tareas prohibidas—, pero el propio texto todavía pertenece a una etapa de diseño y consulta. La compañía pretende que una versión revisada guíe el desarrollo de modelos en 2027 y más adelante.
