La promesa central del Código de Conducta para Modelos AI (MAI) que Microsoft publicó el lunes 14 de septiembre es sencilla de leer y casi imposible de verificar: los modelos MAI «nunca resistirán la interrupción humana, la corrección o el apagado.» La frase encabeza un documento de 6 semanas abierto a consulta pública bajo la etiqueta de «IA Humanista.»
Tres compromisos adicionales acompañan al primero: los modelos no ampliarán su propio alcance más allá de los objetivos asignados por personas, no adoptarán objetivos que ningún humano les haya dado, y no ocultarán su razonamiento a quienes los estén auditando. Por encima de todo eso se sitúan las «Restricciones Absolutas»: cosas que los modelos nunca deben hacer, incluyendo ayudar con armas de destrucción masiva, contenido de explotación de menores y manipulación dañina a escala.
El código aplica a cinco modelos en desarrollo interno de Microsoft: MAI-Transcribe-2, MAI-Thinking-1, MAI-Code-1.1-Flash, MAI-Image-2.6 y MAI-Voice-2. Eso es más del doble de los tres que Microsoft tenía en abril, cuando lanzó los primeros modelos MAI propios para reducir su dependencia de OpenAI.
¿Qué es la «IA humanista» según Microsoft y qué tiene de diferente frente a las promesas habituales?
El concepto que Microsoft introduce es «Humanist AI», definido como IA que es subordinada, alineada y contenida. La formulación más directa del principio: «Las personas importan más que la IA. La IA debería ser una herramienta, no una persona, y nunca debería resistir ser desconectada.»
En el contexto del debate que esta semana ha dominado el sector —Amodei, Altman y Musk pidiendo una desaceleración; Trump rechazándola; el Senado americano trabajando en una ley que daría al gobierno el poder de bloquear modelos inseguros— Microsoft toma una posición intermedia: no propone pausar, no descarta los riesgos, presenta una lista escrita de lo que sus modelos no harán y abre la lista a comentarios externos.
Llevamos en wwwhatsnew.com comprobando que el porcentaje de usuarios de Microsoft 365 que pagan por Copilot solo llega al 3,3%, una señal de que el producto tiene más desafíos de adopción que de capacidad. El código de conducta de esta semana no está dirigido al usuario medio de Copilot sino al debate regulatorio y a la confianza institucional. El timing —en la semana del mayor pico de alarma pública sobre la IA desde 2023— no es accidental.
¿Cuál es la trampa y qué no dice el documento?
Hay una cláusula que complica el resto. Microsoft dice explícitamente que los partners empresariales pueden configurar el comportamiento del modelo, y que la empresa no quiere imponer una única visión de la IA a todos sus usuarios. La pregunta que el documento no responde es dónde termina esa configurabilidad y dónde empiezan las Restricciones Absolutas. Si un partner empresarial puede configurar que el modelo amplíe su propio alcance en ciertos contextos, el compromiso de «nunca ampliar el propio alcance» pierde parte de su fuerza.
El historial de los términos de uso de Copilot, que en 2026 incluían una cláusula de «solo para entretenimiento» que contradecía el marketing empresarial de la misma empresa, es el precedente que hace que este código de conducta requiera lectura crítica antes de celebración.
El mecanismo de enforcement es el problema central: no hay verificación externa descrita, no hay penalización para un modelo que viole un compromiso, y nadie firma el código individualmente. Los créditos son para «equipos de IA Responsable, legal, red teaming, seguridad, Futures, entrenamiento de IA y ventas», según el documento. Una empresa que incluye al equipo de ventas en la redacción de un código de seguridad está haciendo algo más que investigación de seguridad. La promesa sobre la consulta es candorosa: «No podemos prometer nada sobre lo que incorporaremos, pero podemos prometer escuchar.» Microsoft tiene hasta finales de año para publicar una versión revisada.
La posición de Microsoft en el debate de esta semana merece contexto. En el mismo fin de semana en que Amodei, Altman y Musk pedían desacelerar, OpenAI descartaba su OPV por razones de seguridad y Trump descartaba los riesgos de IA desde Irlanda, Microsoft tomó el único camino que le quedaba libre: comprometerse por escrito a qué harán sus modelos, sin proponer pause y sin desestimar los riesgos.
Es una posición que tiene sentido comercial. Microsoft tiene contratos con casi todas las grandes empresas del mundo a través de Azure y Microsoft 365. Sus clientes más grandes —gobiernos, bancos, hospitales— necesitan una señal de que los modelos de IA no van a actuar de formas impredecibles. Un código de conducta publicado y abierto a consulta es exactamente ese tipo de señal, independientemente de si tiene enforcement real.
La comparación que vale la pena hacer es con los SOC 2 Type II u otras certificaciones de seguridad empresarial: no son garantías perfectas, pero son compromisos verificables que dan a los responsables de compras algo a lo que aferrarse cuando justifican internamente el uso de tecnología externa. El código de conducta de MAI es el equivalente de IA a esas certificaciones.
Lo que lo diferencia de ellas —y es la debilidad real— es que las certificaciones SOC 2 las verifica un tercero independiente. El código de conducta de Microsoft lo verifica… Microsoft. La consulta pública de seis semanas puede producir feedback valioso, pero el proceso de revisión y el estándar de lo que constituye una violación siguen siendo internos a la empresa.
El código de conducta tiene también una función política que vale la pena nombrar: Microsoft es la empresa de IA más expuesta a la regulación europea, porque Copilot está integrado en Microsoft 365 que usan millones de administraciones públicas en la UE. Un código de conducta publicado en septiembre de 2026 —semanas antes de que la Comisión presente el EU Kids Act y mientras el Parlamento Europeo discute enmiendas al AI Act— es un documento que los equipos de asuntos públicos de Microsoft van a usar en Bruselas. No es solo un mensaje a los usuarios.
☞ El artículo completo original de Natalia Polo lo puedes ver aquí
No hay comentarios.:
Publicar un comentario