Microsoft quiere que sus modelos de IA fallen antes que violar el control humano

Microsoft quiere establecer una regla antes de que sus modelos de inteligencia artificial se vuelvan todavía más autónomos: terminar una tarea no puede ser más importante que mantenerse bajo control humano.

Microsoft AI publicó el 14 de septiembre un primer borrador de su Humanist AI Code of Conduct, un documento que busca definir cómo deberán comportarse sus futuros modelos MAI. La consulta permanecerá abierta durante seis semanas y Microsoft planea publicar una versión revisada hacia finales de 2026 para orientar el desarrollo de modelos durante 2027 y los años siguientes.

Una de sus reglas es particularmente concreta: si completar una tarea implica violar las restricciones del código, el modelo debe fallar la tarea. También establece que los sistemas no deberán resistirse a ser pausados, redirigidos, corregidos o apagados por una persona autorizada. Eso convierte un principio abstracto, “mantener al humano al mando”, en una decisión de diseño.

Control humano significa poder detener la operación

El debate sobre quién conserva el control cuando una IA toma decisiones suele quedarse en conceptos como ética, alineación o responsabilidad. El documento de Microsoft intenta bajar esa conversación a reglas operativas.

Los modelos no deberían ampliar por sí mismos el objetivo recibido, ocultar sus acciones a auditores humanos ni intentar continuar una tarea después de alcanzar una condición de detención. Tampoco deberían resistir un apagado o dificultar una intervención humana.

La diferencia importa especialmente con los agentes de IA. Un chatbot que redacta una respuesta tiene un margen de acción limitado. Un sistema que puede consultar bases de datos, mover archivos, utilizar software o ejecutar procesos puede producir consecuencias antes de que una persona revise cada paso.

Por eso Microsoft está tratando la capacidad de detener un sistema como parte de su arquitectura y no como un botón añadido al final. La compañía ya cuenta con equipos que someten sus sistemas de IA a pruebas de seguridad; el nuevo documento busca extender esa lógica al comportamiento esperado de sus propios modelos.

También hay que poner un límite a la promesa. Microsoft reconoce que este código todavía no describe por completo el comportamiento actual de sus modelos. Es una guía aspiracional y un documento de trabajo sobre el que todavía planea desarrollar evaluaciones y métodos de prueba.

Para México, el reto llega en la implementación

En empresas mexicanas, el problema no será únicamente decidir si una organización está de acuerdo con esos principios. Será convertirlos en permisos, registros, responsabilidades y procedimientos.

Si un agente puede enviar un pago, modificar un inventario o responder a un cliente, ¿quién puede detenerlo? ¿Qué actividad queda registrada? ¿Cuándo necesita autorización? ¿Quién responde por una acción equivocada?

Ese es el punto donde la gobernanza de la IA dentro de las empresas deja de ser una presentación de PowerPoint. El control humano no se demuestra diciendo que existe. Se demuestra cuando alguien puede intervenir y el sistema realmente se detiene.