¿Debería permitirse que la IA “vea todo” en el trabajo?

Durante años, la inteligencia artificial (IA) en el trabajo parecía una ayuda reservada y discreta. Resumía reuniones, sugería textos y respondía preguntas cuando las hacíamos. Esa era está llegando a su fin.

Los agentes de IA más recientes están empezando a moverse por los sistemas de forma más parecida a compañeros de equipo. Se unen a proyectos, actualizan planes y actúan en equipo. Por primera vez, las organizaciones están incorporando eficazmente a compañeros que pueden ver más del lugar de trabajo que cualquier persona individual.

Llevo años desarrollando herramientas para brindar claridad a los equipos y ahorrarles tiempo, así que veo las ventajas. Pero ese cambio plantea una pregunta más compleja: ¿qué significa realmente que una IA lo “vea todo” en un lugar de trabajo?

La cuestión ética no es si los agentes pueden acceder técnicamente a la información, sino si su acceso refleja lo que un empleado razonable encontraría en el desempeño de su trabajo.

Cuando la visibilidad se convierte en influencia

La mayoría de los lugares de trabajo dependen del acceso y los permisos basados ​​en roles para mantener el orden. Las personas solo ven la información relevante para su rol, y esos límites determinan cómo los equipos colaboran y resuelven sus desacuerdos.

Los agentes de IA complican ese sistema. Si un agente tiene más acceso del que debería, incluso por accidente, puede revelar información que altera la interpretación del trabajo y desvía las decisiones de quienes deberían tomarlas.

Estos escenarios suelen aparecer primero de forma sutil. Un empleado podría hacerle una pregunta a un agente y recibir una respuesta basada en información confidencial que desconocía que estaba bajo el control del agente. 

Las personas también generan sus mejores ideas a través de borradores, notas y bocetos preliminares que no están destinados al consumo general. Incluso la posibilidad de que la IA aproveche esos borradores iniciales cambia la forma en que las personas idean. Empezarán a revisar antes, compartirán con menos libertad y dedicarán más tiempo a evitar interpretaciones erróneas.

Cada incidente puede parecer aislado, pero juntos alteran el modo en que la autoridad, el contexto y la confianza fluyen a través de una organización.

Cómo debería ser el uso responsable

La pregunta central para los líderes no es qué pueden hacer los agentes de IA, sino qué se les debe permitir ver. Es necesario establecer límites claros antes de que estos sistemas se conviertan en parte del trabajo diario.

Un agente que trabaja en nombre de un empleado debe tener el mismo acceso que este, ni más ni menos. Cualquier otra cosa genera incertidumbre. ¿Quién puede ver qué? ¿Quién puede cambiar qué? Esa incertidumbre erosiona la confianza interna.

Limitar a los agentes a cualquier otro estándar también genera problemas. Un agente sin acceso al contexto compartido, las decisiones públicas o el conocimiento común de la empresa proporcionará respuestas incompletas o engañosas. El diseño ético no consiste en minimizar el acceso. Se trata de proporcionar a los agentes suficiente contexto preciso y en tiempo real para que sean realmente útiles.

La responsabilidad también debe recaer en las personas. El acceso define lo que un agente puede hacer; la rendición de cuentas define quién es responsable del resultado. Cuando un agente realiza una acción, quien la invocó debe ser responsable del resultado. Al igual que un manager es responsable del trabajo de su equipo, delegar tareas a la IA puede mejorar la eficiencia, pero la toma de decisiones sigue estando en manos de los humanos que dirigen el trabajo.

Los espacios creativos privados también merecen protección. Los borradores, las notas personales y las exploraciones iniciales ayudan a los empleados a probar ideas antes de presentarlas. Estos espacios no necesitan estar cerrados, pero deben estar claramente definidos y ser respetados. Preservarlos promueve una experimentación más sana y un intercambio de ideas más abierto.

La transparencia es fundamental en todo este proceso. Los espacios protegidos solo funcionan si el sistema que los rodea es visible y comprensible. Cuando un agente recomienda o ejecuta una acción, los empleados deben poder comprender, en un nivel básico, cómo llegó a esa conclusión.

A medida que las empresas adoptan agentes de IA de forma más generalizada, las decisiones técnicas y organizativas convergerán. Los sistemas influirán en la colaboración de los equipos, el flujo de información y la percepción de las personas respecto a su trabajo. Esto determinará si la IA se convierte en un elemento de apoyo en el entorno laboral o en una fuente de fricción.

La cuestión ya no es si la IA puede verlo todo. Se trata de cómo los líderes definen los límites y con qué claridad comunican esas decisiones a quienes dependen de ellos.