Las empresas quieren usar la mejor IA, pero no si pierden el control de sus datos

Palantir, Nvidia y Booz estarían limitando el uso de algunos modelos avanzados de inteligencia artificial ante dudas sobre retención de información, propiedad intelectual y datos sensibles.

La carrera por adoptar la mejor IA empresarial está encontrando un límite menos vistoso que los benchmarks: los datos. Un reporte de The Information, señala que empresas como Palantir, Nvidia y Booz Allen Hamilton podrían restringir o dejar de utilizar algunos modelos avanzados si proveedores como Anthropic y OpenAI no ofrecen garantías suficientes sobre el manejo de información corporativa. Reuters no pudo obtener comentarios inmediatos de las empresas involucradas.

La novedad no está en que las empresas se preocupen por la privacidad. Está en que esa preocupación comienza a cambiar qué modelos pueden utilizar y para qué tareas. Palantir, según el reporte, ha pedido a Anthropic garantías irrevocables de cero retención de datos antes de permitir sus modelos en determinados entornos. Nvidia estaría limitando su uso a trabajos menos sensibles y apoyándose también en sus propios modelos Nemotron. Booz Allen, por su parte, habría impedido el uso comercial de modelos de Anthropic para trabajo propietario de ciberseguridad.

Es una extensión lógica de una discusión más amplia sobre la relación entre la IA y los datos que entregamos a sus proveedores. Un modelo puede ser extraordinariamente capaz y, aun así, resultar inadecuado si para utilizarlo una organización tiene que enviar código, documentos internos, información de clientes o propiedad intelectual a una infraestructura que no controla por completo.

La IA empresarial ya no se elige solo por el modelo

Según el reporte, parte de la preocupación aumentó después de que Anthropic modificara en junio la política de ciertos modelos avanzados para permitir la conservación de registros durante 30 días como medida contra ataques complejos. La política aplica a modelos que Anthropic clasifica como Covered Models y afecta incluso algunos entornos configurados previamente con cero retención de datos.

Anthropic y OpenAI afirman que no entrenan sus modelos con datos de clientes empresariales por defecto, salvo que estos lo autoricen, aunque, según el reporte, sí recopilan ciertos metadatos anonimizados sobre el uso.

El matiz importa. El problema no necesariamente es que los proveedores estén entrenando con secretos corporativos. Es que las empresas están empezando a exigir una respuesta más precisa a otra pregunta: ¿qué sale de nuestra infraestructura, cuánto tiempo permanece fuera y quién puede acceder a ello? Microsoft parece haber encontrado una oportunidad en esa fricción. Reuters señala que la compañía está ofreciendo ambientes de nube aislados y sus propias soluciones de IA a clientes preocupados por la exposición de datos.

En México, la conversación llegará rápidamente al mismo punto. La adopción de IA empresarial en México ya no depende únicamente de quién tenga acceso a un chatbot.Conforme los modelos entran a finanzas, operaciones, desarrollo de software, atención a clientes o análisis interno, la arquitectura de datos se vuelve parte del producto. La empresa que elija un modelo solamente por su desempeño puede estar resolviendo la mitad del problema. La otra mitad es decidir qué información está dispuesta a entregarle.