Cuando competir no basta: por qué las grandes tecnológicas están creando alianzas para una IA segura

Silicon Valley se construyó en un entorno de competencia constante. Mientras unas empresas intentan anticiparse al futuro, otras tratan de adaptarse rápidamente a los cambios del mercado para mantenerse en la carrera. 

Por eso, hoy vemos como algo normal que las grandes tecnológicas desarrollen sus propios ecosistemas, protejan sus tecnologías y busquen diferenciarse de sus rivales. Pero en un mercado feroz, no siempre es posible liderar en solitario, menos en un mercado emergente y con gran potencial.

A medida que la IA deja de limitarse a generar contenido y comienza a actuar de manera autónoma, crece el reto de establecer mecanismos que permitan gestionar las consecuencias de sus decisiones. 

Hoy, en medio de la batalla por liderar la inteligencia artificial, las mismas compañías que compiten por dominar esta nueva revolución tecnológica también están empezando a colaborar en problemas que ninguna puede resolver por sí sola.

Del desarrollo de la IA al arbitraje y la protección

Gartner estima que el gasto empresarial en software de IA agéntica podría alcanzar 985,000 millones de dólares en 2030. Sumado a esto, pronto los agentes de IA podrán realizar compras, contratar servicios, programar software, gestionar recursos o negociar con otros sistemas; todo con supervisión humana mínima.

Cuando eso ocurra, aparecerán preguntas que no pueden responderse únicamente desde el punto de vista tecnológico. ¿Qué sucede cuando dos agentes autónomos tienen un conflicto? ¿Cómo se determina cuál de ellos tiene la razón? ¿Quién responde si una transacción automatizada sale mal? ¿Cómo se demuestra qué instrucciones recibió un agente y qué decisiones tomó?

La primera respuesta llega a través de una colaboración que ha dado como resultado la llamada Internet Court (Tribunal de Internet). Esta iniciativa propone una infraestructura para resolver disputas relacionadas con agentes autónomos y contratos digitales y cuenta con la participación de diferentes empresas del ecosistema blockchain y tecnológico, incluyendo GenLayer, OKX, 0G Labs, ZKsync y otras. La misión es utilizar mecanismos basados en inteligencia artificial para definir cómo resolver determinados conflictos.

El consorcio, que suma 27 empresas, apunta a un problema que podría crecer rápidamente con la expansión de los agentes de IA. Y es que, muy probablemente, las máquinas podrán empezar a hacer negocios entre ellas mucho antes de que las instituciones tradicionales estén preparadas para gestionar todas las disputas derivadas de esas interacciones.

En el mundo tradicional, existen contratos, abogados, tribunales y mecanismos de arbitraje que aún enfrentan grandes desafíos. Pero en una economía donde millones de agentes de IA puedan realizar operaciones de manera autónoma, esos mecanismos podrían resultar demasiado lentos o costosos para determinadas transacciones. 

Del otro lado, hace unas semanas se anunció la creación de la Open Secure AI Alliance, una iniciativa que reúne a 37 organizaciones fundadoras en total, incluyendo compañías de infraestructura, ciberseguridad, software empresarial, IA y código abierto. Entre ellas están NVIDIA, Microsoft, Dell Technologies, Cloudflare, CrowdStrike, Hugging Face, IBM, Palo Alto Networks, Red Hat, SpaceXAI y Linux Foundation.

El objetivo de esta alianza es facilitar la identificación y corrección de vulnerabilidades, así como establecer mecanismos comunes relacionados con la identidad, la auditoría y la seguridad de los sistemas de IA.

“El mundo necesita tanto modelos cerrados como abiertos. En materia de ciberseguridad, los modelos abiertos y los harnesses abiertos son esenciales, ya que democratizan las capacidades defensivas, aumentan la transparencia para los defensores, permiten la ciberdefensa al tiempo que protegen los datos y complementan los modelos cerrados de vanguardia con controles personalizables y localizados”, explicaron en el anuncio. “El código abierto permite una defensa masivamente distribuida, impulsada por la comunidad y autocontrolada, sin ningún punto único de fallo”.

A primera vista, podría parecer contradictorio que empresas que compiten por controlar buena parte de la infraestructura de la inteligencia artificial decidan compartir esfuerzos en un área tan estratégica. Sin embargo, existe una razón empresarial detrás de esta colaboración: algunos problemas pueden convertirse en una amenaza para todo el mercado y no solo para una compañía.

Si un sistema de IA es vulnerable, por ejemplo, el problema puede propagarse a través de modelos, aplicaciones, agentes y servicios que dependen de diferentes proveedores. En ese escenario, proteger únicamente la tecnología propia no es suficiente, por lo que hoy más que nunca la seguridad debe tratarse como una infraestructura colectiva.

El interés común detrás de la colaboración

Por más que muchas empresas coincidan en proyectos conjuntos, eso no significa que hayan dejado de competir entre sí. De hecho, en muchos casos ocurre exactamente lo contrario.

Cada una continúa teniendo intereses comerciales distintos. Las empresas de chips compiten por vender más infraestructura; los proveedores de nube quieren atraer clientes; los desarrolladores de modelos buscan ganar usuarios y los fabricantes de hardware intentan posicionarse en una cadena de valor que cambia rápidamente.

A pesar de la competencia, todas las compañías del sector necesitan que el ecosistema de inteligencia artificial crezca. Una IA insegura puede generar desconfianza entre consumidores y empresas. A su vez, la ausencia de estándares puede fragmentar el mercado, y una sucesión de incidentes relacionados con sistemas autónomos podría provocar una reacción regulatoria que termine ralentizando la adopción de la tecnología.

Por eso, en estos escenarios, colaborar no es necesariamente un acto de altruismo corporativo. Resulta la mejor estrategia para proteger las condiciones que permiten que el mercado siga creciendo.

Por Sergio Ramos Montoya/SocialGeek